Crec que el problema no és que les màquines substitueixin els humans al seu lloc de treball, fins i tot en l'àmbit intel·lectual, i no que els ordinadors semblen haver pres les armes contra persones amb estudis superiors i comptes de Twitter. La implementació de la IA no s'està produint ràpidament, sinó que, al contrari, és massa lenta. Per què? Perquè aquest és un cicle normal de desenvolupament humà, i simplement no ens adonem que la destrucció que veiem significa la introducció de noves tecnologies que, abans de crear nous llocs de treball, destrueixen els antics.
Les tecnologies destrueixen indústries obsoletes i en creen de noves, aquest és el procés de creació, aquest és el cicle de desenvolupament. Si intenteu allargar l'agonia inserint tecnologies antigues al procés o creant alguns avantatges per a tecnologies obsoletes, simplement alentireu el procés i el farà més dolorós. Passarà de totes maneres, però el problema és que estem regulant el procés creant normes que el frenin deliberadament. Crec que aquest és un problema més gran que els que som més clars. Es tracta més aviat d'un problema psicològic on la gent es fa la pregunta: "com pots sentir-te segur mentre estàs en un cotxe autònom?"
Vaig mirar la història i vaig saber que fa cent anys un dels sindicats més poderosos de Nova York era el sindicat de treballadors d'ascensors, que reunia 17 mil treballadors. Per cert, en aquella època ja hi havia una tecnologia on només es podia prémer un botó i ja havia acabat, però la gent no hi confiava! És horrible haver de prémer el botó tu mateix per trucar a l'ascensor! Saps per què "va morir" aquest sindicat i la gent va començar a fer servir els botons? Perquè un dia els treballadors de l'ascensor van decidir fer vaga. Van fer vaga, i aleshores la gent que va haver de pujar al cim de l'Empire State Building es va arriscar a prémer els botons amb les seves pròpies mans.
Recordeu el que deien fa 20-30 anys sobre els fills o els néts quan es posaven al volant d'un cotxe: "això és terrible, només cal que mireu les estadístiques, perquè els cotxes són una de les principals causes de mortalitat humana, com poden arriscar-se". les seves vides?"
Per tant, tot això és pura psicologia. Prestem poca atenció a quantes persones moren en accidents de trànsit, però una vegada que una persona és assassinada per un cotxe autònom, l'esdeveniment queda desproporcionat. Qualsevol fallada, qualsevol error en les tecnologies d'intel·ligència artificial apareix immediatament a les primeres pàgines dels diaris. Però mireu les estadístiques, mireu el nombre d'incidències, i veureu quin percentatge minúscul és del total d'accidents. Per tant, la comunitat humana només guanyarà si pot avançar sense quedar paralitzada per aquestes pors.
Un altre problema sorgeix quan parlem de notícies falses o de ciberseguretat, són temes molt polititzats i rebo moltes trucades que em pregunten com faig amb els que odien la IA. Per exemple, escric un bloc habitual, i el meu nou post, que es publicarà d'aquí a un parell de dies, parla de l'odi i del fet que la salvació de l'odi rau en el coneixement, en l'aprenentatge. Només hem d'entendre que aquest problema existia molt abans que s'inventessin totes aquestes coses, és que ara la seva importància ha augmentat gràcies a Internet, que arriba a milions i milers de milions de persones.
Crec que en realitat és una bona cosa quan algú intenta aturar el progrés intentant prohibir la IA, i ja saps que això no funcionarà perquè tenim Putin i altres dolents, siguin on siguin, que utilitzen contra nosaltres les nostres pròpies tecnologies creades a el món lliure. Per tant, crec que hauríem d'acceptar-ho com un fet.
L'essència del problema rau només dins nostre, i les respostes a les preguntes es troben dins nostre, en la nostra pròpia força i la nostra pròpia confiança. Defenso que les màquines intel·ligents no ens poden fer "obsolets". No obstant això, cal recordar que hi ha certes restriccions pel que fa a la cooperació home-ordinador, i en gran mesura aquests són només rumors que ja hi havia hagut abans. Com sempre, aquestes són simplement noves oportunitats que destrueixen el vell món i en creen un de nou, i com més avancem, millor estarem.
Avui en dia s'assembla més a un pas al món de la ciència-ficció. La paradoxa és que si mirem 50-60 anys enrere, veurem que en aquells temps la ciència-ficció era absolutament positiva, era una utopia completa. Tanmateix, aleshores hi va haver una transició gradual de la utopia a la distòpia, de tal manera que ja no volem escoltar res del futur de la humanitat.
Això no va passar de la nit al dia. Hi va haver un temps en què la gent va decidir que l'exploració espacial era massa arriscada. De fet, això és un gran risc, però imagineu-vos que l'any 1969, quan els nord-americans van aterrar a la Lluna, tota la potència de càlcul de la NASA era inferior a la potència de qualsevol dispositiu informàtic modern que caben a la vostra butxaca. Aquest dispositiu és mil vegades més potent que el superordinador que existia fa 40 anys. Imagineu-vos la potència de càlcul que teniu a la butxaca! Tanmateix, no estic segur que l'Apple iPhone 7 tingui la mateixa potència de càlcul que l'Apollo 7, és a dir, que sigui capaç de produir el mateix efecte.
Tanmateix, les màquines ens han aportat molts grans avenços en l'exploració espacial o oceànica, i hem d'entendre que els ordinadors ens proporcionen la capacitat d'assumir grans riscos.
M'agradaria acabar la meva intervenció amb una nota positiva. Aquesta diapositiva no mostra imatges positives? La foto de la cantonada inferior dreta no està feta amb Photoshop, de fet vaig conèixer el Terminator l'any 2003.
També va estimar els escacs des de petit, però no els va estudiar específicament, així que va perdre molt ràpidament. Així que em va sorprendre molt quan 6 mesos després es va presentar a governador de Califòrnia i va guanyar!
Per què anomeno positives aquestes imatges? Perquè encara que en tots els episodis excepte en el primer, el vell Arnold sempre es manté al costat dels guanyadors i no es cansa de lluitar contra noves màquines, és en el primer episodi on veiem la combinació de la qual parlava: és quan un persona més una màquina antiga més una interfície perfecta derrota el cotxe més nou.
Podeu dir: "sí, les màquines són més fortes que les persones perquè ho poden calcular absolutament tot!" Tanmateix, la qüestió no és que ho puguin calcular tot. Per exemple, als escacs podem parlar tècnicament de l'infinit matemàtic del nombre de moviments possibles, igual a 1045, que no són difícils de calcular per a qualsevol ordinador modern. Tanmateix, l'important en el joc no són els càlculs, sinó el fet que l'ordinador estigui per davant de la persona, perquè sempre es guia per les regles. I saps l'efecte d'aquestes regles i saps per què l'ordinador tria el millor moviment entre una gran varietat de moviments possibles.
Però si passem a la vida real, no estic segur que un ordinador sempre pugui ser útil. Vegem la situació més típica: tens un ordinador que controla el teu pressupost, estàs en una botiga i estàs a punt de comprar un regal car. L'ordinador avalua la compra i diu: "No, no us podeu permetre aquest article perquè us excedirà del pressupost". La màquina ho ha calculat tot, però hi ha un petit matís: el vostre fill està al vostre costat i aquest regal està pensat per al seu aniversari. Veus com això canvia les condicions del problema? Això ho canvia tot perquè el nen està esperant aquest regal.
Puc començar a afegir aquestes petites coses que ho canvien tot, però no crec que es puguin incloure a l'enunciat del problema i obtenir la solució correcta. Tenim moltes regles, però encara hem de fer preguntes perquè les coses canvien. Això és el que es pot anomenar una situació normal, però si mireu aquestes pel·lícules, podeu dir que la situació que es mostra aquí és més dramàtica i extraordinària. Aquesta diapositiva mostra una imatge fotogràfica de l'episodi V de Star Wars: The Empire Strikes Back.
Han Solo pilota la nau directament a través d'un camp d'asteroides, i el C-3PO s'espanta, informant que la possibilitat de sobreviure al camp és 1: 3122. Han Solo li diu: "No em diguis mai quines són les nostres possibilitats!" Aquí sorgeix la pregunta, qui té més raó en aquesta situació?
La tecnologia representada per C-3PO és absolutament correcta, perquè les possibilitats de supervivència tendeixen a zero. És possible que, des de la perspectiva d'un robot, ser capturat per les forces imperials sigui una millor opció que un humà ni tan sols consideraria que morir en un camp d'asteroides. Però si l'ordinador decideix que rendir-se a l'imperi és la millor opció, llavors podem suposar que la persona no té cap opció. El més important és que en ambdós casos, ordinaris i extraordinaris, tenim l'oportunitat de prendre la decisió final, i per prendre aquesta decisió encara cal un lideratge humà.
De vegades, això vol dir que heu d'anar en contra de les recomanacions de l'ordinador. L'objectiu del lideratge humà no és conèixer les probabilitats, sinó fer les preguntes que realment importen, no només avui o demà, sinó molt en el futur. Aquest procés es pot anomenar "orientació humana" o "intervenció humana", influint sense l'ajuda de màquines intel·ligents. Aquest és el que ha de ser el nostre curs en aquest segle.
La gent de vegades se sorprèn pel meu optimisme sobre les màquines intel·ligents, donada la meva experiència amb elles, però realment sóc optimista. I estic segur que tots sou igual d'optimistes sobre el futur de la IA. Però hem de recordar que les nostres tecnologies són agnòstiques. No és ni bo ni dolent, però es pot utilitzar tant per al bé com pel mal. Les màquines han de ser més intel·ligents i més capaces. I els humans hem de fer el que només podem fer els humans: somiar, somiar al màxim, i llavors podrem extreure tots els beneficis que aporten aquestes noves eines increïbles.
Tal com estava previst, encara ens queden 10 minuts per respondre les preguntes.
Pregunta: Creus que seria possible crear un sistema d'aprenentatge automàtic que podria determinar quins moviments són més coherents amb l'estil de joc humà?
Kasparov: En primer lloc, no esperem que l'ordinador ens digui el primer moviment i els 17505 moviments restants. Crec que hauríem de confiar en la màquina per oferir les millors recomanacions per a moviments únics. Per cert, els jugadors de primer nivell utilitzen els ordinadors com a guia, ajudant-los a ocupar la posició més adequada en el joc. Repeteixo una vegada més: en 9 casos de 10, l'avaluació de la situació per part de l'ordinador és molt superior a l'avaluació que pot fer una persona.
Pregunta: Esteu d'acord que la veritable intel·ligència requereix llibertat d'elecció, llibertat per prendre decisions que només una persona pot prendre? Al cap i a la fi, el programari Deep Blue i altres programes informàtics són escrits per persones, i quan perds amb Deep Blue, no perds amb l'ordinador, sinó amb els programadors que van escriure el programa. La meva pregunta és: hi ha algun perill de qualsevol tipus d'intel·ligència de màquina sempre que els ordinadors tinguin llibertat d'elecció?
Kaspàrov: aquí he de passar de la ciència a la filosofia. Tot és clar sobre Deep Blue: és el resultat d'una gran quantitat de treball humà. En la majoria dels casos, fins i tot en el cas de l'AlphaGo de Demis Hassabis, tots aquests són productes de la intel·ligència humana. No sé si les màquines poden tenir llibertat d'elecció, però crec que faci el que fem, si sabem com fer-ho, les màquines ho faran millor. Tanmateix, quan fem la majoria de les coses, no sabem com fer-les de la millor manera, de manera que sovint no podem entendre què tindrem èxit. En poques paraules, tenim un objectiu, però no sabem quin és, i el paper de la màquina és ajudar-nos a assolir-lo. Per tant, si parlem de lliure elecció d'ordinadors, ens hauria d'ajudar a vincular-nos a aquest objectiu. Crec que aquest és un futur molt llunyà per als ordinadors.
Pregunta: Què en penseu de les característiques humanes com el coratge i la moral, i de les decisions que la intel·ligència artificial pot prendre a partir d'elles? Per exemple, què hauria de fer un cotxe autònom: atropellar un nen o evitar colpejar-lo xocant contra una roca i matant el seu passatger?
Kaspàrov: Això és el que la gent anomena "sentiments", no són quantificables perquè són un munt de característiques humanes diferents. Si parlem de coratge, aquesta característica sempre va en contra de les possibilitats d'escollir l'opció òptima. La valentia, com altres emocions humanes, és per definició contrària al càlcul exacte.
Pregunta: Senyor Kasparov, la meva pregunta no es refereix als ordinadors: què hi ha al seu matràs i ho puc provar?
Kaspàrov: què vols dir?
Amfitrió: et pregunta què hi ha a la butxaca!
Kaspàrov: a la meva butxaca? "Stolichnaya"! Això no és un anunci, si us heu fixat, el vaig llençar.
Pregunta: Qui creus que serà el proper campió mundial d'escacs i el jove escacista xinès Wei Yi té l'oportunitat de destronar Carelsen com a rei dels escacs?
Kasparov: Karelsen és el jugador número 1, no és un campió del món, sinó simplement el millor jugador d'escacs del món segons la classificació. Aquest any fa 27 anys, així que encara és jove, però no molt jove per als estàndards actuals. Crec que en Wei Yi ara té 18 o 19 anys. Magnus està per davant de jugadors joves com els nord-americans Wesley So i Fabiano Kerouana, i Wei Yi podria ser el seu oponent. Tanmateix, per convertir-se en campió del món, cal talent, no cal ser jove i enèrgic, només tenir una mica de sort. Per tant, per respondre a la pregunta, puc dir que sí, té l'oportunitat de vèncer a Magnus Carelsen.
Pregunta: Quan vau parlar d'algorismes deterministes i d'aprenentatge automàtic, vau esmentar la possibilitat d'utilitzar les màquines com a eines per complementar la nostra intel·ligència. Què passa amb la possibilitat de maximitzar els recursos abans de crear una IA potent, o fins i tot de posar un cervell humà a un ordinador?
Kaspàrov: No em fa vergonya admetre la meva ignorància quan no estic segur de no poder respondre correctament una pregunta. Estic fent tot el possible per entendre què és el cervell humà, si el considerem per separat del cos humà, quines funcions realitza. Perquè és difícil imaginar com es comportarà el cervell per separat del cos. Potser aquest experiment es podria fer en el futur, però estic segur que la combinació del cervell humà, els sentiments i les emocions humans amb un ordinador formarà una "ment" que serà molt més eficaç que un cervell extret i congelat, utilitzat. com un dispositiu ple de neurones.
Pregunta: Hi ha un enfocament bàsic universal per al problema de substituir els llocs de treball humans per ordinadors?
Kaspàrov: Crec que aquesta és una pregunta molt important, perquè està clar que ens estem apropant al punt en què moltes persones poden estar a l'atur. Aquesta és la paradoxa del progrés tecnològic: d'una banda, tenim les últimes tecnologies que aporten enormes avantatges competitius a la generació més jove que s'ocupa d'aquests dispositius i tecnologies. D'altra banda, tenim avenços en medicina i alimentació saludable, que allarga la vida humana i dóna a la persona la capacitat de treballar durant molts anys. En aquest sentit, la generació dels anys 50, 60 o fins i tot 40 no pot competir amb la joventut actual. Hem de trobar una solució a aquesta situació paradoxal on la bretxa entre generacions és tan gran. L'experiència històrica diu que aquesta bretxa sempre porta a una gran explosió. Em refereixo a la bretxa entre la infraestructura social existent de la societat i el progrés tecnològic.
Aquest és un tema que els polítics prefereixen ajornar fins a les properes eleccions. Ningú vol parlar-ne perquè és un tema sensible. És molt fàcil imprimir diners i esperar que algú els pagui algun dia en el futur. Per tant, hi ha moltes paradoxes en aquest àmbit, per exemple, l'acumulació de deutes per oferir garanties socials a la generació gran amb l'esperança que la càrrega de pagar aquests deutes recaigui sobre les espatlles de la generació més jove. Hi ha moltes preguntes a les quals no tinc respostes i moltes preguntes que podria fer amb les quals espero que la IA em pugui ajudar.
És molt dolent que durant dècades els polítics intentin ignorar els problemes que acabem de parlar. Sempre estan disposats a fer declaracions, sempre tenen plans, però no volen entendre la contraproducció de guardar silenci sobre el problema del conflicte entre tecnologia i societat. Gràcies per la vostra atenció!
Gràcies per quedar-te amb nosaltres. T'agraden els nostres articles? Vols veure més contingut interessant? Doneu-nos suport fent una comanda o recomanant als amics, 30% de descompte per als usuaris d'Habr en un únic anàleg de servidors d'entrada, que hem inventat per a tu: (disponible amb RAID1 i RAID10, fins a 24 nuclis i fins a 40 GB DDR4).
Dell R730xd 2 vegades més barat? Només aquí als Països Baixos! Dell R420 - 2x E5-2430 2.2 Ghz 6C 128 GB DDR3 2 x 960 GB SSD 1 Gbps 100 TB - a partir de 99 $! Llegeix sobre
Font: www.habr.com