Acest text nu este rezultatul unei cercetări științifice, ci una dintre numeroasele opinii cu privire la dezvoltarea noastră tehnologică viitoare. Și, de asemenea, o invitație la discuții.
Gary Marcus, profesor la Universitatea din New York, este convins că învățarea profundă joacă un rol important în dezvoltarea IA. Dar el consideră, de asemenea, că o fascinație excesivă pentru această metodă poate duce la discreditarea ei.
În cartea sa Rebooting AI: Building artificial intelligence we can trust Marcus, cu o educație în neurologie, care și-a construit cariera pe cercetări avansate în domeniul IA, abordează aspectele tehnice și etice. Din punct de vedere tehnologic, învățarea profundă poate imita cu succes soluționarea problemelor de percepție pe care le realizează creierul nostru: de exemplu, recunoașterea imaginilor sau a vorbirii. Însă pentru a rezolva alte probleme, cum ar fi înțelegerea conversațiilor sau stabilirea relațiilor cauză-efect, învățarea profundă nu este adecvată. Pentru a crea mașini inteligente mai avansate, capabile să rezolve un spectru mai larg de sarcini — adesea numite inteligență artificială generală — învățarea profundă trebuie combinată cu alte metode.
Dacă un sistem IA nu înțelege cu adevărat sarcinile sale sau lumea înconjurătoare, acest lucru poate duce la consecințe periculoase. Chiar și cele mai mici schimbări neașteptate în mediul sistemului pot conduce la un comportament greșit. Au existat deja numeroase exemple: identificatoare de expresii nepotrivite, care sunt ușor de dus în eroare; sisteme de recrutare care discriminează constant; automobile autonome care se confruntă cu accidente și uneori ucid șoferi sau pietoni. Crearea unei inteligențe artificiale generale nu este doar o problemă de cercetare interesantă, ci are numeroase aplicații absolut practice.
În cartea sa, Marcus și coautorul său, Ernest Davis, propun o altă abordare. Ei cred că suntem încă departe de crearea unei IA generale, dar sunt încrezători că, mai devreme sau mai târziu, aceasta va putea fi realizată.
De ce avem nevoie de IA generală? Versiunile specializate au fost deja create și aduc multe beneficii.
Este adevărat, și beneficiile vor fi și mai mari. Dar există multe sarcini pe care un AI specializat pur și simplu nu le poate rezolva. De exemplu, înțelegerea limbajului obișnuit, sau asistența generală în lumea virtuală, sau un robot care ajută la curățenie și gătit. Astfel de sarcini depășesc capacitățile unui AI specializat. O altă întrebare practică interesantă este: se poate crea, cu ajutorul unui AI specializat, o mașină sigură fără șofer? Experiența arată că un astfel de AI se confruntă încă cu multe probleme în comportamentul său în situații anormale, chiar și atunci când conduce, ceea ce complică foarte mult situația.
Cred că toți ne-am dori un AI capabil să ne ajute să facem noi descoperiri de amploare în medicină. Nu este clar dacă tehnologiile actuale sunt potrivite pentru acest lucru, deoarece biologia este un domeniu complex. Trebuie să fii pregătit să citești multe cărți. Oamenii de știință înțeleg relațiile cauzale din interacțiunea rețelelor și moleculelor, pot dezvolta teorii despre planete și așa mai departe. Cu toate acestea, cu AI specializat nu putem crea mașini capabile de astfel de descoperiri. Dar cu AI general, am putea revoluționa știința, tehnologia și medicina. Din punctul meu de vedere, este foarte important să continuăm lucrările pentru crearea unui AI general.
Se pare că prin «general» înțelegi AI puternic?
Când spun «general» mă refer la un AI care va putea gândi în timp real și va putea rezolva singur sarcini noi. Spre deosebire de, să zicem, Go, unde problema nu s-a schimbat în ultimele 2000 de ani.
AI general ar trebui să fie capabil să ia decizii atât în politică, cât și în medicină. Este echivalentul capacității umane; orice persoană rațională poate face foarte multe. Ieși cu studenți neexperimentați și după câteva zile îi pui să lucreze practic la orice, de la o sarcină juridică la una medicală. Acest lucru se datorează faptului că ei au o înțelegere generală a lumii și știu să citească, astfel încât pot contribui la un spectru foarte larg de activități.
Interacțiunea dintre un astfel de inteligență și inteligența puternică constă în faptul că inteligența neputernică, probabil, nu va putea rezolva sarcini generale. Pentru a crea ceva suficient de fiabil, capabil să funcționeze într-o lume în continuă schimbare, va trebui, poate, să te aproprii cel puțin de inteligența generală.
Dar acum suntem departe de asta. AlphaGo poate juca excelent pe tablă 19×19, dar trebuie recalibrat pentru a juca pe o tablă dreptunghiulară. Sau luați un sistem mediu de învățare profundă: acesta poate recunoaște un elefant dacă este bine iluminat și textura pielii sale este vizibilă. Dar dacă este vizibil doar silueta elefantului, sistemul cu siguranță nu va reuși să-l recunoască.
În cartea dumneavoastră, menționați că învățarea profundă nu poate atinge capabilitățile unui AI general, deoarece nu este capabilă de o înțelegere profundă.
În cognitivism se vorbește despre formarea diferitelor modele cognitive. Stau în camera de hotel și îmi dau seama că acolo este un dulap, acolo este un pat, acolo este un televizor care este suspendat într-un mod neobișnuit. Știu toate aceste obiecte, nu fac doar identificarea lor. De asemenea, înțeleg cum sunt interconectate între ele. Am idei despre funcționarea lumii înconjurătoare. Nu sunt perfecte. Pot fi greșite, dar sunt destul de bune. Pe baza lor fac multe concluzii, care îmi servesc drept îndrumare pentru acțiunile mele zilnice.
O altă extremă este ceva de genul sistemului de joc Atari creat de DeepMind, în care el își amintește ce trebuie să facă atunci când vede pixeli în anumite locuri pe ecran. Dacă obțineți suficiente date, ar putea părea că aveți o înțelegere, dar în realitate este foarte superficială. O dovadă în acest sens este că, dacă mutați obiectele cu trei pixeli, AI-ul joacă mult mai rău. Schimbările îl pun în dificultate. Acest lucru este opus unei înțelegeri profunde.
Pentru a rezolva această problemă, propuneți să reveniți la AI-ul clasic. Care sunt avantajele pe care ar trebui să ne străduim să le utilizăm?
Există mai multe avantaje.
În primul rând, AI-ul clasic este de fapt un cadru pentru crearea de modele cognitive ale lumii, pe baza cărora putem trasa concluzii.
În al doilea rând, AI-ul clasic este perfect compatibil cu regulile. În prezent, în domeniul învățării aprofundate se observă o tendință ciudată, în care specialiștii încearcă să evite regulile. Vor să facă totul pe rețele neuronale și să nu facă nimic care să arate ca o programare clasică. Dar există sarcini care au fost rezolvate fără probleme în acest fel, iar nimeni nu le-a observat. De exemplu, construirea traseelor în Google Maps.
De fapt, avem nevoie de ambele abordări. Învățarea automată ne ajută să învățăm bine din date, dar nu ajută prea mult în reprezentarea abstractizării pe care o constituie un program de calculator. Inteligența artificială clasică funcționează bine cu abstractizări, dar totul trebuie programat manual, iar în lume s-au acumulat prea multe cunoștințe pentru a fi toate programate. Este evident că trebuie să combinăm ambele abordări.
Acest lucru se leagă de capitolul în care vorbești despre ce putem învăța de la mintea umană. Și, în primul rând, despre conceptul bazat pe ideea menționată mai sus, că conștiința noastră constă din numeroase sisteme diferite care funcționează în moduri diferite.
Cred că există o altă modalitate de a explica asta: fiecare sistem cognitiv pe care îl avem rezolvă într-adevăr sarcini diferite. Părțile similare ale inteligenței artificiale ar trebui să fie proiectate pentru a rezolva diverse sarcini care au caracteristici diferite.
Acum încercăm să folosim anumite tehnologii all-in-one pentru a rezolva sarcini care sunt radical diferite între ele. A înțelege o propoziție nu este același lucru cu a recunoaște un obiect. Cu toate acestea, oamenii încearcă să folosească învățarea profundă în ambele cazuri. Dintr-o perspectivă cognitivă, acestea sunt sarcini calitativ diferite. Sunt pur și simplu uimit de cât de puțin apreciază comunitatea specialiștilor în învățarea profundă inteligența artificială clasică. De ce să așteptăm apariția unei gloanțe de argint? Aceasta este inabordabilă, iar căutările sterile nu permit să înțelegem întreaga complexitate a sarcinii de creare a inteligenței artificiale.
De asemenea, menționezi că sistemele AI sunt necesare pentru a înțelege relațiile cauzale. Consideri că ne va ajuta în acest sens învățarea profundă, inteligența artificială clasică sau ceva complet nou?
Aceasta este o altă arie pentru care învățarea profundă nu este foarte potrivită. Ea nu explică cauzele anumitor evenimente, ci calculează probabilitatea unui eveniment în condiții date.
Despre ce vorbim? Te uiți la anumite scenarii și înțelegi de ce se întâmplă asta și ce s-ar putea întâmpla dacă unele circumstanțe se schimbă. Pot să mă uit la suportul pe care stă televizorul și să-mi imaginez că, dacă îi tai o picior, suportul se va răsturna și televizorul va cădea. Aceasta este o relație cauzală.
Inteligența artificială clasică ne oferă unele instrumente pentru asta. Poate, de exemplu, să reprezinte ce înseamnă suportul și ce înseamnă prăbușirea. Dar nu vreau să exagerez. Problema este că inteligența artificială clasică depinde în mare parte de completitudinea informației despre ce se întâmplă, iar eu am ajuns la concluzia aceasta doar observând suportul. Pot cumva să generalizez, reprezentând părțile suportului care nu îmi sunt vizibile. Deocamdată, nu avem instrumente pentru a implementa această proprietate.
De asemenea, vorbiți despre faptul că oamenii au cunoștințe înnăscute. Cum poate fi acest lucru implementat în inteligența artificială?
În momentul nașterii, creierul nostru este deja o sistem foarte bine gândit. Nu este fixat, natura a creat prima schiță brută. Apoi, învățarea ne ajută să revizuim această schiță pe parcursul întregii nostre vieți.
Schița brută a creierului deja deține anumite capacități. O capră montană nou-născută poate, după câteva ore, să coboare fără greșeală pe versantul muntelui. Este evident că are deja o înțelegere a spațiului tridimensional, a corpului său și a relației dintre ele. Un sistem destul de complex.
Parțial din acest motiv, consider că avem nevoie de hibrizi. Este greu de imaginat cum poate fi creat un robot care să funcționeze bine în lume fără cunoștințe similare, de ce să înceapă de la zero în loc să învețe dintr-o experiență vastă și îndelungată.
Cât despre oameni, cunoștințele noastre înnăscute provin din genomul nostru, care a evoluat de-a lungul timpului. Iar cu sistemele de inteligență artificială va trebui să urmăm un alt drum. Parțial, acestea ar putea fi regulile de construcție a algoritmilor noștri. Parțial, ar putea fi regulile de creare a structurilor de date cu care manipulează acești algoritmi. Și parțial, ar putea fi cunoștințe pe care le vom introduce direct în mașini.
Este interesant că în cartea dumneavoastră abordați ideea încrederii și creării sistemelor de încredere. De ce ați ales acest criteriu?
Consider că tot acest lucru reprezintă astăzi un joc de fotbal. Mi se pare că trăim un moment ciudat în istorie, în mare parte încredințându-ne unor software-uri care nu merită această încredere. Cred că neliniștile care ne caracterizează astăzi nu vor fi veșnice. Într-o sută de ani, inteligența artificială ne va justifica încrederea, poate chiar mai devreme.
Dar astăzi, IA este periculoasă. Nu în sensul în care se teme Elon Musk, ci în acela că sistemele de interviu pentru angajare discriminează femeile, indiferent de acțiunile programatorilor, deoarece instrumentele lor sunt prea simple.
Mi-aș dori să avem o IA de mai bună calitate. Nu vreau să înceapă „iarnă a inteligenței artificiale”, când oamenii realizează că IA nu funcționează și este pur și simplu periculoasă, și nu vor dori să corecteze acest lucru.
Într-un anumit sens, cartea dvs. pare într-adevăr foarte optimistă. Sugerați că se poate construi o IA de încredere. Tot ce trebuie să facem este să ne uităm în altă direcție.
Corect, cartea este foarte pesimistă pe termen scurt și foarte optimistă pe termen lung. Considerăm că toate problemele descrise de noi pot fi rezolvate dacă ne uităm mai larg la cum ar trebui să fie răspunsurile corecte. Și credem că, dacă acest lucru se va întâmpla, lumea va deveni mai bună.
Sursa: habr.com
