Tento text nie je výsledkom vedeckého výskumu, ale jedným z mnohých názorov týkajúcich sa nášho bezprostredného technologického rozvoja. A zároveň pozvánka na diskusiu.
Gary Marcus, profesor na New York University, verí, že hlboké učenie hrá dôležitú úlohu vo vývoji AI. Tiež sa však domnieva, že nadmerné nadšenie pre túto techniku môže viesť k jej diskreditácii.
Vo svojej knihe Reštartovanie AI: Budovanie umelej inteligencie, ktorej môžeme dôverovať Marcus, vyštudovaný neurovedec, ktorý si vybudoval kariéru na špičkovom výskume AI, sa zaoberá technickými a etickými aspektmi. Z technologického hľadiska môže hlboké učenie úspešne napodobňovať percepčné úlohy, ktoré vykonáva náš mozog, ako je rozpoznávanie obrázkov alebo reči. Ale pre iné úlohy, ako je porozumenie rozhovorom alebo určovanie vzťahov príčin a následkov, hlboké učenie nie je vhodné. Na vytvorenie pokročilejších inteligentných strojov, ktoré dokážu vyriešiť širšiu škálu problémov – často nazývaných umelá všeobecná inteligencia – je potrebné skombinovať hlboké učenie s inými technikami.
Ak systém AI skutočne nerozumie svojim úlohám alebo svetu okolo neho, môže to viesť k nebezpečným následkom. Aj tie najmenšie neočakávané zmeny v prostredí systému môžu viesť k chybnému správaniu. Takýchto príkladov už bolo veľa: determinanty nevhodných výrazov, ktoré sa dajú ľahko oklamať; systémy hľadania zamestnania, ktoré dôsledne diskriminujú; autá bez vodiča, ktoré havarujú a niekedy zabijú vodiča alebo chodca. Vytváranie umelej všeobecnej inteligencie nie je len zaujímavým výskumným problémom, má mnoho úplne praktických aplikácií.
Marcus a jeho spoluautor Ernest Davis vo svojej knihe argumentujú inou cestou. Veria, že sme ešte ďaleko od vytvorenia všeobecnej AI, ale sú si istí, že skôr či neskôr ju bude možné vytvoriť.
Prečo potrebujeme všeobecnú AI? Špecializované verzie už boli vytvorené a prinášajú množstvo výhod.
Je to tak a výhod bude ešte viac. Existuje však veľa problémov, ktoré špecializovaná AI jednoducho nedokáže vyriešiť. Napríklad porozumenie bežnej reči, alebo všeobecná asistencia vo virtuálnom svete, či robot, ktorý pomáha pri upratovaní a varení. Takéto úlohy presahujú možnosti špecializovanej AI. Ďalšia zaujímavá praktická otázka: je možné vytvoriť bezpečné auto s vlastným riadením pomocou špecializovanej AI? Prax ukazuje, že takáto AI má stále veľa problémov so správaním v abnormálnych situáciách, dokonca aj pri šoférovaní, čo značne komplikuje situáciu.
Myslím, že všetci by sme chceli mať AI, ktorá nám môže pomôcť urobiť veľké nové objavy v medicíne. Nie je jasné, či sú na to súčasné technológie vhodné, keďže biológia je komplexná oblasť. Musíte byť pripravení čítať veľa kníh. Vedci rozumejú vzťahom príčin a následkov v interakcii sietí a molekúl, môžu rozvíjať teórie o planétach atď. So špecializovanou AI však nedokážeme vytvoriť stroje schopné takýchto objavov. A so všeobecnou AI by sme mohli spôsobiť revolúciu vo vede, technológii a medicíne. Podľa môjho názoru je veľmi dôležité pokračovať v práci na vytváraní všeobecnej AI.
Znie to ako „všeobecné“ máte na mysli silnú AI?
Výrazom „všeobecné“ mám na mysli, že AI bude schopná premýšľať a riešiť nové problémy za chodu. Na rozdiel, povedzme, Go, kde sa problém za posledných 2000 rokov nezmenil.
Všeobecná AI by mala byť schopná rozhodovať sa v politike aj medicíne. To je analogické s ľudskou schopnosťou; každý rozumný človek dokáže veľa. Vezmete neskúsených študentov a v priebehu niekoľkých dní ich necháte pracovať takmer na čomkoľvek, od právneho problému až po medicínsky problém. Je to preto, že majú všeobecný prehľad o svete a vedia čítať, a preto môžu prispievať k veľmi širokému spektru aktivít.
Vzťah medzi takouto inteligenciou a silnou inteligenciou je taký, že slabá inteligencia pravdepodobne nebude schopná riešiť všeobecné problémy. Ak chcete vytvoriť niečo dostatočne robustné na to, aby ste sa vysporiadali s neustále sa meniacim svetom, možno budete musieť aspoň priblížiť všeobecnú inteligenciu.
Ale teraz sme od toho veľmi ďaleko. AlphaGo vie hrať úplne dobre na doske 19x19, ale na hranie na obdĺžnikovej doske ho treba preškoliť. Alebo si vezmite priemerný systém hlbokého učenia: dokáže rozpoznať slona, ak je dobre osvetlený a je viditeľná štruktúra jeho kože. A ak je viditeľná iba silueta slona, systém ju pravdepodobne nedokáže rozpoznať.
Vo svojej knihe spomínate, že hlboké učenie nemôže dosiahnuť schopnosti všeobecnej AI, pretože nie je schopné hlbokého porozumenia.
V kognitívnej vede hovoria o formovaní rôznych kognitívnych modelov. Sedím v hotelovej izbe a chápem, že je tam skriňa, posteľ, nezvyčajne zavesený televízor. Všetky tieto predmety poznám, nielen identifikujem. Tiež chápem, ako sú navzájom prepojené. Mám predstavy o fungovaní sveta okolo mňa. Nie sú dokonalé. Môžu sa mýliť, ale sú celkom dobré. A na základe nich robím množstvo záverov, ktoré sa stávajú usmerneniami pre moje každodenné činy.
Druhým extrémom bolo niečo ako herný systém Atari postavený spoločnosťou DeepMind, v ktorom si pamätal, čo má urobiť, keď na určitých miestach obrazovky videl pixely. Ak získate dostatok údajov, môžete si myslieť, že máte pochopenie, no v skutočnosti je to veľmi povrchné. Dôkazom toho je, že ak posuniete objekty o tri pixely, AI hrá oveľa horšie. Zmeny ho mätú. Toto je opak hlbokého porozumenia.
Na vyriešenie tohto problému navrhujete návrat ku klasickej AI. Aké výhody by sme sa mali pokúsiť využiť?
Výhod je hneď niekoľko.
Po prvé, klasická AI je vlastne rámec na vytváranie kognitívnych modelov sveta, na základe ktorých sa potom dajú vyvodiť závery.
Po druhé, klasická AI je dokonale kompatibilná s pravidlami. V súčasnosti existuje zvláštny trend hlbokého učenia, keď sa odborníci snažia vyhnúť pravidlám. Všetko chcú robiť na neurónových sieťach a nerobiť nič, čo vyzerá ako klasické programovanie. Sú však problémy, ktoré sa takto pokojne riešili a nikto tomu nevenoval pozornosť. Napríklad budovanie trás v Google Maps.
V skutočnosti potrebujeme oba prístupy. Strojové učenie je dobré pri učení sa z údajov, ale veľmi slabé pri reprezentácii abstrakcie, ktorou je počítačový program. Klasická AI funguje dobre s abstrakciami, ale musí byť naprogramovaná úplne ručne a na svete je príliš veľa vedomostí na to, aby sme ich všetky naprogramovali. Je jasné, že musíme oba prístupy skombinovať.
To súvisí s kapitolou, v ktorej hovoríte o tom, čo sa môžeme naučiť od ľudskej mysle. A v prvom rade o koncepte založenom na myšlienke uvedenej vyššie, že naše vedomie pozostáva z mnohých rôznych systémov, ktoré fungujú rôznymi spôsobmi.
Myslím, že ďalší spôsob, ako to vysvetliť, je, že každý kognitívny systém, ktorý máme, skutočne rieši iný problém. Podobné časti AI musia byť navrhnuté tak, aby riešili rôzne problémy, ktoré majú rôzne vlastnosti.
Teraz sa snažíme použiť niektoré technológie typu všetko v jednom na riešenie problémov, ktoré sa od seba radikálne líšia. Pochopenie vety nie je vôbec to isté ako rozpoznanie predmetu. Ľudia sa však v oboch prípadoch snažia využiť hlboké učenie. Z kognitívneho hľadiska ide o kvalitatívne odlišné úlohy. Som jednoducho prekvapený tým, ako málo sa v komunite hlbokého učenia uznáva klasická AI. Prečo čakať, kým sa objaví strieborná guľka? Je to nedosiahnuteľné a bezvýsledné hľadanie nám neumožňuje pochopiť celú zložitosť úlohy vytvorenia AI.
Spomínate tiež, že systémy AI sú potrebné na pochopenie vzťahov príčin a následkov. Myslíte si, že nám s tým pomôže hlboké učenie, klasická AI alebo niečo úplne nové?
Toto je ďalšia oblasť, kde hlboké učenie nie je príliš vhodné. Nevysvetľuje príčiny určitých udalostí, ale vypočítava pravdepodobnosť udalosti za daných podmienok.
o čom to hovoríme? Sledujete určité scenáre a chápete, prečo sa to deje a čo sa môže stať, ak sa zmenia niektoré okolnosti. Môžem sa pozerať na stojan, na ktorom je televízor, a predstaviť si, že ak mu odseknem jednu nohu, stojan sa prevráti a televízor spadne. Toto je vzťah príčiny a následku.
Klasická AI nám na to poskytuje niekoľko nástrojov. Vie si napríklad predstaviť, čo je podpora a čo pád. Ale nebudem preháňať. Problém je v tom, že klasická AI do značnej miery závisí od úplných informácií o tom, čo sa deje, a k záveru som dospel len pri pohľade na stojan. Viem to nejako zovšeobecniť, predstaviť si časti stánku, ktoré mi nevidno. Zatiaľ nemáme nástroje na implementáciu tejto vlastnosti.
Hovoríte tiež, že ľudia majú vrodené vedomosti. Ako sa to dá implementovať v AI?
V momente narodenia je náš mozog už veľmi prepracovaný systém. Nie je pevne stanovený, prvý, hrubý návrh vytvorila príroda. A potom nám učenie pomáha revidovať tento koncept po celý život.
Hrubý návrh mozgu už má určité schopnosti. Novonarodená horská koza je schopná neomylne zostúpiť zo svahu v priebehu niekoľkých hodín. Je zrejmé, že už chápe trojrozmerný priestor, svoje telo a vzťah medzi nimi. Veľmi zložitý systém.
Čiastočne preto verím, že potrebujeme hybridy. Je ťažké si predstaviť, ako by sa dal vytvoriť robot, ktorý dobre funguje vo svete bez podobných vedomostí o tom, kde začať, namiesto toho, aby začal s prázdnym listom a učil sa z dlhých, rozsiahlych skúseností.
Čo sa týka ľudí, naše vrodené vedomosti pochádzajú z nášho genómu, ktorý sa vyvíjal dlhý čas. So systémami AI však budeme musieť ísť inou cestou. Súčasťou toho môžu byť pravidlá pre konštrukciu našich algoritmov. Súčasťou toho môžu byť pravidlá pre vytváranie dátových štruktúr, s ktorými tieto algoritmy manipulujú. A súčasťou toho môžu byť poznatky, ktoré budeme priamo investovať do strojov.
Je zaujímavé, že v knihe prinášate myšlienku dôvery a vytvárania dôveryhodných systémov. Prečo ste si vybrali práve toto kritérium?
Verím, že dnes je to všetko loptová hra. Zdá sa mi, že prežívame zvláštny moment v histórii, keď dôverujeme množstvu softvéru, ktorý nie je dôveryhodný. Myslím si, že obavy, ktoré máme dnes, nebudú trvať večne. O sto rokov AI ospravedlní našu dôveru a možno aj skôr.
Ale dnes je AI nebezpečná. Nie v tom zmysle, ako sa Elon Musk obáva, ale v tom zmysle, že systémy pracovných pohovorov diskriminujú ženy bez ohľadu na to, čo robia programátori, pretože ich nástroje sú príliš jednoduché.
Kiežby sme mali lepšiu AI. Nechcem vidieť „AI zimu“, kde si ľudia uvedomia, že AI nefunguje a je jednoducho nebezpečná a nechcú to opraviť.
V niektorých ohľadoch vaša kniha pôsobí veľmi optimisticky. Predpokladáte, že je možné vybudovať dôveryhodnú AI. Len sa musíme pozrieť iným smerom.
Presne tak, kniha je krátkodobo veľmi pesimistická a dlhodobo veľmi optimistická. Veríme, že všetky problémy, ktoré sme opísali, možno vyriešiť širším pohľadom na to, aké by mali byť správne odpovede. A myslíme si, že ak sa to stane, svet bude lepším miestom.
Zdroj: hab.com