Tento text není výsledkem vědeckého výzkumu, ale jedním z mnoha názorů týkajících se našeho bezprostředního technologického rozvoje. A zároveň pozvánka k diskuzi.
Gary Marcus, profesor na New York University, věří, že hluboké učení hraje důležitou roli ve vývoji AI. Ale také se domnívá, že přílišné nadšení pro tuto techniku může vést k její diskreditaci.
Ve své knize Restartování AI: Budování umělé inteligence, které můžeme věřit Marcus, vystudovaný neurovědec, který si vybudoval kariéru na špičkovém výzkumu AI, se zabývá technickými a etickými aspekty. Z technologického hlediska může hluboké učení úspěšně napodobovat percepční úkoly, které náš mozek provádí, jako je rozpoznávání obrazu nebo řeči. Ale pro jiné úkoly, jako je porozumění rozhovorům nebo určování vztahů příčina-následek, není hluboké učení vhodné. K vytvoření pokročilejších inteligentních strojů, které dokážou vyřešit širší škálu problémů – často nazývaných umělá obecná inteligence – je třeba hluboké učení kombinovat s dalšími technikami.
Pokud systém umělé inteligence skutečně nerozumí svým úkolům nebo světu kolem něj, může to vést k nebezpečným následkům. I sebemenší neočekávané změny v prostředí systému mohou vést k chybnému chování. Takových příkladů již bylo mnoho: determinanty nevhodných výrazů, které lze snadno oklamat; systémy hledání zaměstnání, které důsledně diskriminují; auta bez řidiče, která havarují a někdy zabijí řidiče nebo chodce. Vytváření umělé obecné inteligence není jen zajímavý výzkumný problém, má mnoho zcela praktických aplikací.
Marcus a jeho spoluautor Ernest Davis ve své knize argumentují jinou cestou. Věří, že jsme ještě daleko od vytvoření obecné AI, ale jsou přesvědčeni, že dříve nebo později bude možné ji vytvořit.
Proč potřebujeme obecnou umělou inteligenci? Specializované verze již byly vytvořeny a přinášejí spoustu výhod.
Je to tak a výhod bude ještě více. Existuje ale mnoho problémů, které specializovaná AI prostě nedokáže vyřešit. Například porozumění běžné řeči, nebo obecná pomoc ve virtuálním světě nebo robot, který pomáhá s úklidem a vařením. Takové úkoly jsou mimo možnosti specializované AI. Další zajímavá praktická otázka: je možné vytvořit bezpečné auto s vlastním řízením pomocí specializované AI? Zkušenosti ukazují, že taková AI má stále mnoho problémů s chováním v abnormálních situacích, a to i při řízení, což situaci značně komplikuje.
Myslím, že bychom všichni chtěli mít AI, která nám pomůže udělat velké nové objevy v medicíně. Není jasné, zda jsou pro to současné technologie vhodné, protože biologie je komplexní obor. Musíte být připraveni číst hodně knih. Vědci chápou vztahy příčiny a následku v interakci sítí a molekul, mohou rozvíjet teorie o planetách a tak dále. Se specializovanou AI však nedokážeme vytvořit stroje schopné takových objevů. A s obecnou AI bychom mohli způsobit revoluci ve vědě, technologii a medicíně. Podle mého názoru je velmi důležité pokračovat v práci na vytváření obecné AI.
Zní to jako "obecné" myslíte silnou AI?
Termínem „obecné“ mám na mysli, že umělá inteligence bude schopna přemýšlet o nových problémech a řešit je za chodu. Na rozdíl od řekněme Go, kde se problém za posledních 2000 let nezměnil.
Obecná umělá inteligence by měla být schopna rozhodovat jak v politice, tak v medicíně. To je analogické s lidskou schopností; každý rozumný člověk dokáže hodně. Vezmete nezkušené studenty a během několika dní je necháte pracovat téměř na čemkoli, od právního problému po zdravotní problém. Je to proto, že obecně rozumí světu a umí číst, a mohou tak přispívat k velmi široké škále činností.
Vztah mezi takovou inteligencí a silnou inteligencí je takový, že nesilná inteligence pravděpodobně nebude schopna řešit obecné problémy. Chcete-li vytvořit něco dostatečně robustního, aby se vypořádalo s neustále se měnícím světem, možná budete muset přistoupit alespoň k obecné inteligenci.
Ale teď jsme od toho hodně daleko. AlphaGo umí hrát naprosto dobře na desce 19x19, ale na hru na obdélníkové desce je potřeba ji přeškolit. Nebo si vezměte průměrný systém hlubokého učení: dokáže rozpoznat slona, pokud je dobře osvětlený a je viditelná struktura jeho kůže. A pokud je vidět pouze silueta slona, systém ji pravděpodobně nebude schopen rozpoznat.
Ve své knize zmiňujete, že hluboké učení nemůže dosáhnout schopností obecné umělé inteligence, protože není schopné hlubokého porozumění.
V kognitivní vědě hovoří o formování různých kognitivních modelů. Sedím v hotelovém pokoji a chápu, že je tam skříň, postel, nezvyklým způsobem zavěšená televize. Všechny tyto předměty znám, nejen je identifikuji. Chápu také, jak jsou vzájemně propojeny. Mám představy o fungování světa kolem sebe. Nejsou dokonalé. Mohou se mýlit, ale jsou docela dobré. A na jejich základě dělám spoustu závěrů, které se stávají vodítkem pro mé každodenní jednání.
Druhým extrémem bylo něco jako herní systém Atari postavený společností DeepMind, ve kterém si pamatovalo, co má udělat, když vidělo pixely na určitých místech na obrazovce. Pokud získáte dostatek dat, můžete si myslet, že rozumíte, ale ve skutečnosti je to velmi povrchní. Důkazem toho je, že pokud přesunete objekty o tři pixely, AI hraje mnohem hůř. Změny ho zmátly. To je opak hlubokého porozumění.
Chcete-li tento problém vyřešit, navrhujete návrat ke klasické umělé inteligenci. Jaké výhody bychom se měli snažit využít?
Existuje několik výhod.
Za prvé, klasická umělá inteligence je vlastně rámec pro vytváření kognitivních modelů světa, na základě kterých lze následně vyvozovat závěry.
Za druhé, klasická umělá inteligence je dokonale kompatibilní s pravidly. Právě teď existuje zvláštní trend v hlubokém učení, kdy se odborníci snaží vyhýbat pravidlům. Chtějí dělat všechno na neuronových sítích a nedělat nic, co vypadá jako klasické programování. Jsou ale problémy, které se takto v klidu vyřešily a nikdo tomu nevěnoval pozornost. Například vytváření tras v Mapách Google.
Ve skutečnosti potřebujeme oba přístupy. Strojové učení je dobré v učení z dat, ale velmi špatné v reprezentaci abstrakce, kterou je počítačový program. Klasická umělá inteligence funguje dobře s abstrakcemi, ale musí být naprogramována zcela ručně a na světě je příliš mnoho znalostí, než aby je bylo možné všechny naprogramovat. Je jasné, že musíme oba přístupy zkombinovat.
To souvisí s kapitolou, ve které mluvíte o tom, co se můžeme naučit od lidské mysli. A nejprve o konceptu založeném na výše zmíněné myšlence, že naše vědomí se skládá z mnoha různých systémů, které fungují různými způsoby.
Myslím, že další způsob, jak to vysvětlit, je, že každý kognitivní systém, který máme, skutečně řeší jiný problém. Podobné části AI musí být navrženy tak, aby řešily různé problémy, které mají různé vlastnosti.
Nyní se snažíme používat některé technologie typu vše v jednom k řešení problémů, které se od sebe radikálně liší. Pochopení věty není vůbec totéž jako rozpoznání předmětu. Lidé se ale snaží využít hluboké učení v obou případech. Z kognitivního hlediska jde o kvalitativně odlišné úkoly. Jsem prostě ohromen tím, jak málo oceňují klasickou AI v komunitě hlubokého učení. Proč čekat, až se objeví stříbrná kulka? Je to nedosažitelné a neplodná hledání nám neumožňují pochopit celou složitost úkolu vytvořit AI.
Také jste zmínil, že systémy umělé inteligence jsou potřebné k pochopení vztahů příčiny a následku. Myslíte, že nám s tím pomůže deep learning, klasická AI nebo něco úplně nového?
Toto je další oblast, kde hluboké učení není příliš vhodné. Nevysvětluje příčiny určitých událostí, ale vypočítává pravděpodobnost události za daných podmínek.
o čem to mluvíme? Sledujete určité scénáře a chápete, proč se to děje a co by se mohlo stát, kdyby se některé okolnosti změnily. Můžu se podívat na stojan, na kterém je televize, a představit si, že když jí useknu jednu nohu, stojan se převrhne a televize spadne. Toto je vztah příčiny a následku.
Klasická AI nám k tomu poskytuje nástroje. Dokáže si představit například, co je podpora a co pád. Ale nebudu přehánět. Problém je v tom, že klasická umělá inteligence do značné míry závisí na úplných informacích o tom, co se děje, a k závěru jsem došel pouhým pohledem na stojan. Mohu to nějak zobecnit, představit si části stojanu, které pro mě nejsou vidět. Zatím nemáme nástroje k implementaci této vlastnosti.
Také říkáte, že lidé mají vrozené znalosti. Jak to lze implementovat v AI?
V okamžiku narození je náš mozek již velmi propracovaným systémem. Není pevně stanoveno, příroda vytvořila první, hrubý návrh. A pak nám učení pomáhá revidovat tento koncept po celý život.
Hrubý návrh mozku již má určité schopnosti. Novorozená horská koza je schopna neomylně sestoupit ze svahu během několika hodin. Je zřejmé, že už rozumí trojrozměrnému prostoru, svému tělu a vztahu mezi nimi. Velmi složitý systém.
To je částečně důvod, proč věřím, že potřebujeme hybridy. Je těžké si představit, jak by se dal vytvořit robot, který dobře funguje ve světě bez podobných znalostí o tom, kde začít, než začít s prázdným štítkem a učit se z dlouhých a rozsáhlých zkušeností.
Pokud jde o lidi, naše vrozené znalosti pocházejí z našeho genomu, který se vyvíjel dlouhou dobu. Ale se systémy AI budeme muset jít jinou cestou. Součástí toho mohou být pravidla pro konstrukci našich algoritmů. Součástí toho mohou být pravidla pro vytváření datových struktur, se kterými tyto algoritmy manipulují. A součástí toho mohou být znalosti, které budeme přímo investovat do strojů.
Je zajímavé, že v knize přinášíte myšlenku důvěry a vytváření důvěryhodných systémů. Proč jste zvolili toto konkrétní kritérium?
Věřím, že dnes je to všechno míčová hra. Zdá se mi, že prožíváme zvláštní okamžik v historii a důvěřujeme spoustě softwaru, který není důvěryhodný. Myslím, že starosti, které dnes máme, nebudou trvat věčně. Za sto let AI ospravedlní naši důvěru a možná ještě dříve.
Ale dnes je AI nebezpečná. Ne v tom smyslu, jak se Elon Musk obává, ale v tom smyslu, že systémy pracovních pohovorů diskriminují ženy bez ohledu na to, co programátoři dělají, protože jejich nástroje jsou příliš jednoduché.
Přál bych si, abychom měli lepší AI. Nechci vidět „AI zimu“, kde si lidé uvědomí, že AI nefunguje a je prostě nebezpečná a nechtějí to napravit.
V některých ohledech vaše kniha působí velmi optimisticky. Předpokládáte, že je možné vybudovat důvěryhodnou AI. Jen se musíme podívat jiným směrem.
Je to tak, kniha je krátkodobě velmi pesimistická a dlouhodobě velmi optimistická. Věříme, že všechny problémy, které jsme popsali, lze vyřešit širším pohledem na to, jaké by měly být správné odpovědi. A myslíme si, že pokud se to stane, svět bude lepší.
Zdroj: www.habr.com