Tento text není výsledkem vědeckého výzkumu, ale jedním z mnoha názorů týkajících se našeho nejbližšího technologického rozvoje. A zároveň výzvou k diskusi.
Gary Marcus, profesor na Newyorské univerzitě, je přesvědčen, že hluboké učení hraje důležitou roli ve vývoji AI. Ale také věří, že přehnané nadšení pro tuto metodu může vést k její diskreditaci.
Ve své knize Rebooting AI: Building artificial intelligence we can trust Marcus, neurolog vzděláním, který vybudoval kariéru na předních výzkumech v oblasti AI, se zaměřuje na technické a etické aspekty. Z technologického hlediska může hluboké učení úspěšně napodobovat řešení problémů vnímání, která vykonává náš mozek: například rozpoznávání obrazů nebo řeči. Ale k vyřešení jiných úkolů, jako je porozumění konverzacím nebo určení příčinných souvislostí, není hluboké učení vhodné. Aby bylo možné vytvořit pokročilejší inteligentní stroje, které dokážou řešit širší okruh úkolů – často nazývaných obecnou umělou inteligencí – je třeba kombinovat hluboké učení s jinými metodikami.
Pokud AI systém ve skutečnosti nerozumí svým úkolům nebo okolnímu světu, může to vést k nebezpečným následkům. I ty nejmenší neočekávané změny v prostředí systému mohou vyvolat chybnou reakci. Takových příkladů už bylo mnoho: klasifikátory nevhodných výrazů, které lze snadno oklamat; systémy pro hledání zaměstnání, které neustále diskriminují; autonomní vozidla, která havarují a občas zraňují řidiče nebo chodce. Vytvoření obecné umělé inteligence není jen zajímavý výzkumný problém, má také mnohá praktická využití.
Ve své knize Marcus a jeho spoluautor Ernest Davis navrhují jinou cestu. Domnívají se, že jsme ještě daleko od vytvoření obecné AI, ale jsou si jisti, že se dříve či později podaří ji vytvořit.
Proč potřebujeme obecnou AI? Specializované verze už byly vytvořeny a přinášejí značný prospěch.
Ano, a přínos bude ještě větší. Existuje však mnoho úloh, které specializované AI nedokáže vyřešit. Například porozumění běžné řeči, nebo obecná pomoc ve virtuálním světě, nebo robot, který pomáhá s úklidem a vařením. Takové úkoly jsou mimo možnosti specializovaného AI. Je tu také zajímavá praktická otázka: lze pomocí specializovaného AI vytvořit bezpečné autonomní vozidlo? Zkušenosti ukazují, že takové AI má stále mnoho problémů s chováním v abnormálních situacích, i když jde o řízení, což situaci značně komplikuje.
Myslím, že bychom všichni chtěli mít AI, která by nám mohla pomoci učinit nové zásadní objevy v medicíně. Není jasné, zda jsou současné technologie pro to vhodné, protože biologie je složitá oblast. Je třeba být připraven přečíst řadu knih. Vědci rozumí příčinným souvislostem ve vzájemném působení sítí a molekul, mohou vyvíjet teorie o planetách a tak dále. Avšak se specializovaným AI nemůžeme vytvořit stroje schopné takových objevů. A s obecnou AI bychom mohli provést revoluci ve vědě, technologiích a medicíně. Podle mého názoru je velmi důležité pokračovat v práci na vytvoření obecné AI.
Zdá se, že pod „obecnou“ máte na mysli silnou AI?
Když říkám „obecný“, mám na mysli, že AI bude schopna na místě myslet a samostatně řešit nové úkoly. Na rozdíl od například Go, kde se problém v posledních 2000 letech nezměnil.
Obecná AI musí být schopna rozhodovat jak v politice, tak v medicíně. Je to analogické lidské schopnosti; každý rozumně smýšlející člověk je schopen dělat velmi mnoho. Vezměte nezkušené studenty a během několika dní je přimějte pracovat prakticky na čemkoliv, od právního úkolu po medicínu. To je díky tomu, že mají obecné porozumění světu a umějí číst, a proto mohou přispět k velmi širokému spektru činností.
Vztah mezi takovým intelektem a silným spočívá v tom, že slabý intelekt pravděpodobně nedokáže řešit obecné úkoly. K vytvoření něčeho dostatečně spolehlivého, schopného pracováním s neustále se měnícím světem, budete pravděpodobně potřebovat alespoň přiblížit se k obecnému intelektu.
Ale teď jsme od toho velmi daleko. AlphaGo může skvěle hrát na desce 19×19, ale musí být přeškolen, aby hrálo na obdélníkové desce. Nebo vezměte průměrný systém hlubokého učení: ten dokáže rozpoznat slona, pokud je dobře osvětlen a textura jeho kůže je viditelná. A pokud je vidět jen silueta slona, systém ho určitě nebude schopen rozpoznat.
Ve své knize zmiňujete, že hluboké učení není schopno dosáhnout schopností obecné AI, protože není schopno hlubokého pochopení.
V kognitivistice se hovoří o vytváření různých kognitivních modelů. Sedím v hotelovém pokoji a chápu, že tam je skříň, tam je postel, tam je televizor, který je neobvykle zavěšený. Znám všechny tyto předměty, nejen je identifikuji. Také rozumím, jak si navzájem souvisejí. Mám nápady o fungování okolního světa. Nejsou dokonalé. Mohou být chybné, ale jsou velmi dobré. A na jejich základě činím spoustu závěrů, které se stávají vodítkem pro mé každodenní akce.
Druhá krajnost je něco jako herní systém Atari vytvořený DeepMind, ve kterém si pamatoval, co má dělat, když viděl pixely na určitém místě na obrazovce. Pokud získáte dostatek dat, může se zdát, že máte porozumění, ale ve skutečnosti je velmi povrchní. Důkazem toho je, že pokud posunete objekty o tři pixely, AI hraje mnohem hůře. Změny ho zmátou. To je opak hlubokého porozumění.
Abychom tento problém vyřešili, navrhujete vrátit se k klasické AI. Jaké její výhody bychom měli usilovat využít?
Existuje několik výhod.
Za prvé, klasická AI je vlastně rámec pro vytváření kognitivních modelů světa, na jejichž základě lze potom dělat závěry.
Za druhé, klasická AI je ideálně kompatibilní s pravidly. V současnosti se v oblasti hlubokého učení objevuje podivný trend, kdy se specialisté snaží vyhýbat pravidlům. Chtějí dělat všechno na neuronových sítích a nedělat nic, co vypadá jako klasické programování. Ale existují úkoly, které byly klidně vyřešeny tímto způsobem, a nikdo si toho nevšiml. Například plánování tras v Google Maps.
Ve skutečnosti potřebujeme oba přístupy. Strojové učení umožňuje dobře se učit z dat, ale velmi špatně pomáhá při zobrazení abstrakce, kterou představuje počítačový program. Klasická AI dobře pracuje s abstrakcemi, ale musí být zcela programována ručně, a ve světě bylo nasbíráno příliš mnoho znalostí, aby bylo možné je všechny naprogramovat. Je jasné, že musíme oba přístupy kombinovat.
To souvisí s kapitolou, ve které mluvíte o tom, co se můžeme naučit od lidského rozumu. A to především o konceptu, který vychází z již zmíněné myšlenky, že naše vědomí se skládá z mnoha různých systémů, které fungují různými způsoby.
Myslím, že existuje jiný způsob, jak to vysvětlit: každý kognitivní systém, který máme, skutečně řeší různé úkoly. Podobné části AI by měly být navrženy k řešení různých úkolů, které mají různé charakteristiky.
Nyní se snažíme používat jakési all-in-one technologie k řešení úkolů, které se radikálně liší. Pochopit větu rozhodně není totéž, co rozpoznat objekt. Ale lidé se snaží v obou případech používat hluboké učení. Z kognitivního hlediska jsou to kvalitativně odlišné úkoly. Jsem ohromen tím, jak málo odborníků na hluboké učení si cení klasické AI. Proč čekat na zázračné řešení? To je nedosažitelné, a bezvýsledné hledání nedává možnost pochopit složitost úkolu vytvoření AI.
Také zmiňujete, že AI systémy jsou nezbytné pro porozumění příčinným souvislostem. Myslíte, že nám v tom pomůže hluboké učení, klasická AI nebo něco zcela nového?
To je další oblast, pro kterou hluboké učení příliš dobře nefunguje. Nevysvětluje příčiny nějakých událostí, ale počítá pravděpodobnost události za daných okolností.
O čem mluvíme? Sledujete určité scénáře a rozumíte, proč se to děje a co se může stát, pokud se nějaké okolnosti změní. Můžu se podívat na stojan, na kterém stojí televize, a představit si, že pokud odříznu jednu nohu, stojan se převrátí a televize spadne. To je příčinná souvislost.
Klasický AI nám pro to dává určité nástroje. Například může představit, co je podpora a co je selhání. Ale nebudu přehánět. Problém je v tom, že klasický AI do značné míry závisí na úplnosti informací o tom, co se děje, a já jsem dospěl k závěru, pouze jsem se podíval na podstavec. Jak nějakým způsobem mohu generalizovat, představovat části podstavce, které nevidím. Zatím nemáme nástroje pro provedení této vlastnosti.
Ještě říkáte, že lidé mají vrozené znalosti. Jak to lze realizovat v AI?
V okamžiku narození je náš mozek již velmi pečlivě promyšlený systém. Není fixní, příroda vytvořila první hrubý návrh. A poté učení pomáhá tento návrh revidovat po celý náš život.
Hrubý návrh mozku již má určité schopnosti. Novorozená horská koza je schopná během několika hodin chybně sestoupit po svahu hory. Je zřejmé, že už má pochopení trojrozměrného prostoru, svého těla a vzájemných vztahů mezi nimi. Velmi složitý systém.
Částečně proto považuji, že potřebujeme hybridy. Je těžké si představit, jak by bylo možné vytvořit robota, který dobře funguje ve světě bez podobných znalostí, z čeho by měl začít, místo toho, aby začínal s prázdným listem a učil se z dlouhé, obrovské zkušenosti.
Pokud jde o lidi, naše vrozené znalosti pocházejí z našeho genomu, který se dlouho vyvíjel. A u AI systémů budeme muset jít jinou cestou. Částečně by to mohla být pravidla pro konstrukci našich algoritmů. Částečně by to mohla být pravidla pro vytváření datových struktur, kterými tyto algoritmy manipulují. A částečně to mohou být znalosti, které přímo vložíme do strojů.
Zajímavé je, že v knize docházíte k myšlence důvěry a tvorby důvěryhodných systémů. Proč jste si vybral právě tento kriterium?
Myslím si, že dnes to představuje hru s míčem. Přijde mi, že prožíváme podivný okamžik v historii, kdy do značné míry důvěřujeme softwaru, který si důvěru nezaslouží. Myslím, že naše dnešní obavy nebudou věčné. Za sto let AI splní naši důvěru, možná i dříve.
Ale dnes je AI nebezpečné. Ne v tom smyslu, jak se obává Elon Musk, ale v tom, že systémy pohovorů při přijímání diskriminují ženy, a to bez ohledu na to, co dělají programátoři, protože jejich nástroje jsou příliš jednoduché.
Chtěl bych, aby náš AI byl kvalitnější. Nechci, aby začala "zima umělé inteligence", kdy si lidé uvědomí, že AI nefunguje a je prostě nebezpečné, a nebudou chtít to napravit.
V jistém smyslu vaše kniha skutečně vypadá velmi optimisticky. Předpokládáte, že je možné vybudovat důvěryhodné AI. Jen se musíme podívat jiným směrem.
Správně, kniha je velmi pesimistická z krátkodobého hlediska a velmi optimistická z dlouhodobého. Domníváme se, že všechny problémy, které jsme popsali, lze vyřešit, pokud se podíváme šířeji na to, jaké by měly být správné odpovědi. A myslíme si, že pokud se to stane, svět se zlepší.
Zdroj: habr.com
