Tento text nie je výsledkom vedeckého výskumu, ale jedným z mnohých názorov na náš bezprostredný technologický pokrok. A súčasne pozvanie k diskusii.
Gary Marcus, profesor na Newyorskej univerzite, je presvedčený, že hlboké učenie hrá dôležitú úlohu v rozvoji AI. Ale tiež tvrdí, že nadmerné nadšenie pre túto metódu môže viesť k jej diskreditácii.
Vo svojej knihe Rebooting AI: Building artificial intelligence we can trust Marcus, vzdelaný ako neurológ, ktorý si vybudoval kariéru na pokrokových výskumoch v oblasti AI, sa zaoberá technickými a etickými aspektmi. Z technického hľadiska môže hlboké učenie úspešne napodobňovať riešenie úloh vnímania, ktoré vykonáva náš mozog: napríklad rozpoznávanie obrazov alebo reči. Ale na riešenie iných úloh, ako je porozumenie rozhovorom alebo určenie príčinno-následkových vzťahov, hlboké učenie nie je vhodné. Na vytvorenie pokročilejších inteligentných strojov schopných riešiť širší okruh úloh — často nazývaných všeobecným umelým inteligenciou — je potrebné kombinovať hlboké učenie s inými metódami.
Ak AI systém naozaj nerozumie svojim úlohám alebo okolitému svetu, môže to viesť k nebezpečným následkom. Aj malé neočakávané zmeny v prostredí systému môžu spôsobiť jeho nesprávne správanie. Takýchto príkladov už bolo množstvo: systémy na rozpoznávanie nevhodných výrazov, ktoré sa dajú ľahko oklamať; systémy na vyhľadávanie zamestnania, ktoré neustále diskriminujú; bezpilotné autá, ktoré sa dostávajú do nehôd a niekedy zabíjajú vodiča alebo chodca. Vytvorenie všeobecného umelého inteligencie nie je len zaujímavý výskumný problém, má množstvo veľmi praktických aplikácií.
Vo svojej knihe Marcus a jeho spoluautor Ernest Davis navrhujú iný prístup. Veria, že sme ešte ďaleko od vytvorenia všeobecnej AI, ale sú presvedčení, že skôr či neskôr sa to podarí.
Na čo potrebujeme všeobecnú AI? Špecializované verzie už boli vytvorené a prinášajú mnoho užitočného.
Áno, a prínos bude ešte väčší. Existuje však mnoho úloh, ktoré špecializovaná AI jednoducho nedokáže vyriešiť. Napríklad porozumenie bežnej reči, alebo všeobecná pomoc vo virtuálnom svete, alebo robot, ktorý pomáha s upratovaním a prípravou jedla. Tieto úlohy sú mimo možnosti špecializovanej AI. Ešte jedna zaujímavá praktická otázka: je možné pomocou špecializovanej AI vytvoriť bezpečné autonómne vozidlo? Skúsenosti ukazujú, že takáto AI má stále veľa problémov s správaním v anomálnych situáciách, dokonca aj pri jazde, čo situáciu dosť komplikuje.
Myslím, že všetci by sme chceli mať AI, ktorá nám pomôže uskutočniť nové rozsiahle objavy v medicíne. Nie je jasné, či sú súčasné technológie na to vhodné, pretože biológia je zložitá sféra. Je potrebné pripraviť sa na prečítanie značného množstva kníh. Vedci rozumejú príčinným súvislostiam vo vzájomnej interakcii sietí a molekúl, dokážu vyvíjať teórie o planétach a podobne. Avšak so špecializovanou AI nemôžeme vytvoriť stroje, schopné takýchto objavov. S všeobecnou AI by sme však mohli zrealizovať revolúciu vo vede, technológii a medicíne. Podľa môjho názoru je veľmi dôležité pokračovať v práci na vývoji všeobecnej AI.
Vyzerá to, že pod „všeobecným“ rozumiete silnú AI?
Keď hovorím „všeobecný“, mám na mysli, že AI by mala byť schopná na miestne zamyslenie a samostatne riešiť nové úlohy. Na rozdiel od, povedzme, Go, kde sa problém nezmenil za posledných 2000 rokov.
Všeobecná AI by mala byť schopná prijímať rozhodnutia ako v politike, tak aj v medicíne. Je to analógia s ľudskou schopnosťou; každý rozumný človek dokáže robiť veľmi veľa. Vezmete nezkušených študentov a po niekoľkých dňoch ich prinútite pracovať prakticky na čomkoľvek, od právnickej úlohy po medicínsku. To je možné, pretože majú všeobecné porozumenie svetu a dokážu čítať, a preto môžu prispieť k veľmi širokému spektru činností.
Vzťah medzi takýmto inteligentným a silným spočíva v tom, že silná inteligencia pravdepodobne nedokáže riešiť všeobecné úlohy. Aby ste vytvorili niečo dostatočne spoľahlivé, schopné pracovať s neustále sa meniacim svetom, možno budete musieť aspoň približne dosiahnuť všeobecnú inteligenciu.
Ale teraz sme od toho veľmi ďaleko. AlphaGo dokáže skvele hrať na doske 19×19, ale musí sa preškoliť na hranie na obdĺžnikovej doske. Alebo vezmite priemerný systém hlbokého učenia: dokáže rozpoznať slona, ak je dobre osvetlený a viditeľná textúra jeho kože. A ak je vidieť len siluetu slona, systém ho určite nedokáže rozpoznať.
Vo svojej knihe spomínate, že hlboké učenie nedokáže dosiahnuť schopnosti všeobecného AI, pretože nie je schopné hlbokého porozumenia.
V kognitívnej vied je reč o formovaní rôznych kognitívnych modelov. Sedím v hotelovej izbe a chápem, že tam je skriňa, tam je posteľ, tam je televízor, ktorý je nezvyčajne zavesený. Poznám všetky tieto predmety, neidentifikujem ich len. Takisto chápem, ako sú navzájom prepojené. Mám predstavy o fungovaní okolitých svetov. Nie sú dokonalé. Môžu byť chybné, ale sú veľmi dobré. A na ich základe robím mnoho úvah, ktoré sa stávajú mojím sprievodcom v každodenných činnostiach.
Druhá extrémna situácia je niečo ako herný systém Atari, vytvorený spoločnosťou DeepMind, v ktorom si pamätal, čo treba robiť, keď videl pixely na určitých miestach na obrazovke. Ak dostanete dostatok údajov, môže sa zdať, že máte porozumenie, ale v skutočnosti je to veľmi povrchné. Dôkazom je to, že ak posuniete objekty o tri pixely, AI hrá omnoho horšie. Zmeny ho mätú. To je opakom hĺbkového porozumenia.
Na vyriešenie tohoto problému navrhujete vrátiť sa k klasickému AI. Aké výhody by sme mali využiť?
Výhod je niekoľko.
Po prvé, klasické AI je vlastne rámec pre tvorbu kognitívnych modelov sveta, na ktorých základe môžeme neskôr robiť závery.
Po druhé, klasické AI je ideálne kompatibilné s pravidlami. V súčasnosti v oblasti hlbokého učenia vidíme zvláštny trend, keď sa odborníci snažia vyhýbať pravidlám. Chcú robiť všetko na neurónových sieťach a nič také, čo vyzerá ako klasické programovanie. Ale existujú úlohy, ktoré boli pokojne vyriešené týmto spôsobom, a na to nikto nebral ohľad. Napríklad budovanie trás v Google Maps.
V skutočnosti potrebujeme oba prístupy. Strojové učenie umožňuje dobre sa učiť na údajoch, ale veľmi zle pomáha pri zobrazení abstrakcie, ktorú predstavuje počítačový program. Klasická AI dobre funguje s abstrakciami, ale musí sa úplne programovať ručne, a vo svete je nahromadených príliš veľa poznatkov, aby sme ich všetky naprogramovali. Je zrejmé, že musíme skombinovať oba prístupy.
Toto súvisí s kapitolou, v ktorej hovoríte o tom, čo sa môžeme naučiť z ľudskej mysle. Predovšetkým o koncepte, ktorý je založený na vyššie uvedenej myšlienke, že naše vedomie sa skladá z mnohých rôznych systémov, ktoré fungujú odlišne.
Myslím, že existuje iný spôsob, ako to vysvetliť: každý kognitívny systém, ktorý máme, skutočne rieši rôzne úlohy. Podobné časti AI by mali byť navrhnuté na riešenie rôznych úloh, ktoré majú odlišné charakteristiky.
Momentálne sa pokúšame použiť akési technológie all-in-one na riešenie úloh, ktoré sú radikálne odlišné od seba. Pochopenie vety rozhodne nie je to isté ako rozpoznanie objektu. Ale ľudia sa pokúšajú v oboch prípadoch používať hlboké učenie. Z kognitívneho hľadiska ide o kvalitatívne odlišné úlohy. Som len ohromený tým, ako málo ľudí v komunite odborníkov na hlboké učenie si cení klasickú AI. Prečo čakať na zázračnú kulku? Tá je nedosiahnuteľná a bezútešné pátranie neumožňuje pochopiť celú zložitost úlohy vytvorenia AI.
Takisto spomínate, že AI systémy sú nevyhnutné na pochopenie príčinných súvislostí. Myslíte si, že nám v tomto pomôže hlboké učenie, klasická AI alebo niečo úplne nové?
Toto je ďalšia oblasť, na ktorú hlboké učenie nie je veľmi vhodné. Nie je schopné vysvetliť príčiny nejakých udalostí, ale vypočítava pravdepodobnosť udalosti za určitých podmienok.
O čom hovoríme? Sledujete určité scenáre a chápete, prečo k tomu dochádza a čo sa môže stať, ak sa nejaké okolnosti zmenia. Môžem sa pozrieť na stojan, na ktorom je televízor, a predstaviť si, že ak mu odrezem jednu nohu, tak sa stojan prevráti a televízor spadne. Toto je príčinná súvislosť.
Klasický AI nám k tomu dává určité nástroje. Může například představit, co je podpora a co je pád. Ale nechci to přehánět. Problém je, že klasický AI většinou závisí na úplnosti informací o tom, co se děje, a já jsem dospěl k závěru pouze pohledem na stojan. Jakýmsi způsobem mohu generalizovat, představovat části stojanu, které nejsou viditelné. Zatím nemáme nástroje pro realizaci této vlastnosti.
Ještě říkáte, že lidé mají vrozené znalosti. Jak to lze realizovat v AI?
V okamžiku narození už náš mozek představuje velmi pečlivě promyšlený systém. Není fixní, příroda vytvořila první hrubý náčrt. A pak nám učení pomáhá revidovat tento náčrt po celý náš život.
Hrubý náčrt mozku už disponuje určitými schopnostmi. Novorozený horský kozoroh je už po několika hodinách schopný bezchybně sestoupit po svahu hory. Je jasné, že již má pochopení trojrozměrného prostoru, svého těla a vztahu mezi nimi. Velmi složitý systém.
Částečně proto považuji, že potřebujeme hybridy. Je těžké si představit, jak by se dalo vytvořit robota, který by dobře fungoval ve světě bez podobných znalostí, kde by měl začít, místo toho, aby začínal s čistým štítem a učil se na dlouhém, obrovském zkušenostním základě.
Co se lidí týče, naše vrozené znalosti pocházejí z našeho genomu, který se vyvíjel po dlouhou dobu. A s AI systémy budeme muset jít jinou cestou. Částečně to mohou být pravidla pro stavbu našich algoritmů. Částečně to mohou být pravidla pro vytváření datových struktur, kterými manipulují tyto algoritmy. A částečně to mohou být znalosti, které budeme přímo vkládat do strojů.
Zajímavé je, že v knize směřujete k myšlence důvěry a vytváření důvěryhodných systémů. Proč jste si zvolili právě tento kritérium?
Myslím, že dnes to všechno představuje hru s míčem. Připadá mi, že prožíváme podivný okamžik historie, kdy do značné míry důvěřujeme softwaru, který si důvěru nezaslouží. Myslím, že naše současné obavy nebudou věčné. O sto let později AI ospravedlní naši důvěru, možná i dříve.
Ale dnes je umelá inteligencia nebezpečná. Nie v tom zmysle, ako to vysvetľuje Elon Musk, ale v tom, že systémy pohovorov pri prijímaní do zamestnania diskriminujú ženy, a to nezávisle od toho, čo robia programátori, pretože ich nástroje sú príliš jednoduché.
Chcel by som, aby sme mali kvalitnejšiu umelú inteligenciu. Nechcem, aby nastala "zima umelej inteligencie", keď si ľudia uvedomia, že umelá inteligencia nefunguje a je jednoducho nebezpečná, a nebudú chcieť to opraviť.
V istom zmysle sa vaša kniha skutočne javí ako veľmi optimistická. Predpokladáte, že je možné vybudovať dôveryhodnú umelú inteligenciu. Musíme sa len pozrieť iným smerom.
Správne, kniha je veľmi pesimistická v krátkodobom horizonte a veľmi optimistická v dlhodobom. Veríme, že všetky problémy, ktoré sme opísali, môžu byť vyriešené, ak sa pozrieme z širšieho hľadiska na to, aké by mali byť správne odpovede. A myslíme si, že ak sa to stane, svet sa zlepší.
Zdroj: habr.com
