Ez a szöveg nem tudományos kutatás eredménye, hanem egy a sok vélemény közül, amelyek közvetlen technológiai fejlődésünkkel kapcsolatosak. És egyben meghívó a beszélgetésre.
Gary Marcus, a New York-i Egyetem professzora úgy véli, hogy a mély tanulás fontos szerepet játszik az AI fejlődésében. De azt is hiszi, hogy az e technika iránti túlzott lelkesedés annak hiteltelenségéhez vezethet.
A könyvében AI újraindítása: Megbízható mesterséges intelligencia építése Marcus, a képzett idegtudós, aki az élvonalbeli AI-kutatásra építette karrierjét, a technikai és etikai szempontokkal foglalkozik. Technológiai szempontból a mélytanulás sikeresen utánozza az agyunk által végzett észlelési feladatokat, például a kép- vagy beszédfelismerést. De más feladatokra, például a beszélgetések megértésére vagy az ok-okozati összefüggések meghatározására a mélytanulás nem alkalmas. Ahhoz, hogy fejlettebb intelligens gépeket hozzunk létre, amelyek a problémák szélesebb körét képesek megoldani – gyakran nevezik mesterséges általános intelligenciának –, a mély tanulást más technikákkal kell kombinálni.
Ha egy AI-rendszer nem igazán érti a feladatait vagy a körülötte lévő világot, az veszélyes következményekhez vezethet. A rendszer környezetében bekövetkezett legkisebb váratlan változás is hibás viselkedéshez vezethet. Sok ilyen példa volt már: a nem megfelelő kifejezések meghatározói, amelyeket könnyű megtéveszteni; olyan álláskereső rendszerek, amelyek következetesen diszkriminálnak; vezető nélküli autók, amelyek ütköznek, és néha megölik a vezetőt vagy a gyalogost. A mesterséges általános intelligencia létrehozása nem csupán egy érdekes kutatási probléma, hanem számos, teljesen gyakorlati alkalmazása is van.
Marcus és szerzőtársa, Ernest Davis könyvükben egy másik út mellett érvel. Úgy vélik, hogy még messze vagyunk az általános mesterséges intelligencia létrehozásától, de abban bíznak, hogy előbb-utóbb sikerülni fog.
Miért van szükségünk általános mesterséges intelligenciára? A speciális verziók már elkészültek, és számos előnnyel járnak.
Ez így van, és még több előnye lesz. De sok olyan probléma van, amelyet a speciális mesterséges intelligencia egyszerűen nem tud megoldani. Például a hétköznapi beszéd megértése, vagy általános segítség a virtuális világban, vagy egy robot, amely segít a takarításban és a főzésben. Az ilyen feladatok meghaladják a speciális mesterséges intelligencia képességeit. Egy másik érdekes gyakorlati kérdés: lehetséges-e biztonságos önvezető autót létrehozni speciális mesterséges intelligencia segítségével? A tapasztalatok azt mutatják, hogy az ilyen mesterséges intelligencia még mindig sok problémát okoz a rendellenes helyzetekben való viselkedéssel, még vezetés közben is, ami nagymértékben bonyolítja a helyzetet.
Azt hiszem, mindannyian szeretnénk olyan mesterséges intelligenciát, amely segíthet nagy új felfedezéseket tenni az orvostudományban. Nem világos, hogy a jelenlegi technológiák alkalmasak-e erre, mivel a biológia összetett terület. Fel kell készülni arra, hogy sok könyvet olvasson. A tudósok megértik az ok-okozati összefüggéseket a hálózatok és molekulák kölcsönhatásában, elméleteket dolgozhatnak ki a bolygókról stb. Speciális AI-val azonban nem tudunk ilyen felfedezésekre képes gépeket létrehozni. Az általános mesterséges intelligencia segítségével pedig forradalmasíthatjuk a tudományt, a technológiát és az orvostudományt. Véleményem szerint nagyon fontos, hogy továbbra is dolgozzunk az általános mesterséges intelligencia létrehozásán.
Úgy hangzik, hogy az „általános” alatt erős mesterséges intelligencia értendő?
Az „általános” alatt azt értem, hogy a mesterséges intelligencia menet közben képes lesz új problémákat gondolni és megoldani. Ellentétben mondjuk a Go-val, ahol a probléma nem változott az elmúlt 2000 évben.
Az általános mesterséges intelligencia döntéseket kell hoznia mind a politikában, mind az orvostudományban. Ez analóg az emberi képességekkel; minden épeszű ember sokat tehet. Tapasztalatlan diákokat vesz fel, és néhány napon belül szinte mindenen dolgoznak, a jogi problémáktól az egészségügyi problémákig. Ennek az az oka, hogy általánosan értik a világot, tudnak olvasni, ezért nagyon sokféle tevékenységhez tudnak hozzájárulni.
Az ilyen intelligencia és az erős intelligencia között az a kapcsolat, hogy egy nem erős intelligencia valószínűleg nem lesz képes általános problémákat megoldani. Ahhoz, hogy valami elég robosztus dolgot alkoss ahhoz, hogy megbirkózzunk a folyamatosan változó világgal, legalább megközelíteni kell az általános intelligenciát.
De most ettől nagyon messze vagyunk. Az AlphaGo tökéletesen tud játszani egy 19x19-es táblán, de át kell képezni, hogy téglalap alakú táblán játsszon. Vagy vegyük az átlagos mély tanulási rendszert: képes felismerni egy elefántot, ha jól meg van világítva, és látható a bőre. És ha csak az elefánt sziluettje látható, a rendszer valószínűleg nem fogja tudni felismerni.
Könyvében megemlíti, hogy a mély tanulás nem tudja elérni az általános mesterséges intelligencia képességeit, mert nem képes a mély megértésre.
A kognitív tudományban különféle kognitív modellek kialakulásáról beszélnek. Ülök egy szállodai szobában, és rájövök, hogy van egy szekrény, van egy ágy, van egy tévé, ami szokatlan módon van felakasztva. Ismerem ezeket a tárgyakat, nem csak azonosítom őket. Azt is értem, hogy ezek hogyan kapcsolódnak egymáshoz. Vannak elképzeléseim a körülöttem lévő világ működéséről. Nem tökéletesek. Lehet, hogy tévednek, de nagyon jók. És ezek alapján sok olyan következtetést vonok le, amelyek iránymutatásul szolgálnak a napi tetteimhez.
A másik véglet valami olyasmi volt, mint a DeepMind által épített Atari játékrendszer, amelyben eszébe jutott, hogy mit kell tennie, ha pixeleket látott a képernyőn bizonyos helyeken. Ha elegendő adatot kap, azt gondolhatja, hogy van megértése, de a valóságban ez nagyon felületes. Ennek bizonyítéka, hogy ha három képponttal mozgatja az objektumokat, az AI sokkal rosszabbul működik. A változások megzavarják. Ez a mély megértés ellentéte.
A probléma megoldása érdekében javasolja, hogy térjünk vissza a klasszikus AI-hoz. Milyen előnyöket próbáljunk kihasználni?
Számos előnye van.
Először is, a klasszikus mesterséges intelligencia valójában egy keret a világ kognitív modelljei létrehozásához, amelyek alapján következtetéseket vonhatunk le.
Másodszor, a klasszikus mesterséges intelligencia tökéletesen kompatibilis a szabályokkal. A mély tanulásban jelenleg van egy furcsa tendencia, ahol a szakértők megpróbálják elkerülni a szabályokat. Mindent meg akarnak csinálni a neurális hálózatokon, és nem csinálnak semmit, ami klasszikus programozásnak tűnik. De vannak problémák, amiket így nyugodtan megoldottak, és senki nem figyelt rá. Például útvonalak építése a Google Térképen.
Valójában mindkét megközelítésre szükségünk van. A gépi tanulás jó az adatokból való tanulásban, de nagyon gyengén ábrázolja az absztrakciót, ami egy számítógépes program. A klasszikus mesterséges intelligencia jól működik az absztrakciókkal, de teljesen kézzel kell programozni, és túl sok tudás van a világon ahhoz, hogy mindegyiket programozza. Nyilvánvaló, hogy a két megközelítést kombinálnunk kell.
Ez kapcsolódik ahhoz a fejezethez, amelyben arról beszél, mit tanulhatunk az emberi elmétől. És mindenekelőtt a fent említett gondolaton alapuló koncepcióról, miszerint a tudatunk sok különböző rendszerből áll, amelyek különböző módon működnek.
Szerintem ennek egy másik módja az, hogy minden egyes kognitív rendszerünk más-más problémát old meg. Az AI hasonló részeit úgy kell megtervezni, hogy különböző problémákat oldjanak meg, amelyek eltérő jellemzőkkel rendelkeznek.
Most megpróbálunk néhány all-in-one technológiát használni az egymástól gyökeresen eltérő problémák megoldására. Egy mondat megértése egyáltalán nem egyenlő egy tárgy felismerésével. De az emberek mindkét esetben a mély tanulást próbálják használni. Kognitív szempontból ezek minőségileg eltérő feladatok. Egyszerűen le vagyok nyűgözve, hogy a mélytanulási közösségben milyen kevéssé értékelik a klasszikus mesterséges intelligenciát. Miért várja meg, amíg megjelenik egy ezüstgolyó? Elérhetetlen, és a meddő keresések nem teszik lehetővé, hogy megértsük a mesterséges intelligencia létrehozásának feladatának teljes összetettségét.
Azt is megemlíti, hogy mesterséges intelligencia rendszerekre van szükség az ok-okozati összefüggések megértéséhez. Gondolod, hogy a mély tanulás, a klasszikus mesterséges intelligencia vagy valami teljesen új segít ebben?
Ez egy másik terület, ahol a mély tanulás nem megfelelő. Nem magyarázza meg bizonyos események okait, hanem kiszámítja egy esemény valószínűségét adott körülmények között.
Miről beszélünk? Néz bizonyos forgatókönyveket, és megérti, miért történik ez, és mi történhet, ha bizonyos körülmények megváltoznak. Ránézhetek az állványra, amelyen a tévé ül, és elképzelhetem, hogy ha levágom az egyik lábát, az állvány felborul, és a tévé leesik. Ez ok-okozati összefüggés.
A klasszikus mesterséges intelligencia ehhez ad néhány eszközt. El tudja képzelni például, hogy mi az a támogatás és mi a bukás. De nem dicsérem túl. A probléma az, hogy a klasszikus mesterséges intelligencia nagymértékben függ a történések teljes körű információitól, és arra a következtetésre jutottam, hogy csak a standot nézem. Valahogy tudok általánosítani, elképzelni számomra nem látható részeket a lelátóból. Még nem rendelkezünk eszközökkel ennek a tulajdonságnak a megvalósításához.
Azt is mondod, hogy az embereknek veleszületett tudásuk van. Hogyan valósítható meg ez az AI-ban?
A születés pillanatában agyunk már nagyon kidolgozott rendszer. Nem rögzített a természet alkotta az első, durva tervezetet. És akkor a tanulás segít nekünk, hogy életünk során felülvizsgáljuk ezt a tervezetet.
Az agy durva vázlata már rendelkezik bizonyos képességekkel. Egy újszülött hegyi kecske néhány órán belül tévedhetetlenül leereszkedik a hegyoldalról. Nyilvánvaló, hogy már érti a háromdimenziós teret, a testét és a köztük lévő kapcsolatot. Nagyon összetett rendszer.
Részben ezért hiszem, hogy szükségünk van hibridekre. Nehéz elképzelni, hogyan lehetne egy olyan robotot létrehozni, amely jól működik egy olyan világban, amely nem ismeri a kezdést, ahelyett, hogy üres lappal kezdené, és hosszú, hatalmas tapasztalataiból tanulna.
Ami az embereket illeti, velünk született tudásunk a genomunkból származik, amely hosszú időn keresztül fejlődött. Az AI-rendszerekkel azonban más utat kell választanunk. Ennek részét képezhetik az algoritmusaink összeállításának szabályai. Ennek részét képezhetik az ezen algoritmusok által manipulált adatstruktúrák létrehozásának szabályai. És ennek része lehet az a tudás, amelyet közvetlenül a gépekbe fektetünk be.
Érdekes, hogy a könyvben felhozod a bizalom gondolatát és a bizalmi rendszerek létrehozását. Miért ezt a konkrét kritériumot választotta?
Hiszem, hogy ma mindez egy labdajáték. Számomra úgy tűnik, hogy a történelem egy furcsa pillanatát éljük át, sok olyan szoftverben bízunk, amelyek nem megbízhatóak. Azt hiszem, a mai gondok nem tartanak örökké. Száz év múlva a mesterséges intelligencia igazolni fogja a bizalmunkat, és talán hamarabb is.
De ma az AI veszélyes. Nem abban az értelemben, amitől Elon Musk tart, hanem abban az értelemben, hogy az állásinterjú rendszerek diszkriminálják a nőket, függetlenül attól, hogy mit csinálnak a programozók, mert túl egyszerűek az eszközeik.
Bárcsak jobb AI-nk lenne. Nem akarok „AI-télt” látni, amikor az emberek rájönnek, hogy a mesterséges intelligencia nem működik, és egyszerűen veszélyes, és nem akarják megjavítani.
Bizonyos szempontból a könyve nagyon optimistának tűnik. Feltételezi, hogy lehetséges megbízható AI felépítése. Csak más irányba kell néznünk.
Így van, a könyv rövid távon nagyon pesszimista, hosszú távon pedig nagyon optimista. Hiszünk abban, hogy az általunk leírt problémák mindegyike megoldható, ha szélesebb körben megvizsgáljuk a helyes válaszokat. És úgy gondoljuk, hogy ha ez megtörténik, a világ jobb hely lesz.
Forrás: will.com