Ez a szöveg nem tudományos kutatás eredménye, hanem a legfrissebb technológiai fejlődésünkkel kapcsolatos vélemények egyike. Egyben meghívás a vitára is.
Gary Marcus, a New York-i Egyetem professzora biztos benne, hogy a mélytanulás fontos szerepet játszik a mesterséges intelligencia fejlődésében. Ugyanakkor úgy véli, hogy ennek a módszernek a túlzott vonzalma a hitelességének aláásásához vezethet.
A könyvében Rebooting AI: Building artificial intelligence we can trust Marcus, aki képzett neurológus és karrierjét a mesterséges intelligencia élvonalbeli kutatásán alapozta, a technikai és etikai szempontokra is figyelmet fordít. Technológiai szempontból a mélytanulás sikeresen utánozza azokat a feladatmegoldásokat, amelyeket az agyunk végez: például a képek vagy a beszéd felismerését. De más feladatok, mint például a beszélgetések megértése vagy a kauzális kapcsolatok meghatározása esetén, a mélytanulás nem alkalmas. A fejlettebb intelligens gépek létrehozásához, amelyek szélesebb feladatkört tudnak ellátni - gyakran általános mesterséges intelligenciának nevezik őket - a mélytanulást más módszerekkel kell kombinálni.
Ha egy AI-rendszer valójában nem érti a feladatait vagy a környező világot, az veszélyes következményekkel járhat. Még a legkisebb váratlan változások is a rendszer környezetében hibás viselkedéshez vezethetnek. Már volt sok ilyen példa: tiszteletteljes kifejezések felismerésére szolgáló rendszerek, amelyeket könnyen meg lehet tréfálni; munkaközvetítő rendszerek, amelyek folyamatosan diszkrétálnak; önvezető autók, amelyek balesetekbe kerülnak és néha megölnek egy sofőrt vagy gyalogost. Az általános mesterséges intelligencia létrehozása nem csupán egy érdekes kutatási probléma, számos nagyon gyakorlati alkalmazása van.
Könyvében Marcus és társszerzője, Ernest Davis, egy másik utat képviselnek. Úgy vélik, hogy még messze vagyunk az általános AI megalkotásától, de biztosak abban, hogy előbb-utóbb sikerülni fog.
Miért van szükségünk általános AI-ra? Az már létrehozott specializált verziók sok hasznot hoznak.
Igen, és még több hasznot hoz. De vannak olyan feladatok, amelyeket a specializált mesterséges intelligencia egyszerűen nem képes megoldani. Például a hétköznapi beszéd megértése, vagy általános segítségnyújtás a virtuális világban, vagy olyan robot, amely segít a takarításban és az étel elkészítésében. Ezek a feladatok túlmutatnak a specializált mesterséges intelligencia képességein. Egy másik érdekes gyakorlati kérdés: lehetséges-e a specializált mesterséges intelligencia segítségével biztonságos önvezető autót létrehozni? A tapasztalat azt mutatja, hogy az ilyen AI még mindig sok problémával küzd a rendellenes helyzetek kezelésében, még a vezetés során is, ami nagyon bonyolítja a helyzetet.
Úgy gondolom, mindannyian szeretnénk egy mesterséges intelligenciát, amely segíthet nekünk új, nagyszabású felfedezéseket tenni az orvostudományban. Kérdéses, hogy a jelenlegi technológiák alkalmasak-e erre, hiszen a biológia egy összetett terület. Fel kell készülni sok könyv elolvasására. A tudósok értik a hálózatok és molekulák közötti ok-okozati összefüggéseket, képesek elméleteket kidolgozni bolygókról és így tovább. Azonban a specializált mesterséges intelligenciával nem tudunk olyan gépeket létrehozni, amelyek képesek lennének ilyen felfedezésekre. Azzal a közönséges mesterséges intelligenciával viszont forradalmat hajthatnánk végre a tudományban, technológiában és orvostudományban. Véleményem szerint nagyon fontos folytatni a közönséges mesterséges intelligencia kifejlesztésére irányuló munkát.
Úgy tűnik, hogy az 'általános' alatt erős mesterséges intelligenciát értesz?
Amikor 'általános'-ról beszélek, arra gondolok, hogy a mesterséges intelligencia képes lesz azonnal gondolkodni és önállóan megoldani új feladatokat. Ellentétben például a Go-val, amelynek problémája az utolsó 2000 évben nem változott.
Az általános mesterséges intelligenciának képesnek kell lennie döntéseket hozni mind politikában, mind orvostudományban. Ez a humán képességek analógiája; bármely józan gondolkodású ember számos dolgot képes megtenni. Tapasztalatlan diákokat veszünk, és néhány nap alatt arra kényszerítjük őket, hogy gyakorlatilag bármilyen feladaton dolgozzanak, kezdve egy jogi kérdéssel és befejezve az orvosi feladattal. Ennek az az oka, hogy általános világnézettel rendelkeznek és tudnak olvasni, így hozzájárulhatnak a nagyon széles spektrumú tevékenységekhez.
A kapcsolat a ilyen intelligencia és az erős között az, hogy az nem erős intelligencia valószínűleg nem tudja megoldani az általános feladatokat. Ahhoz, hogy egy elég megbízható dolgot hozzunk létre, ami képes dolgozni a folyamatosan változó világban, valószínűleg a minimum, hogy közelítsünk az általános intelligenciához.
De most már nagyon messze vagyunk ettől. Az AlphaGo remekül tud játszani a 19×19-es táblán, de újra kell tanítani, hogy téglalap alakú táblán is tudjon játszani. Vagy vegyük a tipikus mélytanuló rendszert: képes felismerni az elefántot, ha jól meg van világítva és látható a bőrének textúrája. De ha csak az elefánt sziluettje látható, a rendszer biztosan nem fogja tudni felismerni.
A könyvében említi, hogy a mélytanulás nem képes elérni a szuperintelligencia lehetőségeit, mivel nem rendelkezik mély megértéssel.
A kognitív tudományban különböző kognitív modellek kialakulásáról beszélnek. Ülök a szállodai szobámban, és tudom, hogy ott egy szekrény, ott egy ágy, ott egy furcsán felfüggesztett tévé. Mindezeket az tárgyakat ismerem, nem csak azonosítom őket. Tudom, hogy hogyan kapcsolódnak egymáshoz. Van elképzelésem arról, hogyan működik a körülöttem lévő világ. Ezek nem tökéletesek. Lehet, hogy hibásak, de elég jók. Ezek alapján sok következtetést vonok le, amelyek irányt mutatnak a mindennapi cselekvéseimhez.
A másik véglet egy Atari-játék rendszer, amelyet a DeepMind készített, amelyben megjegyezte, hogy mit kell tennie, amikor bizonyos pixelhelyeken látott pixelhalmazokat a képernyőn. Ha elegendő adatot kap, úgy tűnhet, hogy van megértése, de valójában nagyon felszínes. A bizonyíték erre az, hogy ha három pixellel elmozdítjuk az objektumokat, az AI sokkal rosszabbul játszik. A változások összezavarják. Ez ellentétes a mély megértéssel.
A probléma megoldása érdekében javasolja, hogy térjünk vissza a klasszikus AI-hoz. Milyen előnyöket kellene igénybe vennünk?
Több előny is van.
Először is, a klasszikus AI valójában egy keretrendszer a kognitív világmodellek létrehozásához, amelyek alapján később következtetéseket lehet levonni.
Másodszor, a klasszikus AI tökéletesen kompatibilis a szabályokkal. Jelenleg a mélytanulás területén furcsa tendencia figyelhető meg, ahol a szakértők igyekeznek elkerülni a szabályokat. Mindent neurális hálózatokkal szeretnének megoldani, és nem akarnak semmi olyan dolgot csinálni, ami klasszikus programozásnak tűnik. Pedig vannak feladatok, amelyeket kényelmesen megoldottak ilyen módon, és senki sem figyelt rájuk. Például útvonalak készítése a Google Térképen.
Valójában mindkét megközelítésre szükségünk van. A gépi tanulás jól tanul az adatokból, de nagyon rosszul segít az abstrakciók megjelenítésében, amelyeket a számítógépes program képvisel. A klasszikus mesterséges intelligencia jól működik az abstrakciókkal, de ezt teljes egészében manuálisan kell programozni, míg a világban túl sok tudás halmozódott fel ahhoz, hogy mindezt programozni tudjuk. Nyilvánvaló, hogy mindkét megközelítést össze kell vonnunk.
Ez a fejezettel kapcsolatos, amelyben arról beszél, mit tanulhatunk az emberi elméből. Elsősorban arról a koncepcióról, amely az említett ötletre épül, miszerint a tudatunk számos különböző rendszert tartalmaz, amelyek különbözőképpen működnek.
Azt hiszem, van egy másik módja ennek magyarázatára: minden kognitív rendszer, amivel rendelkezünk, valójában különböző feladatokat lát el. A hasonló mesterséges intelligenciáknak úgy kellene megtervezni őket, hogy különböző feladatok megoldására legyenek alkalmasak, amelyek különböző jellemzőkkel bírnak.
Jelenleg megpróbálunk minden-egyben technológiákat használni olyan problémák megoldására, amelyek radikálisan eltérnek egymástól. A mondat megértése nem ugyanaz, mint egy objektum felismerése. De az emberek mindkét esetben mélytanulást próbálnak alkalmazni. Kognitív szempontból ezek minőségileg különböző feladatok. Hihetetlen, hogy a mélytanulással foglalkozó szakemberek közösségében mennyire keveset értékelik a klasszikus mesterséges intelligenciát. Miért várnánk egy ezüst golyóra? Az elérhetetlen, és a meddő keresések nem segítenek megérteni az AI megteremtésének összetettségét.
Azt is említi, hogy az AI rendszerek szükségesek a kauzális összefüggések megértéséhez. Ön úgy véli, hogy ebben segíthet a mélytanulás, a klasszikus mesterséges intelligencia, vagy valami egészen új?
Ez egy olyan terület is, ahol a mélytanulás nem túl alkalmas. Az nem magyarázza meg egy esemény okait, hanem egy esemény valószínűségét számítja ki a megadott körülmények között.
Miről beszélünk? Ön bizonyos forgatókönyveket néz, és megérti, miért történik ez, és mi történhet, ha bizonyos körülmények megváltoznak. Rá tudok nézni arra a tartóra, amelyen a tévé van, és elképzelhetem, hogy ha levágom egy lábát, a tartó felborul, és a tévé leesik. Ez a kauzális összefüggés.
A klasszikus mesterséges intelligencia bizonyos eszközöket biztosít számunkra ehhez. Például képes bemutatni, mi a támogatás és mi a csökkenés. De nem akarom túlbecsülni. A probléma az, hogy a klasszikus mesterséges intelligencia nagyrészt az információk teljességétől függ, és én csak annyit tudtam meg, hogy megnéztem a tartót. Valamilyen módon képes vagyok általánosítani, és képviselni a tartó részeit, amelyeket nem látok. Még nem rendelkezünk eszközökkel ennek a tulajdonságnak a megvalósításához.
Még arról is beszél, hogy az embereknek veleszületett tudásuk van. Hogyan valósítható ez meg a mesterséges intelligenciában?
Születésünkkor az agyunk már egy nagyon gondosan megtervezett rendszer. Ez nem fix, a természet létrehozott egy első, durva vázlatot. Aztán a tanulás segít nekünk, hogy ezt a vázlatot egész életünk során felülvizsgáljuk.
Az agy durva vázlata már rendelkezik bizonyos képességekkel. Az újszülött hegyi kecske néhány órán belül képes hibátlanul leereszkedni a hegyoldalon. Nyilvánvaló, hogy már van megértése a háromdimenziós térnek, a saját testének és a kettő közötti összefüggéseknek. Egy rendkívül összetett rendszer.
Részben ezért gondolom, hogy szükségünk van hibrid modellekre. Nehezen elképzelhető, hogyan lehetne létrehozni egy robotot, amely jól működik a világban hasonló ismeretek nélkül, hogy mivel kezdje, ahelyett, hogy tiszta lappal kezdené és hosszú, hatalmas tapasztalatot szerezne.
Ami az embereket illeti, a veleszületett tudásunk a génjeinkből származik, amelyek hosszú ideje fejlődtek. A mesterséges intelligencia rendszerekben más utat kell járnunk. Ez részben magába foglalhatja az algoritmusaink felépítésére vonatkozó szabályokat. Részben adatszerkezetek létrehozásának szabályait, amelyeket ezek az algoritmusok manipulálnak. És részben azokat az ismereteket, amelyeket közvetlenül a gépekbe helyezünk.
Érdekes, hogy a könyvében az bizalom és megbízható rendszerek létrehozása ötlete felé tereli a gondolatokat. Miért éppen ezt a kritériumot választotta?
Úgy vélem, hogy mindez ma egyfajta labdajáték. Szerintem egy furcsa történelmi pillanatban élünk, nagymértékben bízva egy megbízhatatlan szoftverben. Azt hiszem, a ma jellemző aggodalmaink nem lesznek örökkévalók. Száz év múlva a mesterséges intelligencia igazolni fogja a bizalmunkat, talán még korábban is.
De ma azonban a mesterséges intelligencia veszélyes. Nem abban az értelemben, ahogyan Elon Musk fél tőle, hanem abban, hogy a munkahelyi interjúk során a rendszerek diszkrét módon diszkriminálják a nőket, függetlenül attól, hogy mit csinálnak a programozók, mivel az eszközeik túl egyszerűek.
Arra szeretném, ha lenne lehetőségünk, hogy jobb minőségű mesterséges intelligenciát építsünk. Nem szeretném, ha elkezdődne a "mesterséges intelligencia telelés", amikor az emberek rájönnek, hogy a mesterséges intelligencia nem működik, hanem csak veszélyes, és nem akarnak ezen változtatni.
Bizonyos értelemben a könyved valóban nagyon optimistának tűnik. Azt feltételezed, hogy lehet építeni egy megbízható mesterséges intelligenciát. Csak más irányba kell néznünk.
Igen, a könyv valóban nagyon pesszimista a rövid távú jövőt tekintve, és nagyon optimista a hosszú távút. Mi úgy gondoljuk, hogy az általunk leírt összes probléma megoldható, ha szélesebb perspektívából nézzük, hogy milyen válaszoknak kellene lenniük. És úgy véjük, hogy ha ez megtörténik, a világ jobbá válik.
Forrás: habr.com
