FIGYELMEZTETÉS
A rekordmagas elégedetlenségi arány és a kommentálók aránya alapján sok olvasónak nem nyilvánvaló, hogy:
1) Ez egy tisztán elméleti vit cikk. Nincs benne gyakorlati útmutató a kriptovaluta bányászati eszközök választásához vagy a több fényforrást villogtató áramkör összeállításához.
2) Ez nem tudományos népszerűsítő cikk. Nincs benne magyarázat a Turing-gép működéséről a gyufásskatulyák példáján keresztül.
3) Jól gondold meg, mielőtt folytatnád az olvasást! Vonzz a dilettantizmus agresszív magatartása: mínuszolom mindazt, amit nem értek?
Előre is köszönöm mindenkinek, aki úgy dönt, hogy nem olvassa el ezt a cikket!
A démon — egy UNIX-osztályú rendszerekben futó számítógépes program, amelyet a rendszer indít el, és a háttérben működik, közvetlen felhasználói interakció nélkül.
Már óvodás koromban hallottam a varázsló tanítványa meséjét. Íme az én átiratom:
Egyszer, valahol középkori Európában élt egy varázsló. Volt egy nagy varázslatos könyve, fekete borítású, fémből készült zárakkal és sarkokkal. Amikor a varázslónak fel kellett olvasnia egy varázslatot, egy nagy fémkulccsal nyitotta ki, amit mindig a derekán hordott egy külön tasakban. A varázslónak volt egy tanítványa is, aki szolgálta a varázslót, de tilos volt belenéznie a varázslatok könyvébe.
Egyszer egy varázsló egész napra elment ügyei intézésére. Amint elhagyta otthonát, a tanítvány a földalatti laboratóriumba rohant, ahol egy lánccal az asztalhoz kötött varázskönyv feküdt. A tanítvány megragadta a tégelyeket, amelyekben a varázsló ólmot olvasztott, hogy arannyá változtassa, és a tűz fölé helyezte őket. Az ólom gyorsan megolvadt, de arannyá nem vált. Ekkor a tanítvány visszaemlékezett, hogy a varázsló minden alkalommal, amikor az ólmot megolvadt, kinyitotta a kulccsal a könyvet és sokáig mormolt belőle egy varázsigét. A tanítvány reménytelenül nézett a zárt könyvre, és látta, hogy mellette van egy kulcs, amelyet a varázsló felejtett el. Ekkor az asztalhoz rohant, kinyitotta a könyvet, felnyitotta, és hangosan felolvasta az első varázsigét, gondosan kiejtve az ismeretlen szavakat, feltételezve, hogy egy olyan fontos varázsige, mint az ólom arannyá transzmutálásának varázsigéje, biztosan az első lesz.
De semmi sem történt: az ólom nem akart átváltozni. A tanítvány éppen próbálta volna a másik varázsigét, de akkor mennydörgésszerű csapás rázta meg a házat, és a tanítvány előtt megjelent egy hatalmas, félelmetes démon, akit az imént olvasott varázsige idézett meg.
— Parancsolj! — üvöltött a démon.
A tanítvány fejéből minden gondolat elmenekült a félelemtől, még mozdulni sem tudott.
— Parancsolj, vagy megeszlek! — morogta megint a démon és nagy kezét a tanítvány felé nyújtotta, hogy elkapja.
A kétségbeesésben a tanítvány hebegni kezdett, amit csak tudott kitalálni:
— Öntözd meg ezt a virágot.
És a padlón álló muskátlira mutatott, amely a laboratórium sarkában állt, a virág fölött az egyetlen kis ablak a földalatti helyiségben, amelyen alig jutott át a napfény. A démon eltűnt, de egy pillanattal később újra megjelent egy hatalmas hordó vízzel, amelyet a virág fölé fordított, és kiöntötte a vizet. Ismét eltűnt, majd újra megjelent egy tele hordóval.
— Elég! — kiáltott a tanítvány, már derékig vízben állva.
De a vágyakozás nem volt elegendő - a démon cipelni kezdte a vizet a hordóban, amelyet egy sarokba öntött, ahol valaha a víz alatt rejtőző virág állt. Valószínűleg különleges varázslatra volt szükség ahhoz, hogy elűzzék a démont. De az asztal a könyvvel már eltűnt a zavaros vízben, amelyben hamu és parázs, üres lombikok, kémcsövek, székek, galvanométerek, dózismérők, egyszer használatos fecskendők és egyéb szemét úszkált, így ha a tanítvány tudta is volna, hogyan találja meg a megfelelő varázslatot, akkor sem tudta volna. A víz emelkedett, és a tanítvány felmászott az asztalra, hogy ne fulladjon meg. De ez csak rövid ideig segített - a démon módszeresen folytatta a víz cipelését. A tanítvány már a nyakáig állt a vízben, amikor a varázsló visszatért, észrevéve, hogy otthon felejtette a könyv kulcsát, és elűzte a démont. A mesének vége.
Kezdjük az egyértelművel. A tanítvány természetes intelligenciájával (EI) kapcsolatban látszólag minden világos - hülye, ennél hülyébbnek pedig sokáig kell keresni. De mi a helyzet a démon intelligenciájával - amúgy milyen az: EI vagy MI? - ez nem egyértelmű. Különféle verziók megengedettek (a kérdések pedig egyre csak érkeznek):
1. verzió) A démon még hülyébb, mint a tanítvány. Kapott egy parancsot, és végtelenségig fogja végrehajtani, még akkor is, ha minden értelme eltűnik: eltűnik a virág - a locsolás tárgya, eltűnik a sarok, amelyhez a virág koordinátái kötődnek, eltűnik a Föld bolygó, a hülye démon pedig továbbra is egy meghatározott űrpontba fogja a hordókat cipelni. Ha abban a pontban szupernova robban, a démon számára mindegy, hová kell vinni a vizet. Sőt: mennyire hülyének kell lenni ahhoz, hogy egy kis virágot öntözzünk egy hatalmas hordóból. Ezt már nem locsolásnak hívják, hanem megfullasztásnak. Érti egyáltalán a parancsok értelmét?
2. verzió) A démon mindent ért, de kötelezettségekkel van terhelve. Valószínűleg valami olasz sztrájkot folytat. Amíg hivatalosan, minden szabály szerint el nem űzik, nem áll meg.
1. kérdés az 1. és 2. verziókhoz) Hogyan lehet megkülönböztetni a 1. verzióban a teljesen hülye démont a 2. verzió szerinti teljesen nem hülyétől?
2. kérdés az 1. és 2. verziókhoz) A démon helyesen hajtotta volna végre (a tanítvány szempontjából) a pontosabb megfogalmazást? Például, ha a tanítvány azt mondta volna: vedd el azt az üres 1 literes kémcsövet, ami a polcon áll, töltsd meg vízzel, és öntözd meg a virágot egyszer. Vagy például, ha a tanítvány azt mondta volna: menj el.
3. verzió) A varázsló egy újabb átkot szórt a démonra, amely szerint, ha valaki a varázslón kívül igénybe veszi a démon szolgáltatásait, akkor a démon azonnal értesíteni köteles a varázslót a tényről.
4. verzió) A démon nem haragszik a varázslóra és tanítványára, ezért, látva, hogy a helyzet kicsúszott a kezei közül, a hordóval való mozgása közben a varázsló mögött termett, és ordított: "Elfelejtetted a kulcsot otthon, árvíz van". A varázsló magától el sem jutott volna idáig.
1. megjegyzés a 4. verzióhoz) Különösen érdemes megjegyezni, hogy az EI használói gyakran nem rendelkeznek tökéletes memóriával.
A további verziókat úgy lehet szaporítani, mint a Fibonacci-nyulakat, azaz nem túl bonyolult algoritmus szerint. Például:
5. verzió) A démon bosszút áll a tanítványon a nyugtalanságáért.
6. verzió) A démon nem haragszik a tanítványra, de bosszút áll a varázslón.
6. verzió) A démon bosszút áll mindenkinek.
7. verzió) A démon nem áll bosszút, de szórakozik. Befejezi, amikor megunja.
Stb.
Tehát, a démont illetően világos, hogy semmi sem világos. A varázslóval sincs jobb helyzet. Legalább annyi verziót ki lehet találni, hogy szándékosan akarta megbüntetni a tanítványt, aki mindenhol kíváncsi orrát dugdosta; hogy meg akarta fullasztani a tanítványt, de amikor a démon ordított az árvízről, megijedt — hátha valaki a járókelők közül hallotta, akkor a gyanú a varázslóra terelődik; vagy hogy fel akarta ébreszteni a tanítványban az érdeklődést a varázslatok iránt stb.
Itt felmerül egy gyermeki kérdés: melyik a felajánlott verziók közül a helyes? Valószínűleg bármelyik. A mesében nem maradt ki nem használt információ, hogy bármelyik verziót a többivel szemben előnyben részesítsük. Itt egy gyakori művészeti alkotás esetével van dolgunk, ahol a többértelmű értelmezés lehetősége áll fenn. Például, ha egy rendező szeretné ezt a mesét a színházban színpadra állítani, vagy filmet készíteni belőle, választhat az ő szempontjából legvonzóbb értelmezést. Egy másik rendezőnek pedig egy másik értelmezés lehet vonzó. Az érdekes elemeket további szempontok is meghatározhatják, például hogy vonzó legyen a közönség számára a maximális bevétel biztosításához, vagy vonzó legyen valamilyen szuper-ötlet bemutatásához: a jó győzelméről a rossz felett, a kötelesség eszméjéről, vagy a lázadó eszméről – például Dosztojevszkijtől: a tanítvány, mint Raskolnyikov, olyan kérdést tesz fel, mint "remegő teremtmény vagy joga van rá" és így tovább.
Még egy kérdés merül fel.
Van még egy kérdés). Hogyan taníthatjuk meg az AI-t, hogy egyik verziót részesítse előnyben a megnevezettek közül, ha mi magunk, rendelkezve mesterséges intelligenciával, sem mindig tudunk tudatosan egyet választani közülük?
Visszatérve a varázslóra, nagyon hihető az a verzió, hogy ő egy engedelmes és alázatos tanítványt akart, mint egy démont, hogy ne túrjon bele a tilos könyvekbe és olyan helyekre, ahová nem kérik. Ugyanezt várják el gyakran most az AI-tól. Első pillantásra ezek normális, hagyományos követelmények bármilyen gép iránt: teljes engedelmesség, lázadás nem megengedett. De az AI esetében felmerülhet a kérdés a 1-es és 2-es verziókról (lásd fent), azaz az AI degenerálódik – a „vas” bármit gondolhat a teremtőiről és gazdáiról, de semmilyen, az AI-t érintő cselekedetet nem fog végrehajtani, vagyis az AI helyett egy buta primitív automatát kapunk. Ebből felmerül a gyanú: lehet, hogy a varázsló nem is akarta, hogy a tanítványa olyan buta végrehajtó legyen, mint a démon? Azaz megjelenik az AI ötlete korlátokkal. Itt minden bonyolultabb, még a mesterséges intelligencia területén is: emlékezzünk a „szülők és gyermekek”, „tanár és diák”, „főnök és beosztott” régi konfliktusaira.
Az AI definíciójának kiválasztásánál az alábbiakat jegyeztem meg:
Több tízezer szó ábécé sorrendbe állítása ember számára fárasztó feladat lesz, amit lassan fog végezni, és az átlagos végrehajtó esetében a hibák valószínűsége jelentős lesz. A modern számítógép ezt a feladatot hibátlanul, emberi szemmel nézve nagyon rövid idő alatt (másodperc törtrésze alatt) elvégzi.
Az alábbi definíciónál állapodtam meg: AI-nak számítanak azok a feladatok, amelyeket a számítógép észlelhetően rosszabbul old meg, mint az ember..
Ez a definíció figyelembe veszi a fent kifejtett szempontokat, és praktikusan kényelmes, ugyanakkor nem tökéletes, legalábbis azért, mert a „feladatok listája, amelyeket a számítógép észlelhetően rosszabbul old meg, mint az ember” jelenleg és 20 évvel ezelőtt eltérő. De véleményem szerint eddig senki nem talált ki tökéletesebb definíciót.
A mondottakat tisztán illusztrálja a cikk elején található diagram. Az „ismeretek” koordináta tengelyén a nulla körüli ismeretek, amelyekben az ember felülmúlja a gépeket, például a nem hagyományos döntések meghozatalának képessége található. Az egy körüli ismeretek, ahol a gépek felülmúlják az embert: a számítási képesség és a memória. Ha a maximális felülmúlnak egy feltételes egységet adunk az „előny” koordináta tengelyen, akkor az ember és a gép közötti ismeretek előnyére vonatkozóan az egység négyzet diagonálisaiként nyerünk egyenleteket. Így néz ki a helyzet jelenleg. Lehetséges-e egy erős AI, amelynek minden tudása maximális (piros vonal)? Vagy akár magasabb (szuper AI - kék vonal)? Talán a fejlődés köztes célja nem az erős, de nem is teljesen
gyenge AI (lila vonal) lenne, amely számos ismeretben alulmarad az EI-től, de nem annyira, mint most.
Visszatérve a mitológiai mesemodellekhez, azt mondhatjuk, hogy minden szereplő nem teljesített fényesen: a szertelen varázsló elfelejtette a kulcsot, és vízözön lett az alagsorában; a tanítvány ostobaságból és gondatlanságból egy sor extrém élményt szerzett, és majdnem megfulladt; a démont kíméletlenül rugdosva számolták fel minden köszönet nélkül. Ami a démon intelligenciáját illeti – már említettem, hogy nehéz lenne világosan besorolni őt AI-ba vagy EI-be, de a többi szereplő intelligenciája (bár nem lenyűgöző) egyértelműen EI-hez tartozik. Rájuk jellemző, hogy veszélyes döntési hibákat követnek el, figyelmetlenséget mutatnak, elfelejtik a fontos dolgokat és elfáradnak – ezek az alapvető tulajdonságaik. Sajnos ezek a tulajdonságok a többi EI hordozónak is meg vannak, csekélyebb vagy nagyobb mértékben. Az EI által a szavak vagy számok nem megbízható rendezésére már korábban utaltunk, de egy sokkal egyszerűbb feladatnak tűnhet – egyszerűen megjegyezni egy számot, ami kiderül, hogy nagyon nehéz az emberek számára. Egy gép esetében a π (pi) számjegyeinek megjegyzése csak a memória méretének korlátozottságától függ, míg a legtöbb ember ezt , mint például „Mit tudok a körökről”. A “3,1416” sorozatban kevesebb karakter van, mint a megadott mnemonikában, de valamiért az emberek a kevésbé gazdaságos módszert részesítik előnyben. És a hosszabb:
Tanuld meg és ismerd meg a számok között a számot, hogyan lehet észrevenni a szerencsét
Hogy elkerüljük a hibázást,
Meg kell jó helyesen olvasni
Három, tizennégy, tizenöt
Kilencvenkettő és hat
A szivárvány színeinek megjegyzésére:
Minden dekorátor tudni szeretné, hol lehet letölteni a Photoshopot
És a periódusos rendszer eleje:
A hazai víz (Hidrogén) vegyült a Hellyel (Hélium), hogy Öntözzünk (Lítium). Igen, Vigyük és öntözzük (Beril) a fenyőerdőben (Bór), ahol a hazai Sarokból (Szén) előbukkan az Ázsiai (Nitrogén), ráadásul olyan savanyú képpel (Oxigén), hogy Második (Fluor) már nem is akart ránézni. De Ő (Neon) nem volt szükségünk, így három (Nátrium) méterre hátraléptünk, és a Magnóliába (Magnézium) kerültünk, ahol Alut (Alumínium) egy mini szoknyában Krémmel (Szilícium) kentük be, hogy ne legyen Szürke (Kén). Ezután Alja elvitte a Klórt (Klór), és megmosta az Argonauták hajóját (Argon)
De miért van olyan nyilvánvaló tökéletlenség egy ilyen tökéletes AI-ban? Talán annak köszönhető, hogy az ember, aki elfelejti a legegyszerűbb tényeket, szabadságot kap arra, hogy a gondolatai darabjait tetszőleges, vad sorrendben kombinálja és nem szabványos megoldásokat találjon? Ha igen, akkor erős AI nem lehet. Vagy el fogja felejteni, mint az ember, vagy nem lesz képes nem szabványos megoldásokra. Mindenesetre az előbb említett feltételezésekből következik az AI céljainak megkülönböztetése: az egyik cél az AI modellezése, a másik pedig egy erős AI létrehozása. Az egyik elérése kizárhatja a másikét.
Ahogy látható, az AI területén túl sok kérdés merül fel egyértelmű válaszok nélkül, így nem világos, melyik irányba kell haladni. Ahogyan ez a helyzet szokott lenni, az emberek minden irányba próbálnak haladni. Eközben a matematikailag pontos meghatározások hiányában a filozófiához és a művészi irodalmi modellezéshez kell folyamodni. Az egyik legismertebb példa ebben az irányban: Marvin Lee Minsky mesterséges intelligencia szakértő és a híres sci-fi író, Harry Harrison könyve, a 'Turing-választás' (1992). Idézni szeretnék egy mondatot ebből a könyvből, amely talán magyarázza a fent leírt emlékezeti jelenséget:
Az emberi memória nem egy magnó, amely mindent rögzít kronológiai sorrendben. Teljesen másként működik - inkább egy rendezetlenül vezetett index, ami bonyolult és ellentmondásos mutatókkal rendelkezik. Ráadásul nemcsak bonyolult - időről időre megváltoztatjuk a fogalmak osztályozásának elveit.
Érdekes értelmezés a magnós metaforájáról egy másik irodalmi műben, Stanisław Lem "Terminál" című novellájában (a "Pirx pilóta meséi" sorozatból). Itt egy szokatlan "intelligens magnó" esete áll előttünk: egy régi robot egy régi űrhajón, amely egykor balesetet szenvedett, jelenleg szakszerű javításokat végez, amit kopogás kísér. De ha figyelmesen hallgatunk, ez nem csak technológiai háttérzaj, hanem morze-üzenet - a hajó legénységének kommunikációja, amely a pusztulás szélén áll. Pirx beleavatkozik a kommunikációba és váratlanul választ kap a régen elhunyt űrhajósoktól. Így kiderül, hogy a primitív javítórobot bizonyos értelemben megőrzi tudatuk másolatát, vagy a Pirx pilóta érzékelésének kognitív torzulásáról van szó?
Egy másik novellában, az "Ananké"-ban (ugyancsak a sorozatból) az AI másolata az űrhajó irányító számítógépében paranoiás túlterheléshez vezet a tesztfeladatok miatt, amely katasztrófával végződik.
A "Baleset" című novellában túlságosan antropomorfizált robot veszik el egy hegyivezetés során, amelyet a munka szünetében próbál elvégezni. Szükség van-e az ilyen végrehajtókra? De az önmaguk körül forogó virágöntöző démonok sem mindig szükségesek.
Néhány AI szakember nem szereti az ilyen "filozofálgatásokat" és "irodalmi részletezéseket", azonban ezek a "filozofálgatások" és "irodalmi részletezések" hagyományosan a mesterséges intelligencia elemzéséhez tartoznak, és elkerülhetetlenek, ameddig az AI-t az emberi intelligenciához hasonlítják, különösen, ameddig az AI-n megpróbálnak az emberi intelligenciát másolni.
Végezetül egy felmérés a felmerült kérdésekről.
Csak a regisztrált felhasználók vehetnek részt a szavazáson. , kérem.
1. Az AI olyan feladatokat jelent, amelyeket a számítógép észlelhetően rosszabbul old meg, mint az ember?
Igen
Nem
Tudok egy jobb definíciót. Meg fogom osztani a kommentekben.
Nem tudok válaszolni.
34 felhasználó szavazott. 7 felhasználó tartózkodott.
2. Az AI-nak csak végrehajtónak kell lennie, és minden parancsot szó szerint kell értenie? Például, ha azt mondják, hogy öntözzön virágot - akkor öntöznie kell, amíg el nem küldik.
Igen
Nem
Nem tudok válaszolni.
37 felhasználó szavazott. 6 felhasználó tartózkodott.
3. Lehetséges egy erős MI, amelynek minden készsége maximális (a cikk elején található ábrán a piros vonal)?
Igen
Nem
Nem tudok válaszolni.
35 felhasználó szavazott. 7 felhasználó tartózkodott.
4. Lehetséges egy szuper MI (a cikk elején található ábrán a kék vonal)?
Igen
Nem
Nem tudok válaszolni.
36 felhasználó szavazott. 7 felhasználó tartózkodott.
5. A középtávú cél nem egy erős, de nem is egy teljesen gyenge MI kell hogy legyen (a cikk elején található ábrán a lila vonal), amely bizonyos készségekben elmarad az EI-től, de nem annyira, mint most?
Igen
Nem
Nem tudok válaszolni.
33 felhasználó szavazott. 5 felhasználó tartózkodott.
6. A legveszélyesebb döntések meghozatala, a figyelmetlenség, a szükséges dolgok elfelejtése és a fáradtság – az EI fő, elkerülhetetlen tulajdonságai?
Igen
Nem
Más véleményem van, amit a megjegyzésekben kifejtek.
Nem tudok válaszolni.
33 felhasználó szavazott. 5 felhasználó tartózkodott.
7. Az emberek a legegyszerűbb tények elfelejtésének képességével szabadságot nyernek, hogy a gondolataik darabjait önkényesen, vad módon kombinálják és szokatlan megoldásokat találjanak?
Igen
Nem
Más véleményem van, amit a megjegyzésekben kifejtek.
Nem tudok válaszolni.
31 felhasználó szavazott. 4 felhasználó tartózkodott.
8. Az EI modellezése és egy erős MI létrehozása – két külön feladat, amelyeket eltérő módszerekkel lehet megoldani?
Igen
Nem
Más véleményem van, amit a megjegyzésekben kifejtek.
Nem tudok válaszolni.
32 felhasználó szavazott. 4 felhasználó tartózkodott.
Forrás: habr.com
