FIGYELEM
Abból ítélve, hogy a némán elégedetlenek és a kifogásolnivalók számának rekordmagas aránya van, sok olvasó számára nem nyilvánvaló, hogy:
1) Ez egy tisztán elméleti vitacikk. Itt nem fogunk gyakorlati tanácsokat adni a kriptovaluta bányászatához szükséges eszközök kiválasztásához vagy a multivibrátor összeállításához két villanykörte felvillantásához.
2) Ez nem egy népszerű tudományos cikk. A Turing-gép működési elvét a gyufásdobozok példájával nem magyarázzuk meg.
3) Gondolja át alaposan, mielőtt folytatja az olvasást! Tetszik Önnek az agresszív amatőrizmus testtartása: levonok mindent, amit nem értek?
Előre is köszönöm mindenkinek, aki úgy dönt, hogy nem olvassa el ezt a cikket!
A démon egy UNIX-osztályú rendszereken futó számítógépes program, amelyet maga a rendszer indít el, és közvetlen felhasználói beavatkozás nélkül fut a háttérben.
Már óvodás koromban is hallottam egy mesét egy varázslótanoncról. Megismétlem az újramondásomban:
Valahol a középkori Európában élt egyszer egy varázsló. Volt egy nagy varázskönyve, fekete borjúbőrbe kötve, vaskapcsokkal és sarkokkal. Amikor a varázslónak varázsolnia kellett, egy nagy vaskulccsal oldotta fel, amit mindig az övén hordott egy speciális tasakban. A varázslónak is volt egy tanítványa, aki a varázslót szolgálta, de neki megtiltották, hogy belenézzen a varázslatok könyvébe.
Egy nap a varázsló egész napra üzleti ügyben távozott. Amint elhagyta a házat, a diák berohant a tömlöcbe, ahol egy alkímiai laboratórium volt, amelyben egy asztalhoz láncolva egy varázslatos könyv hevert. A diák megragadta az olvasztótégelyeket, amelyekben a varázsló ólmot olvasztott, hogy azt arannyá változtassa, a tűzhelyre helyezte, és felgyújtotta a tüzet. Az ólom gyorsan elolvadt, de nem vált arannyá. Aztán a diáknak eszébe jutott, hogy a varázsló, miután megolvasztotta az ólmot, minden alkalommal feloldotta a könyvet egy kulccsal, és hosszan suttogott belőle egy varázslatot. A diák reménytelenül nézett a lezárt könyvre, és látta, hogy mellette van a kulcs, amit a varázsló elfelejtett. Aztán az asztalhoz rohant, kinyitotta a könyvet, kinyitotta, és hangosan elolvasta a legelső varázsigét, gondosan szótagról szótagra kiejtve az ismeretlen szavakat, feltételezve, hogy egy olyan fontos varázslat, mint az ólom arannyá alakításának varázslata, minden bizonnyal a legelső. .
De nem történt semmi: a vezetés nem akart átalakulni. A diák ki akart próbálni egy másik varázslatot, de ekkor mennydörgés rázta meg a házat, és egy hatalmas, hátborzongató démon jelent meg a diák előtt, akit a diák éppen elmondott varázslat idézett meg.
- Rendelés! - morogta a démon.
A félelemtől minden gondolat elhagyta a diák fejét, még csak mozdulni sem tudott.
- Parancsolj, különben megeszlek! - mordult fel ismét a démon és hatalmas kezet nyújtott a diák felé, hogy megragadja.
A diák kétségbeesetten motyogta az első dolgot, ami eszébe jutott:
- Öntözze meg ezt a virágot.
És egy muskátlira mutatott, amelynek cserépje a földön állt a laboratórium sarkában; a virág fölötti mennyezetben volt a tömlöc egyetlen kis ablaka, amelyen alig hatol be a napfény. A démon eltűnt, de egy pillanattal később újra megjelent egy hatalmas hordó vízzel, amit megfordított a virágon, kiöntötte a vizet. Megint eltűnt, és teli hordóval újra megjelent.
- Elég volt - kiáltotta a diák, derékig a vízben állva.
De látszólag a vágy önmagában nem volt elég - a démon hordóban hordta és hordta a vizet, és abba a sarokba öntötte, ahol egykor egy virág állt a víz alatt. Valószínűleg egy különleges varázslatra volt szükség a démon elűzéséhez. De az asztal a könyvvel már eltűnt a sáros vízben, amelyben hamu és szén úszott a kályhából, üres retorták, lombikok, zsámolyok, galvanométerek, dózismérők, eldobható fecskendők és egyéb törmelékek, így még ha a diák tudta is, hogyan kell megtalálni a szükséges varázslatot, nem tudta megtenni. A víz emelkedett, és a diák felmászott az asztalra, nehogy megfulladjon. De ez nem segített sokáig - a démon módszeresen folytatta a vizet. A diák már nyakig vízben volt, amikor a varázsló visszatért, és rájött, hogy otthon felejtette a könyv kulcsát, és elűzte a démont. A mese vége.
Rögtön a nyilvánvalóról. A hallgató természetes intelligenciájával (NI) úgy tűnik, hogy minden világos - hülyeség, sokáig kell keresni valami még butábbat. De a démon intelligenciájával - egyébként milyen intelligenciája van: EI vagy AI? – kétértelmű. A különböző verziók jogosak (és kérdések is felmerülnek velük kapcsolatban):
Verzió 1) A démon még a diáknál is hülyébb. Parancsot kapott, és végtelenségig végrehajtja, még akkor is, ha minden értelme eltűnik: a virág - az öntözés tárgya - eltűnik, eltűnik a szög, amelyhez a virág koordinátái kapcsolódnak, a Föld bolygó eltűnik, és a A hülye démon továbbra is hordókban szállítja a vizet a világűr egy bizonyos pontjára. És ha ezen a ponton kitör egy szupernóva, akkor a démonnak nem mindegy, hova viszi a vizet. Sőt: mekkora hülyének kell lenni ahhoz, hogy egy hatalmas hordóból meglocsoljon egy kis virágot? Ezt már úgy hívják, hogy nem a virág öntözését, hanem a virág fulladását. Egyáltalán érti a parancsok jelentését?
Verzió 2) A démon mindent megért, de kötelezettségek kötik. Tehát olyasmit folytat, mint egy olasz sztrájk. Amíg hivatalosan minden szabály szerint ki nem rúgják, addig nem hagyja abba.
1. kérdés az 1,2-es verzióhoz, 1) Hogyan lehet megkülönböztetni az 2-es verzió szerinti teljesen hülye démont a XNUMX-es verzió szerinti egyáltalán nem hülye démontól?
2. kérdés az 1,2 verzióhoz) Vajon a démon helyesen (a tanuló szemszögéből) végezte volna el a pontosabb megfogalmazást? Például, ha egy diák azt mondta: vedd azt az üres literes lombikot, ami a polcon van, töltsd meg vízzel, és öntsd meg egyszer azt a virágot. Vagy például ha a diák azt mondta: menj el.
Verzió 3) A varázsló egy további varázslatot vetett a démonra, miszerint ha a varázslón kívül valaki más veszi igénybe a démon szolgáltatásait, akkor a démonnak azonnal tájékoztatnia kell a varázslót erről a tényről.
Verzió 4) A démon nem haragszik a varázslóra és tanítványára, ezért látva, hogy a helyzet nem kontrollálható, hordós mozdulatai közben megjelent a varázsló háta mögött, és felkiáltott: „Itthon felejtetted a kulcsot. , árvíz van." De maga a varázsló sem emlékezett volna.
1. megjegyzés a 4-es verzióhoz Különösen érdemes megjegyezni, hogy az EI hordozók nagyon tökéletlen memóriával rendelkeznek.
További változatok is szaporíthatók, mint a „Fibonacci nyulak”, pl. nem túl bonyolult algoritmus. Például:
5. verzió) A démon bosszút áll a tanulón, amiért megzavarta.
6. változat) A démon nem haragszik a diákra, hanem bosszút áll a varázslón.
6. verzió) A démon mindenkin bosszút áll.
Verzió 7) A démon nem áll bosszút, hanem szórakozik. Akkor fejezi be, amikor elfárad.
Stb.
Tehát a démonnal egyértelmű, hogy semmi sem világos. Egy varázslóval sem jobb. Nem kevesebb verzióval lehet előállni: hogy szándékosan döntött úgy, hogy leckét ad egy diáknak, aki mindenhol kidugja kíváncsi orrát; hogy meg akarta fojtani a diákot, de amikor a démon ugatott az árvíz miatt, megijedt - hirtelen meghallotta az egyik járókelő, majd a varázslóra vetül a gyanú; fel akarta ébreszteni a diák érdeklődését a varázslatok stb.
Felmerülhet itt egy gyerekes kérdés: a javasolt változatok közül melyik a helyes? Úgy tűnik, bármelyik. A mesében nem maradt olyan információ, amely bármelyik verziót előnyben részesítené a többivel szemben. Itt a kétértelmű értelmezés lehetőségével rendelkező műalkotások meglehetősen gyakori esetével van dolgunk. Például, ha egy rendező ezt a mesét szeretné színpadra vinni egy színházban, vagy filmet szeretne belőle készíteni, akkor kiválaszthatja azt az értelmezést, amelyik az ő szemszögéből a legvonzóbb. Egy másik rendező vonzónak találhat egy másik értelmezést. Ugyanakkor a vonzerőt további szempontok is meghatározhatják, például a nézők vonzereje a maximális kasszabevétel biztosítása érdekében, vagy a vonzerő valamilyen szuperötlet bemutatására: a jó gonosz feletti győzelmének gondolata, a kötelesség gondolata, lázadó gondolat - például Dosztojevszkij szerint: a diák, mint Raszkolnyikov, felteszi a kérdést: „remegő lény-e, vagy van-e joga” stb.
Felmerül egy másik kérdés.
Még egy kérdés). Hogyan taníthatjuk meg az AI-t, hogy előnyben részesítsék valamelyik hangos változatot, ha mi magunk, MI birtokában nem mindig tudunk tudatosan választani közülük egyet?
Visszatérve a varázslóra, nagyon hihetőnek tűnik az a verzió, hogy egy kötelességtudó és engedelmes tanítványt akart, mint egy démon, hogy ne üsse bele az orrát a tiltott könyvekbe, és ahol nem kérték. Ugyanezt most gyakran kérik az AI-tól. Első pillantásra ezek normális hagyományos követelmények minden géppel szemben: a teljes engedelmesség, az engedetlenség elfogadhatatlan. De az AI esetében felmerülhet az 1,2-es verziók kérdése (lásd fent), pl. Az AI degenerálódik – a hardver azt gondolhat az alkotóiról és tulajdonosairól, amit csak akar, de nem hajt végre semmilyen, az AI-val kapcsolatos műveletet, pl. Az AI helyett egy hülye primitív automatát kapunk. Ebből kirajzolódik a gyanú: lehet, hogy a varázsló nem akarta olyan ostoba előadóművészt csinálni a diákból, mint egy démon? Azok. Felmerül a korlátokkal rendelkező AI ötlete. Itt minden még az EI területén is nehezebb: emlékezzen az „apák és fiak”, „tanár és diák”, „főnök és beosztott” örökös konfliktusaira.
Amikor az AI definícióját választottam a lehetségesek közül, megjegyeztem:
a több tízezer szó ábécé szerinti rendezése fárasztó lesz az ember számára, sok időt vesz igénybe, és egy átlagos felelősségi szinttel rendelkező átlagos előadónál jelentős a hibák valószínűsége. Egy modern számítógép ezt a feladatot nagyon rövid időn belül (a másodperc töredékei) hiba nélkül elvégzi.
A következő meghatározás mellett döntöttem: Az AI olyan feladatokat foglal magában, amelyeket a számítógép lényegesen rosszabbul old meg, mint az ember.
Ez a meghatározás figyelembe veszi a fentebb megfogalmazott megfontolásokat és a gyakorlatban is kényelmes, ugyanakkor nem ideális, már csak azért sem, mert a „melyeket a számítógép lényegesen rosszabbul old meg, mint az ember” feladatok listája eltér most és 20 évvel ezelőtt. . De véleményem szerint ennél tökéletesebb definíciót még senki nem talált ki.
A fentieket tisztán minőségileg szemlélteti a cikk elején található diagram. A „készségek” koordinátatengelyén a nulla (nulla és valamivel több) tartományban lévő készségek olyan készségeknek felelnek meg, ahol az ember jobb a számítógépnél, például abban, hogy nem szabványos döntéseket hozzon. Az egy tartományba eső készségek (egy és valamivel kevesebb) megfelelnek azoknak a készségeknek, amelyekben a számítógép jobb az embernél: a számítási képesség, a memória. Ha a „felsőbbrendűség” koordináta tengelyére helyezzük a hagyományos egységgel megegyező maximális fölényt, akkor egységnégyzet átlói formájában megkapjuk a felsőbbrendűség függését az emberek és a számítógépek képességeitől. Jelenleg így néz ki a helyzet. Lehetséges, hogy egy erős mesterséges intelligencia minden képessége maximális legyen (piros vonal)? Vagy még magasabb (szuper-AI - kék vonal)? Lehet, hogy a haladás köztes célja nem lehet erős, de nem egészen
gyenge mesterséges intelligencia (lila vonal), amely számos képességben alacsonyabb lesz az AI-nál, de nem annyira, mint most.
Visszatérve irodalmi mesemodellünkre, elmondhatjuk, hogy nem minden hőse teljesített a legjobban: a gubacs varázsló elfelejtette a kulcsot, és özönvíz érte a börtönben, a diák butaságból és figyelmetlenségből egy rakás szélsőséges benyomások és majdnem megfulladt, a démont minden hála nélkül kirúgták. Ami a démon intelligenciáját illeti, már megjegyezték, hogy nehéz egyértelműen besorolni az AI-ba vagy az EI-be, de a többiek intelligenciája (bár nem lenyűgöző) egyértelműen az EI-hez tartozik. Elmondható róluk, hogy a veszélyes döntések elkövetése, a figyelmetlenség, a szükséges dolgok elfelejtése és a fáradtság a legfontosabb jellemzőjük. Sajnos ezek a tulajdonságok kisebb-nagyobb mértékben minden más EI hordozóban rejlenek. Az EI szavak vagy számok rendezésének megbízhatatlanságát már fentebb megjegyeztük, de ez még egyszerűbb feladatnak tűnik - egy szám egyszerű emlékezése nagyon nehéznek bizonyul az emberek számára. Egy gép esetében a pi számjegyek megjegyezésének képességét csak a memória mérete korlátozza, és a legtöbb embernek , például „Mit tudok a körökről?” Úgy tűnik, hogy a „3,1416” sor kevesebb karaktert tartalmaz, mint a megadott emlékeztető, de valamiért az emberek inkább kevésbé gazdaságos módon emlékeznek. És hosszabban:
Ismerje meg és ismerje meg a szám mögött álló számot, hogyan vegye észre a szerencsét
Hogy ne kövessünk el hibákat,
Helyesen kell olvasni
Három, tizennégy, tizenöt
Kilencvenkettő és hat
Hogy emlékezzünk a szivárvány színeire:
Minden tervező szeretné tudni, hol töltheti le a Photoshop programot
És a periódusos rendszer eleje:
A natív vizet (hidrogént) géllel (hélium) összekeverve öntött (lítium). Igen, vedd és öntsd (berillium) a fenyőerdőbe (Bór), ahonnan az őshonos sarok (szén) alól ázsiai (nitrogén) kandikál ki, és olyan savanyú arccal (oxigén), hogy másodlagos (fluor) nem. szeretné megnézni. De nem volt rá szükségünk (Neon), így három (Nátrium) méterrel arrébb költöztünk, és Magnóliában (Magnézium) kötöttünk ki, ahol egy mini (Alumínium) szoknyás Alyát foszfort (foszfort) tartalmazó krémmel (Szilícium) kenték be. hogy megálljon Sera (Sera) lenni. Ezt követően Alya klórt (klórt) vett és lemosta az argonauták hajóját (Argon)
De miért ilyen nyilvánvaló tökéletlenség egy ilyen tökéletes EI-ben? Talán a legegyszerűbb tények elfelejtésének képességének köszönhetően az ember megkapja a szabadságot, hogy gondolatainak töredékeit tetszőleges vad sorrendben egyesítse, és nem szabványos megoldásokat találjon? Ha igen, akkor az erős mesterséges intelligencia lehetetlen. Vagy elfelejti, mint egy ember, vagy nem lesz képes nem szabványos megoldásokra. Mindenesetre a fenti feltételezésekből az következik, hogy különbséget kell tenni az MI céljai között: az egyik cél az MI modellezése, a másik az erős AI létrehozása. Az egyik elérése kizárhatja a másik elérését.
Amint látjuk, túl sok a kétértelmű válaszokkal rendelkező kérdés az AI területén, így nem világos, hogy melyik irányba kell továbblépni. Mint ilyenkor megesik, egyszerre próbálnak minden irányba haladni. Ugyanakkor a matematikailag szigorú megfogalmazások hiánya miatt a filozófia, valamint a művészeti és irodalmi modellezés felé kell fordulni. Az egyik leghíresebb példa ebben az irányban a mesterséges intelligencia egyik fényesének, Marvin Lee Minskynek és a híres tudományos-fantasztikus írónak, Harry Harrisonnak a „Turing Selection” (1992) című könyve. Ebből a könyvből idézek, talán megmagyarázva a fentebb leírt mnemonika jelenséget:
Az emberi emlékezet nem egy magnó, amely mindent időrendben rögzít. Teljesen más a felépítése - inkább mint egy hanyagul karbantartott kartoték, amely zavaros és ellentmondásos indexszel van felszerelve. És nem csak zavaró – időről időre megváltoztatjuk a fogalmak osztályozásának alapelveit.
A magnó-metafora érdekes értelmezése egy másik irodalmi műben, Stanislaw Lem „Terminus” című történetében (a „Történetek a Pirx pilótáról” sorozatból). Íme egyfajta „intelligens magnó” esete: egy régi, egykor balesetet szenvedett űrhajó öreg robotja folyamatos javítási munkákat végez, koppintás kíséretében. De ha figyelmesen figyel, ez nem csak fehér technológiai zaj, hanem Morse-kód felvétele - egy haldokló hajó legénységének tagjai közötti beszélgetések. Pirx beavatkozik ezekbe a tárgyalásokba, és váratlanul választ kap a rég meghalt űrhajósoktól. Kiderült, hogy a primitív javítórobot valamilyen módon a tudatuk másolatait tárolja, vagy ez a Pirx pilóta észlelésének kognitív torzulása?
Egy másik történetben, az „Ananke”-ban (ugyanabból a sorozatból), az EI másolata egy űrhajó vezérlő számítógépében paranoiás túlterheléshez vezet tesztfeladatokkal, ami katasztrófával végződik.
Az „Accident” című történetben egy túlságosan antropomorfikusan programozott robot meghal egy hegymászás következtében, amelyre szabadidejében döntött. Szükség van ilyen előadókra? De a virág öntözésére kötött démonokra sem mindig van szükség.
A mesterséges intelligencia területén egyes szakemberek nem szeretik az ilyen „filozófálást” és „irodalmiságot”, de ezek a „filozófálás” és „irodalmiság” hagyományosan velejárói a mesterséges intelligencia elemzésének, és elkerülhetetlenek mindaddig, amíg a mesterséges intelligenciát összehasonlítják az MI-vel, sőt sokkal inkább mindaddig, amíg az AI másolni próbálja az AI-t.
Végezetül egy felmérés számos felmerült kérdésről.
A felmérésben csak regisztrált felhasználók vehetnek részt. , kérem.
1. A mesterséges intelligencia olyan feladatokat tartalmaz, amelyeket a számítógép lényegesen rosszabbul old meg, mint az ember?
-
Igen
-
Nincs
-
Én jobban ismerem a meghatározást. Megadom kommentben.
-
Nehéz válaszolni
34 felhasználó szavazott. 7 felhasználó tartózkodott.
2. Az AI csak végrehajtó legyen, minden parancsot szó szerint kell érteni? Például azt mondták, hogy öntözzünk meg egy virágot – ez annyit jelent, hogy addig öntözzünk, amíg el nem hajtanak
-
Igen
-
Nincs
-
Nehéz válaszolni
37 felhasználó szavazott. 6 felhasználó tartózkodott.
3. Lehetséges erős mesterséges intelligencia, amelyben minden képesség maximális lesz (piros vonal a képen a cikk elején)?
-
Igen
-
Nincs
-
Nehéz válaszolni
35 felhasználó szavazott. 7 felhasználó tartózkodott.
4. Lehetséges a szuper-AI (kék vonal a képen a cikk elején)?
-
Igen
-
Nincs
-
Nehéz válaszolni
36 felhasználó szavazott. 7 felhasználó tartózkodott.
5. A köztes cél ne legyen erős, de ne is teljesen gyenge AI (lila vonal az ábrán a cikk elején), ami számos készségben alacsonyabb lesz az AI-nál, de nem annyira, mint most ?
-
Igen
-
Nincs
-
Nehéz válaszolni
33 felhasználó szavazott. 5 felhasználó tartózkodott.
6. Veszélyes döntési hibák elkövetése, figyelmetlenség, a szükséges dolgok elfelejtése és a fáradtság az EI fő jellemzői?
-
Igen
-
Nincs
-
Nekem más a véleményem, amit a megjegyzésekben fogok elmondani.
-
Nehéz válaszolni
33 felhasználó szavazott. 5 felhasználó tartózkodott.
7. A legegyszerűbb tények elfelejtésének képességének köszönhetően az ember szabadságot kap arra, hogy gondolatainak töredékeit tetszőleges vad sorrendben egyesítse, és nem szabványos megoldásokat találjon?
-
Igen
-
Nincs
-
Nekem más a véleményem, amit a megjegyzésekben fogok elmondani.
-
Nehéz válaszolni
31 felhasználó szavazott. 4 felhasználó tartózkodott.
8. Az AI modellezése és az erős mesterségesintelligencia létrehozása két különböző feladat, amelyeket különböző módszerekkel lehet megoldani?
-
Igen
-
Nincs
-
Nekem más a véleményem, amit a megjegyzésekben fogok elmondani.
-
Nehéz válaszolni
32 felhasználó szavazott. 4 felhasználó tartózkodott.
Forrás: www.habr.com