VAROVANIE
Súdiac podľa rekordne vysokého pomeru počtu ticho nespokojných k počtu komentujúcich, ktorí majú čo namietať, mnohým čitateľom nie je zrejmé, že:
1) Toto je čisto teoretický diskusný článok. Nebudú tu žiadne praktické rady ohľadom výberu nástrojov na ťažbu kryptomeny či zostavenie multivibrátora na blikanie dvoch žiaroviek.
2) Toto nie je populárno-vedecký článok. Pre atrapy princípu fungovania Turingovho stroja na príklade zápalkových škatuliek nebude žiadne vysvetlenie.
3) Pred pokračovaním v čítaní sa dobre zamyslite! Oslovuje vás postoj agresívneho amaterizmu: mínus všetko, čomu nerozumiem?
Vopred ďakujem všetkým, ktorí sa rozhodnú nečítať tento článok!
Démon je počítačový program na systémoch triedy UNIX, ktorý spúšťa samotný systém a beží na pozadí bez priamej interakcie používateľa.
Ešte v predškolskom veku som počúval rozprávku o čarodejníckom učňovi. Zopakujem to v mojom prerozprávaní:
Kedysi dávno, niekde v stredovekej Európe, žil čarodejník. Mal veľkú knihu kúziel zviazanú v čiernej teľacej koži so železnými sponami a rohmi. Keď čarodejník potreboval čarovať, odomykal ho veľkým železným kľúčom, ktorý nosil vždy na opasku v špeciálnom vrecúšku. Čarodejník mal aj študenta, ktorý čarodejníkovi slúžil, no ten mal zakázané nahliadať do knihy kúziel.
Jedného dňa čarodejník odišiel na celý deň služobne. Len čo odišiel z domu, študent sa vrútil do žalára, kde bolo alchymistické laboratórium, v ktorom ležala kniha kúziel pripútaná k stolu. Študent schmatol tégliky, v ktorých čarodejník roztavil olovo, aby ho premenil na zlato, položil ich na ohnisko a rozdúchal oheň. Náskok sa rýchlo roztopil, no nepremenil sa na zlato. Potom si študent spomenul, že čarodejník, ktorý roztopil olovo, zakaždým odomkol knihu kľúčom a dlho z nej zašepkal kúzlo. Študent sa beznádejne pozrel na zamknutú knihu a videl, že vedľa nej leží kľúč, zabudnutý čarodejníkom. Potom sa ponáhľal k stolu, odomkol knihu, otvoril ju a nahlas prečítal úplne prvé kúzlo, opatrne vyslovoval neznáme slová po slabikách, pričom predpokladal, že také dôležité kúzlo, akým je kúzlo premeny olova na zlato, bude určite úplne prvé. .
Ale nič sa nestalo: vedenie sa nechcelo premeniť. Študent chcel vyskúšať ďalšie kúzlo, ale potom domom otriasol hrom a pred študentom sa objavil obrovský, strašidelný démon, vyvolaný kúzlom, ktoré študent práve predniesol.
- Objednať! - zavrčal démon.
Zo strachu všetky myšlienky opustili študentovu hlavu, nemohol sa ani pohnúť.
- Rozkazujte, inak vás zjem! - démon znova zavrčal a natiahol k študentovi obrovskú ruku, aby ho schmatol.
Študent v zúfalstve zamrmlal prvé, čo mu napadlo:
- Zalejte túto kvetinu.
A ukázal na muškát, ktorého hrniec stál na podlahe v rohu laboratória, v strope nad kvetinou bolo jediné malé okno v žalári, cez ktoré sotva preniklo slnečné svetlo. Démon zmizol, no o chvíľu sa opäť objavil s obrovským sudom s vodou, ktorým prevrátil kvetinu a vylial vodu. Opäť zmizol a opäť sa objavil s plným sudom.
"To stačí," zakričal študent a stál po pás vo vode.
Ale očividne len túžba nestačila - démon nosil a nosil vodu v sude a vylial ju do rohu, kde kedysi stál pod vodou ukrytý kvet. Na odohnanie démona bolo pravdepodobne potrebné špeciálne kúzlo. No stolík s knihou už zmizol v kalnej vode, v ktorej sa vznášal popol a uhlíky z ohniska, prázdne retorty, banky, stolice, galvanometre, dozimetre, jednorazové striekačky a iné odpadky, takže aj keby študent vedel nájsť požadované kúzlo, nedokázal to. Voda stúpala a študent vyliezol na stôl, aby sa nezadusil. Ale to nepomohlo dlho - démon metodicky pokračoval v nosení vody. Študent bol už po krk vo vode, keď sa čarodejník vrátil a zistil, že kľúč od knihy zabudol doma a démona zahnal. Koniec rozprávky.
Hneď o samozrejmosti. Pri prirodzenej inteligencii (NI) študenta by sa zdalo, že všetko je jasné – hlúposť, treba dlho hľadať niečo ešte hlúpejšie. Ale s inteligenciou démona - mimochodom, aký druh inteligencie má: EI alebo AI? – nejednoznačný. Rôzne verzie sú legitímne (a vyvstanú o nich aj otázky):
Verzia 1) Démon je ešte hlúpejší ako študent. Dostal rozkaz a bude ho vykonávať donekonečna, aj keď pominie všetok zmysel: zmizne kvet - objekt polievania, zmizne uhol, ku ktorému sú pripojené súradnice kvetu, zmizne planéta Zem a hlúpy démon bude naďalej dodávať vodu v sudoch do určitého bodu vo vesmíre. A ak v tomto bode vypukne supernova, potom sa démon nestará, kam ponesie vodu. Navyše: aký hlúpy musíte byť, aby ste zaliali malý kvietok z obrovského suda? Tomu sa už hovorí nepolievanie kvetu, ale utopenie kvetu. Chápe vôbec význam príkazov?
Verzia 2) Démon všetkému rozumie, no je viazaný povinnosťami. Takže vedie niečo ako taliansky štrajk. Kým ho oficiálne nevykopnú podľa všetkých pravidiel, neprestane.
Otázka 1 k verziám 1,2) Ako rozlíšiť úplne hlúpeho démona podľa verzie 1 od vôbec nie hlúpeho démona podľa verzie 2?
Otázka 2 k verziám 1,2) Urobil by démon správne (z pohľadu študenta) presnejšiu formuláciu? Napríklad, ak študent povedal: vezmite tú prázdnu litrovú fľašu, ktorá je na poličke, naplňte ju vodou a raz zalejte ten kvet. Alebo napríklad, ak študent povedal: choď preč.
Verzia 3) Čarodejník zoslal na démona dodatočné kúzlo, podľa ktorého ak niekto iný ako čarodej využije služby démona, tak démon musí o tejto skutočnosti čarodeja okamžite informovať.
Verzia 4) Démon neprechováva zášť voči čarodejníkovi a jeho študentovi, a preto, keď videl, že situácia sa vymkla spod kontroly, pri pohybe s barelom sa objavil za čarodejovým chrbtom a zaštekal: „Zabudol si kľúč doma , je povodeň.“ Ale samotný čarodejník by si to nepamätal.
Poznámka 1 k verzii 4) Zvlášť stojí za zmienku, že EI nosiče majú veľmi nedokonalú pamäť.
Ďalšie verzie je možné množiť ako „Fibonacciho králiky“, t.j. nie príliš zložitý algoritmus. Napríklad:
Verzia 5) Démon sa pomstí študentovi za to, že ho vyrušil.
Verzia 6) Démon neprechováva voči študentovi zášť, ale pomstí sa čarodejníkovi.
Verzia 6) Démon sa mstí každému.
Verzia 7) Démon sa nepomstí, ale zabáva sa. Končí, keď sa unaví.
Atď.
Takže s démonom je jasné, že nič nie je jasné. O nič lepšie s čarodejníkom. Môžete prísť s nie menšími verziami: že sa zámerne rozhodol dať lekciu študentovi, ktorý všade strká svoj zvedavý nos; že chcel študenta utopiť, ale keď démon štekal o povodni, zľakol sa - zrazu to počul jeden z okoloidúcich, vtedy padlo podozrenie na čarodejníka; chcel v študentovi prebudiť záujem o kúzla atď.
Tu je možná detská otázka: ktorá z navrhovaných verzií je správna? Zdá sa, že akýkoľvek. V príbehu nezostali žiadne informácie, ktoré by uprednostňovali akúkoľvek verziu pred ostatnými. Tu máme do činenia s pomerne častým prípadom umeleckých diel s možnosťou nejednoznačného výkladu. Ak chce režisér napríklad uviesť túto rozprávku do divadla alebo nakrútiť podľa nej film, môže si vybrať interpretáciu, ktorá je z jeho pohľadu najatraktívnejšia. Inému režisérovi sa môže zdať atraktívna iná interpretácia. Atraktívnosť môže byť zároveň určená dodatočnými úvahami, napríklad atraktívnosťou pre divákov, aby sa zabezpečili maximálne tržby v pokladniach, alebo atraktívnosťou demonštrovať nejakú super myšlienku: myšlienku víťazstva dobra nad zlom, predstava o povinnosti, rebelantský nápad - napríklad podľa Dostojevského: študent, podobne ako Raskoľnikov, si kladie otázku „je trasúcim sa tvorom alebo má právo“ atď.
Vynára sa ďalšia otázka.
Ešte jedna otázka). Ako môžeme naučiť AI uprednostňovať jednu zo vyjadrených verzií, ak si my sami, keďže máme AI, nemôžeme vždy vedome vybrať jednu z nich?
Keď sa vrátime k čarodejníkovi, verzia, že chcel poslušného a poslušného študenta ako démona, aby nestrkal nos do zakázaných kníh a kde sa ho nepýtali, vyzerá veľmi vierohodne. To isté sa teraz často vyžaduje od AI. Na prvý pohľad sú to bežné tradičné požiadavky na akýkoľvek stroj: úplná poslušnosť, neposlušnosť je neprijateľná. Ale v prípade AI môže nastať otázka verzií 1,2 (pozri vyššie), t.j. AI degeneruje – hardvér si o svojich tvorcoch a majiteľoch môže myslieť čo chce, no nebude vykonávať žiadne akcie súvisiace s AI, t.j. Namiesto AI dostaneme hlúpy primitívny automat. Z toho sa vkráda podozrenie: možno čarodejník nechcel zo študenta urobiť takého hlúpeho umelca, akým je démon? Tie. Objavuje sa myšlienka AI s obmedzeniami. Tu je všetko ešte ťažšie aj v oblasti EI: pamätajte na večné konflikty „otcovia a synovia“, „učiteľ a študent“, „šéf a podriadený“.
Pri výbere definície AI spomedzi možných som si všimol:
úloha zoradiť niekoľko desiatok tisíc slov podľa abecedy bude pre človeka únavná, zaberie mu to veľa času a pravdepodobnosť chýb pre priemerného umelca s priemernou mierou zodpovednosti bude značná. Moderný počítač vykoná túto úlohu bez chýb vo veľmi krátkom čase pre človeka (zlomky sekundy).
Rozhodol som sa pre nasledujúcu definíciu: AI zahŕňa úlohy, ktoré počítač rieši podstatne horšie ako človek.
Táto definícia zohľadňuje vyššie uvedené úvahy a je vhodná pre prax, zároveň nie je ideálna, už len preto, že zoznamy úloh, „ktoré počítač rieši výrazne horšie ako človek“, sú dnes a pred 20 rokmi iné. . Ale podľa mňa ešte nikto neprišiel s dokonalejšou definíciou.
Vyššie uvedené čisto kvalitatívne ilustruje diagram na začiatku článku. Na súradnicovej osi „zručnosti“ zodpovedajú zručnosti v oblasti nula (nula a trochu viac) zručnostiam, kde je človek nadradený počítaču, napríklad v schopnosti robiť neštandardné rozhodnutia. Zručnosti v oblasti jedna (jedna a o niečo menej) zodpovedajú zručnostiam, v ktorých je počítač nadradený človeku: schopnosť počítať, pamäť. Položením maximálnej nadradenosti rovnajúcej sa konvenčnej jednotke na súradnicovú os „nadradenosti“ získame závislosť nadradenosti na zručnostiach pre ľudí a počítače vo forme uhlopriečok jednotky štvorca. Takto vyzerá situácia v súčasnosti. Je možné, aby silná AI mala všetky svoje schopnosti na maximum (červená čiara)? Alebo ešte vyššie (super-AI - modrá čiara)? Možno by prechodný cieľ pokroku nemal byť silný, ale nie celkom
slabá AI (fialová línia), ktorá bude v mnohých zručnostiach nižšia ako AI, ale nie o toľko ako teraz.
Ak sa vrátime k našej literárnej rozprávkovej predlohe, môžeme povedať, že všetci jej hrdinovia si nepočínali práve najlepšie: zaklínač zabudol kľúč a dostal do žalára potopu, študent hlúposťou a neopatrnosťou dostal kopu extrémne dojmy a takmer sa utopil, démon bol bez akejkoľvek vďačnosti vykopnutý. Čo sa týka inteligencie démona, už bolo poznamenané, že je ťažké ho jasne klasifikovať ako AI alebo EI, ale inteligencia (aj keď nie pôsobivá) ostatných jednoznačne patrí EI. Dá sa o nich povedať, že robiť nebezpečné chyby v rozhodnutiach, byť nepozorný, zabúdať na potrebné veci a unaviť sa sú ich hlavné prirodzené vlastnosti. Bohužiaľ, tieto vlastnosti sú vo väčšej či menšej miere vlastné všetkým ostatným nosičom EI. Nespoľahlivosť triedenia slov alebo čísel EI už bola uvedená vyššie, ale zdá sa, že je to ešte jednoduchšia úloha - jednoduché zapamätanie čísla je pre ľudí veľmi ťažké. V prípade stroja je schopnosť zapamätať si číslice pi obmedzená iba veľkosťou jeho pamäte a väčšina ľudí musí používať , napríklad „Čo viem o kruhoch.“ Zdalo by sa, že riadok „3,1416 XNUMX“ má menej znakov ako špecifikovaná mnemotechnická pomôcka, ale z nejakého dôvodu ľudia uprednostňujú zapamätanie menej ekonomickým spôsobom. A ešte dlhšie:
Naučte sa a poznajte číslo za číslom, ako si všimnúť šťastie
Aby sme neurobili chyby,
Treba správne prečítať
Tri, štrnásť, pätnásť
Deväťdesiat dva a šesť
Aby ste si zapamätali farby dúhy:
Každý dizajnér chce vedieť, kde stiahnuť Photoshop
A začiatok periodickej tabuľky:
Natívna voda (vodík) sa zmiešala s gélom (hélium) na naliatie (lítium). Áno, Vezmi a nalejte (Beryllium) do borovicového lesa (Bór), odkiaľ spod Rodného kúta (Uhlík) vykukne Ázijec (Dusík) a s takou Kyslou tvárou (Kyslík), že Sekundárne (Fluór) nie. chcieť pozrieť. Ale my sme ho nepotrebovali (Neon), tak sme sa presťahovali o tri (Sodík) metre ďalej a skončili v Magnolia (Magnesium), kde bola Alya v mini (hliníkovej) sukni natretá krémom (Silicon) obsahujúcim fosfor (Phosphorus) aby prestala byť Sera (Sera). Potom Alya vzala chlór (chlór) a umyla loď Argonautov (argón)
Ale prečo taká zjavná nedokonalosť v takom dokonalom EI? Možno, že vďaka schopnosti zabudnúť na najjednoduchšie fakty, človek získa slobodu kombinovať fragmenty svojich myšlienok v ľubovoľnom divokom poriadku a nachádzať neštandardné riešenia? Ak áno, potom je silná AI nemožná. Buď zabudne ako človek, alebo nebude schopný neštandardných riešení. V každom prípade z vyššie uvedených predpokladov vyplýva, že je potrebné rozlišovať medzi cieľmi AI: jedným z cieľov je modelovanie AI, druhým je vytvorenie silnej AI. Dosiahnutie jedného môže vylúčiť dosiahnutie druhého.
Ako vidíme, v oblasti AI je príliš veľa otázok s nejednoznačnými odpoveďami, takže nie je jasné, akým smerom sa pohnúť. Ako sa to stáva v takýchto prípadoch, snažia sa pohybovať všetkými smermi naraz. Zároveň sa pre nedostatok matematicky presných formulácií treba obrátiť na filozofiu a umelecké a literárne modelovanie. Jedným z najznámejších príkladov v tomto smere je kniha „Turing Selection“ (1992) od jedného z hlavných predstaviteľov AI, Marvina Lee Minskyho, a slávneho spisovateľa sci-fi Harryho Harrisona. Budem citovať z tejto knihy, možno vysvetlím vyššie opísaný fenomén mnemotechniky:
Ľudská pamäť nie je magnetofón, ktorý zaznamenáva všetko v chronologickom poradí. Je štruktúrovaný úplne inak – skôr ako nedbale udržiavaná kartotéka vybavená mätúcim a protichodným indexom. A nielen mätúce – z času na čas meníme princípy klasifikácie pojmov.
Zaujímavá interpretácia metafory magnetofónu v inom literárnom diele, príbeh Stanislawa Lema „Terminus“ (zo série „Príbehy o pilotovi Pirxovi“). Tu je prípad akéhosi „inteligentného magnetofónu“: starý robot na starej vesmírnej lodi, ktorá kedysi utrpela nehodu, je zapojená do prebiehajúcich opravárenských prác sprevádzaných poklepaním. Ak však pozorne počúvate, nejde len o biely technologický šum, ale o záznam morzeovky – rozhovorov medzi členmi posádky umierajúcej lode. Pirx zasahuje do týchto rokovaní a nečakane dostane odpoveď od dávno mŕtvych astronautov. Ukazuje sa, že primitívny opravárenský robot nejakým spôsobom uchováva kópie ich vedomia alebo ide o kognitívne skreslenia vnímania pilota Pirxa?
V inom príbehu „Ananke“ (z tej istej série) kópia EI v riadiacom počítači vesmírneho transportu vedie k jeho paranoidnému preťaženiu testovacími úlohami, ktoré končí katastrofou.
V príbehu „Nehoda“ zahynie príliš antropomorfne naprogramovaný robot v dôsledku horolezeckého výstupu, ktorý sa rozhodol podniknúť vo svojom voľnom čase. Sú takí interpreti potrební? Ale démoni fixovaní na polievanie kvetu tiež nie sú vždy potrebné.
Niektorí odborníci v oblasti AI nemajú radi takéto „filozofovanie“ a „literárnosť“, ale toto „filozofovanie“ a „literárnosť“ sú tradične vlastné analýze AI a sú nevyhnutné, pokiaľ sa AI porovnáva s AI, a dokonca ešte viac, pokiaľ sa AI snaží kopírovať AI.
Na záver prieskum o množstve problémov, ktoré vyvstali.
Do prieskumu sa môžu zapojiť iba registrovaní užívatelia. Prosím.
1. Zahŕňa AI úlohy, ktoré počítač rieši podstatne horšie ako človek?
-
Да
-
Nie
-
Poznám lepšie definíciu. Dám to do komentárov.
-
Ťažko sa mi odpovedá
Hlasovalo 34 užívateľov. 7 užívateľov sa zdržalo hlasovania.
2. Ak má byť AI iba vykonávateľ, mali by sa všetky príkazy brať doslovne? Napríklad sa hovorilo polievať kvetinu – to znamená polievať, kým ťa nevyženú
-
Да
-
Nie
-
Ťažko sa mi odpovedá
Hlasovalo 37 užívateľov. 6 užívateľov sa zdržalo hlasovania.
3. Je možné mať silnú AI, v ktorej budú všetky schopnosti maximálne (červená čiara na obrázku na začiatku článku)?
-
Да
-
Nie
-
Ťažko sa mi odpovedá
Hlasovalo 35 užívateľov. 7 užívateľov sa zdržalo hlasovania.
4. Je možná super-AI (modrá čiara na obrázku na začiatku článku)?
-
Да
-
Nie
-
Ťažko sa mi odpovedá
Hlasovalo 36 užívateľov. 7 užívateľov sa zdržalo hlasovania.
5. Stredným cieľom by nemala byť silná, ale ani úplne slabá AI (fialová čiara na obrázku na začiatku článku), ktorá bude v mnohých zručnostiach nižšia ako AI, ale nie tak ako teraz ?
-
Да
-
Nie
-
Ťažko sa mi odpovedá
Hlasovalo 33 užívateľov. 5 užívateľov sa zdržalo hlasovania.
6. Robiť nebezpečné chyby v rozhodnutiach, byť nepozorný, zabúdať na potrebné veci a unaviť sa sú hlavné prirodzené vlastnosti EI?
-
Да
-
Nie
-
Mám iný názor, ktorý uvediem v komentároch.
-
Ťažko sa mi odpovedá
Hlasovalo 33 užívateľov. 5 užívateľov sa zdržalo hlasovania.
7. Vďaka schopnosti zabudnúť na najjednoduchšie fakty získava človek slobodu spájať útržky svojich myšlienok v ľubovoľnom divokom poriadku a nachádzať neštandardné riešenia?
-
Да
-
Nie
-
Mám iný názor, ktorý uvediem v komentároch.
-
Ťažko sa mi odpovedá
Hlasovalo 31 používateľov. 4 užívateľov sa zdržalo hlasovania.
8. Modelovanie AI a vytváranie silnej AI sú dve rôzne úlohy, ktoré možno vyriešiť rôznymi metódami?
-
Да
-
Nie
-
Mám iný názor, ktorý uvediem v komentároch.
-
Ťažko sa mi odpovedá
Hlasovali 32 používatelia. 4 používatelia sa zdržali hlasovania.
Zdroj: www.habr.com