Jakého žáka potřebuje čaroděj a jakou AI potřebujeme my?

VAROVÁNÍ
Soudě podle rekordně vysokého poměru počtu tiše nespokojených k počtu komentátorů, kteří mají co namítat, není mnohým čtenářům zřejmé, že:
1) Toto je čistě teoretický diskusní článek. Nebudou zde žádné praktické rady ohledně výběru nástrojů pro těžbu kryptoměny nebo sestavení multivibrátoru na blikání dvou žárovek.
2) Toto není populárně vědecký článek. Pro atrapy principu fungování Turingova stroje na příkladu krabiček od zápalek nebude žádné vysvětlení.
3) Než budete pokračovat ve čtení, dobře se zamyslete! Láká vás postoj agresivního amatérismu: minusuji vše, čemu nerozumím?
Předem děkuji všem, kteří se rozhodnou tento článek nečíst!

Démon je počítačový program na systémech třídy UNIX, který je spouštěn samotným systémem a běží na pozadí bez přímé interakce uživatele.

Wikipedia

Ještě v předškolním věku jsem slýchal pohádku o čarodějnickém učni. Zopakuji to ve svém převyprávění:

Kdysi dávno, někde ve středověké Evropě, žil čaroděj. Měl velkou knihu kouzel svázanou v černé telecí kůži s železnými sponami a rohy. Když čaroděj potřeboval kouzlit, odemykal ho velkým železným klíčem, který nosil vždy na opasku ve speciálním váčku. Čaroděj měl také studenta, který čaroději sloužil, ale měl zakázáno nahlížet do knihy kouzel.

Jednoho dne čaroděj odešel na celý den služebně. Jakmile odešel z domu, student se vrhl do žaláře, kde byla alchymistická laboratoř, ve které ležela kniha kouzel připoutaná ke stolu. Student popadl kelímky, ve kterých čaroděj roztavil olovo, aby je proměnil ve zlato, položil je na pánev a rozdmýchal oheň. Náskok rychle roztál, ale ve zlato se neproměnil. Pak si student vzpomněl, že čaroděj, který roztavil olovo, pokaždé odemkl knihu klíčem a dlouho z ní šeptal kouzlo. Student se beznadějně podíval na zamčenou knihu a viděl, že vedle ní leží klíč, zapomenutý čarodějem. Pak se vrhl ke stolu, odemkl knihu, otevřel ji a hlasitě přečetl úplně první kouzlo, pečlivě vyslovoval neznámá slova po slabikách a předpokládal, že tak důležité kouzlo, jako je kouzlo přeměny olova ve zlato, bude jistě úplně první. .

Ale nic se nestalo: vedení se nechtělo proměňovat. Student chtěl zkusit další kouzlo, ale pak domem otřásla hromová rána a před studentem se objevil obrovský, strašidelný démon, vyvolaný kouzlem, které student právě přednesl.
- Objednat! - zavrčel démon.
Ze strachu všechny myšlenky opustily studentovu hlavu, nemohl se ani pohnout.
- Rozkazuj, nebo tě sežeru! - démon znovu zavrčel a natáhl ke studentovi obrovskou ruku, aby ho popadl.
Student v zoufalství zamumlal první věc, která ho napadla:
- Zalévejte tuto květinu.
A ukázal na muškát, jehož květináč stál na podlaze v rohu laboratoře, ve stropě nad květinou bylo jediné malé okénko v kobce, kudy sotva pronikalo sluneční světlo. Démon zmizel, ale o chvíli později se znovu objevil s obrovským sudem s vodou, kterým otočil květinu a vylil vodu. Znovu zmizel a objevil se s plným sudem.
"To stačí," vykřikl student a stál po pás ve vodě.
Ale zjevně nestačila jen touha – démon nosil a nosil vodu v sudu a vyléval ji do rohu, kde kdysi stála pod vodou ukrytá květina. K zahnání démona bylo pravděpodobně potřeba speciální kouzlo. Ale stůl s knihou už zmizel v kalné vodě, ve které plaval popel a uhlíky z pánve, prázdné retorty, baňky, stolice, galvanometry, dozimetry, jednorázové injekční stříkačky a další odpadky, takže i kdyby student věděl, jak najít požadované kouzlo, nemohl to udělat. Voda stoupala a student vylezl na stůl, aby se neudusil. Ale to nepomohlo dlouho - démon metodicky pokračoval v nošení vody. Student už byl po krk ve vodě, když se zaklínač vrátil a zjistil, že zapomněl klíč od knihy doma, a démona zahnal. Konec pohádky.

Hned o samozřejmém. S přirozenou inteligencí (NI) studenta by se zdálo, že je vše jasné – hloupost, něco ještě hloupějšího musíte dlouho hledat. Ale s inteligencí démona - mimochodem, jakou má inteligenci: EI nebo AI? – nejednoznačný. Různé verze jsou legitimní (a také o nich vyvstanou otázky):

Verze 1) Démon je ještě hloupější než student. Dostal rozkaz a bude ho plnit donekonečna, i když veškerý význam zmizí: květina - předmět zalévání - zmizí, úhel, ke kterému jsou připojeny souřadnice květiny, zmizí, planeta Země zmizí a hloupý démon bude i nadále dodávat vodu v sudech do určitého bodu ve vesmíru. A pokud v tomto bodě vypukne supernova, pak je démonovi jedno, kam vodu nést. Navíc: jak hloupý musíte být, abyste zalévali malou květinu z obrovského sudu? Tomu se už říká nezalévat květinu, ale utopit květinu. Rozumí vůbec smyslu rozkazů?

Verze 2) Démon všemu rozumí, ale je vázán povinnostmi. Takže vede něco jako italskou stávku. Dokud nebude oficiálně vyhozen podle všech pravidel, nepřestane.

Otázka 1 k verzím 1,2) Jak odlišit úplně hloupého démona podle verze 1 od vůbec ne hloupého démona podle verze 2?
Otázka 2 k verzi 1,2) Provedl by démon správně (z pohledu studenta) přesnější formulaci? Pokud například student řekl: vezmi si tu prázdnou litrovou baňku, která je na polici, naplň ji vodou a jednou zalij ten květ. Nebo kdyby například žák řekl: jdi pryč.

Verze 3) Čaroděj seslal na démona dodatečné kouzlo, podle kterého pokud někdo jiný než čaroděj využije služeb démona, pak musí démon o této skutečnosti čaroděje okamžitě informovat.

Verze 4) Démon nechová zášť vůči čaroději a jeho studentovi, a proto, když viděl, že se situace vymkla kontrole, při pohybech s barelem se objevil za čarodějovými zády a štěkal: „Zapomněl jsi klíč doma , je povodeň." Ale čaroděj sám by si nevzpomněl.

Poznámka 1 k verzi 4) Zvláště stojí za zmínku, že EI nosiče mají velmi nedokonalou paměť.

Další verze lze namnožit jako „králíky Fibonacciho“, tzn. není příliš složitý algoritmus. Například:
Verze 5) Démon se mstí studentovi za to, že ho vyrušil.
Verze 6) Démon nechová vůči studentovi zášť, ale mstí se čaroději.
Verze 6) Démon se mstí všem.
Verze 7) Démon se nemstí, ale baví se. Končí, když se unaví.
A tak dále.

Takže s démonem je jasné, že nic není jasné. O nic lepší s čarodějem. Můžete přijít s neméně verzemi: že se schválně rozhodl dát lekci studentovi, který všude strká svůj zvědavý nos; že chtěl studenta utopit, ale když démon štěkal o povodni, dostal strach - najednou to slyšel jeden z kolemjdoucích, pak padne podezření na čaroděje; chtěl ve studentovi probudit zájem o kouzla atd.

Zde je možná dětinská otázka: která z navrhovaných verzí je správná? Zřejmě jakýkoli. V příběhu nezůstaly žádné informace, které by upřednostňovaly jakoukoli verzi před ostatními. Zde máme co do činění s celkem častým případem uměleckých děl s možností nejednoznačného výkladu. Pokud chce režisér například uvést tuto pohádku v divadle nebo podle ní natočit film, může si vybrat interpretaci, která je z jeho pohledu nejatraktivnější. Jinému režisérovi může připadat atraktivní jiná interpretace. Atraktivitu lze zároveň určovat dalšími ohledy, například atraktivitou pro diváky, aby byly zajištěny maximální příjmy z pokladny, nebo atraktivitou prokázat nějakou supermyšlenku: myšlenku vítězství dobra nad zlem, představa povinnosti, vzpurný nápad - například podle Dostojevského: student, stejně jako Raskolnikov, se ptá: „je třesoucí se stvoření nebo má právo“ atd.

Nabízí se další otázka.
Ještě jedna otázka). Jak můžeme naučit AI upřednostňovat jednu z vyjádřených verzí, když my sami, máme AI, si nemůžeme vždy vědomě vybrat jednu z nich?

Vrátíme-li se k zaklínači, velmi věrohodně vypadá verze, že chtěl poslušného a poslušného studenta jako démona, aby nestrkal nos do zakázaných knih a kde se ho neptali. Totéž se nyní často požaduje od AI. Na první pohled jsou to normální tradiční požadavky na jakýkoli stroj: naprostá poslušnost, neposlušnost je nepřijatelná. Ale v případě AI může nastat otázka verzí 1,2 (viz výše), tzn. AI degeneruje – hardware si o svých tvůrcích a majitelích může myslet co chce, ale nebude provádět žádné akce související s AI, tzn. Místo AI dostaneme hloupý primitivní automat. Z toho se vkrádá podezření: možná čaroděj nechtěl ze studenta udělat tak hloupého umělce, jako je démon? Tito. Objevuje se myšlenka AI s omezeními. Zde je vše ještě obtížnější i v oblasti EI: pamatujte na věčné konflikty „otcové a synové“, „učitel a student“, „šéf a podřízený“.

Dříve Při výběru definice AI z těch možných jsem poznamenal:

úkol seřadit několik desítek tisíc slov podle abecedy bude pro člověka únavný, bude mu to trvat dlouho a pravděpodobnost chyb pro průměrného umělce s průměrnou mírou odpovědnosti bude značná. Moderní počítač provede tento úkol bez chyb ve velmi krátkém čase pro člověka (zlomky sekundy).

Rozhodl jsem se pro následující definici: AI zahrnuje úkoly, které počítač řeší výrazně hůře než člověk.

Tato definice zohledňuje výše vyjádřené úvahy a je vhodná pro praxi, zároveň není ideální, už proto, že seznamy úloh, „které počítač vyřeší znatelně hůř než člověk“, se dnes a před 20 lety liší. . Ale podle mého názoru ještě nikdo nepřišel s dokonalejší definicí.

Výše uvedené čistě kvalitativně ilustruje schéma na začátku článku. Na souřadnicové ose „dovednosti“ odpovídají dovednosti v oblasti nula (nula a mírně více) dovednostem, kde je člověk nadřazený počítači, například ve schopnosti činit nestandardní rozhodnutí. Dovednosti v oblasti jedna (jedna a o něco méně) odpovídají dovednostem, kde je počítač nadřazený člověku: schopnost počítat, paměť. Položením maximální převahy rovné konvenční jednotce na souřadnicovou osu „nadřazenosti“ získáme závislost převahy na dovednostech pro lidi a počítače ve formě úhlopříček jednotkového čtverce. Takto vypadá situace v současnosti. Je možné, aby silná AI měla všechny své dovednosti na maximum (červená čára)? Nebo ještě vyšší (super-AI - modrá čára)? Možná by průběžný cíl pokroku neměl být silný, ale ne tak docela
slabá AI (purple line), která bude v řadě dovedností horší než AI, ale ne o tolik jako nyní.

Vrátíme-li se k naší literární pohádkové předloze, můžeme říci, že všichni její hrdinové si nevedli zrovna nejlépe: zbabělý čaroděj zapomněl klíč a dostal do žaláře potopu, student hloupostí a neopatrností dostal spoustu extrémní dojmy a málem se utopil, démon byl vykopnut bez jakékoli vděčnosti. Pokud jde o inteligenci démona, již bylo poznamenáno, že je obtížné ho jasně klasifikovat jako AI nebo EI, ale inteligence (i když ne působivá) ostatních k EI jednoznačně patří. Dá se o nich říci, že dělat nebezpečné chyby v rozhodování, být nepozorný, zapomínat na potřebné věci a unavovat se jsou jejich hlavními neodmyslitelnými vlastnostmi. Bohužel tyto vlastnosti jsou ve větší či menší míře vlastní všem ostatním nosičům EI. Nespolehlivost řazení slov nebo čísel uživatelského rozhraní již byla zmíněna výše, ale zdálo by se, že je to ještě jednodušší úkol - pouhé zapamatování čísla se pro lidi ukazuje jako velmi obtížné. U stroje je schopnost zapamatovat si číslice pí omezena pouze velikostí jeho paměti a většina lidí musí používat mnemotechnické pomůcky, jako „Co já vím o kruzích.“ Zdálo by se, že řádek „3,1416“ má méně znaků než zadaná mnemotechnická pomůcka, ale z nějakého důvodu lidé dávají přednost zapamatování méně ekonomickým způsobem. A déle:

Naučte se a poznejte číslo za číslem, jak si všimnout štěstí

Abychom nedělali chyby,
Musí se správně číst
Tři, čtrnáct, patnáct
Devadesát dva a šest

Pro zapamatování barev duhy:

Každý návrhář chce vědět, kde stáhnout Photoshop

A začátek periodické tabulky:

Nativní voda (vodík) byla smíchána s gelem (helium) k nalití (lithium). Ano, Vezmi a nalij (Beryllium) do borového lesa (Bór), odkud zpod Nativního rohu (Uhlík) vykukuje Asiat (Dusík) a s takovým Kyslíkem (kyslíkem), že Sekundární (Fluor) jsem nepoznal. chtít se podívat. My jsme ho ale nepotřebovali (Neon), tak jsme se odstěhovali o tři (Sodium) metry a skončili v Magnolia (Magnesium), kde byla Alya v mini (hliníkové) sukni namazaná Krémem (Silicon) obsahujícím Phosphorus (Phosphorus) aby přestala být Sera (Sera). Poté Alya vzala chlór (chlór) a umyla loď Argonautů (Argon)

Ale proč taková zjevná nedokonalost v tak dokonalém EI? Možná díky schopnosti zapomenout na ta nejjednodušší fakta získává člověk svobodu spojovat fragmenty svých myšlenek v libovolném divokém řádu a nacházet nestandardní řešení? Pokud ano, pak je silná AI nemožná. Buď zapomene jako člověk, nebo nebude schopen nestandardních řešení. V každém případě z výše uvedených předpokladů vyplývá, že je nutné rozlišovat mezi cíli AI: jedním z cílů je modelování AI, druhým vytvoření silné AI. Dosažení jednoho může vyloučit dosažení druhého.

Jak vidíme, v oblasti AI je příliš mnoho otázek s nejednoznačnými odpověďmi, takže není jasné, jakým směrem se ubírat. Jak se v takových případech stává, snaží se pohybovat všemi směry najednou. Zároveň se kvůli nedostatku matematicky rigorózních formulací musíme obracet k filozofii a uměleckému a literárnímu modelování. Jedním z nejznámějších příkladů v tomto směru je kniha „Turing Selection“ (1992) od jednoho z hlavních představitelů AI, Marvina Lee Minskyho, a slavného spisovatele sci-fi Harryho Harrisona. Budu citovat z této knihy, možná vysvětlující výše popsaný fenomén mnemotechniky:

Lidská paměť není magnetofon, který zaznamenává vše v chronologickém pořadí. Je strukturován úplně jinak – spíše jako nedbale udržovaná kartotéka, vybavená matoucím a protichůdným indexem. A nejen matoucí – čas od času měníme principy klasifikace pojmů.

Zajímavá interpretace metafory magnetofonu v jiném literárním díle, příběhu Stanislawa Lema „Terminus“ (ze série „Příběhy o pilotovi Pirxovi“). Zde je případ jakéhosi „inteligentního magnetofonu“: starý robot na staré vesmírné lodi, která kdysi utrpěla nehodu, je zapojena do probíhajících oprav doprovázených odposlechem. Ale když budete pozorně poslouchat, nejde jen o bílý technologický šum, ale o záznam Morseovy abecedy – rozhovory mezi členy posádky umírající lodi. Pirx zasahuje do těchto jednání a nečekaně dostává odpověď od dávno mrtvých astronautů. Ukazuje se, že primitivní opravářský robot nějakým způsobem uchovává kopie jejich vědomí nebo jde o kognitivní zkreslení vnímání pilota Pirxe?

V jiném příběhu, „Ananke“ (ze stejné série), kopie EI v řídicím počítači vesmírného transportu vede k jeho paranoidnímu přetížení testovacími úkoly, které končí katastrofou.

V příběhu „Nehoda“ zemře příliš antropomorfně naprogramovaný robot v důsledku horolezeckého výstupu, který se rozhodl podniknout ve svém volném čase. Jsou takoví umělci potřeba? Ale démoni fixovaní na zalévání květiny také nejsou vždy potřeba.

Některým specialistům v oblasti AI se takové „filozofování“ a „literárnost“ nelíbí, ale toto „filozofování“ a „literárnost“ jsou tradičně vlastní analýze AI a jsou nevyhnutelné, pokud je AI srovnávána s AI, a dokonce tím spíše, pokud se AI snaží kopírovat AI.

Na závěr průzkum o řadě problémů, které vyvstaly.

Průzkumu se mohou zúčastnit pouze registrovaní uživatelé. Přihlásit se, prosím.

1. Zahrnuje AI úkoly, které počítač řeší výrazně hůře než člověk?

• Ano

• Ne

• Definici znám lépe. Dám to do komentářů.

• Ztrácím odpověď

Hlasovalo 34 uživatelů. 7 uživatelů se zdrželo hlasování.

2. Měla by být AI pouze vykonavatelem, měly by být všechny příkazy brány doslova? Říkali například zalévat květinu – to znamená zalévat, dokud vás nevyženou

• Ano

• Ne

• Ztrácím odpověď

Hlasovalo 37 uživatelů. 6 uživatelů se zdrželo hlasování.

3. Je možné mít silnou AI, ve které budou všechny dovednosti maximální (červená čára na obrázku na začátku článku)?

• Ano

• Ne

• Ztrácím odpověď

Hlasovalo 35 uživatelů. 7 uživatelů se zdrželo hlasování.

4. Je možná super-AI (modrá čára na obrázku na začátku článku)?

• Ano

• Ne

• Ztrácím odpověď

Hlasovalo 36 uživatelů. 7 uživatelů se zdrželo hlasování.

5. Mezicílem by neměla být silná, ale ani úplně slabá AI (fialová čára na obrázku na začátku článku), která bude v řadě dovedností horší než AI, ale ne o tolik jako nyní ?

• Ano

• Ne

• Ztrácím odpověď

Hlasovalo 33 uživatelů. 5 uživatelů se zdrželo hlasování.

6. Dělat nebezpečné chyby v rozhodování, být nepozorný, zapomínat na potřebné věci a být unavený jsou hlavními vlastnostmi EI?

• Ano

• Ne

• Mám jiný názor, který uvedu v komentářích.

• Ztrácím odpověď

Hlasovalo 33 uživatelů. 5 uživatelů se zdrželo hlasování.

7. Díky schopnosti zapomenout na nejjednodušší fakta získává člověk svobodu spojovat fragmenty svých myšlenek v libovolném divokém řádu a nacházet nestandardní řešení?

• Ano

• Ne

• Mám jiný názor, který uvedu v komentářích.

• Ztrácím odpověď

Hlasovalo 31 uživatelů. 4 uživatelů se zdrželo hlasování.

8. Modelování AI a vytváření silné AI jsou dva různé úkoly, které lze vyřešit různými metodami?

• Ano

• Ne

• Mám jiný názor, který uvedu v komentářích.

• Ztrácím odpověď

32 uživatelé hlasovali. 4 uživatelé se zdrželi hlasování.

Zdroj: www.habr.com