UPOZORNĚNÍ
Soudě podle rekordně vysokého poměru počtu tiše nespokojených k počtu komentátorů, kteří mají co říct, mnoha čtenářům není jasné, že:
1) Jedná se o čistě teoretický diskusní článek. Nebudou zde žádné praktické doporučení pro výběr nástrojů pro těžbu kryptoměny nebo pro sestavení multivibrátoru, aby blikaly dvě žárovky.
2) Není to populárně vědecký článek. Nebudeme zde vysvětlovat pro laika princip činnosti Turingovy mašiny na příkladu krabiček zápalek.
3) Dobře si promyslete, než budete pokračovat ve čtení! Přitahuje vás postoj agresivního amatérismu: všechno, co nechápu, podtrhuji?
Předem děkuji všem, kteří se rozhodnou tuto zprávu nečíst!
Démon je počítačový program v systémech typu UNIX, který je spuštěn samotným systémem a pracuje na pozadí bez přímé interakce s uživatelským rozhraním.
Už v předškolním věku jsem slyšel pohádku o učni čaroděje. Omlouvám se, že ji přepracuji:
Kdysi, někde ve středověké Evropě žil čaroděj. Měl velkou knihu zaklínadel v vazbě z černé teletiny s uzávěrem a rohy z železa. Když čaroděj potřeboval přečíst zaklínadlo, odemykal ji velkým železným klíčem, který vždy nosil na pásu ve speciálním měšci. Čaroděj měl také učně, který mu asistoval, ale bylo mu zakázáno nahlížet do knihy zaklínadel.
Jednou čaroděj odešel na celý den vyřizovat záležitosti. Jakmile vyšel z domu, jeho žák se vrhl do podzemí, kde byla alchymistická laboratoř. Na stole tam ležela kniha kouzel, skřípěná řetězy. Žák vzal nádobky, v nichž čaroděj tavil olovo, aby je přetvořil na zlato, postavil je na rošt a rozfoukl oheň. Olovo se rychle rozpustilo, ale nepřeměnilo se na zlato. Tehdy si žák vzpomněl, že čaroděj pokaždé, když olovo tavil, odemykal knihu klíčem a dlouho šeptal kouzlo z ní. Žák beznadějně pohlédl na zamčenou knihu a všiml si, že vedle ní leží klíč, který čaroděj zapomněl. Pak se rozběhl ke stolu, otevřel knihu, rozevřel ji a hlasitě přečetl první kouzlo, snažíc se slabiku po slabice vyslovit neznámá slova, domnívaje se, že tak důležité kouzlo, jako je přeměna olova na zlato, bude jistě to první.
Ale nic se nestalo: olovo se nechtělo měnit. Žák chtěl zkusit jiné kouzlo, ale vtom dům zasáhla rána hromu a před žákem se objevil obrovský děsivý démon, vyvolaný kouzlem, které právě přečetl.
— Přikazuj! — zahučel démon.
Ze strachu žákovi všechny myšlenky vyletěly z hlavy, nedokázal se ani pohnout.
— Přikazuj, nebo tě sežeru! — znovu zhoučel démon a natáhl k žákovi obrovskou ruku, aby ho chytil.
V zoufalství žák zašeptal první, co ho napadlo:
— Polij ten květ.
A ukázal na pelargónii, jejíž květináč stál na podlaze v rohu laboratoře. Ve stropě nad květinou bylo jediné malé okno, kterým jen stěží pronikalo sluneční světlo. Démon zmizel, ale za chvíli se opět objevil s obrovským sudem vody, který převrhl nad květem a vodu vylil. Znovu zmizel a znovu se objevil s plným sudem.
— Dostačující, — zakřičel žák, už po pás ve vodě.
Ale zřejmě jedno přání nestačilo - démon stále nosil vodu v sudu, vyléval ji do rohu, kde kdysi stála pod vodou ukrytá květina. Pravděpodobně bylo potřeba speciální zaklínadlo, aby démona zahnal. Ale stůl s knihou už zmizel v kalné vodě, ve které plavaly popel a uhlí z ohniště, prázdné baňky, zkumavky, stoličky, galvanometry, dozimetry, jednorázové stříkačky a další nepořádek, takže i kdyby student věděl, jak najít správné zaklínadlo, nemohl by to udělat. Voda stoupala a student vylezl na stůl, aby se neudusil. Ale to pomohlo jen na chvíli – démon systematicky pokračoval v nošení vody. Student už byl po krk ve vodě, když se vrátil čaroděj, který zjistil, že zapomněl doma klíč od knihy, a démona zahnal. Konec pohádky.
Hned k tomu očividnému. S přirozenou inteligencí (PI) studenta, se zdá, že je vše jasné - hlupák, ještě hloupější by musel dlouho hledat. Ale co inteligence démona - mimochodem, jakou má: PI nebo II? - to je nejednoznačné. Různé verze jsou oprávněné (a k nim se budou objevovat i otázky):
Verze 1) Démon je ještě hloupější než student. Dostal příkaz a bude ho plnit nekonečně dlouho, i když veškerý smysl zmizí: zmizí květina - objekt zalévání, zmizí roh, ke kterému jsou přivázány souřadnice květiny, zmizí planeta Země, a hloupý démon bude i nadále vozit vodu do určitého bodu kosmického prostoru. A pokud v tomto bodě vypukne supernova, démonovi je jedno, kam vodu nosit. Navíc: jak hloupý musí být, aby zaléval malou květinu z obrovského sudu. To se už nedá nazvat zaléváním květiny, ale utopením květiny. On snad chápe alespoň smysl příkazů?
Verze 2) Démon vše chápe, ale je vázán závazky. Takže provádí něco jako italskou stávku. Dokud ho oficiálně podle všech pravidel nevyženou - nezastaví se.
Otázka 1 k verzím 1, 2) Jak odlišit úplně hloupého démona podle verze 1 od úplně nehloupého podle verze 2?
Otázka 2 k verzím 1, 2) Splnil by démon správně (z pohledu studenta) přesnější formulaci? Například, kdyby student řekl: vezmi tu prázdnou litrovou zkumavku, která stojí na polici, naplň ji vodou a zalij tu květinu 1 krát. Nebo například, kdyby student řekl: jdi pryč.
Verze 3) Čaroděj na démona navíc uvalil kouzlo, podle kterého, pokud někdo kromě čaroděje využije služby démona, musí demon okamžitě informovat čaroděje o tomto faktu.
Verze 4) Demon nechová zášť k čaroději a jeho žákovi, a proto, když vidí, že situace vymkla kontrole, objeví se za čarodějem s barely a zakřičí: "zapomněl jsi klíč od domu, je tam povodeň". A čaroděj by si tedy ani nevzpomněl.
Poznámka 1 k verzi 4) Je třeba zdůraznit, že nositelé EI mají často velmi nedokonalou paměť.
Dále lze verze množit jako "Fibonacciho králíky", tj. poměrně jednoduchým algoritmem. Například:
Verze 5) Demon se mstí žákovi za starosti.
Verze 6) Demon nechová zášť k žákovi, ale mstí se čaroději.
Verze 6) Demon se mstí všem.
Verze 7) Demon se nemstí, ale baví se. Skončí, až ho to přestane bavit.
Atd.
Takže u démona je jasné, že není nic jasného. A u čaroděje tomu není lépe. Lze vymyslet nejméně několik verzí: že se rozhodl potrestat žáka, jenž neustále strká zvědavý nos; že chtěl utopit žáka, ale když demon zakřičel o povodni, lekl se — co když někdo z kolemjdoucích uslyšel, pak by padlo podezření na čaroděje; chtěl vzbudit u žáka zájem o kouzla a tak dále.
Tady vzniká dětská otázka: která z navrhovaných verzí je správná? Patrně jakákoli. V pohádce nezůstala žádná nevyužitá informace, aby bylo možné některou z verzí preferovat před ostatními. Zde se setkáváme s poměrně častým případem uměleckých děl s možností mnohoznačné interpretace. Například, pokud by nějaký režisér chtěl tuto pohádku inscenovat v divadle nebo podle ní natočit film, může si vybrat nejatraktivnější interpretaci z jeho pohledu. Pro jiného režiséra může být atraktivní jiná interpretace. Přitom atraktivita může být určena dalšími úvahami, jako je atraktivita pro diváky, aby zajistila maximální tržby, nebo atraktivita pro zobrazení nějaké nadideje: myšlenka vítězství dobra nad zlem, myšlenka povinnosti, rebelská myšlenka – například podle Dostojevského: žák, jako Raskolnikov, si klade otázku "je to třesoucí se bytost nebo má právo" a tak dále.
Objevuje se ještě jedna otázka.
Ještě jedna otázka). Jak můžeme naučit AI preferovat jednu z uvedených verzí, když my sami, jakožto lidé, si někdy nejsme schopni vědomě vybrat jednu z nich?
Pokud se vrátíme k čaroději, velmi pravděpodobná verze je, že chtěl žáka, který by byl stejně loajální a poslušný jako démon, aby nenarušoval zakázané knihy a místa, kam ho nepožádali, aby šel. To stejné nyní často požadují od AI. Na první pohled se to zdá jako normální tradiční požadavek na jakýkoli stroj: absolutní poslušnost, neposlušnost je nepřijatelná. Ale v případě AI se může objevit otázka verzí 1,2 (viz výše), tzn. AI degeneruje — "kousek kovu" si může myslet cokoliv o svých tvůrcích a majitelích, ale neprovádí žádné činy související s AI, tzn. místo AI dostaneme hloupý primitivní automat. Z toho vyplývá podezření: možná čaroděj nechtěl, aby jeho žák byl tak hloupým vykonavatelem jako démon? Tzn. objevuje se myšlenka AI s omezeními. Tady je to ještě složitější i v oblasti lidské inteligence: vzpomeňme na věčné konflikty “otcové a děti”, “učitel a žák”, “šéf a podřízený”.
při výběru definice AI z možných jsem zmínil:
úkol seřadit několik desítek tisíc slov podle abecedy bude pro člověka úmorný, bude to trvat dlouho a pravděpodobnost chyb pro průměrného vykonavatele s průměrnou odpovědností bude značná. Moderní počítač splní tento úkol bez chyb za velmi krátký čas pro člověka (zlomky sekundy).
Zastavil jsem se u následující definice: k AI se řadí úkoly, které počítač řeší výrazně hůře než člověk.
Tato definice zohledňuje výše uvedené úvahy a je praktická, zároveň není dokonalá, alespoň proto, že seznamy úkolů, “které počítač řeší výrazně hůře než člověk”, se v současnosti a před 20 lety liší. Ale podle mého názoru zatím nikdo nevymyslel lepší definici.
Uvedené jasně ilustruje schéma na začátku článku. Na osách kompetencí odpovídají dovednostem v oblasti nuly (nula a kousek více) dovednosti, kde člověk překonává počítač, například schopnost přijímat netradiční rozhodnutí. Dovednostem v oblasti jedničky (jednička a o kousek méně) odpovídají dovednosti, kde počítač překonává člověka: schopnost výpočtů, paměť. Při maximálním překonání, které je rovno podmíněné jedničce na ose „překonání“, dostaneme závislost překonání na dovednostech pro člověka a počítač ve formě diagonál jednotkového čtverce. Tak se situace v současnosti jeví. Je však silná AI možná, s maximálními dovednostmi (červená čára)? Nebo dokonce vyšší (super-AI – modrá čára)? Možná by mezifázovým cílem pokroku měl být ne silný, ale ani zcela
slabý AI (fialová čára), který v některých dovednostech bude zaostávat za EI, ale ne tak silně, jak tomu je nyní.
Pokud se vrátíme k naší literární pohádkové modelu, můžeme říci, že všichni její hrdinové nedopadli nejlépe: nepořádný čaroděj zapomněl klíč a dostal potopu ve svém podzemí, jeho žák z hlouposti a neopatrnosti zažil spoustu extrémních zážitků a málem se utopil, démon byl vyhnán kopanci bez jakékoli vděčnosti. Co se týče inteligence démona – už bylo zmíněno, že je obtížné jej jednoznačně zařadit mezi AI nebo EI, ale inteligence (i když nevýrazná) ostatních jasně patří mezi EI. Můžeme říci, že mít nebezpečné chyby v rozhodování, projevovat nepozornost, zapomínat potřebné věci a unavit se – to jsou jejich základní vlastnosti. Bohužel, tyto vlastnosti jsou přítomné i všem ostatním nositelům EI v různém míře. O nespolehlivosti třídění slov nebo čísel EI bylo už výše zmíněno, ale ještě jednodušší úkol – prostě si zapamatovat číslo, se ukazuje jako velmi složitý pro lidi. Pro stroj je možnost zapamatování číslic čísla pí omezena pouze velikostí paměti, zatímco většina lidí musí k tomu používat , typu „Co vím o kruzích“. Zdálo by se, že v řetězci „3,1416“ je méně znaků než v uvedené mnemonice, ale nějak lidé preferují zapamatování méně ekonomickým způsobem. A je delší:
Uč se a víš v počtu známém za číslem číslici, jak štěstí podotýká
Abychom se nespletli,
Musíme správně přečíst
Tři, čtrnáct, patnáct
Devadesát dva a šest
Pro zapamatování barev duhy:
Každý designér chce vědět, kde stáhnout Photoshop
A začátek Mendělejevovy tabulky:
Vodu rodičovskou (Vodík) smíchali s Helem (Helium), aby Lití (Lithium). Ano, Ber a lije (Berylium) v borovém lese (Bór), kde zpod úhlu rodičovského (Uhlík) vykukuje Aziat (Dusík), přičemž s tak kyselou tváří (Kyslík), že Podruhé (Fluor) se nechtělo dívat. Ale Ne on (Neon) byl nám potřebný, proto jsme se vzdálili Na tři (Sodík) metry a dostali se do Magnólie (Hořčík), kde Alu v mini (Hliník) sukni namazali Krémem (Křemík) s obsahem Fosforu (Fosfor), aby přestala být Šedá (Síra). Po tom Alja vzala Chlorek (Chlor) a umyla loď Argonautů (Argon)
Ale proč je tak zřetelné nedokonalost v tak dokonalém EI? Možná, díky schopnosti zapomínat ty nejjednodušší fakta člověk získává svobodu kombinovat fragmenty svých myšlenek v libovolném divokém pořadí a nalézt netradiční řešení? Pokud ano, pak silné EI není možné. Buď bude zapomínat jako člověk, nebo nebude schopné netradičních řešení. V každém případě, z uvedených předpokladů vyplývá nutnost rozlišování cílů EI: jeden z cílů modelování EI, druhý vytváření silného EI. Dosažení jednoho může vylučovat dosažení druhého.
Jak vidíme, v oblasti EI vzniká příliš mnoho otázek s nejasnými odpověďmi, takže je nejasné, kterým směrem se ubírat. Jak bývá v takových případech, snaží se jít okamžitě všemi směry. Přitom kvůli absenci matematicky přísných formulací se musíme obracet k filozofii a uměleckému literárnímu modelování. Jeden z nejznámějších příkladů v tomto směru — kniha „Výběr podle Turinga“ (1992) jednoho z koryfejů EI Marvina Lee Minskea a známého fantastického spisovatele Harryho Harrisona. Cituji z této knihy, která možná vysvětluje výše popsaný fenomén mnemoniky:
Lidská paměť není magnetofon, který všechno zapisuje chronologicky. Funguje úplně jinak – spíše jako chaoticky vedený katalog s komplikovaným a protichůdným ukazatelem. A ne jen tak komplikovaným – občas měníme zásady klasifikace pojmů.
Zajímavá interpretace magnetofonové metafory se objevuje v jiném literárním díle, povídce Stanislava Lema „Terminus“ (ze série „Povídky o pilotu Pirxovi“). Zde se jedná o zvláštní případ „inteligentního magnetofonu“: starý robot na staré kosmické lodi, která kdysi havarovala, provádí aktuální opravy, provázené ťukáním. Ale pokud nasloucháte, není to jenom technologický šum, ale záznam morseovky – rozhovorů členů posádky umírající lodi. Pirx zasahuje do těchto rozhovorů a náhle dostává odpověď od dávno zesnulých kosmonautů. Ukazuje se, že primitivní opravárenský robot jaksi uchovává kopie jejich vědomí, nebo jde o kognitivní zkreslení vnímání pilota Pirxe?
V jiné povídce „Ananke“ (ze stejné série) kopie EI v řídícím počítači kosmické lodi vede k její paranoidní přetížení testovacími úlohami, které končí katastrofou.
V povídce „Nešťastná náhoda“ příliš antropomorfně naprogramovaný robot zahyne během lezení na horu, které se rozhodl podniknout ve svém volném čase. Potřebují takoví vykonavatelé? Ale upínající se na zalévání květiny démoni také daleko ne vždy potřební.
Někteří odborníci na AI nemají rádi taková „filozofování“ a „literární záležitosti“, avšak tyto „filozofování“ a „literární záležitosti“ jsou tradičně vlastní analýze EI a nevyhnutelné, dokud se AI srovnává s EI, zvlášť když se v AI snaží kopírovat EI.
Na závěr, dotazník k několika vzniklým otázkám.
Pouze registrovaní uživatelé se mohou účastnit ankety. , prosím.
1. Započítává se do AI úkoly, které počítač řeší výrazně hůř než člověk?
Ano
Ne
Znám lepší definici. Uvedu v komentářích.
Těžko říct
Hlasovalo 34 uživatelů. Zdrželo se 7 uživatelů.
2. AI by měla být pouze vykonavatelem, který chápe všechny příkazy doslovně? Například, pokud se řekne zalít květinu – znamená to zalévat, dokud nenarazí na zákaz?
Ano
Ne
Těžko říct
Hlasovalo 37 uživatelů. Zdrželo se 6 uživatelů.
3. Je možný silný AI, jehož všechny dovednosti budou maximální (červená čára na obrázku na začátku článku)?
Ano
Ne
Těžko říct
Hlasovalo 35 uživatelů. Zdrželo se 7 uživatelů.
4. Je možný super AI (modrá čára na obrázku na začátku článku)?
Ano
Ne
Těžko říct
Hlasovalo 36 uživatelů. Zdrželo se 7 uživatelů.
5. Mezičlánkem by měl být AI, který není silný, ale ani zcela slabý (fialová čára na obrázku na začátku článku), který v řadě dovedností bude zaostávat za EAI, ale ne tak silně jako nyní?
Ano
Ne
Těžko říct
Hlasovalo 33 uživatelů. Zdrželo se 5 uživatelů.
6. Dělat nebezpečné chyby v rozhodnutích, projevovat nepozornost, zapomínat potřebné věci a unavovat se – hlavní neodmyslitelné vlastnosti EAI?
Ano
Ne
Mám jiný názor, který uvedu v komentářích.
Těžko říct
Hlasovalo 33 uživatelů. Zdrželo se 5 uživatelů.
7. Díky schopnosti zapomínat nejjednodušší fakta získává člověk svobodu kombinovat fragmenty svých myšlenek v libovolném divokém pořadí a nacházet netradiční řešení?
Ano
Ne
Mám jiný názor, který uvedu v komentářích.
Těžko říct
Hlasovalo 31 uživatelů. Zdrželo se 4 uživatelé.
8. Modelování EAI a vytváření silného AI – dvě různé úlohy, které mohou být řešeny různými metodami?
Ano
Ne
Mám jiný názor, který uvedu v komentářích.
Těžko říct
Hlasovalo 32 uživatelů. Zdrželo se 4 uživatelů.
Zdroj: habr.com
