Milline õpilane on nõid vajab ja millist tehisintellekti vajame meie?

HOIATUS
Tundub, et rekordiliselt kõrge vaikivate rahulolematute suhe kommentaatorite vahel, kel on midagi vastata, on paljudele lugejatele ebaselge, et:
1) See on puhtalt teoreetiline aruteluartikkel. Siin ei ole praktilisi soovitusi, kuidas valida krüptovaluutade kaevandamise tööriistu või monteerida multivibraatorit, et kahe lambiga vilkuda.
2) See ei ole teaduspopulaarne artikkel. Siin ei selgitata Turingi masina tööpõhimõtteid näiteks matšikarpide abil.
3) Mõelge hoolikalt, enne kui jätkate lugemist! Kas teid tõmbab agressiivse amatöörsuse staatus: hindan negatiivselt kõike, mida ma ei mõista?
Aitäh kõigile, kes otsustavad seda artiklit mitte lugeda!

Demon on UNIXi klassi süsteemides olev arvutiprogramm, mille käivitab süsteem ise ja mis töötab taustal ilma kasutajaga otsese suhtlemiseta.

Vikipeedia

Juba lasteaias kuulsin lugu nõia õpikust. Kordan seda oma tõlgenduses:

Kusagil keskajal Euroopas elas nõid. Tal oli suur raamat loitse, mis oli kaetud mustast vasikannahast, millel olid lukud ja nurgad rauast. Kui nõial oli vaja loitsu lugeda, avas ta selle suure rauast võtmest, mida ta alati enda vööl erilises kotikeses kandis. Nõial oli ka õpilane, kes teenis nõiat, kuid tal ei lubatud vaadata loitsuraamatusse.

Ühel päeval lahkus võlur kogu päevaks asjade ajamiseks. Niikaua kui ta majast välja läks, jooksis õpilane sisse koopasse, kus asus alkeemia laboris raamat, mis oli ahelatega laua külge kinnitatud. Õpilane haaras tiglid, milles võlur sulatas pliidi kullaks, ja pani need grillile, süüdates tule. Plii sulas kiiresti, kuid kullaks ei muutunud. Siis meenus õpilasele, et võlur avas raamatule iga kord võtmega, kui ta pliidi sulatas, ja rääkis sealt pika loitsu. Õpilane vaatas lootusetult suletud raamatule ja nägi, et selle kõrval oli võtme, mille oli unustanud võlur. Siis ta tormas laua juurde, avas raamatu, avas selle ja luges valju häälega esimest loitsu, püüdes hoolikalt hääldada tundmatuid sõnu, uskudes, et nii oluline loits nagu pliidi muutmine kullaks on kindlasti esimesena.

Aga midagi ei juhtunud: pliid ei tahtnud muutuda. Õpilane oli juba proovida teise loitsu, kui äkki kõva müristus raputas maja, ja õpilase ette ilmus hiiglaslik õudne deemon, kelle kutsus üles just see loits, mida ta oli lugenud.
— Käsi! — murdis deemon.
Hirmust lahkus kõik mõte õpilase peast, ta ei suutnud isegi liikuda.
— Käsi või ma söön sind! — käratas deemon uuesti ja ulatas õpilase poole oma hiiglasliku käe, et teda haarata.
Desperaatselt pomises õpilane esimest, mis talle pähe tuli:
— Kastke seda lill.
Ja osutas pelargooniale, mille pott seisis labori nurgas põrandal, lille kohal olevast laest avanes ainus väike aknauku, kust päikesevalgus vaevu tungis. Deemon kadus, kuid hetk hiljem ilmus ta tagasi hiiglasliku veetünniga, mille ta ümber pööras lille peale, valades vett. Ta kadus uuesti ja ilmus taas täis tünniga.
— Piisab, — karjus õpilane, seistes juba vees taldudeni.
Aga näib, et üksnes soovinud ei piisanud - deemon tõi ja tõi vett ämbris, valades selle nurgas, kus kunagi oli peidus õitsev lill. Tõenäoliselt oli vajalik erilaine loits, et deemonit eemale peletada. Kuid laud koos raamatuga oli juba kadunud mudase vee sisse, milles ujusid tuhka ja söed suitsuahi, tühi retort, kolvid, taburetid, galvanomeetrid, doosimeetrid, ühekordsed süstlad ja muu praht, nii et isegi kui õpilane oleks teadnud, kuidas õiget loitsu leida, ei oleks ta suutnud seda teha. Vesi tõusis ja õpilane ronis laua peale, et mitte uppuda. Kuid see aitas vaid lühiajaliselt - deemon jätkas meetoditlikult vee toomist. Õpilane oli juba veeni, kui võlur naasis, avastades, et oli kodus raamatu võtme unustanud, ja peletas deemoni eemale. Muinasjutu lõpp.

Alustame ilmselgest. Õpilase loodusliku intellekti (LI) osas paistis kõik selge - loll, veel lollim, peab kaua otsima. Kuid deemoniga - muide, milline tal on: LI või AI? - on asi keeruline. On erinevaid versioone (ning neile tekivad veel küsimused):

Versioon 1) Deemon on veel lollim kui õpilane. Ta sai käsu ja täidab seda lõputult kaua, isegi kui igasugune mõte kaob: lill - kastmise objekt, nurk, kuhu lill on seotud, Maa planeet kaovad, aga loll deemon jätkab kõhuga vee toomist teatud kosmilisse punkti. Ja kui selle punkti juures plahvatab supernoova, siis ei ole deemonile vahet, kuhu vett kanda. Veelgi enam: kui loll peab olema, et kasta väikest lille tohutust ämbrist. See ei ole enam lille kastmine, vaid lille uppumine. Kas ta mõistab üldse käskude tähendust?

Versioon 2) Deemon mõistab kõike, kuid on seotud kohustustega. Nii et peab teisejärguliseks Itaalia streigiks. Kunagi, kui teda õigesti reeglite järgi minema aetakse - ei peatu.

Küsimus 1 versioonidele 1,2) Kuidas eristada täiesti loll deemon versioonis 1 täiesti mitte lollist versioonis 2?
Küsimus 2 versioonidele 1,2) Kas deemon täidaks õigesti (õpilase seisukohalt) täpsemat sõnastust? Näiteks, kui õpilane ütleks: võta see tühi liitrine kolb, mis seiseb riiulil, täida see veega ja kasta see lill 1 kord. Või näiteks, kui õpilane ütleks: mine ära.

Versioon 3) Võlur kehtestas demoonile lisaküsimuse, mille kohaselt, kui keegi peale võluri kasutab demooni teenuseid, peab demoon kohe informeerima selle faktist võlurit.

Versioon 4) Demoon ei kanna võluri ja tema õpilase vastu pahameelt, seetõttu, nähes, et olukord on kontrolli alt väljunud, ilmus ta barreliga võluri selja taha ja karjus: “sa unustasid koti võtme, seal on üleujutus”. Ja võlur ise ei oleks seda meeles pidanud.

Tähelepanek 1 versioonile 4) Erakordselt tuleb märkida, et EII kandjatel on väga ebatäiuslik mälu.

Edasi on versioone võimalik paljundada nagu "Fibonacci küülikud", st mitte väga keerulise algoritmi abil. Näiteks:
Versioon 5) Demoon kostab õpilasele muretsemise eest.
Versioon 6) Demoon ei kanna õpilase vastu pahameelt, vaid kostab võluri vastu.
Versioon 6) Demoon kostab kõigile.
Versioon 7) Demoon ei kostnud, vaid lõbustas end. Lõpetab, kui igav hakkab.
Ja nii edasi.

Nii et demoon, selge, et midagi pole selge. Samuti pole paremad lood võluriga. Võib välja mõelda mitte vähem versioone: et ta otsustas spetsiaalselt õpilast karistada, kes seab kõikjal uudishimuliku nina; et ta tahtis õpilast uuesti uputada, kuid kui demoon karjus üleujutuse kohta, kartis ta - äkki kuulis keegi möödujatest, siis jääb kahtlus võluri kaela; tahtis äratada õpilases huvi loitsude vastu jne.

Siin võib tekkida lapselik küsimus: milline neist pakutud versioonidest on õige? Ilmselt igaühel. Muinasjutus ei jäänud kasutamata teavet, et eelistada mõnda versiooni teistele. Siin seisame silmitsi üsna sagedase kunstiteoste juhtumiga, kus on võimalik mitmemõtteline tõlgendus. Näiteks, kui mõni režissöör soovib selle muinasjutu teatri lavale panna või sellest filmi teha, saab ta valida enda arvates kõige atraktiivsema tõlgenduse. Teise režissööri jaoks võib olla atraktiivne teine tõlgendus. Samal ajal võib atraktiivsus olla määratud täiendavate kaalutlustega, näiteks atraktiivsus vaatajate jaoks, et tagada maksimaalne kassavalu, või atraktiivsus teatud ülevaate demonstreerimiseks: idee, et headus võidab kurja, kohustuse idee, mässu idee - näiteks Dostojevski järgi: õpilane, nagu Raskolnikov, küsib endalt "kas ta on värisev olend või on tal õigus" jne.

Tekib veel üks küsimus.
Veel küsimusi). Kuidas saame õpetada tehisintellekti eelisema mõnele mainitud versioonile, kui me ise, omades inimlikku intellekti, ei saa alati teadlikult valida ühte neist?

Tagasi nõia juurde, näib väga usutav versioon, et ta soovis endale õpilast, kes on töökindel ja kuuletub nagu deemon, et ei segaks ennast keelatud raamatutesse ja sinna, kuhu teda ei kutsuta. Samasugust ootavad sageli ka tehisintellekti puhul. Esialgu tunduvad need olema tavalised traditsioonilised nõudmised igasugusele masinale: täielik kuuletumine, allumatust ei sallita. Kuid tehisintellekti puhul võib tekkida küsimus versioonide 1,2 (vt ülal), st tehisintellekt võib muutuda – „rauda” võib mõelda kõigest, mis puudutab selle loojaid ja peremehi, kuid tegevusi, mis on seotud tehisintellektiga, see rakendada ei suuda, st selle asemel saame me rumala primitiivse automaadi. Loomulikult tekib kahtlus: kas nõid ei tahtnud teha õpilasest nii rumalat täitjat kui deemonist? St ilmneb idee tehisintellektist piirangutega. Siin on kõik veel keerulisem isegi inimlike faktide valdkonnas: meenutada iidseid konflikte „isad ja lapsed”, „õpetaja ja õpilane”, „ülem ja alluv”.

Varem tehisintellekti määratlemisel märkisin:

sada tuhat sõna eraldamine tähestikku oleks inimesele väsitav, ta teeks seda kaua ja keskmise vastutustunde tasemega keskmise täitja jaoks oleks vigade tõenäosus märkimisväärne. Kaasaegne arvuti suudaks selle ülesande täita vigadeta väga lühikese aja jooksul (osade sekundi) inimese jaoks.

Jõudsin järgmise määratlemiseni: tehisintellekti alla kuuluvad ülesanded, mille täitmine on arvutis märgatavalt halvem kui inimesel..

See määratlemine arvestab eeltoodud kaalutlusi ja on praktikas mugav, samas ei ole see ideaalne, vähemalt seetõttu, et „ülesannete loetelu, mida arvuti lahendab märgatavalt halvemini kui inimene”, erines sel hetkel ja 20 aastat tagasi. Kuid minu arvates ei ole keegi veel välja mõelnud täiuslikumat määratlemist.

Öeldud illustreerib hästi artikli alguses esitatud skeem. Koordinaatide teljel „oskused” vastavad nulli lähedal (null ja natuke rohkem) oskused, kus inimene ületab EVM-i, näiteks võime leida mittestandardseid lahendusi. Ühe lähedal (üks ja natuke vähem) asuvad oskused, kus EVM ületab inimese: arvutamisvõime ja mälu. Kui seadame maksimaalse ülimuslikkuse tinglikuks üheks koordinaatteljel „ülimuslikkus”, saame ülimuslikkuse sõltuvuse oskustest inimese ja EVM-i vahel ühisruudu diagonaalide kujul. Nii näeb olukord hetkel välja. Kuid kas on võimalik tugev AI, kellel on kõik oskused maksimaalsed (punane joon)? Või isegi kõrgem (üle-AI – sinine joon)? Võib-olla peaks edusammude vaheesmärk olema mitte tugev, vaid mitte ka täiesti
nõrk AI (lilla joon), millel mõnedes oskustes on EI-ga võrreldes puudujääke, kuid mitte nii palju kui praegu.

Tagasi meie kirjandusliku muinasjutu mudeli juurde, võib öelda, et kõik selle kangelased ei esinenud parimal moel: kohmakas nõid unustas võtme ja sai oma koobas veega üle ujutatud, õpilane sai rumaluse ja ettevaatamatuse tõttu palju ekstreemseid elamusi ja peaaegu uppus, deemon visati välja tõukatega ilma igasuguse tänuta. Mis puutub deemoni intelligentsusesse – nagu juba mainitud, on seda keeruline selgelt määratleda kui AI ega EI, kuid teiste intelligentsus (kuigi mitte muljetavaldav) kuulub selgelt EI kategooriasse. Nende kohta võib öelda, et nad teevad ohtlikke vigu otsustes, näitavad tähelepanematust, unustavad vajalikke asju ja väsivad – need on nende põhielemendid. Kahjuks on need omadused omased ka kõigile teistele EI kandjatele rohkemal või vähemal määral. EI ei usaldusväärsuse kohta sõnade või numbrite sortimise osas on juba eespool mainitud, kuid siinkohal tundub veelgi lihtsam ülesanne – lihtsalt numbri meeldejätmine osutub inimestele väga keeruliseks. Mnemoonika, nagu „Mida ma tean ringidest”. Tundub, et sees „3,1416” on vähem märke kui antud mnemoonikas, kuid mingil põhjusel eelistavad inimesed meelde jätta vähem majanduslikult. Ja see on pikem:

Õpi ja tea tuntud arvu sees numbrit, kuidas õnne märkida

Kuna me ei taha eksida,
Peame õigesti lugema
Kolm, neliteist, viisiteist
Kaupa kahe ja kuue

Vikerkaare värvide meeldejätmiseks:

Iga kujundaja soovib teada, kust Photoshopi alla laadida

Ja Mendeljevi tabeli algus:

Kohalik vesi (Hüdrogeen) segati Heeliumiga (He) et valada (Liitium). Jah, võta ja vala (Berüllium) männiseene juurde (Boor), kus koduvee alt (Süsinik) piilub Aasia (Nitraat), ja seejuures sellise hapusa näoga (Oksügeen), et teist korda (Fluori) ei tahtnud vaadata. Kuid see ei olnud see (Neoon), mida me vajasime, seega tõukasime kolme (Naatrium) meetri kaugusele ja sattusime Magnolia (Magneesium), kus me Aalu mini (Alumiinium) seelikusse mähkisime Kreemiga (Kreemium), millel oli fosfori (Fosfor) sisaldus, et ta lõpetaks olemise hall (Sulfuur). Pärast seda võttis Alja Clori (Kloor) ja pesi Argonaudide (Argon) laeva

Aga miks on sedavõrd ilmne ebatäiuslikkus nii täiuslikus EI-s? Võib-olla just tänu võimele unustada kõige lihtsamaid fakte saab inimene vabaduse kombineerida oma mõtete fragmente suvalises metsikus järjekorras ja leida ebatraditsioonilisi lahendusi? Kui nii, siis tugev EI on võimatu. Kas ta unustab nagu inimene või ei ole ta suuteline ebatavalistele lahendustele. Igatahes tuleneb eeltoodud eeldustest vajadus eristada EI eesmärke: üks eesmärk on simuleerimine, teine tugevate EI loomine. Ühe saavutamine võib välistada teise saavutamise.

Kuidas me näeme, tekib EI valdkonnas liiga palju küsimusi, millele pole üheselt mõistetavaid vastuseid, nii et ei ole selge, millisest suunast edasi liikuda. Nagu sellistel juhtudel juhtub, püütakse liikuda kohe igas suunas. Samas, kuna matemaatiliselt rangete määratlemiste puudumine sunnib meid pöörduma filosoofia ja kunstilis-esteetilise modelleerimise poole. Üks tuntumaid näiteid selle suuna kohta on raamat "Turingi valik" (1992), autoriteks üks EI teerajajaid Marvin Lee Minsky ja tuntud ulmekirjanik Harry Harrison. Tõin välja tsitaadi sellest raamatust, mis ehk selgitab eespool kirjeldatud mnemoonika fenomeni:

Inimese mälu ei ole magnetofon, mis salvestab kõike juhuslikult ajakohaselt. See on korraldatud hoopis teisiti — pigem nagu ebakorrapäraselt korraldatud kaust, mis on varustatud segase ja vastuolulise viitamisega. Ja mitte lihtsalt segase — aeg-ajalt me muudame mõistete klassifitseerimise põhimõtteid.

Huvitav tõlgendus magnetofoni metafoorist teoses, mis on kirjutatud Stanislaw Lemi, „Terminus“ (seeriast „Piloot Pirksi lood“). Siin on tegemist omalaadse „intellektuaalse magnetofoni“ puhul: vana robot vanas kosmoselaevas, mis on kunagi õnnetusse sattunud, tegeleb hetkeliste remonditöödega, mida saatab koputamine. Kuid kui tähelepanelikult kuulata, ei ole see lihtsalt tehnoloogiline müra, vaid morse-koodi salvestus — jutt liikmete vahel, kes on hukkumas oleval laeva. Pirks sekkub nende vestlustesse ja saab ootamatult vastuse kaua kadunud kosmonautidelt. Tundub, et primitiivne remondirobot säilitab mingil määral nende teadvuse koopiad või on see Piloot Pirksi tajumise kognitiivsed moonutused?

Teises loos „Ananke“ (samast seeriast) toob EIo koopia kosmosetasu arvutis kaasa selle paranoilist ülekoormust katsetega, mis lõppeb katastroofiga.

Loo „Õnnetus“ puhul sureb liiga antropomorfseteks programmeeritud robot alpinistlikul tõusul, mille ta otsustas sooritada oma töövabadusel. Kas selliseid täitjaid on vaja? Kuid ka lille kasta segavad demonid ei ole kindlasti alati vajalikud.

Mõned AI spetsialistid ei pea selliseid „filosoofeerimisi“ ja „kirjandust” positiivseks, kuid need „filosoofeerimised“ ja „kirjandus” on traditsiooniliselt omased EIo analüüsile ja on vältimatud, kuni AId võrreldakse EI-ga ning veel enam, kuni AI-s püütakse EI-d kopeerida.

Kokkuvõtteks küsitlus mitmete tekkinud küsimuste kohta.

Ainult registreeritud kasutajad saavad küsitluses osaleda. Logige sisse, palun.

1. Kas IIsse kuuluvad ülesanded, mida arvuti lahendab märgatavalt halvemini kui inimene?

• Jah

• Ei

• Mina tean definitsiooni paremini. Tooge kommenteerimisse.

• Ma ei oska vastata

Häälte andsid 34 kasutajat. 7 kasutajat jäid erapooletuks.

2. AI peab olema ainult täitja, mõistma kõiki käske sõna-sõnalt? Näiteks, kui öeldakse, et kasta lille — siis tähendab see kasta, kuni visatakse välja.

• Jah

• Ei

• Ma ei oska vastata

Hääletas 37 kasutajat. 6 kasutajat ei osalenud.

3. Kas on võimalik tugev AI, millel on kõik oskused maksimaalsed (punane joon artikli alguses)?

• Jah

• Ei

• Ma ei oska vastata

Hääletas 35 kasutajat. Erakutas 7 kasutajat.

4. Kas on võimalik ülim AI (sinine joon artikli alguses)?

• Jah

• Ei

• Ma ei oska vastata

Hääletas 36 kasutajat. 7 kasutajat ei osalenud.

5. Kas vahe-eesmärgid peaksid olema mitte tugevad, kuid mitte ka täiesti nõrgad AI-d (lilla joon artikli alguses), mis teatud oskustes jääksid inimese AI-le alla, kuid mitte nii palju kui praegu?

• Jah

• Ei

• Ma ei oska vastata

Hääletas 33 kasutajat. 5 kasutajat ei osalenud.

6. Kas otsustes ohtlike vigade tegemine, tähelepanematus, vajalike asjade unustamine ja väsimine on peamised, lahutamatud omadused inimesest AI-st?

• Jah

• Ei

• Mul on teine arvamus, mille toon välja kommentaarides.

• Ma ei oska vastata

Hääletas 33 kasutajat. 5 kasutajat ei osalenud.

7. Kas inimese võime unustada kõige lihtsamaid fakte annab talle vabaduse kombineerida oma mõttefragmentide kildusid vabalt ja leida mittestandardseid lahendusi?

• Jah

• Ei

• Mul on teine arvamus, mille toon välja kommentaarides.

• Ma ei oska vastata

Hääletas 31 kasutajat. 4 kasutajat ei osalenud.

8. Kas inimese AI modelleerimine ja tugeva AI loomine on kaks erinevat ülesannet, mida saab lahendada erinevate meetoditega?

• Jah

• Ei

• Mul on teine arvamus, mille toon välja kommentaarides.

• Ma ei oska vastata

32 users voted. 4 users abstained.

Allikas: habr.com