Milline õpilane on nõid, ja milline tehisintellekt on meie jaoks vajalik?

HOIATUSED
Arvestades rekordiliselt kõrget rahulolematute lugejate ja kommentaatorite arvu suhet, on paljudele lugejatele arusaamatu, et:
1) See on puhtalt teoreetiline aruteluartikkel. Siin ei ole praktilisi soovitusi krüptovaluuta kaevandamise tööriistade valimiseks või mitme vilkuva lampide kokku panemiseks.
2) See ei ole populaarteaduslik artikkel. Siin ei selgitata Turingi masina tööpõhimõtet matšide karpide näitel.
3) Mõelge hästi, enne kui jätkate lugemist! Kas sind köidab agressiivse amatööriga vastanduv hoiak: ma alandan kõike, mida ei mõista?
Aitäh kõigile, kes otsustavad seda artiklit mitte lugeda!

Demon on UNIXi klassi süsteemides töötav arvutiprogramm, mida käivitab süsteem ise ning see töötab taustal ilma otsese kasutajaga suhtlemiseta.

Vikipeedia

Juba koolieelses eas kuulsin ma jutu sellest, kuidas noor nõid õpilane, jagan seda oma tõlgenduses:

Kusagil, keskaegses Euroopas elas sage. Tal oli suur loitsuraamat mustast vasiknahast köites, millel olid raudsetest kinnitustest ja nurkadest valminud. Kui sage tahtis loitsu lugeda, avas ta selle suure raudvõtmega, mida ta alati vööl spetsiaalses kotikeses kandis. Sage oli ka õpilane, kes abistas sage, kuid tal ei lubatud loitsuraamatusse piiluda.

Kordagi kord, kui nõid läks päevaks ära. Niikaua kui ta kodust eemal oli, tormas õpilane maa alla, kus asus alkeemia laboratoorium, mille laual oli ahelatega kinni seotud loitsuraamat. Õpilane haaras tiglid, milles nõid sulatas pliidi, et see kuldseks muuta, pani need söe peale ja puhus tulle. Plii sulas kiiresti, kuid ei muutunud kullaks. Siis meenutas õpilane, et iga kord, kui nõid pliidi sulatas, avas ta raamatukese lukku ja sosistas seal pikalt loitsu. Õpilane vaatas meeleheitlikult lukustatud raamatule ja nägi, et selle kõrval oli võtme, mille nõid oli unustanud. Siis tormas ta laua juurde, avas raamatu, avas selle ja luges valjusti esimest loitsu, püüdes tähelepanelikult hääldada tundmatuid sõnu, eeldades, et nii oluline loits nagu plii muutmine kullaks, on kindlasti kõige esimene.

Aga midagi ei juhtunud: plii ei soovinud muutuda. Õpilane mõtles proovida teist loitsu, kuid siis raputas maja äike ja õpilase ees ilmus hiiglaslik õudne deemon, kutsutud just selle loitsuga, mida õpilane oli lugenud.
— Käsi! — jäiskas deemon.
Hirmust olid kõik mõtted õpilase peast kadunud, ta ei suutnud isegi liikuda.
— Käsi, või ma söön sind! — müristas deemon uuesti ja ulatas õpilase suunas oma tohutu käe, et teda kinni püüda.
Desperaadis sosistas õpilane esimese asjana, mis talle pähead tuli:
— Vala see lill.
Ja näitas pelargoonile, mille pott seisis labori nurgas. Lille kohal lae all oli ainus väike aknaauguke, mille kaudu vaevu paistus päikesevalgus. Deemon kadus, kuid hetk hiljem ilmus uuesti koos tohutu veetünniga, mille ta lille üle kallutas. Ta kadus jälle ja ilmus uuesti täis tünniga.
— Piisavalt, — hüüdis õpilane, seistes juba vees kuni taljeni.
Aga näib, et üksnes soovimist ei piisanud — deemon tõi ja tõi vett tünnis, kallates seda nurka, kus kunagi seisis vees peitunud lill. Ilmselt oleks olnud vajalik spetsiaalne loits, et deemon ära ajada. Kuid laud koos raamatuga oli juba kadunud mudases vees, kus hõljuvad tuhk ja söed, tühjad retortid, kolvid, redelid, galvaanomeetrid, dozimetrid, ühekordsed süstlad ja muu prügikraam, nii et isegi kui õpilane oleks teadnud, kuidas leida õige loits, ei oleks ta suutnud seda teha. Vesi tõusis ja õpilane ronis lauale, et mitte lämbuda. Kuid see aitas vaid hetkeks – deemon jätkas süsteemselt vee toomist. Õpilane oli juba veest lõua kõrgusel, kui tuli võlur, kes avastas, et unustas kodus raamatu võtme, ja ajas deemoni minema. Muinasjutt lõppes.

Alustame ilmselgest. Õpilase loodusliku intelligentsiga (LI) näib kõik selge – rumal, veel rumalam peab kaua otsima. Kuid mis puudutab deemonit — muide, milline on tema: LI või AI? — on see kahtlane. Erinevad versioonid on õigustatud (ja neile tekivad veel küsimusi):

Versioon 1) Deemon on veel lollim kui õpilane. Ta sai käsu ja täidab seda pidevalt, isegi siis, kui igasugune mõte on kadunud: kaob lill – kastmise objekt, kaob nurk, millega on seotud lille koordinaadid, kaob maakera, aga loll deemon jätkab ikka vett toomist kindlasse kosmilisse punkti. Ja kui selles punktis süttib supernoova, siis deemonile on ükskõik, kuhu vett viia. Veelgi enam: kui loll peab olema, et kasta väikest lille hiiglaslikust vaatist. Seda ei saa enam nimetada lille kastmiseks, vaid lille summutamiseks. Kas ta üldse mõistab käskude mõtet?

Versioon 2) Deemon mõistab kõike, kuid on seotud kohustustega. Nii et ta viib läbi midagi nagu Itaalia streik. Niikaua kui teda ametlikult kõigi reeglite järgi minema ei saadeta – ei peatu ta.

Küsimus 1 versioonide 1 ja 2 kohta) Kuidas eristada täiesti lolli deemonit versioonis 1 täiesti mitte lollist versioonis 2?
Küsimus 2 versioonidele 1,2) Kas demon oleks õpilase vaatepunktist õigesti formuleeritud? Näiteks, kui õpilane ütleks: võta see tühi liitrine kolb, mis on riiulil, täida see veega ja kasta see lill 1 kord. Või näiteks, kui õpilane ütleks: läks ära.

Versioon 3) Võlur viskas deemonile lisaks needuse, mille kohaselt, kui keegi peale võluri kasutab deemoni teenuseid, peab deemon kohe informeerima võlurit sellest faktist.

Versioon 4) Deemon ei kanna halba meelt võluri ja tema õpilase vastu, seetõttu, nähes, et olukord on kontrolli alt väljunud, ilmus ta oma liikumise käigus kanna taha ja karjus: „Sa unustasid võtme koju, seal on üleujutus.” Ja võlur oleks ise seda ei meenutanud.

Märkus 1 versioonile 4) Eriti tasub märkida, et ingliskeelsetel kõnelejatel võib olla väga ebatäiuslik mälu.

Hiljem saab versioone paljundada nagu „Fibonacci küülikud”, s.t. mitte väga keeruka algoritmiga. Näiteks:
Versioon 5) Deemon kostab õpilasele häirituse pärast.
Versioon 6) Deemon ei kanna halba meelt õpilase vastu, vaid kostab võlurile.
Versioon 6) Deemon kostab kõigile.
Versioon 7) Deemon ei kosta, vaid lõbutseb. Lõpetab, kui igav hakkab.
Ja nii edasi.

Niisiis, demoniga on selge, et mitte midagi ei ole selge. Sama ei ole parem ka nõiaga. Võib välja mõelda vähemalt mitu versiooni: et ta otsustas spetsiaalselt õpilast karistada, kes igal pool uudishimu näitab; et ta tahtis õpilast uppuda, kuid kui demon karjus üleujutuse järgi, kartis ta — äkki kuuleb mõni mööduja, siis langeb kahtlus nõia peale; tahtis äratada õpilases huvi loitsude vastu ja nii edasi.

Siin tekib küsimus: milline pakutud versioon on õige? Tõenäoliselt kõik. Muinasjutus ei ole jäänud kasutamata teavet, et eelistada üht versiooni teisele. Siin on tegu üsna levinud juhtumiga kunstiteoste puhul, millel on erinevad tõlgendamisvõimalused. Näiteks, kui mõni lavastaja soovib seda muinasjuttu teatrisse tuua või sellest filmi teha, võib ta valida endale kõige atraktiivsema tõlgenduse. Teise lavastaja jaoks võib aga atraktiivne olla hoopis teine tõlgendus. Sellisel juhul võib atraktiivsust mõjutada ka lisategurid, näiteks vaatajate huvid, et maksimeerida kassa tulusid, või atraktiivsus mingi ülev idee demonstreerimisel: headuse ja kurjuse ülekaalu idee, kohusetunde idee, mässuline idee – näiteks Dostojevskilt: õpilane, nagu Raskolnikov, küsib endalt, "kas ta on värisev olend või omab õigust" jne.

Tekib veel üks küsimus.
Veel on küsimusi). Kuidas me saame õpetada AI-d eelistama üht või teist mainitud versiooni, kui me ise, olles tehisintellekt, ei suuda alati teadlikult valida ühte neist?

Tagasi tulles nõida, tundub väga usutav versioon, et ta soovis õpilast, kes oleks usaldusväärne ja kuulekas nagu deemon, et ta ei sekkuks keelatud raamatutesse ja kohtadesse, kuhu teda ei paluta. Sama soovitakse sageli ka AI-lt. Esialgu tundub see olevat normaalsed traditsioonilised nõudmised igasugusele masinale: täielik alistumine, vastuhakk on vastuvõetamatu. Kuid AI puhul võib tekkida küsimus versioonide 1,2 kohta (vt ülal), st AI degenereerub — "rauda" võib mõelda kõigest oma loojatest ja peremeestest, kuid mingeid tegevusi, mis on seotud AI-ga, ta tegema ei hakka, st saame lihtsalt lollikese primitiivse automaadi. Sellest tuleneb kahtlus: võib-olla ei tahtnud nõid teha õpilasest nii lolli täiteviijat nagu deemon? St tuleb idee AI-st, millel on piirangud. Siin on kõik veel keerulisem isegi tehisintellekti valdkonnas: meenutada igihaljaid konflikte "isad ja lapsed", "õpetaja ja õpilane", "ülem ja alluv".

Varem AI määratlemisel märkisin valikuks:

Kümmekond tuhat sõna tähestikku sorteerimine on inimese jaoks kurnav ülesanne, mille tegemine võtab kaua aega ja keskmise vastutustundega täitja vigade tõenäosus on märkimisväärne. Kaasaegne arvuti täidab selle ülesande vigadeta väga lühikeses ajavahemikus (kümnesekundilised osad).

Jõudsin järgmise määratlemiseni: AI alla kuuluvad ülesanded, mida arvuti lahendab märkimisväärselt kehvemini kui inimene.

See määratlemine arvestab ülaltoodud tähelepanekutega ja on praktikas mugav, samas ei ole see ideaalne, vähemalt seetõttu, et ülesannete nimekirjad, "mida arvuti lahendab märkimisväärselt kehvemini kui inimene", erinevad praegu ja 20 aastat tagasi. Aga täiuslikumat määratlemist pole minu arvates keegi veel välja mõelnud.

Rääkides kvalitatiivselt illustreerib see artikkel selgelt käesoleva artikli alguses olevat skeemi. Koordinaatide teljel „oskused” vastavad nulli (null ja veidi üle) ümbruses need oskused, kus inimene ületab arvuti, näiteks võime leida mitte-standardseid lahendusi. Üksuse (ühe ja veidi vähem) ümbruses olevatele oskustele vastavad need oskused, kus arvuti ületab inimest: arvutamisvõime, mälu. Määrates maksimaalse ülemäärasuse arvutamisüksuseks koordinaatide teljel „ülemuslikkus”, saame inimese ja arvuti ülemuslikkuse sõltuvused oskustest kujul üheinimese ruudu diagonaalid. Nii esindatakse olukorda praegu. Kuid kas on võimalik, et tugev AI, mille kõik oskused on maksimaalsed (punane joon)? Või isegi kõrgem (ülemine AI - sinine joon)? Võib-olla peaks edusammudevaheline eesmärk olema mitte tugev, vaid ka mitte täiesti nõrk AI (lilla joon), millel teatud oskustes on pea kõrgem kui EEI, kuid mitte nii palju kui praegu.
Parem nõrk AI (lilla joon), mis mõnes oskuses jääb EAI-le alla, kuid mitte nii palju kui praegu.

Naastes meie kirjanduslikku muinasjuttu, võib öelda, et kõik selle tegelased ei esinenud just parimal viisil: tobe nõid unustas võtme ja sai üleujutuse oma koobastes, õpilane sai rumaluse ja ettevaatamatuse tõttu hulga ekstreemseid elamusi ja oli peaaegu uppuda, demon visati välja kingadega ilma igasuguse tänuota. Mis puudutab demoni intelligentsi – nagu juba mainitud, on seda raske selgelt määratleda, kas see kuulub AI või EI alla, kuid teiste intelligents (kui mitte muljetavaldav) kuulub ilmselgelt EI alla. Nende kohta võib öelda, et ohtlike vigade tegemine otsustes, tähelepanematus, vajalike asjade unustamine ja väsimine – need on nende peamised lahutamatud omadused. Kahjuks on need omadused olemas ka kõigil teistel EI kandjatel enam-vähem. EI poolest on juba eespool mainitud, et sõnade või numbrite sorteerimise usaldusväärsus on ebapiisav, kuid näiliselt veelgi lihtsam ülesanne – lihtsalt numbri meeles pidamine osutub inimestele väga keeruliseks. Masinale on pi numbri mälumise võimalus piiratud ainult mälu suurusega, samas kui enamik inimesi peab selleks kasutama mnemoonikat, tüüpi “Mida ma tean ringidest”. Tundub, et stringis “3,1416” on vähem tähemärke kui antud mnemonikas, kuid mingil põhjusel eelistavad inimesed meelde jätta vähem säästlikult. Ja pikemalt:

Õpi ja tea, numbris, mis on tuntud, märkida arvu, nagu õnne märkida

Kuna me ei eksiks,
Peame õigesti lugema
Kolm, neliteist, viieteistkümne
Kahesada ja kuus

Vikerkaare värvide meeldejätmiseks:

Iga kujundaja soovib teada, kust Photoshopi alla laadida

Ja algus Mendelejevi tabelist:

Sega oma vett (Vesinik) Helega (Heiit), et valada (Liitium). Jah, võta ja vala (Berillium) männist metsa (Boor), kus oma nurgast (Süsinik) piilub Aasia (Lämmastik), ja veel sellise hapu näoga (Hapnik), et teist korda (Fluor) ei olnud tahtmist vaadata. Kuid mitte tema (Neoon) ei olnud meile vajalik, seetõttu läksime kolme (Naatrium) meetri kaugusele ja sattusime Magnoolia (Magneesium) alla, kus Alu mini (Alumiinium) seelikuga määriti Kreemiga (Kreemium) fosfori sisaldusega, et ta enam hall ei oleks (Väävel). Pärast seda võttis Ala Kloori (Kloor) ja pesi Argo laeva (Argon).

Aga miks on nii silmatorkav ebatäiuslikkus nii täiustatud tehisintellekti puhul? Kas on võimalik, et inimene, kes oskab unustada kõige lihtsamaid fakte, saab vabalt kombineerida oma mõtete fragmente meelevaldsel metsikul viisil ja leida ebatavalisi lahendusi? Kui nii, siis tugev tehisintellekt pole võimalik. Kas siis peab inimene unustama nagu inimene teeb, või ei suuda ta ebatavalisi lahendusi leida. Igcase, eeltoodud oletustest tuleneb vajadus eristada tehisintellekti eesmärke: üks eesmärk on simuleerida tehisintellekti, teine on luua tugevat tehisintellekti. Ühe saavutamine võib välistada teise saavutamise.

Kuidas me näeme, tekitab tehisintellekti valdkonnas liiga palju küsimusi, millele pole ühemõttelisi vastuseid, mistõttu on ebaselge, millises suunas edasi liikuda. Nagu sellistel juhtudel sageli juhtub, proovivad liikuda kõikides suundades korraga. Samuti on matemaatiliselt täpsete määratlemiste puudumisel vajalik pöörduda filosoofia ja kirjanduslikku modelleerimise poole. Üks tuntumaid näiteid sellel alal on Marvin Lee Minsky ja tuntud ulmekirjanik Harry Harrisoni raamat "Turingi valik" (1992). Tuletan meelde tsitaati sellest raamatust, mis võib selgitada eespool mainitud mnemoonika nähtust:

inimese mälu ei ole magnetofon, mis salvestab kõike järjestikku kronoloogiliselt. Ta on korraldatud hoopis teisiti — pigem nagu hoolimatult peetud kaardikataloog, millel on keeruline ja vastuoluline suunis. Ja mitte lihtsalt keeruline — aeg-ajalt muudame mõistete klassifitseerimise põhimõtteid.

Huvitav tõlgendus magnetofoni metafoorist teises kirjandusteoses, Stanisław Lemi jutustuses "Terminus" (seeriast "Lennuki piloot Pirkse lood"). Siin on tegu omalaadse "intellektuaalse magnetofoni" juhtumiga: vana robot vanas kosmoselaevas, mis on kunagi õnnetuse saanud, tegeleb pidevate remonditöödega, millega kaasneb kolin. Kuid kui tähelepanelikult kuulata, ei ole see lihtsalt valge tehnoloogiline müra, vaid morsekood — hukkunu laeva meeskonna liikmete vestluste salvestus. Pirkse sekkub nendesse vestlustesse ja saab ootamatult vastuse ammu hukka läinud astronautidelt. Tundub, et primitiivne remondirobot hoiab mingil moel nende teadlikkuse koopiaid või on see Pirkse teadvuse kognitiivsed moonutused?

Teises jutustuses "Ananke" (samast seeriast) toob tehisintellekti koopia kosmosetranspordi juhtimisse paranoilise ülekoormuse testülesannetega, mis lõppeb katastroofiga.

Jutus "Õnnetus" sureb üleprogrammitud roboti tõttu, kes otsustab vaba aega mägironimise jaoks. Kas sellised täitjad on vajalikud? Kuid pidevalt lilli kastvad demonid ei ole alati vajalikud.

Mõned tehisintellekti spetsialistid ei hinda selliseid "filosoofilisi arutlusi" ja "kirjanduslikkust", kuid need on traditsiooniliselt kuuluvad tehisintellekti analüüsi ning on vältimatud seni, kuni tehisintellekti võrreldakse inimeste intellektiga, veelgi enam, kui püüavad tehisintellekti kopeerida inimintellekti.

Kokkuvõtteks, küsitlus mitmete tõstatatud küsimuste osas.

Ainult registreeritud kasutajad saavad küsitluses osaleda. Logige sisse, palun.

1. Kas tehisintellektiga on seotud ülesanded, mida arvuti lahendab märgatavalt halvemini kui inimene?

• Jah

• Ei

• Tean määratlust paremini. Toon kommentaarides välja.

• Ei oska vastata

34 kasutajat hääletasid. 7 kasutajat olid erapooletud.

2. Peab tehisintellekt olema ainult täitja, mõistes kõiki korraldusi sõna-sõnal? Näiteks, kui öeldakse kasta lill — kas see tähendab, et kasta, kuni keelatakse.

• Jah

• Ei

• Ei oska vastata

37 kasutajat hääletasid. 6 kasutajat olid erapooletud.

3. Kas on võimalik luua tugevat tehisintellekti, mille kõik oskused oleks maksimaalsed (punane joon artikli alguses)?

• Jah

• Ei

• Ei oska vastata

Hääletasid 35 kasutajat. 7 kasutajat ei osalenud.

4. Kas on võimalik luua ülim tehisintellekt (sinine joon artikli alguses)?

• Jah

• Ei

• Ei oska vastata

Hääletas 36 kasutajat. 7 kasutajat hoidusid.

5. Vahe-eesmärk peaks olema mitte tugev, kuid mitte ka täiesti nõrk tehisintellekt (lilla joon artikli alguses), mis mõnes oskuses jääb inimese intelligentsist maha, kuid mitte nii tugevalt nagu praegu?

• Jah

• Ei

• Ei oska vastata

Hääletas 33 kasutajat. 5 kasutajat hoidusid.

6. Ohtlike vigade tegemine otsustes, tähelepanematuse ilmingud, vajalike asjade unustamine ja väsimus – kas need on peamised lahutamatud omadused inimintellekti jaoks?

• Jah

• Ei

• Mul on teine arvamus, mille esitan kommentaarides.

• Ei oska vastata

Hääletas 33 kasutajat. 5 kasutajat hoidusid.

7. Tänu oskusele unustada kõige lihtsamaid fakte omab inimene vabadust kombineerida oma mõtete fragmentideid suvalises ja omapärases järjestuses ja leida ebatavalisi lahendusi?

• Jah

• Ei

• Mul on teine arvamus, mille esitan kommentaarides.

• Ei oska vastata

Hääletas 31 kasutaja. 4 kasutajat hoidusid.

8. Inimintellekti modelleerimine ja tugeva tehisintellekti loomine – need on kaks erinevat ülesannet, mida saab lahendada erinevate meetoditega?

• Jah

• Ei

• Mul on teine arvamus, mille esitan kommentaarides.

• Ei oska vastata

Hääletas 32 kasutajat. 4 kasutajat hoidusid.

Allikas: habr.com