ĮSPĖJIMAS
Sprendžiant iš rekordiškai didelio tyliai nepatenkintų ir komentatorių, turinčių kam prieštarauti, santykio, daugeliui skaitytojų nėra akivaizdu, kad:
1) Tai grynai teorinis diskusijų straipsnis. Čia nebus jokių praktinių patarimų, kaip pasirinkti kriptovaliutos kasimo įrankius ar surinkti multivibratorių dviem lemputėms mirgėti.
2) Tai nėra mokslo populiarinimo straipsnis. Turingo mašinos veikimo principo manekenai nebus paaiškinti degtukų dėžučių pavyzdžiu.
3) Prieš tęsdami skaitymą gerai pagalvokite! Ar jums patinka agresyvaus mėgėjiškumo laikysena: aš atėmus viską, ko nesuprantu?
Iš anksto dėkojame visiems, kurie nusprendė neskaityti šio straipsnio!
Demonas yra kompiuterinė programa UNIX klasės sistemose, kurią paleidžia pati sistema ir kuri veikia fone be tiesioginės vartotojo sąveikos.
Dar ikimokykliniame amžiuje girdėjau pasaką apie burtininko mokinį. Pakartosiu tai savo perpasakojime:
Kažkada kažkur viduramžių Europoje gyveno burtininkas. Jis turėjo didelę burtų knygą, įrištą į juodą veršio odą su geležiniais užsegimais ir kampais. Kai burtininkui prireikė burti, jis jį atrakino dideliu geležiniu raktu, kurį visada nešiojosi ant diržo specialiame maišelyje. Burtininkas turėjo ir mokinį, kuris tarnavo burtininkui, tačiau jam buvo uždrausta žvilgtelėti į burtų knygą.
Vieną dieną burtininkas išvyko visai dienai darbo reikalais. Vos išėjęs iš namų, studentas nuskubėjo į požemį, kur buvo alchemijos laboratorija, kurioje gulėjo prie stalo prirakinta burtų knyga. Mokinys pagriebė tiglius, kuriuose burtininkas išlydė šviną, kad paverstų jį auksu, uždėjo ant krosnelės ir pakurstė ugnį. Švinas greitai ištirpo, bet auksu nevirto. Tada mokinys prisiminė, kad burtininkas, ištirpdęs laidą, kaskart atrakindavo knygą raktu ir ilgai šnibždėdavo iš jos burtažodį. Studentas beviltiškai pažvelgė į užrakintą knygą ir pamatė, kad šalia jos guli burtininko pamirštas raktas. Tada jis puolė prie stalo, atrakino knygą, atsivertė ją ir garsiai perskaitė patį pirmąjį burtažodį, atsargiai ištardamas nepažįstamus žodžius skiemuo po skiemens, manydamas, kad toks svarbus burtas kaip švino virtimo auksu burtas tikrai bus pats pirmasis. .
Tačiau nieko neįvyko: lyderis nenorėjo transformuotis. Mokinys norėjo pabandyti dar vieną burtą, bet tada namus supurtė griaustinis, o priešais mokinį išniro didžiulis, šiurpus demonas, iškviestas mokinio ką tik pasakyto burtažodžio.
- Įsakymas! - suriko demonas.
Iš baimės visos mintys apleido mokinio galvą, jis net negalėjo pajudėti.
- Duok įsakymus, arba aš tave suvalgysiu! - vėl suriko demonas ir ištiesė didžiulę ranką mokinio link, kad jį sugriebtų.
Apimtas nevilties studentas sumurmėjo pirmą kartą, ką tik galėjo pagalvoti:
- Laistykite šią gėlę.
Ir jis parodė į pelargoniją, kurios vazonas stovėjo ant grindų laboratorijos kampe; lubose virš gėlės buvo vienintelis mažas langelis požemyje, pro kurį vos prasiskverbė saulės šviesa. Demonas dingo, bet po akimirkos vėl pasirodė su didžiule vandens statine, kurią apvertė gėlę, išliedamas vandenį. Jis vėl dingo ir vėl pasirodė su pilna statine.
„Užteks“, – sušuko studentas, stovėdamas iki juosmens vandenyje.
Bet, matyt, vien noro neužteko – demonas nešė ir nešė vandenį statinėje, pildamas į kampą, kur kadaise stovėjo po vandeniu paslėpta gėlė. Tikriausiai prireikė specialaus burtažodžio, kad išvarytų demoną. Bet stalas su knyga jau buvo dingęs į purviną vandenį, kuriame plaukė pelenai ir anglys iš krosnelės, tuščios retortos, kolbos, taburetės, galvanometrai, dozimetrai, vienkartiniai švirkštai ir kitos šiukšlės, tad net jei mokinys žinotų, kaip rasti. reikiamo burtažodžio, jis to padaryti negalėjo. Vanduo kilo, o studentas užlipo ant stalo, kad neužspringtų. Tačiau tai padėjo neilgai – demonas metodiškai ir toliau nešė vandenį. Studentas jau buvo iki kaklo vandenyje, kai grįžo burtininkas, sužinojęs, kad namuose pamiršo knygos raktą ir išvijo demoną. Pasakos pabaiga.
Iš karto apie tai, kas akivaizdu. Su natūraliu mokinio intelektu (NI) atrodytų, kad viskas aišku – kvaila, reikia ilgai ieškoti kažko dar kvailesnio. Bet su demono intelektu - beje, kokį intelektą jis turi: EI ar AI? – dviprasmiškas. Įvairios versijos yra teisėtos (ir dėl jų taip pat kils klausimų):
1 versija) Demonas yra dar kvailesnis už mokinį. Jis gavo įsakymą ir vykdys jį neribotą laiką, net kai išnyks visa prasmė: išnyks gėlė - laistymo objektas, išnyks kampas, į kurį pritvirtintos gėlės koordinatės, išnyks planeta Žemė ir kvailas demonas ir toliau tieks vandenį statinėse į tam tikrą kosmoso tašką. Ir jei šiuo metu prasiveržia supernova, tada demonui nerūpi, kur nešti vandenį. Be to: koks kvailas turi būti, kad palaistytų mažą gėlę iš didžiulės statinės? Tai jau vadinama ne gėlės laistymu, o gėlės nuskandinimu. Ar jis net supranta įsakymų prasmę?
2 versija) Demonas viską supranta, bet yra saistomas įsipareigojimų. Taigi jis vykdo kažką panašaus į italų streiką. Kol jis pagal visas taisykles nebus oficialiai išspirtas, jis nesustos.
1 klausimas versijoms 1,2) Kaip atskirti visiškai kvailą demoną pagal 1 versiją nuo visai ne kvailo demono pagal 2 versiją?
2 klausimas 1,2 versijoms) Ar demonas būtų teisingai (mokinio požiūriu) atlikęs tikslesnę formuluotę? Pavyzdžiui, jei mokinys pasakė: paimkite tą tuščią litro kolbą, kuri yra lentynoje, užpildykite ją vandeniu ir vieną kartą palaistykite tą gėlę. Arba, pavyzdžiui, jei mokinys pasakė: išeik.
3 versija) Burtininkas paliečia demonui papildomą burtą, pagal kurį, jei demono paslaugomis naudojasi kas nors kitas, o ne burtininkas, demonas turi nedelsdamas informuoti burtininką apie šį faktą.
4 versija) Demonas nelaiko pykčio prieš burtininką ir jo mokinį, todėl matydamas, kad situacija nevaldoma, judesiais su statine pasirodė burtininkui už nugaros ir lojo: „Pamiršai namuose raktą. , yra potvynis“. Tačiau pats burtininkas nebūtų prisiminęs.
1 pastaba dėl 4 versijos) Ypač verta paminėti, kad EI nešikliai turi labai netobulą atmintį.
Tolesnes versijas galima padauginti kaip „Fibonačio triušius“, t.y. nėra labai sudėtingas algoritmas. Pavyzdžiui:
5 versija) Demonas atkeršija mokiniui už tai, kad jis jam trukdė.
6 versija) Demonas nelaiko pykčio prieš mokinį, bet keršija burtininkui.
6 versija) Demonas keršija visiems.
7 versija) Demonas nekeršija, bet linksminasi. Baigia, kai pavargsta.
Ir taip toliau.
Taigi, su demonu aišku, kad niekas neaišku. Ne geriau su burtininku. Galite sugalvoti ne mažiau versijų: kad jis tyčia nusprendė vesti pamoką mokiniui, kuris visur kiša savo smalsią nosį; kad norėjo nuskandinti mokinį, bet kai demonas lojo apie potvynį, išsigando – staiga išgirdo vienas iš praeivių, tada įtarimas kris ant burtininko; norėjo pažadinti mokinio susidomėjimą burtais ir pan.
Čia galimas vaikiškas klausimas: kuri iš siūlomų versijų teisinga? Matyt, bet koks. Pasakoje neliko nepanaudotos informacijos, kuri teiktų pirmenybę kuriai nors versijai prieš kitas. Čia kalbame apie gana dažną meno kūrinių atvejį, turintį dviprasmiškos interpretacijos galimybę. Pavyzdžiui, jei režisierius nori šią pasaką pastatyti teatre ar pagal ją sukurti filmą, jis gali pasirinkti interpretaciją, kuri jo požiūriu patraukliausia. Kitam režisieriui gali atrodyti patraukli kitokia interpretacija. Tuo pačiu metu patrauklumą gali lemti papildomi svarstymai, pavyzdžiui, patrauklumas žiūrovams, siekiant užtikrinti maksimalius kasos pajamas, arba patrauklumas pademonstruoti kokią nors superidėją: gėrio pergalės prieš blogį idėją, pareigos idėja, maištinga idėja - pavyzdžiui, pasak Dostojevskio: studentas, kaip ir Raskolnikovas, užduoda klausimą „ar jis dreba būtybė, ar turi teisę“ ir pan.
Kyla kitas klausimas.
Dar vienas klausimas). Kaip išmokyti dirbtinį intelektą teikti pirmenybę vienai iš įgarsintų versijų, jei patys, turėdami AI, negalime visada sąmoningai pasirinkti vieną iš jų?
Grįžtant prie burtininko, versija, kad jis norėjo pareigingo ir paklusnaus mokinio, kaip demono, kad nekištų nosies į uždraustas knygas ir kur jo neprašo, atrodo labai tikėtina. To paties dabar dažnai norima iš AI. Iš pirmo žvilgsnio tai normalūs tradiciniai reikalavimai bet kokiai mašinai: visiškas paklusnumas, nepaklusnumas yra nepriimtinas. Bet AI atveju gali iškilti 1,2 versijų problema (žr. aukščiau), t.y. AI išsigimsta – aparatinė įranga apie savo kūrėjus ir savininkus gali galvoti ką tik nori, tačiau neatliks jokių su DI susijusių veiksmų, t.y. Vietoj AI gausime kvailą primityvų automatą. Iš to kyla įtarimas: gal burtininkas nenorėjo studento padaryti tokiu kvailu atlikėju kaip demonas? Tie. Iškyla AI su apribojimais idėja. Čia viskas dar sunkiau net EI srityje: prisiminkite amžinus konfliktus „tėvai ir sūnūs“, „mokytojas ir mokinys“, „šefas ir pavaldinys“.
Pasirinkdamas AI apibrėžimą iš galimų, pažymėjau:
užduotis surūšiuoti kelias dešimtis tūkstančių žodžių abėcėlės tvarka žmogui bus varginanti, užtruks ilgai, o klaidų tikimybė vidutiniam atlikėjui su vidutiniu atsakomybės lygiu bus nemaža. Šiuolaikinis kompiuteris šią užduotį atliks be klaidų žmogui per labai trumpą laiką (sekundės dalis).
Aš pasirinkau tokį apibrėžimą: AI apima užduotis, kurias kompiuteris išsprendžia žymiai prasčiau nei žmogus.
Šis apibrėžimas atsižvelgia į aukščiau išsakytus samprotavimus ir yra patogus praktikai, tuo pačiu nėra idealus jau vien dėl to, kad užduočių, „kurias kompiuteris išsprendžia pastebimai prasčiau nei žmogus“ sąrašai skiriasi dabar ir prieš 20 metų. . Tačiau, mano nuomone, tobulesnio apibrėžimo dar niekas nesugalvojo.
Tai, kas išdėstyta pirmiau, grynai kokybiškai iliustruojama straipsnio pradžioje pateikta diagrama. „Įgūdžių“ koordinačių ašyje įgūdžiai nulio srityje (nulis ir šiek tiek daugiau) atitinka įgūdžius, kai žmogus yra pranašesnis už kompiuterį, pavyzdžiui, gebėjimu priimti nestandartinius sprendimus. Vieno regiono įgūdžiai (vienas ir šiek tiek mažiau) atitinka įgūdžius, kai kompiuteris yra pranašesnis už žmogų: mokėjimas skaičiuoti, atmintis. Padėję maksimalų pranašumą, lygų įprastiniam vienetui, „pranašumo“ koordinačių ašyje, gauname pranašumo priklausomybę nuo žmonių ir kompiuterių įgūdžių vienetinio kvadrato įstrižainių pavidalu. Taip atrodo situacija šiuo metu. Ar įmanoma, kad stiprus dirbtinis intelektas turi maksimalius įgūdžius (raudona linija)? Ar dar aukštesnė (super-AI – mėlyna linija)? Galbūt tarpinis progreso tikslas ir neturėtų būti stiprus, bet ne visai
silpnas AI (violetinė linija), kuris daugeliu įgūdžių bus prastesnis už AI, bet ne tiek, kiek yra dabar.
Grįžtant prie mūsų literatūrinės pasakos modelio, galima teigti, kad visi jos herojai pasirodė ne pačiu geriausiu būdu: besiblaškantis burtininkas pamiršo raktą ir savo požemyje užplūdo potvynį, studentas per kvailumą ir nerūpestingumą gavo krūvą ekstremalūs įspūdžiai ir vos nenuskendo, demonas buvo išvarytas be jokio dėkingumo. Kalbant apie demono intelektą, jau buvo pažymėta, kad sunku jį aiškiai priskirti AI ar EI, tačiau kitų intelektas (nors ir neįspūdingas) aiškiai priklauso EI. Apie juos galima sakyti, kad pavojingos klaidos priimant sprendimus, neatidumas, reikalingų dalykų pamiršimas ir pavargimas yra pagrindinės jiems būdingos savybės. Deja, šios savybės didesniu ar mažesniu mastu būdingos visiems kitiems EI nešiotojams. EI žodžių ar skaičių rūšiavimo nepatikimumas jau buvo pažymėtas aukščiau, tačiau tai atrodytų dar paprastesnė užduotis - tiesiog prisiminti skaičių žmonėms pasirodo labai sunku. Mašinos gebėjimą atsiminti pi skaitmenis riboja tik jos atminties dydis, todėl dauguma žmonių turi naudoti , pvz., „Ką aš žinau apie draugų ratus“. Atrodytų, kad eilutėje „3,1416“ yra mažiau simbolių nei nurodyta mnemonika, tačiau dėl tam tikrų priežasčių žmonės nori atsiminti mažiau ekonomišku būdu. Ir ilgiau:
Išmokite ir žinokite skaičių už skaičiaus, kaip pastebėti sėkmę
Kad nedarytume klaidų,
Turi būti perskaityta teisingai
Trys, keturiolika, penkiolika
Devyniasdešimt du ir šeši
Norėdami prisiminti vaivorykštės spalvas:
Kiekvienas dizaineris nori žinoti, kur atsisiųsti „Photoshop“.
Ir periodinės lentelės pradžia:
Natūralus vanduo (vandenilis) buvo sumaišytas su geliu (heliu), kad būtų pilamas (litis). Taip, Imk ir supilk (berilį) į pušyną (boras), kur iš po Gimtosios kampelio (anglies) išlenda azijietė (azotas), o su tokiu Rūgščiu veidu (Deguonimi), kad antrinio (fluoro) nebuvau. norisi pažiūrėti. Bet mums jo (Neono) nereikėjo, todėl persikėlėme už trijų (natrio) metrų ir atsidūrėme Magnolijoje (Magnesium), kur Alya su mini (aliuminio) sijonu buvo ištepta kremu (Silicis), kuriame yra fosforo (fosforo) kad ji nustotų būti Sera (Sera). Po to Alya paėmė chlorą (chlorą) ir nuplovė argonautų laivą (argoną)
Bet kodėl toks akivaizdus tokio tobulo EI netobulumas? Galbūt dėl sugebėjimo pamiršti paprasčiausius faktus žmogus įgyja laisvę savavališka laukine tvarka sujungti savo minčių fragmentus ir rasti nestandartinių sprendimų? Jei taip, tada stiprus AI neįmanomas. Arba užsimirš kaip žmogus, arba nesugebės nestandartinių sprendimų. Bet kokiu atveju, iš aukščiau pateiktų prielaidų išplaukia, kad būtina atskirti AI tikslus: vienas iš tikslų yra AI modeliavimas, kitas – stipraus AI sukūrimas. Pasiekus vieną, gali nepavykti pasiekti kito.
Kaip matome, AI srityje yra per daug klausimų su dviprasmiškais atsakymais, todėl neaišku, kuria kryptimi judėti. Kaip ir atsitinka tokiais atvejais, jie stengiasi judėti visomis kryptimis vienu metu. Tuo pat metu dėl matematiškai griežtų formuluočių stokos tenka atsigręžti į filosofiją ir meninį bei literatūrinį modeliavimą. Vienas žinomiausių šios krypties pavyzdžių – vieno iš AI šviesuolių Marvino Lee Minsky ir garsaus mokslinės fantastikos rašytojo Harry Harrisono knyga „Turing Selection“, 1992 m. Cituosiu iš šios knygos, galbūt paaiškindamas aukščiau aprašytą mnemonikos reiškinį:
Žmogaus atmintis nėra magnetofonas, kuris įrašo viską chronologine tvarka. Ji sukonstruota visiškai kitaip – veikiau kaip aplaidžiai prižiūrimas kartotekas, aprūpintas painiu ir prieštaringu indeksu. Ir ne tik paini – karts nuo karto keičiame sąvokų klasifikavimo principus.
Įdomi magnetofono metaforos interpretacija kitame literatūros kūrinyje – Stanislovo Lemo apsakyme „Terminus“ (iš serijos „Pasakojimai apie lakūną Pirksą“). Čia yra savotiško „protingo magnetofono“ atvejis: senas robotas sename kosminiame laive, kažkada patyrusiame avariją, atlieka remonto darbus, kuriuos lydi bakstelėjimas. Bet jei atidžiai įsiklausysite, tai ne šiaip baltas technologinis triukšmas, o Morzės abėcėlės įrašas – pokalbiai tarp mirštančio laivo įgulos narių. Pirxas įsikiša į šias derybas ir netikėtai sulaukia atsakymo iš seniai mirusių astronautų. Pasirodo, primityvus remonto robotas tam tikru būdu saugo jų sąmonės kopijas, ar tai yra piloto Pirxo suvokimo pažinimo iškraipymai?
Kitoje istorijoje „Ananke“ (iš tos pačios serijos) kosminio transporto valdymo kompiuteryje esanti EI kopija sukelia jo paranojišką perkrovą atliekant bandomąsias užduotis, o tai baigiasi katastrofa.
Pasakojime „Avarija“ pernelyg antropomorfiškai užprogramuotas robotas miršta kopdamas į alpinizmą, kurį jis nusprendė padaryti laisvalaikiu. Ar reikia tokių atlikėjų? Tačiau demonai, užsifiksavę laistyti gėlę, taip pat ne visada reikalingi.
Kai kurie AI srities specialistai nemėgsta tokio „filosofavimo“ ir „literatūrizmo“, tačiau šis „filosofavimas“ ir „literatūriškumas“ tradiciškai yra būdingi AI analizei ir yra neišvengiami tol, kol AI lyginamas su DI, ir net labiau tol, kol AI bando kopijuoti AI.
Apibendrinant, atlikta apklausa dėl daugelio iškilusių problemų.
Apklausoje gali dalyvauti tik registruoti vartotojai. , Prašau.
1. Ar AI apima užduotis, kurias kompiuteris išsprendžia žymiai prasčiau nei žmogus?
-
Taip
-
Ne
-
Aš geriau žinau apibrėžimą. Pateiksiu komentaruose.
-
Sunku atsakyti
Balsavo 34 vartotojai. 7 vartotojų susilaikė.
2. Ar AI turi būti tik vykdytojas, ar visi įsakymai turi būti suprantami pažodžiui? Pavyzdžiui, jie sakė laistyti gėlę – tai reiškia laistyti tol, kol jie tave išvarys
-
Taip
-
Ne
-
Sunku atsakyti
Balsavo 37 vartotojų. 6 vartotojai susilaikė.
3. Ar įmanoma turėti stiprų AI, kuriame visi įgūdžiai bus maksimalūs (raudona linija paveikslėlyje straipsnio pradžioje)?
-
Taip
-
Ne
-
Sunku atsakyti
Balsavo 35 vartotojų. 7 vartotojai susilaikė.
4. Ar įmanomas super-AI (mėlyna linija paveikslėlyje straipsnio pradžioje)?
-
Taip
-
Ne
-
Sunku atsakyti
Balsavo 36 vartotojų. 7 vartotojai susilaikė.
5. Tarpinis tikslas turėtų būti ne stiprus, bet ir ne visiškai silpnas AI (violetinė linija paveiksle straipsnio pradžioje), kuris daugeliu įgūdžių bus prastesnis už AI, bet ne tiek, kiek yra dabar. ?
-
Taip
-
Ne
-
Sunku atsakyti
Balsavo 33 vartotojai. 5 vartotojų susilaikė.
6. Pavojingų klaidų darymas priimant sprendimus, neatidumas, reikalingų dalykų pamiršimas ir nuovargis yra pagrindinės būdingos EI savybės?
-
Taip
-
Ne
-
Turiu kitokią nuomonę, kurią pateiksiu komentaruose.
-
Sunku atsakyti
Balsavo 33 vartotojai. 5 vartotojų susilaikė.
7. Dėl gebėjimo pamiršti paprasčiausius faktus žmogus įgyja laisvę sujungti savo minčių fragmentus savavališka laukine tvarka ir rasti nestandartinius sprendimus?
-
Taip
-
Ne
-
Turiu kitokią nuomonę, kurią pateiksiu komentaruose.
-
Sunku atsakyti
Balsavo 31 vartotojas. 4 vartotojai susilaikė.
8. AI modeliavimas ir stiprios AI kūrimas yra dvi skirtingos užduotys, kurias galima išspręsti skirtingais metodais?
-
Taip
-
Ne
-
Turiu kitokią nuomonę, kurią pateiksiu komentaruose.
-
Sunku atsakyti
Balsavo 32 vartotojai. 4 vartotojai susilaikė.
Šaltinis: www.habr.com