Kakav je učenik potreban čarobnjaku i kakva nam je umjetna inteligencija?

UPOZORENJE
Sudeći po rekordno visokom omjeru broja tiho nezadovoljnih i komentatora koji imaju čemu prigovoriti, mnogim čitateljima nije očigledno da:
1) Ovo je čisto teorijski članak za diskusiju. Ovdje neće biti praktičnih savjeta o odabiru alata za rudarenje kriptovalute ili sklapanju multivibratora za bljeskanje dvije sijalice.
2) Ovo nije naučnopopularni članak. Neće biti objašnjenja za lutke principa rada Turingove mašine koristeći primjer kutija šibica.
3) Dobro razmislite pre nego što nastavite sa čitanjem! Da li vam se sviđa stav agresivnog amaterizma: minusim sve što ne razumijem?
Hvala unapred svima koji odluče da ne čitaju ovaj članak!

Daemon je kompjuterski program na sistemima klase UNIX koji pokreće sam sistem i koji radi u pozadini bez direktne interakcije korisnika.

Wikipedia

Još u predškolskom uzrastu čuo sam bajku o čarobnjačkom šegrtu. Ponovit ću to u svom prepričavanju:

Nekada davno, negdje u srednjovjekovnoj Evropi, živio je čarobnjak. Imao je veliku knjigu čarolija ukoričenu u crnu teleću kožu sa gvozdenim kopčama i uglovima. Kada je čarobnjak trebao baciti čini, otključavao ga je velikim željeznim ključem, koji je uvijek nosio za pojasom u posebnoj torbici. Čarobnjak je imao i učenika koji je služio čarobnjaku, ali mu je bilo zabranjeno da pogleda u knjigu čini.

Jednog dana čarobnjak je otišao na cijeli dan poslom. Čim je izašao iz kuće, učenik je pojurio u tamnicu, gde je bila alhemijska laboratorija u kojoj je ležala knjiga uroka vezana za sto. Učenik je zgrabio lončiće u kojima je čarobnjak topio olovo kako bi ga pretvorio u zlato, stavio ih na žar i raspirivao vatru. Olovo se brzo otopilo, ali se nije pretvorilo u zlato. Tada se učenik sjetio da je čarobnjak, nakon što je otopio olovo, svaki put otključavao knjigu ključem i dugo šaputao čaroliju iz nje. Učenik je beznadežno pogledao zaključanu knjigu i vidio da pored nje leži ključ, kojeg je čarobnjak zaboravio. Zatim je pojurio do stola, otključao knjigu, otvorio je i glasno pročitao prvu čaroliju, pažljivo izgovarajući nepoznate riječi slog po slog, pretpostavljajući da će tako važna čarolija kao što je čarolija pretvorbe olova u zlato sigurno biti prva .

Ali ništa se nije dogodilo: vođa se nije htjela transformirati. Učenik je želeo da isproba još jednu čini, ali onda je grmljavina potresla kuću, a pred učenikom se pojavio ogroman, jeziv demon, prizvan čarolijom koju je učenik upravo izrecitovao.
- Naruči! - zarežao je demon.
Od straha su sve misli napustile učenikovu glavu, nije mogao ni da se pomeri.
- Naredi, ili ću te pojesti! - ponovo zareža demon i pruži ogromnu ruku prema učeniku da ga zgrabi.
U očaju, student je promrmljao prvo što mu je palo na pamet:
- Zalij ovaj cvijet.
I pokazao je na geranijum čiji je lonac stajao na podu u uglu laboratorije; na plafonu iznad cvijeta bio je jedini mali prozor u tamnici, kroz koji se jedva probijala sunčeva svjetlost. Demon je nestao, ali se trenutak kasnije ponovo pojavio sa ogromnom bačvom vode koju je prevrnuo preko cvijeta, izlivši vodu. Ponovo je nestao i ponovo se pojavio sa punim buretom.
„Dosta je bilo“, viknuo je student, stojeći do struka u vodi.
Ali očito sama želja nije bila dovoljna - demon je nosio i nosio vodu u buretu, sipao je u kut gdje je nekada stajao cvijet skriven ispod vode. Vjerovatno je bila potrebna posebna čarolija da otjera demona. Ali sto sa knjigom već je nestao u mutnoj vodi, u kojoj je plutao pepeo i ugalj iz žerača, prazne retorte, tikvice, stolice, galvanometri, dozimetri, špricevi za jednokratnu upotrebu i drugi krhotine, pa čak i da je učenik znao da pronađe potrebnu čaroliju, on to nije mogao učiniti. Voda je rasla, a student se popeo na sto da se ne uguši. Ali to nije dugo pomoglo - demon je metodično nastavio da nosi vodu. Učenik je već bio do grla u vodi kada se čarobnjak vratio, otkrivši da je kod kuće zaboravio ključ od knjige i otjerao demona. Kraj bajke.

Odmah o očiglednom. Sa prirodnom inteligencijom (NI) učenika, čini se da je sve jasno - glupo, moraš dugo tražiti nešto još gluplje. Ali sa inteligencijom demona - uzgred, kakvu vrstu inteligencije on ima: EI ili AI? – dvosmisleno. Različite verzije su legitimne (i o njima će se postaviti pitanja):

Verzija 1) Demon je još gluplji od učenika. Dobio je naređenje i izvršavaće ga u nedogled, čak i kada nestane svako značenje: cvet - predmet zalivanja - će nestati, ugao za koji su vezane koordinate cveta će nestati, planeta Zemlja će nestati, a glupi demon će nastaviti da isporučuje vodu u bačvama do određene tačke u svemiru. A ako supernova izbije u ovom trenutku, onda demonu nije stalo gdje da nosi vodu. Štaviše: koliko glup moraš biti da zaliješ mali cvijet iz ogromnog bureta? Ovo se već zove ne zalijevanje cvijeta, već utapanje cvijeta. Da li on uopšte razume značenje naređenja?

Verzija 2) Demon sve razumije, ali je vezan obavezama. Dakle, on sprovodi nešto kao italijanski štrajk. Dok ga zvanično ne izbace po svim pravilima, neće stati.

Pitanje 1 do verzija 1,2) Kako razlikovati potpuno glupog demona prema verziji 1 od nimalo glupog demona prema verziji 2?
Pitanje 2 za verziju 1,2) Da li bi demon pravilno (sa stanovišta učenika) izveo precizniju formulaciju? Na primjer, ako je učenik rekao: uzmite onu praznu bocu od litre koja je na polici, napunite je vodom i jednom zalijte taj cvijet. Ili, na primjer, ako je učenik rekao: odlazi.

Verzija 3) Čarobnjak je bacio dodatnu čaroliju na demona, prema kojoj ako neko drugi osim čarobnjaka koristi usluge demona, onda demon mora odmah obavijestiti čarobnjaka o ovoj činjenici.

Verzija 4) Demon se ne ljuti na čarobnjaka i njegovog učenika, pa se, vidjevši da je situacija izmakla kontroli, tokom kretanja sa buretom pojavio se iza čarobnjakovih leđa i zalajao: „Zaboravio si ključ kod kuće , dolazi do poplave.” Ali se sam čarobnjak ne bi sjetio.

Napomena 1 uz verziju 4) Posebno je vrijedno napomenuti da EI nosači imaju vrlo nesavršenu memoriju.

Dalje verzije se mogu umnožavati poput „Fibonačijevih zečeva“, tj. nije baš složen algoritam. Na primjer:
Verzija 5) Demon se osvećuje učeniku što ga je uznemiravao.
Verzija 6) Demon se ne ljuti na učenika, već se osvećuje čarobnjaku.
Verzija 6) Demon se sveti svima.
Verzija 7) Demon se ne osvećuje, već se zabavlja. Završava kada se umori.
itd.

Dakle, sa demonom je jasno da ništa nije jasno. Nije bolje sa čarobnjakom. Možete smisliti ništa manje verzije: da je namjerno odlučio da drži lekciju studentu koji svuda zabada svoj radoznali nos; da je hteo da udavi studenta, ali kada je demon zalajao o poplavi, uplašio se - odjednom je čuo jedan od prolaznika, tada bi sumnja pala na vrača; želeo da probudi interesovanje učenika za čini itd.

Ovdje je moguće djetinjasto pitanje: koja je od predloženih verzija ispravna? Očigledno, bilo koji. U priči nema neiskorištenih informacija koje bi dale prednost bilo kojoj verziji u odnosu na druge. Ovdje imamo posla sa prilično čestim slučajem umjetničkih djela s mogućnošću dvosmislene interpretacije. Na primjer, ako režiser želi ovu bajku postaviti u pozorištu ili po njoj snimiti film, može odabrati interpretaciju koja mu je najatraktivnija. Drugom režiseru bi drugačija interpretacija mogla biti privlačna. Istovremeno, atraktivnost se može odrediti dodatnim razmatranjima, na primjer, privlačnošću gledaocima kako bi se osigurao maksimalni prihod na kino blagajnama ili atraktivnošću da se demonstrira neka super-ideja: ideja pobjede dobra nad zlom, ideja dužnosti, buntovna ideja - na primjer, prema Dostojevskom: student, poput Raskoljnikova, postavlja pitanje "da li je on drhtavo stvorenje ili ima pravo" itd.

Postavlja se još jedno pitanje.
Još jedno pitanje). Kako možemo naučiti AI da daje prednost jednoj od izgovorenih verzija ako mi sami, posjedujući AI, ne možemo uvijek svjesno izabrati jednu od njih?

Vraćajući se čarobnjaku, verzija da je želio poslušnog i poslušnog učenika, poput demona, kako ne bi zabadao nos u zabranjene knjige i tamo gdje ga nisu pitali, izgleda vrlo uvjerljivo. Ista stvar se sada često traži od AI. Na prvi pogled, ovo su normalni tradicionalni zahtjevi za svaku mašinu: potpuna poslušnost, neposlušnost je neprihvatljiva. Ali u slučaju AI, može se pojaviti pitanje verzija 1,2 (vidi gore), tj. AI degenerira - hardver može misliti šta god hoće o svojim kreatorima i vlasnicima, ali neće izvoditi nikakve radnje vezane za AI, tj. Umjesto AI dobićemo glupi primitivni automat. Iz ovoga se uvlači sumnja: možda čarobnjak nije htio od učenika napraviti tako glupog izvođača kao što je demon? One. Pojavljuje se ideja AI s ograničenjima. Ovdje je sve još teže čak i na polju EI: sjetite se vječnih sukoba “očevi i sinovi”, “učitelj i učenik”, “šef i podređeni”.

Ranije Prilikom odabira definicije AI među mogućim, primijetio sam:

zadatak sortiranja nekoliko desetina hiljada riječi po abecednom redu bit će zamoran za osobu, trebat će mu mnogo vremena da to uradi, a vjerovatnoća grešaka za prosječnog izvođača sa prosječnim nivoom odgovornosti bit će značajna. Savremeni računar će ovaj zadatak obaviti bez grešaka u vrlo kratkom vremenu za osobu (djelići sekunde).

Odlučio sam se na sljedeću definiciju: AI uključuje zadatke koje kompjuter rješava znatno lošije od čovjeka.

Ova definicija uzima u obzir gore iznesena razmatranja i pogodna je za praksu; u isto vrijeme nije idealna, makar samo zato što su liste zadataka „koje kompjuter rješava znatno lošije od čovjeka“ sada i prije 20 godina različite. . Ali, po mom mišljenju, još niko nije smislio savršeniju definiciju.

Gore navedeno je čisto kvalitativno ilustrovano dijagramom na početku članka. Na koordinatnoj osi "vještine", vještine u području od nule (nula i nešto više) odgovaraju vještinama u kojima je osoba superiorna u odnosu na kompjuter, na primjer, u sposobnosti donošenja nestandardnih odluka. Vještine u području od jedan (jedan i nešto manje) odgovaraju vještinama gdje je kompjuter superiorniji od osobe: sposobnost računanja, pamćenje. Stavljajući maksimalnu superiornost jednaku konvencionalnoj jedinici na koordinatnu osu „superiornosti“, dobijamo zavisnost superiornosti od veština za ljude i kompjutere u obliku dijagonala jediničnog kvadrata. Ovako situacija izgleda u ovom trenutku. Da li je moguće da jaka AI ima sve svoje vještine na maksimumu (crvena linija)? Ili još više (super-AI - plava linija)? Možda međucilj napretka ne bi trebao biti jak, ali ne sasvim
slaba AI (ljubičasta linija), koja će biti inferiorna u odnosu na AI u nizu vještina, ali ne toliko kao sada.

Vraćajući se našem literarnom modelu bajke, možemo reći da se svi njeni junaci nisu ponašali na najbolji način: blesavi čarobnjak je zaboravio ključ i zadobio poplavu u svojoj tamnici, student je glupošću i nepažnjom dobio gomilu ekstremnih utisaka i skoro udavljen, demon je izbačen bez ikakve zahvalnosti. Što se tiče demonske inteligencije, već je napomenuto da ga je teško jasno klasificirati kao AI ili EI, ali inteligencija (iako nije impresivna) ostalih jasno pripada EI. Za njih se može reći da su pravljenje opasnih grešaka u odlukama, nepažnja, zaboravljanje potrebnih stvari i umornost njihova glavna inherentna svojstva. Nažalost, ova svojstva su inherentna svim ostalim nosiocima EI u većoj ili manjoj mjeri. Nepouzdanost sortiranja riječi ili brojeva EI-a je već spomenuta gore, ali čini se da je to još jednostavniji zadatak - jednostavno pamćenje broja ispada da je ljudima vrlo teško. Za mašinu, sposobnost pamćenja cifara pi ograničena je samo veličinom njene memorije i većina ljudi mora da koristi mnemonika, poput "Šta ja znam o krugovima." Čini se da linija "3,1416" ima manje znakova od navedenog mnemonika, ali iz nekog razloga ljudi radije pamte na manje ekonomičan način. I duže:

Naučite i znajte broj iza broja, kako primijetiti sreću

Da ne pogresimo,
Mora se pravilno pročitati
Tri, četrnaest, petnaest
Devedeset dva i šest

Da zapamtite dugine boje:

Svaki dizajner želi znati gdje da preuzme Photoshop

I početak periodnog sistema:

Prirodna voda (vodonik) je pomešana sa gelom (helijum) da bi se izlila (litijum). Da, uzmi i ulij (berilij) u borovu šumu (bor), gde ispod rodnog ugla (ugljenik) proviruje azijski (azot) i sa tako kiselim licem (kiseonikom) da sekundarni (fluor) nisam želim pogledati. Ali nije nam trebao (Neon), pa smo se odmaknuli tri (Natrijum) metra i završili u Magnoliji (Magnezijum), gde je Alja u mini (aluminijumskoj) suknji bila namazana kremom (silicij) koja sadrži fosfor (fosfor) da bi ona prestala da bude Sera (Sera). Nakon toga, Alya je uzela hlor (hlor) i oprala brod Argonauta (Argon)

Ali zašto tako očigledna nesavršenost u tako savršenom EI? Možda, zahvaljujući sposobnosti zaboravljanja najjednostavnijih činjenica, osoba stječe slobodu kombiniranja fragmenata svojih misli u proizvoljnom divljem redu i pronalaženja nestandardnih rješenja? Ako je tako, onda je jak AI nemoguć. Ili će zaboraviti kao osoba, ili neće biti sposoban za nestandardna rješenja. U svakom slučaju, iz navedenih pretpostavki proizilazi da je potrebno razlikovati ciljeve AI: jedan od ciljeva je modeliranje AI, drugi je stvaranje jake AI. Postizanje jednog može isključiti postizanje drugog.

Kao što vidimo, previše je pitanja sa dvosmislenim odgovorima u oblasti AI, pa je nejasno u kom pravcu da se krećemo. Kao što se dešava u takvim slučajevima, pokušavaju se kretati u svim smjerovima odjednom. Istovremeno, zbog nedostatka matematički rigoroznih formulacija, potrebno je okrenuti se filozofiji i umjetničkom i književnom modeliranju. Jedan od najpoznatijih primjera u ovom smjeru je knjiga “Turing Selection” (1992) jednog od svjetonazora umjetne inteligencije, Marvina Leea Minskyja, i poznatog pisca naučne fantastike Harija Harisona. Citiraću iz ove knjige, možda objašnjavajući gore opisani fenomen mnemotehnike:

Ljudsko pamćenje nije kasetofon koji sve snima hronološkim redom. Strukturiran je potpuno drugačije - kao neuredno održavan kartoteka, opremljen zbunjujućim i kontradiktornim indeksom. I ne samo zbunjujuće - s vremena na vrijeme mijenjamo principe klasifikacije pojmova.

Zanimljiva interpretacija metafore magnetofona u drugom književnom djelu, priči Stanislawa Lema “Terminus” (iz serije “Priče o pilotu Pirxu”). Evo slučaja svojevrsnog “inteligentnog magnetofona”: stari robot na starom svemirskom brodu koji je jednom doživio nesreću je angažovan na tekućim radovima na popravci, praćenim prisluškivanjem. Ali ako pažljivo slušate, ovo nije samo bijeli tehnološki šum, već snimak Morzeove azbuke - razgovora članova posade umirućeg broda. Pirx se miješa u ove pregovore i neočekivano dobija odgovor od davno mrtvih astronauta. Ispada da primitivni robot za popravku na neki način pohranjuje kopije njihove svijesti ili se radi o kognitivnim distorzijama percepcije pilota Pirxa?

U drugoj priči, “Ananke” (iz iste serije), kopija EI u kontrolnom kompjuteru svemirskog transporta dovodi do njegovog paranoičnog preopterećenja testnim zadacima, što se završava katastrofom.

U priči "Nesreća", previše antropomorfno programirani robot umire od posljedica planinarskog uspona koji je odlučio napraviti u slobodno vrijeme. Da li su takvi izvođači potrebni? Ali demoni fiksirani na zalijevanje cvijeta također nisu uvijek potrebni.

Neki stručnjaci iz oblasti AI ne vole takvo „filozofiranje“ i „literarizam“, ali to „filozofiranje“ i „literarizam“ tradicionalno su inherentni analizi AI i neizbežni su sve dok se AI poredi sa AI, pa čak i više sve dok AI pokušava kopirati AI.

U zaključku, anketa o brojnim pitanjima koja su se pojavila.

Samo registrovani korisnici mogu učestvovati u anketi. Prijavite semolim.

1. Da li AI uključuje zadatke koje kompjuter rješava znatno lošije od čovjeka?

• Da

• Nijedan

• Znam bolje definiciju. Ja ću to dati u komentarima.

• Teško je odgovoriti

Glasalo je 34 korisnika. Uzdržano je bilo 7 korisnika.

2. Da li AI treba da bude samo izvršilac, da li sve naredbe treba shvatiti doslovno? Recimo, rekli su zalijevati cvijet - to znači zalijevati dok te ne otjeraju

• Da

• Nijedan

• Teško je odgovoriti

Glasalo je 37 korisnika. Uzdržano je bilo 6 korisnika.

3. Da li je moguće imati jak AI, u kojem će sve vještine biti maksimalne (crvena linija na slici na početku članka)?

• Da

• Nijedan

• Teško je odgovoriti

Glasalo je 35 korisnika. Uzdržano je bilo 7 korisnika.

4. Da li je super-AI moguć (plava linija na slici na početku članka)?

• Da

• Nijedan

• Teško je odgovoriti

Glasalo je 36 korisnika. Uzdržano je bilo 7 korisnika.

5. Srednji cilj bi trebao biti ne jak, ali ni potpuno slab AI (ljubičasta linija na slici na početku članka), koji će u nizu vještina biti inferioran u odnosu na AI, ali ne toliko kao što je sada ?

• Da

• Nijedan

• Teško je odgovoriti

Glasalo je 33 korisnika. Uzdržano je bilo 5 korisnika.

6. Pravljenje opasnih grešaka u odlukama, nepažljivost, zaboravljanje potrebnih stvari i umor su glavna inherentna svojstva EI?

• Da

• Nijedan

• Ja imam drugačije mišljenje, koje ću iznijeti u komentarima.

• Teško je odgovoriti

Glasalo je 33 korisnika. Uzdržano je bilo 5 korisnika.

7. Zahvaljujući sposobnosti zaboravljanja najjednostavnijih činjenica, osoba stječe slobodu kombiniranja fragmenata svojih misli u proizvoljnom divljem redu i pronalaženja nestandardnih rješenja?

• Da

• Nijedan

• Ja imam drugačije mišljenje, koje ću iznijeti u komentarima.

• Teško je odgovoriti

Glasao je 31 korisnik. 4 korisnika je bilo uzdržano.

8. Modeliranje AI i stvaranje jake AI su dva različita zadatka koja se mogu riješiti različitim metodama?

• Da

• Nijedan

• Ja imam drugačije mišljenje, koje ću iznijeti u komentarima.

• Teško je odgovoriti

32 korisnika je glasalo. 4 korisnika su bila uzdržana.

Izvor: www.habr.com