UPOZORENJE
Sudeći po rekordno visokom omjeru broja tiho nezadovoljnih i broja komentatora koji imaju što prigovoriti, mnogim čitateljima nije očito da:
1) Ovo je čisto teorijski članak za raspravu. Ovdje neće biti praktičnih savjeta o odabiru alata za rudarenje kriptovalute ili sastavljanju multivibratora za bljeskanje dviju žarulja.
2) Ovo nije znanstveno-popularni članak. Neće biti objašnjenja za lutke principa rada Turingovog stroja na primjeru kutija šibica.
3) Dobro razmislite prije nastavka čitanja! Privlači li vas poza agresivnog amaterizma: minusim sve što ne razumijem?
Unaprijed hvala svima koji odluče ne čitati ovaj članak!
Daemon je računalni program na sustavima klase UNIX koji pokreće sam sustav i radi u pozadini bez izravne interakcije korisnika.
Još u predškolskoj dobi čuo sam bajku o čarobnjakovom šegrtu. Ponovit ću to u svom prepričavanju:
Jednom davno, negdje u srednjovjekovnoj Europi, živio je čarobnjak. Imao je veliku knjigu čarolija uvezanu u crnu teleću kožu sa željeznim kopčama i uglovima. Kad je čarobnjak trebao urokati, otključavao ga je velikim željeznim ključem, koji je uvijek nosio o pojasu u posebnoj torbici. Čarobnjak je imao i učenika koji je služio čarobnjaku, ali mu je bilo zabranjeno pogledati u knjigu uroka.
Jednog dana čarobnjak je otišao poslom na cijeli dan. Čim je izašao iz kuće, student je pojurio u tamnicu, gdje se nalazio alkemijski laboratorij u kojem je ležala knjiga čarolija okovana za stol. Učenik je zgrabio lonce u kojima je čarobnjak topio olovo da ga pretvori u zlato, stavio ih na žeravnicu i raspirio vatru. Olovo se brzo otopilo, ali se nije pretvorilo u zlato. Tada se učenik sjeti da je čarobnjak, rastopivši olovo, svaki put ključem otključao knjigu i dugo iz nje šaputao čaroliju. Učenik je beznadno pogledao zaključanu knjigu i vidio da pokraj nje leži ključ koji je zaboravio čarobnjak. Zatim je pojurio do stola, otključao knjigu, otvorio je i glasno pročitao prvu čaroliju, pažljivo izgovarajući nepoznate riječi slog po slog, pretpostavljajući da će tako važna čarolija kao što je čarolija pretvaranja olova u zlato sigurno biti prva. .
Ali ništa se nije dogodilo: glavni se nije htio transformirati. Učenik je htio isprobati još jednu čaroliju, ali tada je grom protresao kuću, a pred učenikom se pojavio golemi, jezivi demon, prizvan čarolijom koju je učenik upravo izgovorio.
- Narudžba! - zarežao je demon.
Od straha su učeniku sve misli napustile glavu, nije se mogao ni pomaknuti.
- Naređuj, ili ću te pojesti! - opet zareži demon i pruži ogromnu ruku prema učeniku da ga zgrabi.
U očaju, student je promrmljao prvo što mu je palo na pamet:
- Zalijevaj ovaj cvijet.
I pokaza na geranij, čija je posuda stajala na podu u kutu laboratorija; na stropu iznad cvijeta bio je jedini prozorčić u tamnici, kroz koji je sunčeva svjetlost jedva probijala. Demon je nestao, ali se trenutak kasnije ponovno pojavio s ogromnom bačvom vode, koju je okrenuo preko cvijeta, izlijevajući vodu. Opet je nestao i opet se pojavio s punom bačvom.
"Dosta je", viknuo je student stojeći do struka u vodi.
Ali očito sama želja nije bila dovoljna - demon je nosio i nosio vodu u bačvi, točeći je u kut gdje je nekoć stajao cvijet skriven pod vodom. Vjerojatno je bila potrebna posebna čarolija da se otjera demon. Ali stol s knjigom već je nestao u mutnoj vodi, u kojoj su plutali pepeo i ugljen iz žeravnice, prazne retorte, pljoske, stolice, galvanometri, dozimetri, jednokratne štrcaljke i drugi otpad, pa čak i kad bi učenik znao pronaći potrebnu čaroliju, on to nije mogao učiniti. Voda je rasla, a učenik se popeo na stol da se ne uguši. Ali to nije dugo pomoglo - demon je metodično nastavio nositi vodu. Učenik je već bio do grla u vodi kad se čarobnjak vratio, otkrivši da je kod kuće zaboravio ključ od knjige, te je otjerao demona. Kraj bajke.
Odmah o očitom. S prirodnom inteligencijom (NI) učenika, čini se da je sve jasno - glupo, morate dugo tražiti nešto još gluplje. Ali s demonovom inteligencijom - usput, kakvu on inteligenciju ima: EI ili AI? - dvosmislen. Različite verzije su legitimne (i o njima će se također pojaviti pitanja):
Verzija 1) Demon je još gluplji od učenika. Dobio je naredbu i izvršavat će je unedogled, čak i kada nestane svakog smisla: nestat će cvijet - predmet zalijevanja, nestat će kut na koji su vezane koordinate cvijeta, nestat će planeta Zemlja, nestat će glupi demon nastavit će isporučivati vodu u bačvama do određene točke u svemiru. A ako u ovom trenutku izbije supernova, onda demona nije briga kamo da nosi vodu. Štoviše: koliko glup moraš biti da zalijevaš mali cvijet iz ogromne bačve? To se već zove ne zalijevanje cvijeta, nego utapanje cvijeta. Shvaća li uopće značenje naredbi?
Verzija 2) Demon sve razumije, ali je vezan obvezama. Dakle, provodi nešto poput talijanskog štrajka. Dok ga službeno ne izbace po svim pravilima, neće stati.
Pitanje 1 uz verzije 1,2) Kako razlikovati potpuno glupog demona prema verziji 1 od nimalo glupog demona prema verziji 2?
Pitanje 2 za verzije 1,2) Bi li demon izveo točnu (sa studentovog stajališta) precizniju formulaciju? Na primjer, ako je učenik rekao: uzmi onu praznu litrenu tikvicu koja stoji na polici, napuni je vodom i jednom zalij taj cvijet. Ili, na primjer, ako je učenik rekao: odlazi.
Verzija 3) Čarobnjak je bacio dodatnu čaroliju na demona, prema kojoj ako netko drugi osim čarobnjaka koristi usluge demona, demon mora odmah obavijestiti čarobnjaka o toj činjenici.
Verzija 4) Demon nije zamjerio čarobnjaku i njegovom učeniku, pa se, vidjevši da je situacija izmakla kontroli, tijekom kretanja s buretom pojavio iza čarobnjakovih leđa i zalajao: „Zaboravio si ključ kod kuće , tu je poplava.” Ali sam se čarobnjak ne bi sjetio.
Napomena 1 uz verziju 4) Posebno je vrijedno napomenuti da EI nosači imaju vrlo nesavršenu memoriju.
Daljnje verzije mogu se umnožiti poput "Fibonaccijevih zečeva", tj. ne baš složen algoritam. Na primjer:
Verzija 5) Demon se osvećuje učeniku jer ga je uznemiravao.
Verzija 6) Demon ne zamjera učeniku, već se osvećuje čarobnjaku.
Verzija 6) Demon se osvećuje svima.
Verzija 7) Demon se ne osvećuje, već se zabavlja. Završava kad se umori.
I tako dalje. D.
Dakle, s demonom je jasno da ništa nije jasno. Ništa bolje s čarobnjakom. Možete smisliti ništa manje verzije: da je namjerno odlučio održati lekciju učeniku koji posvuda gura svoj radoznali nos; da je htio učenika utopiti, ali kad je demon zalajao o potopu, uplašio se - odjednom je netko od prolaznika čuo, tada će sumnja pasti na čarobnjaka; želio probuditi zanimanje učenika za čarolije itd.
Ovdje je moguće djetinjasto pitanje: koja je od predloženih verzija točna? Očigledno, bilo koji. U priči nema nijedne neiskorištene informacije koja bi dala prednost bilo kojoj verziji nad ostalima. Ovdje se radi o prilično uobičajenom slučaju umjetničkih djela s mogućnošću dvosmislenog tumačenja. Primjerice, ako redatelj želi postaviti tu bajku u kazalištu ili po njoj snimiti film, može odabrati interpretaciju koja mu je najprivlačnija. Drugom bi redatelju drugačija interpretacija mogla biti privlačna. Istovremeno, atraktivnost se može odrediti dodatnim razmatranjima, na primjer, privlačnost gledateljima kako bi se osigurali maksimalni prihodi na kino blagajnama, ili atraktivnost da bi se demonstrirala neka super-ideja: ideja pobjede dobra nad zlom, ideja dužnosti, buntovnička ideja - na primjer, prema Dostojevskom: učenik, poput Raskoljnikova, postavlja pitanje "je li on drhtavo stvorenje ili ima pravo", itd.
Postavlja se još jedno pitanje.
Još jedno pitanje). Kako možemo naučiti umjetnu inteligenciju da daje prednost jednoj od glasovnih verzija ako mi sami, posjedujući umjetnu inteligenciju, ne možemo uvijek svjesno izabrati jednu od njih?
Vratimo li se čarobnjaku, verzija da je želio savjesnog i poslušnog učenika, poput demona, kako ne bi zabadao nos u zabranjene knjige i tamo gdje ga se ne pita, izgleda vrlo vjerojatna. Ista stvar se sada često traži od umjetne inteligencije. Na prvi pogled, to su normalni tradicionalni zahtjevi za bilo koji stroj: potpuna poslušnost, neposlušnost je neprihvatljiva. Ali u slučaju umjetne inteligencije, može se pojaviti problem s verzijama 1,2 (vidi gore), tj. AI degenerira - hardver može misliti što god hoće o svojim kreatorima i vlasnicima, ali neće izvršiti nikakve radnje vezane uz AI, tj. Umjesto umjetne inteligencije dobit ćemo glupi primitivni automat. Iz toga se provlači sumnja: možda čarobnjak nije htio od učenika napraviti tako glupog izvođača kao demona? Oni. Pojavljuje se ideja AI s ograničenjima. Ovdje je sve još teže čak iu području EI: sjetite se vječnih sukoba „očevi i sinovi“, „učitelj i učenik“, „šef i podređeni“.
Prilikom odabira definicije umjetne inteligencije među mogućim, primijetio sam:
zadatak sortiranja nekoliko desetaka tisuća riječi abecednim redom bit će zamoran za osobu, trebat će mu puno vremena da to učini, a vjerojatnost pogrešaka za prosječnog izvođača s prosječnom razinom odgovornosti bit će značajna. Moderno računalo će taj zadatak obaviti bez greške u vrlo kratkom vremenu za čovjeka (djelić sekunde).
Zaustavio sam se za sljedeću definiciju: AI uključuje zadatke koje računalo rješava znatno lošije od čovjeka.
Ova definicija uzima u obzir gore navedena razmatranja i prikladna je za praksu, ali u isto vrijeme nije idealna, makar samo zato što su popisi zadataka “koje računalo rješava znatno lošije od čovjeka” sada drugačiji od onih prije 20 godina . Ali, po mom mišljenju, još nitko nije smislio savršeniju definiciju.
Gore navedeno čisto kvalitativno ilustrira dijagram na početku članka. Na koordinatnoj osi "vještina", vještine u području nule (nula i nešto više) odgovaraju vještinama u kojima je osoba superiornija od računala, na primjer, u sposobnosti donošenja nestandardnih odluka. Vještine u području jedan (jedan i malo manje) odgovaraju vještinama u kojima je računalo superiornije od osobe: sposobnost računanja, pamćenje. Stavljajući maksimalnu superiornost jednaku konvencionalnoj jedinici na koordinatnu os "superiornosti", dobivamo ovisnost superiornosti o vještinama za ljude i računala u obliku dijagonala jediničnog kvadrata. Ovako izgleda situacija u ovom trenutku. Je li moguće da jaka umjetna inteligencija ima sve svoje vještine na maksimumu (crvena linija)? Ili još više (super-AI - plava linija)? Možda srednji cilj napretka ne bi trebao biti jak, ali ne baš
slab AI (ljubičasta linija), koji će biti inferioran AI-u u brojnim vještinama, ali ne toliko koliko je sada.
Vraćajući se našem modelu književne bajke, možemo reći da se svi njezini junaci nisu najbolje pokazali: lukavi čarobnjak zaboravio je ključ i doživio potop u tamnici, učenik je glupošću i nepažnjom dobio hrpu ekstremnih dojmova i gotovo se utopio, demon je izbačen bez ikakve zahvalnosti. Što se tiče demonove inteligencije, već je napomenuto da ga je teško jasno klasificirati kao AI ili EI, ali inteligencija (iako ne impresivna) ostalih jasno pripada EI. Za njih se može reći da su opasne greške u odlukama, nepažljivost, zaboravljanje potrebnih stvari i umor njihova glavna inherentna svojstva. Nažalost, ta su svojstva u većoj ili manjoj mjeri svojstvena svim drugim nositeljima EI. Nepouzdanost razvrstavanja riječi ili brojeva EI-a već je spomenuta gore, ali čini se da je to još jednostavniji zadatak - jednostavno pamćenje broja ispada da je ljudima vrlo teško. Za stroj, sposobnost pamćenja znamenki pi ograničena je samo veličinom njegove memorije, a većina ljudi mora koristiti , poput "Što ja znam o krugovima." Čini se da redak "3,1416" ima manje znakova od navedene mnemotehnike, ali iz nekog razloga ljudi radije pamte na manje ekonomičan način. I duže:
Naučite i upoznajte broj iza broja, kako uočiti sreću
Da ne griješimo,
Mora se ispravno pročitati
Tri, četrnaest, petnaest
Devedeset dva i šest
Da zapamtite dugine boje:
Svaki dizajner želi znati gdje preuzeti Photoshop
I početak periodnog sustava:
Izvorna voda (vodik) pomiješana je s gelom (helij) da se izlije (litij). Da, Uzmi i izlij (berilij) u borovu šumu (bor), gdje ispod rodnog kuta (ugljik) viri azijski (dušik), i s tako kiselim licem (kisik) da sekundarni (fluor) nisam želite pogledati. Ali nije nam trebao (Neon) pa smo se odmaknuli tri (Sodium) metra dalje i završili u Magnoliji (Magnezij), gdje je Alya u mini (Aluminij) suknji namazana Kremom (Silicij) koja sadrži Fosfor (Fosfor) kako bi prestala biti Sera (Sera). Nakon toga, Alya je uzela Klor (Chlorine) i oprala brod Argonauta (Argon)
Ali zašto tako očita nesavršenost u tako savršenom EI? Možda, zahvaljujući sposobnosti zaboravljanja najjednostavnijih činjenica, osoba dobiva slobodu kombinirati fragmente svojih misli u proizvoljnom divljem redu i pronalaziti nestandardna rješenja? Ako je tako, onda je jaka umjetna inteligencija nemoguća. Ili će zaboraviti kao osoba, ili neće biti sposoban za nestandardna rješenja. U svakom slučaju, iz navedenih pretpostavki proizlazi da je potrebno razlikovati ciljeve umjetne inteligencije: jedan od ciljeva je modeliranje umjetne inteligencije, drugi je stvaranje jake umjetne inteligencije. Postizanje jednog može isključiti postizanje drugog.
Kao što vidimo, u području umjetne inteligencije ima previše pitanja s dvosmislenim odgovorima, pa je nejasno u kojem smjeru krenuti. Kao što biva u takvim slučajevima, pokušavaju se kretati u svim smjerovima odjednom. Pritom se, zbog nedostatka matematički rigoroznih formulacija, mora okrenuti filozofiji te umjetničkom i književnom modeliranju. Jedan od najpoznatijih primjera u tom smjeru je knjiga “Turing Selection” (1992.) jednog od korifeja umjetne inteligencije, Marvina Lee Minskyja i poznatog pisca znanstvene fantastike Harryja Harrisona. Citirat ću iz ove knjige, možda objašnjavajući gore opisani fenomen mnemotehnike:
Ljudsko pamćenje nije magnetofon koji sve bilježi kronološkim redom. Sasvim je drukčije strukturiran - više poput nemarno održavane kartoteke, opremljene zbunjujućim i kontradiktornim kazalom. I ne samo zbunjujući - s vremena na vrijeme mijenjamo principe klasifikacije pojmova.
Zanimljiva interpretacija metafore o magnetofonu u još jednom književnom djelu, priči Stanislawa Lema “Terminus” (iz serije “Priče o pilotu Pirxu”). Evo slučaja neke vrste "inteligentnog magnetofona": stari robot na starom svemirskom brodu koji je jednom doživio nesreću uključen je u tekuće popravke, popraćene prisluškivanjem. Ali ako pozorno slušate, ovo nije samo bijeli tehnološki šum, već snimka Morseove abecede - razgovora između članova posade umirućeg broda. Pirx intervenira u te pregovore i neočekivano dobiva odgovor od davno mrtvih astronauta. Ispada da primitivni robot za popravak na neki način pohranjuje kopije svoje svijesti ili se radi o kognitivnoj distorziji percepcije pilota Pirxa?
U drugoj priči, “Ananke” (iz iste serije), kopija EI-a u kontrolnom računalu svemirskog transportera dovodi do njegovog paranoičnog opterećivanja testnim zadacima, što završava katastrofalno.
U priči “Nesreća” pretjerano antropomorfno programirani robot gine uslijed planinarskog uspona koji je odlučio obaviti u slobodno vrijeme. Jesu li takvi izvođači potrebni? Ali demoni fiksirani na zalijevanje cvijeta također nisu uvijek potrebni.
Neki stručnjaci u području umjetne inteligencije ne vole takvo “filozofiranje” i “literarizam”, ali to “filozofiranje” i “literarizam” tradicionalno su svojstveni analizi umjetne inteligencije i neizbježni su sve dok se umjetna inteligencija uspoređuje s umjetnom inteligencijom, pa čak i još više sve dok AI pokušava kopirati AI.
Zaključno, anketa o nizu pitanja koja su se pojavila.
U anketi mogu sudjelovati samo registrirani korisnici. , molim.
1. Uključuje li AI zadatke koje računalo rješava znatno lošije od čovjeka?
-
Da
-
Ne
-
Ja bolje znam definiciju. Dat ću to u komentarima.
-
Teško odgovoriti
Glasovalo je 34 korisnika. Suzdržano je bilo 7 korisnika.
2. Treba li AI biti samo izvršitelj, trebaju li se sve naredbe shvaćati doslovno? Na primjer, rekli su zalijevati cvijet - znači zalijevaj dok te ne otjeraju
-
Da
-
Ne
-
Teško odgovoriti
Glasovalo je 37 korisnika. Suzdržano je bilo 6 korisnika.
3. Je li moguće imati jak AI, u kojem će sve vještine biti maksimalne (crvena linija na slici na početku članka)?
-
Da
-
Ne
-
Teško odgovoriti
Glasovalo je 35 korisnika. Suzdržano je bilo 7 korisnika.
4. Je li moguć super-AI (plava linija na slici na početku članka)?
-
Da
-
Ne
-
Teško odgovoriti
Glasovalo je 36 korisnika. Suzdržano je bilo 7 korisnika.
5. Međucilj bi trebao biti ne jak, ali ni potpuno slab AI (ljubičasta linija na slici na početku članka), koji će u nizu vještina biti inferioran AI-ju, ali ne toliko koliko je sada ?
-
Da
-
Ne
-
Teško odgovoriti
Glasovalo je 33 korisnika. Suzdržano je bilo 5 korisnika.
6. Pravljenje opasnih pogrešaka u odlukama, nepažljivost, zaboravljanje potrebnih stvari i umor glavna su inherentna svojstva EI?
-
Da
-
Ne
-
Ja imam drugačije mišljenje koje ću iznijeti u komentarima.
-
Teško odgovoriti
Glasovalo je 33 korisnika. Suzdržano je bilo 5 korisnika.
7. Zahvaljujući sposobnosti zaboravljanja najjednostavnijih činjenica, osoba dobiva slobodu kombinirati fragmente svojih misli u proizvoljnom divljem redu i pronalaziti nestandardna rješenja?
-
Da
-
Ne
-
Ja imam drugačije mišljenje koje ću iznijeti u komentarima.
-
Teško odgovoriti
Glasovao je 31 korisnik. Suzdržana su bila 4 korisnika.
8. Modeliranje umjetne inteligencije i stvaranje jake umjetne inteligencije dva su različita zadatka koja se mogu riješiti različitim metodama?
-
Da
-
Ne
-
Ja imam drugačije mišljenje koje ću iznijeti u komentarima.
-
Teško odgovoriti
Glasovalo je 32 korisnika. Suzdržana su bila 4 korisnika.
Izvor: www.habr.com