Kakšnega študenta potrebuje čarovnik in kakšno AI potrebujemo?

OPOZORILO
Sodeč po rekordno visokem razmerju med številom tiho nezadovoljnih in številom komentatorjev, ki imajo kaj ugovarjati, marsikateremu bralcu ni očitno, da:
1) To je izključno teoretični članek za razpravo. Tukaj ne bo praktičnih nasvetov o izbiri orodij za rudarjenje kriptovalute ali sestavljanju multivibratorja za utripanje dveh žarnic.
2) To ni poljudnoznanstveni članek. Za lutke ne bo razlage principa delovanja Turingovega stroja na primeru škatlic za vžigalice.
3) Dobro premislite, preden nadaljujete z branjem! Vam je všeč drža agresivnega amaterizma: minusim vse, česar ne razumem?
Že vnaprej hvala vsem, ki se odločite, da tega članka ne boste prebrali!

Daemon je računalniški program v sistemih razreda UNIX, ki ga zažene sistem sam in deluje v ozadju brez neposredne interakcije uporabnika.

Wikipedia

Že v predšolski dobi sem slišala pravljico o čarovnikovem vajencu. Ponovil bom v svojem pripovedovanju:

Nekoč, nekje v srednjeveški Evropi, je živel čarovnik. Imel je veliko knjigo urokov, vezano v črno telečjo kožo z železnimi zaponkami in vogali. Ko je moral čarovnik uročiti, ga je odklenil z velikim železnim ključem, ki ga je vedno nosil za pasom v posebnem mošnjičku. Čarovnik je imel tudi učenca, ki je stregel čarovniku, vendar mu je bilo prepovedano pogledati v knjigo urokov.

Nekega dne je čarovnik odšel za cel dan po opravkih. Takoj ko je zapustil hišo, je študent planil v ječo, kjer je bil alkimistični laboratorij, v katerem je ležala knjiga urokov, priklenjena na mizo. Študent je zgrabil lončke, v katerih je čarovnik topil svinec, da ga je spremenil v zlato, jih položil na žerjavnico in razpihal ogenj. Svinec se je hitro stopil, vendar se ni spremenil v zlato. Tedaj se je učenec spomnil, da je čarovnik, ko je stopil svinec, vsakič odklenil knjigo s ključem in iz nje dolgo šepetal urok. Študent je brezupno pogledal zaklenjeno knjigo in videl, da poleg nje leži ključ, ki ga je čarovnik pozabil. Potem je planil k mizi, odklenil knjigo, jo odprl in glasno prebral prvi urok, pri čemer je skrbno izgovarjal neznane besede zlog za zlogom, predvidevajoč, da bo tako pomemben urok, kot je urok pretvorbe svinca v zlato, prav gotovo prvi. .

A zgodilo se ni nič: glavni se ni hotel preobraziti. Učenec je želel poskusiti še en urok, a takrat je hišo stresel grom in pred učencem se je pojavil ogromen, srhljiv demon, ki ga je priklical urok, ki ga je učenec pravkar recitiral.
- Naročilo! - je zarenčal demon.
Od strahu so vse misli zapustile študentovo glavo, ni se mogel niti premakniti.
- Ukažite, ali pa vas bom pojedel! - demon je spet zarenčal in iztegnil ogromno roko proti študentu, da bi ga zgrabil.
V obupu je študent zamrmral prvo, kar mu je padlo na pamet:
- Zalivaj to rožo.
In pokazal je na pelargonijo, katere lonec je stal na tleh v kotu laboratorija; v stropu nad rožo je bilo edino okno v ječi, skozi katero je komaj prodirala sončna svetloba. Demon je izginil, vendar se je čez trenutek spet pojavil z ogromnim sodom vode, ki ga je obrnil čez cvet in izlil vodo. Spet je izginil in se spet pojavil s polnim sodom.
"Dovolj je," je zavpil študent in stal do pasu v vodi.
A očitno le želja ni bila dovolj – demon je nosil in nosil vodo v sodu in jo zlival v kot, kjer je nekoč pod vodo skrita roža. Za pregon demona je bil verjetno potreben poseben urok. Toda miza s knjigo je že izginila v kalni vodi, v kateri so plavali pepel in oglje iz žerjavnice, prazne retorte, bučke, stolčki, galvanometri, dozimetri, brizge za enkratno uporabo in druge smeti, tako da tudi če bi študent znal najti zahtevan urok, tega ni mogel izvesti. Voda je naraščala, učenec pa je splezal na mizo, da se ne bi zadušil. Toda to ni dolgo pomagalo - demon je metodično še naprej nosil vodo. Učenec je bil že do vratu v vodi, ko se je čarovnik vrnil in ugotovil, da je doma pozabil ključ od knjige, ter odgnal demona. Konec pravljice.

Takoj o očitnem. Z naravno inteligenco (NI) študenta se zdi, da je vse jasno - neumno, dolgo moraš iskati nekaj še bolj neumnega. Ampak z demonovo inteligenco - mimogrede, kakšno inteligenco ima: EI ali AI? – dvoumno. Različne različice so legitimne (in o njih se bodo pojavila tudi vprašanja):

Različica 1) Demon je še bolj neumen od študenta. Prejel je ukaz in ga bo izvajal v nedogled, tudi ko bo izginil vsak pomen: izginila bo roža - objekt zalivanja, izginil bo kot, na katerega so vezane koordinate rože, izginil bo planet Zemlja in neumni demon bo še naprej dostavljal vodo v sodih do določene točke v vesolju. In če na tej točki izbruhne supernova, potem je demonu vseeno, kam naj nosi vodo. Še več: kako neumen moraš biti, da zalivaš majhno rožo iz ogromnega soda? Temu se že reče ne zaliti rožo, ampak utopiti rožo. Ali sploh razume pomen ukazov?

Različica 2) Demon razume vse, vendar je vezan na obveznosti. Izvaja torej nekaj podobnega italijanski stavki. Dokler ga uradno ne izločijo po vseh pravilih, se ne bo ustavil.

Vprašanje 1 k različicam 1,2) Kako ločiti popolnoma neumnega demona po različici 1 od prav nič neumnega demona po različici 2?
Vprašanje 2 k različici 1,2) Ali bi demon izvedel pravilno (z vidika študenta) natančnejšo formulacijo? Na primer, če bi študent rekel: vzemi tisto prazno litrsko bučko, ki je na polici, jo napolni z vodo in enkrat zalij to rožo. Ali na primer, če je študent rekel: pojdi stran.

Različica 3) Čarovnik je na demona izvedel dodaten urok, po katerem mora, če kdo drug kot čarovnik uporablja storitve demona, demon nemudoma obvestiti čarovnika o tem dejstvu.

Različica 4) Demon se ne zameri čarovniku in njegovemu učencu, zato se je, ko je videl, da je situacija izpod nadzora, med njegovimi gibi s sodom pojavil za čarovnikovim hrbtom in zalajal: »Ključ si pozabil doma , tam je poplava.« Toda sam čarovnik se tega ne bi spomnil.

Opomba 1 k različici 4) Posebej velja omeniti, da imajo nosilci EI zelo nepopoln spomin.

Nadaljnje različice se lahko množijo kot "Fibonaccijevi zajci", tj. ni zelo zapleten algoritem. Na primer:
Različica 5) Demon se študentu maščuje, ker ga je motil.
Različica 6) Demon se ne zameri študentu, ampak se maščuje čarovniku.
Različica 6) Demon se maščuje vsem.
Različica 7) Demon se ne maščuje, ampak se zabava. Konča, ko se naveliča.
In tako naprej

Torej, z demonom je jasno, da ni nič jasno. Nič bolje s čarovnikom. Nič manj različic si lahko izmislite: da se je namenoma odločil predavati lekcijo učencu, ki povsod pomoli svoj radovedni nos; da je želel utopiti študenta, a ko je demon zalajal o poplavi, se je prestrašil - nenadoma je slišal eden od mimoidočih, potem bi sum padel na čarovnika; želeli prebuditi zanimanje učenca za uroke itd.

Tukaj je možno otročje vprašanje: katera od predlaganih različic je pravilna? Očitno katera koli. V zgodbi ni neuporabljenih informacij, ki bi dajale prednost kateri koli različici pred drugimi. Tu imamo opravka z dokaj pogostim primerom umetniških del z možnostjo dvoumne interpretacije. Na primer, če želi režiser to pravljico uprizoriti v gledališču ali po njej posneti film, lahko izbere interpretacijo, ki je z njegovega vidika najbolj privlačna. Drugemu režiserju bi se morda zdela privlačna drugačna interpretacija. Hkrati je privlačnost lahko določena z dodatnimi premisleki, na primer privlačnost za gledalce, da bi zagotovili največje izkupičke v blagajnah, ali privlačnost, da bi prikazali neko nadidejo: idejo o zmagi dobrega nad zlim, ideja o dolžnosti, uporniška ideja - na primer po Dostojevskem: študent, tako kot Raskolnikov, postavlja vprašanje, "ali je trepetajoče bitje ali ima pravico" itd.

Poraja se še eno vprašanje.
Še eno vprašanje). Kako lahko naučimo AI, da daje prednost eni od glasovnih različic, če sami, ki imamo AI, ne moremo vedno zavestno izbrati ene od njih?

Če se vrnemo k čarovniku, je različica, da je želel vestnega in poslušnega učenca, kot demon, da ne bi vtikal nosu v prepovedane knjige in tam, kjer ga niso vprašali, videti zelo verjetna. Enako se zdaj pogosto želi od umetne inteligence. Na prvi pogled so to običajne tradicionalne zahteve za kateri koli stroj: popolna poslušnost, neposlušnost je nesprejemljiva. Toda v primeru AI se lahko pojavi vprašanje različic 1,2 (glej zgoraj), tj. AI se degenerira – strojna oprema si lahko o svojih ustvarjalcih in lastnikih misli kar hoče, vendar ne bo izvajala nobenih dejanj, povezanih z AI, tj. Namesto AI bomo dobili neumen primitivni avtomat. Iz tega se prikrade sum: morda čarovnik ni želel iz učenca narediti tako neumnega izvajalca kot demona? Tisti. Pojavi se ideja o AI z omejitvami. Tukaj je vse še težje tudi na področju EI: spomnite se večnih konfliktov »očetje in sinovi«, »učitelj in učenec«, »šef in podrejeni«.

Prejšnja Ko sem med možnimi izbiral definicijo AI, sem opazil:

naloga razvrščanja več deset tisoč besed po abecedi bo za človeka dolgočasna, za to bo potrebovala veliko časa, verjetnost napak pri povprečnem izvajalcu s povprečno stopnjo odgovornosti pa bo velika. Sodoben računalnik bo to nalogo opravil brez napak v zelo kratkem času za človeka (delčki sekunde).

Odločil sem se za naslednjo definicijo: Umetna inteligenca vključuje naloge, ki jih računalnik rešuje bistveno slabše kot človek.

Ta definicija upošteva zgoraj izražena razmišljanja in je primerna za prakso, hkrati pa ni idealna že zato, ker so seznami nalog, »ki jih računalnik rešuje občutno slabše od človeka«, zdaj in pred 20 leti drugačni. . Toda po mojem mnenju še nihče ni prišel do popolnejše definicije.

Zgornje je čisto kvalitativno ponazorjeno z diagramom na začetku članka. Na koordinatni osi »spretnosti« veščine v območju nič (nič in malo več) ustrezajo spretnostim, kjer je oseba boljša od računalnika, na primer v sposobnosti sprejemanja nestandardnih odločitev. Spretnosti v območju ena (ena in malo manj) ustrezajo spretnostim, kjer je računalnik boljši od osebe: sposobnost računanja, spomin. Če postavimo največjo superiornost, ki je enaka konvencionalni enoti, na koordinatno os "superiornosti", dobimo odvisnost superiornosti od veščin za ljudi in računalnike v obliki diagonal enotskega kvadrata. Takole kaže trenutno stanje. Ali je mogoče, da ima močan AI vse svoje sposobnosti na maksimumu (rdeča črta)? Ali še višje (super-AI - modra črta)? Mogoče vmesni cilj napredka ne bi smel biti močan, a ne povsem
šibek AI (vijolična črta), ki bo slabši od AI v številnih spretnostih, vendar ne toliko, kot je zdaj.

Če se vrnemo k našemu literarno pravljičnemu modelu, lahko rečemo, da se vsi njeni junaki niso obnesli najbolje: zapletli čarovnik je pozabil ključ in v ječo prejel potop, učenec je po neumnosti in neprevidnosti prejel kup ekstremnih vtisov in se skoraj utopil, demon je bil brez hvaležnosti izgnan. Kar zadeva demonovo inteligenco, je bilo že omenjeno, da ga je težko jasno razvrstiti med AI ali EI, vendar inteligenca (čeprav ne impresivna) drugih očitno pripada EI. O njih lahko rečemo, da so nevarne napake pri odločitvah, nepazljivost, pozabljanje potrebnih stvari in utrujenost njihove glavne inherentne lastnosti. Na žalost so te lastnosti v večji ali manjši meri lastne vsem drugim nosilcem EI. Nezanesljivost razvrščanja besed ali številk EI je bila že omenjena zgoraj, vendar se zdi še enostavnejša naloga - preprosto zapomniti številko se izkaže, da je za ljudi zelo težko. Za stroj je zmožnost zapomniti števke pi omejena le z velikostjo njegovega pomnilnika in večina ljudi mora uporabljati mnemotehnika, na primer »Kaj vem o krogih«. Zdi se, da ima vrstica "3,1416" manj znakov kot navedena mnemonika, vendar si ljudje iz nekega razloga raje zapomnijo na manj varčen način. In dlje:

Naučite se in spoznajte številko za številko, kako opaziti srečo

Da ne delamo napak,
Prebrati je treba pravilno
Tri, štirinajst, petnajst
Dvaindevetdeset in šest

Da si zapomnite barve mavrice:

Vsak oblikovalec želi vedeti, kje lahko prenese Photoshop

In začetek periodnega sistema:

Naravna voda (vodik) je bila pomešana z gelom (helij) za prelivanje (litij). Da, Vzemi in zlij (berilij) v borov gozd (bor), kjer izpod domačega kota (ogljik) kuka azijski (dušik) in s tako kislim obrazom (kisik), da sekundarni (fluor) nisem želite pogledati. A ga (Neon) nismo potrebovali, zato smo se odmaknili tri (Sodium) metre stran in končali v Magnoliji (Magnezij), kjer je bila Alya v mini (Aluminijastem) krilu namazana s kremo (Silicij) s fosforjem (Phosphorus) da bi prenehala biti Sera (Sera). Po tem je Alya vzela Klor (Chlorine) in oprala ladjo Argonavtov (Argon)

Toda zakaj tako očitna nepopolnost v tako popolni EI? Morda zaradi sposobnosti pozabljanja najpreprostejših dejstev človek pridobi svobodo združevanja drobcev svojih misli v poljubnem divjem redu in iskanja nestandardnih rešitev? Če je tako, potem je močna AI nemogoča. Ali bo pozabil kot oseba ali pa ne bo sposoben nestandardnih rešitev. Vsekakor pa iz zgornjih predpostavk sledi, da je treba razlikovati med cilji UI: eden od ciljev je modeliranje UI, drugi pa ustvarjanje močne UI. Doseganje enega lahko izključi doseganje drugega.

Kot lahko vidimo, je na področju umetne inteligence preveč vprašanj z dvoumnimi odgovori, zato ni jasno, v katero smer se premakniti. Kot se zgodi v takih primerih, se poskušajo premakniti v vse smeri hkrati. Obenem se je treba zaradi pomanjkanja matematično strogih formulacij zateči k filozofiji ter umetniškemu in literarnemu modeliranju. Eden najbolj znanih primerov v tej smeri je knjiga »Turing Selection« (1992) enega od svetil umetne inteligence Marvina Leeja Minskyja in slavnega pisca znanstvene fantastike Harryja Harrisona. Citiral bom iz te knjige in morda razložil zgoraj opisani pojav mnemotehnike:

Človeški spomin ni magnetofon, ki beleži vse v kronološkem vrstnem redu. Strukturiran je povsem drugače – bolj kot površno vzdrževana kartoteka, opremljena z zmedenim in protislovnim kazalom. In ne le zmede - od časa do časa spremenimo načela klasifikacije pojmov.

Zanimiva interpretacija metafore o magnetofonu v drugem literarnem delu, zgodbi Stanislawa Lema »Terminus« (iz serije »Zgodbe o pilotu Pirxu«). Tukaj je primer nekakšnega »inteligentnega magnetofona«: stari robot na stari vesoljski ladji, ki je nekoč utrpela nesrečo, opravlja tekoča popravila, ki jih spremlja prisluškovanje. A če pozorno prisluhnete, to ni le beli tehnološki šum, temveč posnetek Morsejeve abecede – pogovorov med člani posadke umirajoče ladje. V ta pogajanja se vmeša Pirx in nepričakovano prejme odgovor že dolgo mrtvih astronavtov. Izkazalo se je, da primitivni popravljalni robot na nek način shranjuje kopije svoje zavesti ali pa gre za kognitivna izkrivljanja percepcije pilota Pirxa?

V drugi zgodbi, »Ananke« (iz iste serije), kopija EI v krmilnem računalniku vesoljskega transportnega sredstva vodi do njegove paranoične preobremenjenosti s testnimi nalogami, kar se konča katastrofalno.

V zgodbi »Nesreča« pretirano antropomorfno programiran robot umre zaradi alpinističnega vzpona, za katerega se je odločil v prostem času. So takšni izvajalci potrebni? Toda tudi demoni, osredotočeni na zalivanje rože, niso vedno potrebni.

Nekaterim strokovnjakom na področju umetne inteligence ni všeč takšno "filozofiranje" in "literarizem", vendar sta ta "filozofiranja" in "literarizem" tradicionalno neločljivo povezana z analizo umetne inteligence in sta neizogibna, dokler se umetna inteligenca primerja z umetno inteligenco in celo toliko bolj, dokler AI poskuša kopirati AI.

Za zaključek anketa o številnih vprašanjih, ki so se pojavila.

V anketi lahko sodelujejo samo registrirani uporabniki. Prijaviti se, prosim.

1. Ali AI vključuje naloge, ki jih računalnik rešuje bistveno slabše kot človek?

• Da

• Št

• Bolje poznam definicijo. Bom dal v komentarjih.

• Ne morem odgovoriti

Glasovalo je 34 uporabnikov. 7 uporabnikov se je vzdržalo.

2. Ali naj bo umetna inteligenca le izvršitelj, ali je treba vsa naročila jemati dobesedno? Rekli so na primer zalivati ​​rožo – to pomeni zalivati, dokler te ne odženejo

• Da

• Št

• Ne morem odgovoriti

Glasovalo je 37 uporabnikov. 6 uporabnikov se je vzdržalo.

3. Ali je mogoče imeti močan AI, v katerem bodo vse sposobnosti maksimalne (rdeča črta na sliki na začetku članka)?

• Da

• Št

• Ne morem odgovoriti

Glasovalo je 35 uporabnikov. 7 uporabnikov se je vzdržalo.

4. Je super-AI mogoč (modra črta na sliki na začetku članka)?

• Da

• Št

• Ne morem odgovoriti

Glasovalo je 36 uporabnikov. 7 uporabnikov se je vzdržalo.

5. Vmesni cilj naj ne bo močan, a tudi ne povsem šibek AI (vijolična črta na sliki na začetku članka), ki bo v številnih spretnostih slabši od AI, vendar ne toliko, kot je zdaj ?

• Da

• Št

• Ne morem odgovoriti

Glasovalo je 33 uporabnikov. 5 uporabnikov se je vzdržalo.

6. Delanje nevarnih napak pri odločitvah, nepozornost, pozabljanje potrebnih stvari in utrujenost so glavne inherentne lastnosti EI?

• Da

• Št

• Jaz imam drugačno mnenje, ki ga bom podal v komentarjih.

• Ne morem odgovoriti

Glasovalo je 33 uporabnikov. 5 uporabnikov se je vzdržalo.

7. Zahvaljujoč sposobnosti pozabljanja najpreprostejših dejstev, oseba pridobi svobodo združevanja drobcev svojih misli v poljubnem divjem redu in iskanju nestandardnih rešitev?

• Da

• Št

• Jaz imam drugačno mnenje, ki ga bom podal v komentarjih.

• Ne morem odgovoriti

Glasovalo je 31 uporabnikov. 4 uporabnikov se je vzdržalo.

8. Sta modeliranje AI in ustvarjanje močne AI dve različni nalogi, ki ju je mogoče rešiti z različnimi metodami?

• Da

• Št

• Jaz imam drugačno mnenje, ki ga bom podal v komentarjih.

• Ne morem odgovoriti

Glasovali so 32 uporabniki. 4 uporabniki so se vzdržali.

Vir: www.habr.com