Hvilken slags elev har en troldmand brug for, og hvilken slags AI har vi brug for?

ADVARSEL
At dømme efter det rekordhøje forhold mellem antallet af stille utilfredse og antallet af kommentatorer, der har noget at indvende, er det ikke indlysende for mange læsere, at:
1) Dette er en rent teoretisk diskussionsartikel. Der vil ikke være nogen praktiske råd her om valg af værktøjer til at udvinde kryptovaluta eller samle en multivibrator til at blinke to pærer.
2) Dette er ikke en populærvidenskabelig artikel. Der vil ikke være nogen forklaring på dummies af princippet om drift af Turing-maskinen ved at bruge eksemplet med tændstikæsker.
3) Tænk dig grundigt om, før du fortsætter med at læse! Tiltaler holdningen af ​​aggressiv amatørisme dig: Jeg minus alt, hvad jeg ikke forstår?
På forhånd tak til alle, der beslutter sig for ikke at læse denne artikel!

En daemon er et computerprogram på UNIX-klassens systemer, der startes af systemet selv og kører i baggrunden uden direkte brugerinteraktion.

Wikipedia

Selv i førskolealderen hørte jeg et eventyr om en troldmandslærling. Jeg vil gentage det i min genfortælling:

Engang, et sted i middelalderens Europa, boede der en troldmand. Han havde en stor tryllebog indbundet i sort kalveskind med jernspænder og hjørner. Når troldmanden skulle kaste en trylleformular, låste han den op med en stor jernnøgle, som han altid bar på bæltet i en særlig pose. Troldmanden havde også en elev, der tjente troldmanden, men han fik forbud mod at kigge i trylleformularens bog.

En dag tog troldmanden afsted for hele dagen på forretningsrejse. Så snart han forlod huset, skyndte studenten sig ind i fangekælderen, hvor der var et alkymistisk laboratorium, hvor der lå en besværgelsesbog lænket til et bord. Eleven greb diglerne, hvori troldmanden smeltede bly, for at forvandle det til guld, placerede dem på fyrfadet og tændte ilden. Blyet smeltede hurtigt, men blev ikke til guld. Så huskede eleven, at troldmanden, efter at have smeltet blyet, hver gang låste bogen op med en nøgle og hviskede en besværgelse fra den i lang tid. Eleven kiggede håbløst på den låste bog og så, at ved siden af ​​lå nøglen, glemt af troldmanden. Så skyndte han sig hen til bordet, låste bogen op, åbnede den og læste højlydt den allerførste besværgelse, omhyggeligt udtalte ukendte ord stavelse for stavelse, idet han antog, at en så vigtig besværgelse som besværgelsen af ​​omdannelse af bly til guld helt sikkert ville være den allerførste. .

Men intet skete: Lederen ønskede ikke at forvandle sig. Eleven ville prøve en anden besværgelse, men så rystede et tordenskrald huset, og en enorm, uhyggelig dæmon dukkede op foran eleven, tilkaldt af den besværgelse, som eleven lige havde reciteret.
- Bestil! - knurrede dæmonen.
Af frygt forlod alle tanker elevens hoved, han kunne ikke engang bevæge sig.
- Giv ordrer, ellers spiser jeg dig! - knurrede dæmonen igen og rakte en kæmpe hånd mod eleven for at få fat i ham.
I fortvivlelse mumlede eleven det første, han kunne komme i tanke om:
- Vand denne blomst.
Og han pegede på en geranium, hvis potte stod på gulvet i hjørnet af laboratoriet, i loftet over blomsten var der det eneste lille vindue i fangekælderen, hvorigennem sollys knap trængte igennem. Dæmonen forsvandt, men et øjeblik senere dukkede op igen med en kæmpe tønde vand, som han vendte om på blomsten og hældte vandet ud. Han forsvandt igen og dukkede op igen med en fuld tønde.
"Det er nok," råbte eleven og stod taljedybt i vandet.
Men lyst alene var åbenbart ikke nok - dæmonen bar og bar vand i en tønde og hældte det i hjørnet, hvor der engang stod en blomst gemt under vandet. En særlig besværgelse var sandsynligvis nødvendig for at drive dæmonen væk. Men bordet med bogen var allerede forsvundet i det mudrede vand, hvori der flød aske og kul fra fyrfadet, tomme retorter, kolber, afføring, galvanometre, dosimetre, engangssprøjter og andet affald, så selvom eleven vidste, hvordan han skulle finde den nødvendige besværgelse, han kunne ikke gøre det. Vandet steg, og eleven klatrede op på bordet for ikke at blive kvalt. Men dette hjalp ikke længe - dæmonen fortsatte metodisk med at bære vand. Eleven var allerede oppe til nakken i vand, da troldmanden vendte tilbage, og opdagede, at han havde glemt nøglen til bogen derhjemme, og drev dæmonen væk. Enden på eventyret.

Med det samme om det åbenlyse. Med den studerendes naturlige intelligens (NI) ser det ud til, at alt er klart - dumt, man skal lede længe efter noget endnu dummere. Men med dæmonens intelligens - forresten, hvilken slags intelligens har han: EI eller AI? – tvetydig. Forskellige versioner er legitime (og der vil også opstå spørgsmål om dem):

Version 1) Dæmonen er endnu dummere end eleven. Han modtog en ordre og vil udføre den på ubestemt tid, selv når al mening forsvinder: blomsten - genstanden for vanding - vil forsvinde, vinklen, som blomstens koordinater er knyttet til, forsvinder, planeten Jorden forsvinder, og dumme dæmoner vil fortsætte med at levere vand i tønder til et vist punkt i det ydre rum. Og hvis en supernova bryder ud på dette tidspunkt, så er dæmonen ligeglad med, hvor den skal bære vandet. Desuden: hvor dum skal man være for at vande en lille blomst fra en kæmpe tønde? Dette kaldes allerede ikke at vande blomsten, men at drukne blomsten. Forstår han overhovedet betydningen af ​​ordrer?

Version 2) Dæmonen forstår alt, men er bundet af forpligtelser. Så han udfører noget som en italiensk strejke. Indtil han er officielt smidt ud i henhold til alle regler, stopper han ikke.

Spørgsmål 1 til version 1,2) Hvordan skelner man en fuldstændig dum dæmon ifølge version 1 fra en slet ikke dum dæmon ifølge version 2?
Spørgsmål 2 til version 1,2) Ville dæmonen have udført korrekt (set fra elevens synspunkt) en mere præcis formulering? For eksempel, hvis en elev sagde: Tag den tomme literskolbe, der står på hylden, fyld den med vand og vand den blomst en gang. Eller for eksempel hvis eleven sagde: gå væk.

Version 3) Troldmanden kastede en ekstra besværgelse på dæmonen, ifølge hvilken hvis en anden end troldmanden benytter sig af dæmonens tjenester, så skal dæmonen straks informere troldmanden om dette faktum.

Version 4) Dæmonen nærer ikke nag til troldmanden og hans elev, og da han så, at situationen var ude af kontrol, dukkede han under sine bevægelser med en tønde op bag troldmandens ryg og gøede: "Du glemte nøglen derhjemme , der er en oversvømmelse.” Men troldmanden selv ville ikke have husket det.

Note 1 til version 4) Det er især værd at bemærke, at EI-bærere har meget ufuldkommen hukommelse.

Yderligere versioner kan multipliceres som "Fibonacci-kaniner", dvs. ikke en særlig kompleks algoritme. For eksempel:
Version 5) Dæmonen hævner sig på eleven for at forstyrre ham.
Version 6) Dæmonen nærer ikke nag til eleven, men hævner sig på troldmanden.
Version 6) Dæmonen hævner sig på alle.
Version 7) Dæmonen tager ikke hævn, men har det sjovt. Slutter, når han bliver træt.
Etc.

Så med dæmonen er det klart, at intet er klart. Ikke bedre med en troldmand. Du kan komme med ikke mindre versioner: at han bevidst besluttede at give en lektion til en elev, der stikker sin nysgerrige næse overalt; at han vilde drukne Eleven, men da Dæmonen bjæffede om Syndfloden, blev han bange - pludselig hørte en af ​​de forbipasserende, da vilde Mistanken falde over Troldmanden; ønsket at vække elevens interesse for besværgelser mv.

Her er et barnligt spørgsmål muligt: ​​hvilken af ​​de foreslåede versioner er korrekte? Tilsyneladende evt. Der er ingen information, der er ubrugt i fortællingen til at favorisere nogen version frem for de andre. Her har vi at gøre med et ret almindeligt tilfælde af kunstværker med mulighed for tvetydig fortolkning. Hvis en instruktør for eksempel vil iscenesætte dette eventyr i et teater eller lave en film baseret på det, kan han vælge den fortolkning, der er mest attraktiv fra hans synspunkt. En anden instruktør vil måske finde en anden fortolkning attraktiv. Samtidig kan tiltrækningskraft bestemmes af yderligere overvejelser, for eksempel tiltrækningskraft for seere for at sikre maksimale billetindtægter, eller attraktivitet for at demonstrere en eller anden super-idé: ideen om det godes sejr over det onde, idé om pligt, en oprørsk idé - for eksempel ifølge Dostojevskij: studerende, som Raskolnikov, stiller han spørgsmålet "er han et skælvende væsen eller har han ret" osv.

Et andet spørgsmål opstår.
Et spørgsmål mere). Hvordan kan vi lære AI at give fortrinsret til en af ​​de stemte versioner, hvis vi selv, der har AI, ikke altid bevidst kan vælge en af ​​dem?

Når vi vender tilbage til troldmanden, ser versionen om, at han ønskede en pligtopfyldende og lydig elev, som en dæmon, så han ikke ville stikke næsen ind i forbudte bøger, og hvor han ikke blev spurgt, meget plausibel. Det samme ønskes nu ofte fra AI. Ved første øjekast er disse normale traditionelle krav til enhver maskine: fuldstændig lydighed, ulydighed er uacceptabel. Men i tilfælde af AI kan problemet med version 1,2 (se ovenfor) opstå, dvs. AI er degenererende - hardwaren kan mene, hvad den vil om sine skabere og ejere, men den vil ikke udføre nogen handlinger relateret til AI, dvs. I stedet for kunstig intelligens får vi en dum primitiv automat. Heraf kommer der en mistanke: måske har troldmanden ikke villet gøre eleven til en så dum kunstner som en dæmon? De der. Ideen om AI med begrænsninger dukker op. Her er alt endnu sværere, selv inden for EI: husk de evige konflikter "fædre og sønner", "lærer og studerende", "chef og underordnet".

Tidligere Da jeg valgte en definition af AI blandt de mulige, bemærkede jeg:

opgaven med at sortere flere titusindvis af ord alfabetisk vil være kedelig for en person, det vil tage ham lang tid at gøre det, og sandsynligheden for fejl for en gennemsnitlig udøver med et gennemsnitligt ansvarsniveau vil være betydelig. En moderne computer vil udføre denne opgave uden fejl på meget kort tid for en person (brøkdele af et sekund).

Jeg slog mig fast på følgende definition: AI omfatter opgaver, som en computer løser væsentligt dårligere end et menneske.

Denne definition tager højde for de overvejelser, der er udtrykt ovenfor og er praktisk at praktisere; på samme tid er den ikke ideel, om ikke andet fordi listerne over opgaver "som en computer løser mærkbart værre end et menneske" er anderledes nu og for 20 år siden . Men efter min mening er der endnu ingen, der er kommet med en mere perfekt definition.

Ovenstående illustreres rent kvalitativt af diagrammet i begyndelsen af ​​artiklen. På koordinataksen "færdigheder" svarer færdigheder i området nul (nul og lidt mere) til færdigheder, hvor en person er overlegen i forhold til en computer, for eksempel i evnen til at træffe ikke-standardiserede beslutninger. Færdigheder i området af én (en og lidt mindre) svarer til færdigheder, hvor en computer er overlegen i forhold til en person: evnen til at beregne, hukommelse. Ved at sætte den maksimale overlegenhed lig med en konventionel enhed på koordinataksen "overlegenhed", opnår vi overlegenhedens afhængighed af færdigheder for mennesker og computere i form af diagonaler af en enhedskvadrat. Sådan ser situationen ud i øjeblikket. Er det muligt for en stærk AI at have alle sine færdigheder på maksimum (rød linje)? Eller endnu højere (super-AI - blå linje)? Måske skal mellemmålet om fremskridt ikke være stærkt, men ikke helt
svag AI (lilla linje), som vil være ringere end AI i en række færdigheder, men ikke så meget som nu.

For at vende tilbage til vores litterære eventyrmodel, kan vi sige, at alle dens helte ikke optrådte på den bedste måde: den knugende troldmand glemte nøglen og modtog en oversvømmelse i sit fangehul, studenten modtog gennem dumhed og skødesløshed en flok ekstreme indtryk og næsten druknede, blev dæmonen smidt ud uden nogen som helst taknemmelighed. Hvad angår dæmonens intelligens, er det allerede blevet bemærket, at det er vanskeligt klart at klassificere ham som AI eller EI, men intelligensen (omend ikke imponerende) af de andre tilhører klart EI. Det kan siges om dem, at det at begå farlige fejl i beslutninger, være uopmærksom, glemme nødvendige ting og blive træt er deres vigtigste iboende egenskaber. Desværre er disse egenskaber iboende i alle andre EI-bærere i større eller mindre grad. Upålideligheden ved at sortere ord eller tal for EI er allerede blevet bemærket ovenfor, men det ser ud til at være en endnu enklere opgave - blot at huske et tal viser sig at være meget vanskeligt for folk. For en maskine er evnen til at huske pi-cifrene kun begrænset af størrelsen af ​​dens hukommelse, og de fleste mennesker skal bruge mnemonics, som "Hvad ved jeg om cirkler". Det ser ud til, at linjen "3,1416" har færre tegn end den angivne mnemonic, men af ​​en eller anden grund foretrækker folk at huske på en mindre økonomisk måde. Og længere:

Lær og kend tallet bag tallet, hvordan man bemærker held

Så vi ikke laver fejl,
Skal læses rigtigt
Tre, fjorten, femten
XNUMX og seks

For at huske regnbuens farver:

Enhver designer ønsker at vide, hvor man kan downloade Photoshop

Og begyndelsen af ​​det periodiske system:

Naturligt vand (hydrogen) blev blandet med gel (helium) for at hælde (lithium). Ja, tag og hæld (Beryllium) ind i fyrreskoven (bor), hvor fra under det indfødte hjørne (kulstof) kigger asiatisk (nitrogen) frem, og med sådan et surt ansigt (ilt) at sekundært (fluor) jeg ikke vil se på. Men vi havde ikke brug for ham (Neon), så vi flyttede tre (Natrium) meter væk og endte i Magnolia (Magnesium), hvor Alya i en mini (Aluminium) nederdel blev smurt ind med Creme (Silicon) indeholdende Fosfor (Fosfor) så hun ville stoppe med at være Sera (Sera). Derefter tog Alya klor (klor) og vaskede argonauternes skib (argon)

Men hvorfor så åbenlys ufuldkommenhed i sådan en perfekt EI? Måske, takket være evnen til at glemme de enkleste fakta, får en person friheden til at kombinere fragmenter af sine tanker i en vilkårlig vild orden og finde ikke-standardiserede løsninger? Hvis ja, så er stærk AI umulig. Enten vil han glemme som en person, eller også vil han ikke være i stand til ikke-standardiserede løsninger. Under alle omstændigheder følger det af ovenstående antagelser, at det er nødvendigt at skelne mellem målene for AI: et af målene er modellering af AI, det andet er skabelsen af ​​stærk AI. At opnå det ene kan udelukke at opnå det andet.

Som vi kan se, er der for mange spørgsmål med tvetydige svar inden for AI, så det er uklart, i hvilken retning man skal bevæge sig. Som det sker i sådanne tilfælde, forsøger de at bevæge sig i alle retninger på én gang. Samtidig er man på grund af manglen på matematisk stringente formuleringer nødt til at vende sig til filosofi og kunstnerisk og litterær modellering. Et af de mest berømte eksempler i denne retning er bogen "Turing Selection" (1992) af en af ​​AI's lysmænd, Marvin Lee Minsky, og den berømte science fiction-forfatter Harry Harrison. Jeg vil citere fra denne bog, måske forklare det ovenfor beskrevne fænomen med mnemonics:

Menneskets hukommelse er ikke en båndoptager, der optager alt i kronologisk rækkefølge. Det er opbygget helt anderledes - snarere som et sjusket vedligeholdt kartotek, udstyret med et forvirrende og selvmodsigende kartotek. Og ikke bare forvirrende - fra tid til anden ændrer vi principperne for klassificering af begreber.

En interessant fortolkning af båndoptagermetaforen i et andet litterært værk, Stanislaw Lems historie "Terminus" (fra serien "Stories about the Pilot Pirx"). Her er tilfældet med en slags "intelligent båndoptager": en gammel robot på et gammelt rumskib, der engang var ude for en ulykke, er i gang med et igangværende reparationsarbejde, ledsaget af aflytning. Men hvis man lytter godt efter, er der ikke kun tale om hvid teknologisk støj, men en optagelse af morsekode – samtaler mellem besætningsmedlemmer på et døende skib. Pirx blander sig i disse forhandlinger og modtager uventet et svar fra de for længst døde astronauter. Det viser sig, at den primitive reparationsrobot på en eller anden måde gemmer kopier af deres bevidsthed, eller er det kognitive forvrængninger af piloten Pirx' opfattelse?

I en anden historie, "Ananke" (fra samme serie), fører en kopi af EI i kontrolcomputeren til en rumtransport til dens paranoide overbelastning med testopgaver, som ender i katastrofe.

I historien "Accident" dør en alt for antropomorfisk programmeret robot som følge af en bjergbestigning, som han besluttede at foretage i sin fritid. Er der brug for sådanne kunstnere? Men dæmoner fikseret til at vande en blomst er heller ikke altid nødvendige.

Nogle specialister inden for kunstig intelligens kan ikke lide sådan "filosofiering" og "litterærisme", men disse "filosofiske" og "litterære" er traditionelt iboende i analysen af ​​AI og er uundgåelige, så længe AI sammenlignes med AI, og endda mere så længe AI forsøger at kopiere AI.

Afslutningsvis en undersøgelse om en række problemstillinger, der opstod.

Kun registrerede brugere kan deltage i undersøgelsen. Log ind, Vær venlig.

1. Inkluderer AI opgaver, som en computer løser væsentligt dårligere end et menneske?

• Ja

• Nej

• Jeg kender definitionen bedre. Jeg giver det i kommentarerne.

• Svært at svare på

34 brugere stemte. 7 brugere undlod at stemme.

2. Skal AI'en kun være en eksekutør, skal alle ordrer tages bogstaveligt? For eksempel sagde de, at man skulle vande en blomst - det betyder vand, indtil de driver dig væk

• Ja

• Nej

• Svært at svare på

37 brugere stemte. 6 brugere undlod at stemme.

3. Er det muligt at have en stærk AI, hvor alle færdigheder vil være maksimale (rød streg på billedet i begyndelsen af ​​artiklen)?

• Ja

• Nej

• Svært at svare på

35 brugere stemte. 7 brugere undlod at stemme.

4. Er super-AI muligt (blå streg på billedet i begyndelsen af ​​artiklen)?

• Ja

• Nej

• Svært at svare på

36 brugere stemte. 7 brugere undlod at stemme.

5. Mellemmålet skal ikke være stærk, men heller ikke helt svag AI (lilla streg i figuren i begyndelsen af ​​artiklen), som i en række færdigheder vil være ringere end AI, men ikke så meget som nu ?

• Ja

• Nej

• Svært at svare på

33 brugere stemte. 5 brugere undlod at stemme.

6. At begå farlige fejl i beslutninger, være uopmærksom, glemme nødvendige ting og blive træt er de vigtigste iboende egenskaber ved EI?

• Ja

• Nej

• Jeg har en anden mening, som jeg vil give i kommentarerne.

• Svært at svare på

33 brugere stemte. 5 brugere undlod at stemme.

7. Takket være evnen til at glemme de enkleste fakta, får en person friheden til at kombinere fragmenter af sine tanker i en vilkårlig vild orden og finde ikke-standardiserede løsninger?

• Ja

• Nej

• Jeg har en anden mening, som jeg vil give i kommentarerne.

• Svært at svare på

31 brugere stemte. 4 brugere undlod at stemme.

8. Modellering af AI og skabelse af stærk AI er to forskellige opgaver, der kan løses med forskellige metoder?

• Ja

• Nej

• Jeg har en anden mening, som jeg vil give i kommentarerne.

• Svært at svare på

32 brugere stemte. 4 brugere undlod at stemme.

Kilde: www.habr.com