ADVARSEL
Ifølge det rekordhøje forhold mellem antallet af tavst utilfredse og antallet af kommentatorer, der har noget at indvende, fremstår det for mange læsere, som om:
1) Dette er en udelukkende teoretisk diskussion. Der vil ikke være praktiske anbefalinger til valg af værktøjer til kryptovaluta-mining eller samling af en multivibrator til at blinke med to lamper.
2) Dette er ikke en populærvidenskabelig artikel. Der vil ikke være nogen forklaring, der er tilgængelig for nybegyndere, om Turing-maskinens principper baseret på eksempel med tændstikker.
3) Tænk godt over det, før du fortsætter med at læse! Tiltrækkes du af en position med aggressiv dilettantisme: jeg nedstemmer alt, jeg ikke forstår?
På forhånd tak til alle, der vælger ikke at læse denne artikel!
En daemon er et computerprogram i UNIX-lignende systemer, der startes af selve systemet og kører i baggrunden uden direkte interaktion med brugeren.
Allerede som førskolebarn hørte jeg eventyret om troldmandens lærling. Jeg vil gengive det i min fremstilling:
Engang, i middelalderens Europa, levede der en troldmand. Han havde en stor bog med besværgelser, indbundet i sort kalveskind med spænder og hjørner af jern. Når troldmanden skulle læse en besværgelse, åbnede han den med en stor jernnøgle, som han altid bar i sit bælte i en speciel taske. Troldmanden havde også en lærling, der tjente troldmanden, men han blev forbudt at kigge i bogen med besværgelser.
En dag tog trolden af sted for at arbejde. Så snart han forlod huset, sprang lærlingen ned i kælderen, hvor det alkymistiske laboratorium lå, og hvor en bog med formler var kædet til bordet. Lærlingen greb de krucible, som trolden brugte til at smelte bly for at omdanne det til guld, stillede dem på en varmeplade og blæste ild. Blyet smeltede hurtigt, men blev ikke til guld. Så kom lærlingen i tanker om, at trolden hver gang, han havde smeltet bly, låste bogen op med en nøgle og mumlede længe en formular fra den. Lærlingen kiggede fortvivlet på den låste bog og så, at der lå en nøgle ved siden af den, som trolden havde glemt. Så løb han hen til bordet, åbnede bogen, åbnede den og læste højt den allerførste formular, mens han omhyggeligt udtalte de ukendte ord, i forventning om at en så vigtig formular som transmutation af bly til guld helt sikkert ville være den første.
Men intet skete: blyet nægtede at forvandle sig. Lærlingen ville forsøge en anden formular, men et tordenskrald rystede huset, og foran lærlingen dukkede en kæmpe, skræmmende dæmon op, fremkaldt af den formular, som lærlingen netop havde læst.
— Befal mig! — brummede dæmonen.
Af skræk forlod alle tanker lærlingens hoved, han kunne ikke engang røre sig.
— Befal, eller jeg vil spise dig! — brummede dæmonen igen og strakte sin enorme hånd ud mod lærlingen for at gribe ham.
I fortvivlelse mumlede lærlingen det første, han kunne finde på:
— Vand denne blomst.
Og pegede på geranien, hvis potte stod på gulvet i hjørnet af laboratoriet; i loftet over blomsten var der lavet et lille vindue, hvorigennem der næppe trængte sollys ind. Dæmonen forsvandt, men et øjeblik efter dukkede han op igen med et stort vandfad, som han tippede over blomsten og hældte vandet ud. Han forsvandt igen og dukkede op med et fyldt fad.
— Nok, — skreg lærlingen, idet han allerede stod til livet i vand.
Men åbenbart var det ikke nok med et ønske — dæmonen bar og bar vand i tønden, og hældte det ud i hjørnet, hvor en gang en blomst havde været skjult under vandet. Måske var der brug for en særlig besværgelse for at drive dæmonen væk. Men bordet med bogen var allerede skjult i det uklare vand, hvor aske og gløder fra bålet, tomme rektorer, kolber, taburetter, galvanometre, dozimetre, engangssprøjter og andet skrald svømmede, så selv hvis eleven vidste, hvordan man fandt den rigtige besværgelse, ville han ikke kunne gøre det. Vandet steg, og eleven klatrede op på bordet for ikke at drukne. Men det hjalp ikke i længden – dæmonen fortsatte metodisk med at bære vand. Eleven var allerede op til halsen i vand, da troldmanden kom tilbage, opdagede, at han havde glemt nøgle til bogen derhjemme, og drev dæmonen væk. Slutningen på eventyret.
Lad os straks blive enige om det åbenlyse. Med elevens naturlige intelligens (NI) er alt tilsyneladende klart – dum, endnu dummere at skulle lede længe. Men hvad med dæmonens intelligens – forresten, hvilken har han: NI eller AI? – er uklart. Der kan være forskellige versioner (og der vil også komme spørgsmål til dem):
Version 1) Dæmonen er endnu dummere end eleven. Han har fået en ordre og vil udføre den i det uendelige, selv når enhver mening forsvinder: blomsten forsvinder – objektet der vander, hjørnet som er knyttet til koordinaterne for blomsten forsvinder, planeten Jorden forsvinder, men den dumme dæmon vil fortsætte med at bringe tønder vand til et bestemt punkt i rummet. Og hvis en supernova eksploderer på dette punkt, så er det ligegyldigt for dæmonen, hvor han skal bringe vandet. Desuden: hvor dum skal man være for at vande en lille blomst fra en kæmpe tønde. Det kaldes ikke at vande blomsten, men at drukne den. Forstår han overhovedet meningen med ordrerne?
Version 2) Dæmonen forstår alt, men er bundet af forpligtelser. Så han afholder noget der ligner en italiensk strejke. Så længe han officielt ikke bliver drevet væk i overensstemmelse med reglerne – stopper han ikke.
Spørgsmål 1 til versioner 1,2) Hvordan kan man adskille en helt dum dæmon ifølge version 1 fra en slet ikke dum dæmon ifølge version 2?
Spørgsmål 2 til versioner 1,2) Ville dæmonen have udført en mere præcis formulering korrekt (set fra elevens synspunkt)? For eksempel, hvis eleven havde sagt: tag den tomme liter kolbe, der står på hylden, fyld den med vand og vand den blomst én gang. Eller, for eksempel, hvis eleven havde sagt: gå bort.
Version 3) Mageren lag et ekstra besvær på dæmonen, hvorefter hvis nogen anden end mageren bruger dæmonens tjenester, skal dæmonen straks informere mageren om dette.
Version 4) Dæmonen bærer ikke nag til mageren og hans elev, derfor, ser han, at situationen er løbet af sporet, dukkede han op bag mageren med tønden og råbte: “du glemte nøglen derhjemme, der er oversvømmelse”. Mageren ville ikke selv have husket det.
Bemærkning 1 til version 4) Det er særligt værd at bemærke, at bærere af EI ofte ikke har en ideel hukommelse.
Videre kan versioner multipliceres som "Fibonaccis kaniner", dvs. med en relativt simpel algoritme. For eksempel:
Version 5) Dæmonen hævner sig på eleven for sin bekymring.
Version 6) Dæmonen bærer ikke nag til eleven, men hævner sig på mageren.
Version 6) Dæmonen hævner sig på alle.
Version 7) Dæmonen hævner sig ikke, men underholder sig selv. Han vil stoppe, når han bliver træt af det.
Og så videre.
Så, med dæmonen er det klart, at intet er klart. Det er ikke bedre med mageren. Man kan finde på ikke mindre end versioner: at han bevidst ville lære eleven en lektion, som hele tiden stikker sin nysgerrige næse frem; at han ville drukne eleven, men da dæmonen råbte om oversvømmelsen, blev han bange — tænk hvis nogen forbipasserende hørte det, så ville mistanken falde på mageren; han ønskede at vække elevens interesse for formularer osv.
Her er der et børnespørgsmål: hvilken af de foreslåede versioner er korrekt? Tilsyneladende hvilken som helst. I eventyret er der ikke nogen ubenyttet information til at foretrække en af versionerne frem for de andre. Her har vi at gøre med et relativt hyppigt tilfælde af kunstneriske værker med mulighed for tvetydig fortolkning. For eksempel, hvis en eller anden instruktør ønsker at sætte dette eventyr op i teateret eller lave en film om det, kan han vælge den fortolkning der er mest tiltrækkende set fra hans synspunkt. For en anden instruktør kan en anden fortolkning være den mest tiltrækkende. Samtidig kan tiltrækningskraften bestemmes af yderligere overvejelser, såsom tiltrækningen for publikum, for at sikre maksimal billetsalg, eller tiltrækningen for at demonstrere en eller anden over-ide: idéen om sejren for det gode over det onde, ideen om pligt, den oprørske idé – for eksempel i Dostojevskijs ånd: eleven, ligesom Raskolnikov, stiller sig selv spørgsmålet "er han en rystende skabning eller har han ret" osv.
Der opstår endnu et spørgsmål.
Endnu et spørgsmål). Hvordan kan vi lære AI at foretrække en af de nævnte versioner, når vi selv, med vores egen intelligens, ikke altid kan vælge en af dem bevidst?
Når vi går tilbage til troldmanden, synes det meget sandsynligt, at han ønskede en elev, der var effektiv og lydig, som en dæmon, for ikke at stikke næsen i forbudte bøger og steder, hvor han ikke blev bedt om at være. Det samme ønsker man ofte fra AI i dag. Ved første øjekast virker det som normale traditionelle krav til enhver maskine: total underkastelse, ulydighed er uacceptabelt. Men i tilfælde af AI kan der opstå et spørgsmål om versioner 1,2 (se ovenfor), dvs. AI degenererer -
Når man vælger en definition af AI blandt de mulige, bemærkede jeg:
At sortere flere titusinder af ord alfabetisk ville være en trættende opgave for et menneske; det ville tage lang tid at udføre den, og sandsynligheden for fejl for en gennemsnitlig medarbejder med et gennemsnitligt ansvarsniveau ville være betydelig. En moderne computer kan løse denne opgave uden fejl på en tid, der er meget kort for mennesker (brøkdele af et sekund).
Jeg endte med følgende definition: Opgaver, som computeren løser betydeligt dårligere end mennesker, hører til AI..
Denne definition tager højde for de ovenstående overvejelser og er praktisk, men samtidig er den ikke perfekt, om ikke andet fordi lister over opgaver, “som computeren løser betydeligt dårligere end mennesker”, varierer nu og for 20 år siden. Men et mere perfekt definition er, efter min mening, ikke blevet opfundet endnu.
Det der er sagt, illustrerer tydeligt skemaet i begyndelsen af artiklen. På koordinataksen for "færdigheder" svarer færdigheder nær nul (nul og lidt mere) til færdigheder, hvor en person overgår en computer, som evnen til at tage utraditionelle beslutninger. Færdigheder nær én (én og lidt mindre) svarer til færdigheder, hvor computeren overgår mennesket: evnen til at udføre beregninger, hukommelse. Hvis man sætter maksimal overlegenhed lig med en betinget én på koordinataksen for "overlegenhed", får vi afhængigheden af overlegenhed fra færdigheder for mennesket og computeren i form af diagonaler i en enhedskvadrat. Sådan ser situationen ud i øjeblikket. Er det muligt med en stærk AI, hvor alle færdigheder vil være maksimale (den røde linje)? Eller endda mere (over AI - den blå linje)? Måske bør et mellemmål for fremskridtet være en ikke helt stærk, men heller ikke helt
svag AI (den lilla linje), som vil være underlegen i nogle færdigheder sammenlignet med EAI, men ikke så meget som nu.
Tilbage til vores litterære eventyrmodel kan man sige, at alle dens helte ikke klarede sig så godt: den klodsede troldmand glemte nøglen og fik en oversvømmelse i sit undergrund, lærlingen fik uforsigtigt en masse ekstreme oplevelser og var ved at drukne, dæmonen blev sparket væk uden nogen tak. Hvad angår dæmonens intelligens - det er allerede nævnt, at det er svært at klassificere den som AI eller EAI, men intelligensen (om end ikke imponerende) hos de andre hører tydeligt til EAI. Man kan sige om dem, at de har en tendens til at begå farlige fejl i beslutninger, udvise uopmærksomhed, glemme nødvendige ting og blive trætte - det er deres grundlæggende iboende egenskaber. Desværre er disse egenskaber også til stede hos alle andre bærere af EAI i større eller mindre grad. Problemet med pålideligheden af sortering af ord eller tal i EAI er allerede blevet nævnt ovenfor, men en endnu enklere opgave - blot at huske et tal, viser sig at være meget vanskelig for mennesker. For maskinen er muligheden for at huske cifrene i tallet pi kun begrænset af hukommelsens størrelse, mens de fleste mennesker må bruge til det , som for eksempel “Hvad ved jeg om cirkler”. Det kunne synes, at der er færre tegn i strengen “3,1416” end i den nævnte mnemonik, men af en eller anden grund foretrækker folk at huske på en mindre økonomisk måde. Og længere:
Lær og kend tallet i det kendte nummer, hvordan man bemærker heldet.
For at undgå at begå fejl,
Skal vi læse korrekt.
Tre, fjorten, femten.
Tooghalvfems og seks.
For at huske regnbuens farver:
Hver designer ønsker at vide, hvor man kan downloade Photoshop.
Og begyndelsen på Mendeleevs tabel:
Vi blandede den indfødte vand (Hydrogen) med Helium (Helium) for at lave (Lithium). Ja, tag og hæld (Beryllium) i fyrskoven (Bor), hvor man fra den indfødte vinkel (Kulstof) kan se Nitrogen (Nitrogen), endda med en sådan sur grimasse (Oxygen), at Fluor (Fluor) ikke havde lyst til at kigge. Men det var ikke Neon (Neon), vi havde brug for, så vi trak os tilbage tre (Natrium) meter og kom til Magnolia (Magnesium), hvor vi smurte Alu i en mini (Aluminium) nederdel med Creme (Silicium) med indhold af Fosfor (Fosfor), så hun ikke længere var grå (Svovl). Derefter tog Alia Chlorr (Chlor) og vaskede argonauternes skib (Argon).
Men hvorfor sådan en åbenlys ufuldkommenhed i så perfekt EI? Måske får mennesket friheden til at kombinere fragmenter af sine tanker i vilkårlig vild rækkefølge og finde utraditionelle løsninger, takket være evnen til at glemme de enkleste fakta? Hvis det er tilfældet, er stærk AI umulig. Den vil enten glemme som mennesket eller ikke være i stand til at lave utraditionelle løsninger. Under alle omstændigheder følger det af de nævnte antagelser, at der er behov for at adskille AI-mål: ét mål er at modellere EI, det andet er at skabe stærk AI. At nå et mål kan udelukke at nå det andet.
Som vi ser, opstår der for mange spørgsmål inden for AI med tvetydige svar, så det er uklart, hvilken retning man skal tage. Som det ofte sker i sådanne tilfælde, forsøger man at bevæge sig i alle retninger på én gang. Samtidig, på grund af manglen på matematiske præcise formuleringer, må man ty til filosofi og kunstnerisk litterær modellering. Et af de mest kendte eksempler i denne retning er bogen “Valget ifølge Turing” (1992) af en af AI's mestre, Marvin Lee Minsky, og den kendte science fiction-forfatter Harry Harrison. Jeg vil citere et uddrag fra denne bog, som måske forklarer det ovenfor beskrevne fænomen af mnemonik:
Menneskelig hukommelse er ikke en båndoptager, der optager alt i kronologisk rækkefølge. Den er opbygget helt anderledes – mere som en usystematisk kortkatalog, der har en forvirrende og modstridende indholdsfortegnelse. Og ikke blot forvirrende – fra tid til anden ændrer vi klassifikationsprincipperne for begreberne.
En interessant fortolkning af båndoptagermetaforen findes i et andet litterært værk, novellen "Terminus" af Stanisław Lem (fra serien "Historier om pilot Pirx"). Her er der tale om et atypisk "intelligent båndoptager": en gammel robot på et gammelt rumskib, der engang har lidt et nedbrud, udfører vedligeholdelsesarbejde, der ledsages af bankelyde. Men hvis man lytter nøje, er det ikke bare hvid teknologisk støj, men en optagelse af morsekommunikation – samtaler mellem besætningsmedlemmerne på det synkende skib. Pirx blander sig i disse samtaler og får pludselig svar fra de længe døde kosmonauter. Det viser sig, at den primitive reparationsrobot på sin vis opbevarer kopier af deres bevidsthed, eller er det kognitive forvrængninger i Pirx's opfattelse?
I en anden novelle "Ananke" (fra samme serie) fører en kopi af E.I. i kontrolcomputeren på rumtransporteren til paranoide overbelastninger med testopgaver, som ender i en katastrofe.
I novellen "Usædvanlig Uheld" dør en alt for antropomorfisk programmeret robot som følge af et klatretur, som den besluttede at tage i sin fritid. Er sådanne aktører nødvendige? Men de dæmoner, der bliver besat af at vande blomster, er heller ikke altid nødvendige.
Nogle specialister indenfor AI er ikke glade for sådanne "filosofiske" overvejelser og "litterære" tilgange, men disse "filosofiske" overvejelser og "litterære" tilgange er traditionelt forbundet med analysen af E.I. og vil være uundgåelige, så længe AI sammenlignes med E.I., og især så længe man forsøger at kopiere E.I. i AI.
Afslutningsvis en undersøgelse vedrørende nogle opståede spørgsmål.
Kun registrerede brugere kan deltage i undersøgelsen. , please.
1. Er de opgaver, som en computer udfører betydeligt dårligere end en menneske, en del af AI?
Ja
Nej
Jeg kender en bedre definition. Jeg vil angive den i kommentarerne.
Jeg har svært ved at svare
34 brugere har afgivet stemme. 7 brugere har undladt at stemme.
2. Skal AI kun være en udførende, der forstår alle kommandoer bogstaveligt? For eksempel, hvis man siger at vande blomsten – betyder det så at vande den, indtil man beder om at stoppe?
Ja
Nej
Jeg har svært ved at svare
37 brugere har stemt. 6 brugere har undladt at stemme.
3. Er det muligt at have en stærk AI, hvor alle færdigheder vil være maksimale (den røde linje i billedet i begyndelsen af artiklen)?
Ja
Nej
Jeg har svært ved at svare
35 brugere har stemt. 7 brugere har undladt at stemme.
4. Er det muligt at have en overlegen AI (den blå linje i billedet i begyndelsen af artiklen)?
Ja
Nej
Jeg har svært ved at svare
36 brugere har stemt. 7 brugere har undladt at stemme.
5. Bør den mellemliggende mål ikke være en stærk, men heller ikke en helt svag AI (den lilla linje i billedet i begyndelsen af artiklen), som vil tabe til EAI i nogle færdigheder, men ikke så meget som nu?
Ja
Nej
Jeg har svært ved at svare
33 brugere har stemt. 5 brugere har undladt at stemme.
6. At lave farlige fejl i beslutninger, vise uforsigtighed, glemme vigtige ting og blive træt - er de grundlæggende uundgåelige egenskaber ved EAI?
Ja
Nej
Jeg har en anden mening, som jeg vil fremføre i kommentarerne
Jeg har svært ved at svare
33 brugere har stemt. 5 brugere har undladt at stemme.
7. Takket være evnen til at glemme de mest simple fakta får mennesket frihed til at kombinere fragmenter af sine overvejelser i vilkårlig vild orden og finde usædvanlige løsninger?
Ja
Nej
Jeg har en anden mening, som jeg vil fremføre i kommentarerne
Jeg har svært ved at svare
31 brugere har stemt. 4 brugere har undladt at stemme.
8. At modellere EAI og skabe en stærk AI er to forskellige opgaver, der kan løses med forskellige metoder?
Ja
Nej
Jeg har en anden mening, som jeg vil fremføre i kommentarerne
Jeg har svært ved at svare
32 users voted. 4 users abstained.
Kilde: habr.com
