ADVARSEL
Å dømme etter det rekordhøye forholdet mellom antall stille misfornøyde og antall kommentatorer som har noe å protestere mot, er det ikke åpenbart for mange lesere at:
1) Dette er en rent teoretisk diskusjonsartikkel. Det vil ikke være noen praktiske råd her om valg av verktøy for å utvinne kryptovaluta eller sette sammen en multivibrator for å blinke to lyspærer.
2) Dette er ikke en populærvitenskapelig artikkel. Det vil ikke være noen forklaring på dummies av prinsippet om drift av Turing-maskinen ved å bruke eksempelet med fyrstikkesker.
3) Tenk deg godt om før du fortsetter å lese! Appellerer holdningen til aggressiv amatørisme til deg: Jeg minus alt jeg ikke forstår?
På forhånd takk til alle som bestemmer seg for ikke å lese denne artikkelen!
En daemon er et dataprogram på UNIX-klassesystemer som startes av systemet selv og kjører i bakgrunnen uten direkte brukerinteraksjon.
Selv i førskolealder hørte jeg et eventyr om en trollmannslærling. Jeg vil gjenta det i min gjenfortelling:
En gang, et sted i middelalderens Europa, bodde det en trollmann. Han hadde en stor trolldomsbok innbundet i svart kalveskinn med jernspenner og hjørner. Når trollmannen trengte å kaste en trolldom, låste han den opp med en stor jernnøkkel, som han alltid bar på beltet i en spesiell pose. Trollmannen hadde også en elev som tjente trollmannen, men han ble forbudt å se i trolldomsboken.
En dag dro trollmannen for hele dagen på forretningsreise. Så snart han forlot huset, skyndte studenten seg inn i fangehullet, hvor det var et alkymistisk laboratorium der det lå en trolldomsbok lenket til et bord. Eleven tok tak i diglene som trollmannen smeltet bly i for å gjøre det om til gull, plasserte dem på brenneren og tente opp bålet. Blyet smeltet raskt, men ble ikke til gull. Da husket studenten at trollmannen, etter å ha smeltet blyet, hver gang låste opp boken med en nøkkel og hvisket en trolldom fra den i lang tid. Eleven så håpløst på den låste boken og så at ved siden av lå nøkkelen, glemt av trollmannen. Så skyndte han seg til bordet, låste opp boken, åpnet den og leste høyt den aller første trollformelen, uttalte forsiktig ukjente ord stavelse for stavelse, og antok at en så viktig trollformel som trylleformularen om forvandling av bly til gull absolutt ville være den aller første. .
Men ingenting skjedde: ledelsen ønsket ikke å forvandle seg. Eleven ville prøve en annen trollformel, men så rystet et tordenskrald i huset, og en stor, skummel demon dukket opp foran eleven, tilkalt av trolldommen som eleven nettopp hadde resitert.
- Rekkefølge! - knurret demonen.
Av frykt forlot alle tanker studentens hode, han kunne ikke engang bevege seg.
- Gi ordre, ellers spiser jeg deg! - knurret demonen igjen og strakte ut en enorm hånd mot studenten for å gripe ham.
I fortvilelse mumlet studenten det første han kunne tenke på:
- Vann denne blomsten.
Og han pekte på en geranium, en krukke som sto på gulvet i hjørnet av laboratoriet, i taket over blomsten var det det eneste lille vinduet i fangehullet, som sollyset knapt brøt gjennom. Demonen forsvant, men et øyeblikk senere dukket han opp igjen med en enorm tønne med vann, som han snudde over blomsten og helte ut vannet. Han forsvant igjen og dukket opp igjen med full tønne.
«Det er nok,» ropte studenten, mens han stod midt i vannet.
Men tilsynelatende var ikke begjær alene nok - demonen bar og bar vann i en tønne og helte det i hjørnet der det en gang sto en blomst skjult under vannet. En spesiell trolldom var sannsynligvis nødvendig for å drive bort demonen. Men bordet med boken hadde allerede forsvunnet i det gjørmete vannet, der det fløt aske og kull fra brennkammeret, tomme retorter, kolber, krakker, galvanometre, dosimetre, engangssprøyter og annet rusk, så selv om eleven visste hvordan han skulle finne den nødvendige trolldommen, kunne han ikke gjøre det. Vannet steg, og eleven klatret opp på bordet for ikke å kveles. Men dette hjalp ikke lenge - demonen fortsatte metodisk å bære vann. Eleven var allerede opp til nakken i vann da trollmannen kom tilbake, og oppdaget at han hadde glemt nøkkelen til boken hjemme, og drev bort demonen. Slutten på eventyret.
Med en gang om det åpenbare. Med studentens naturlige intelligens (NI) ser det ut til at alt er klart - dumt, du må lete lenge etter noe enda dummere. Men med demonens intelligens - forresten, hva slags intelligens har han: EI eller AI? - tvetydig. Ulike versjoner er legitime (og det vil også dukke opp spørsmål om dem):
Versjon 1) Demonen er enda dummere enn studenten. Han mottok en ordre og vil utføre den på ubestemt tid, selv når all mening forsvinner: blomsten - gjenstanden for vanning - vil forsvinne, vinkelen som koordinatene til blomsten er festet til vil forsvinne, planeten Jorden vil forsvinne, og dumme demoner vil fortsette å levere vann i tønner til et visst punkt i verdensrommet. Og hvis en supernova bryter ut på dette tidspunktet, bryr ikke demonen seg hvor den skal bære vannet. Dessuten: hvor dum må du være for å vanne en liten blomst fra en diger tønne? Dette kalles allerede ikke å vanne blomsten, men å drukne blomsten. Forstår han i det hele tatt betydningen av ordre?
Versjon 2) Demonen forstår alt, men er bundet av forpliktelser. Så han gjennomfører noe sånt som en italiensk streik. Før han er offisielt sparket ut i henhold til alle reglene, vil han ikke stoppe.
Spørsmål 1 til versjon 1,2) Hvordan skille en helt dum demon i henhold til versjon 1 fra en slett ikke dum demon i henhold til versjon 2?
Spørsmål 2 til versjon 1,2) Ville demonen ha utført riktig (fra elevens ståsted) en mer presis formulering? For eksempel, hvis en elev sa: ta den tomme literskolben som står på hyllen, fyll den med vann og vann den blomsten én gang. Eller for eksempel hvis eleven sa: gå bort.
Versjon 3) Trollmannen kastet en ekstra trolldom på demonen, ifølge hvilken hvis noen andre enn trollmannen bruker demonens tjenester, må demonen umiddelbart informere trollmannen om dette faktum.
Versjon 4) Demonen bærer ikke nag til trollmannen og eleven hans, da han så at situasjonen var ute av kontroll, under hans bevegelser med en tønne dukket han opp bak ryggen til trollmannen og bjeffet: "Du glemte nøkkelen hjemme , det er en flom." Men trollmannen selv ville ikke ha husket det.
Merknad 1 til versjon 4) Det er spesielt verdt å merke seg at EI-bærere har svært ufullkommen minne.
Ytterligere versjoner kan multipliseres som "Fibonacci-kaniner", dvs. ikke en veldig kompleks algoritme. For eksempel:
Versjon 5) Demonen tar hevn på studenten for å forstyrre ham.
Versjon 6) Demonen bærer ikke nag til studenten, men hevner seg på trollmannen.
Versjon 6) Demonen tar hevn på alle.
Versjon 7) Demonen tar ikke hevn, men har det gøy. Slutter når han blir sliten.
Og så videre. D.
Så med demonen er det klart at ingenting er klart. Ikke bedre med en trollmann. Du kan komme med ikke mindre versjoner: at han bevisst bestemte seg for å lære en lekse til en student som stikker den nysgjerrige nesen overalt; at han ville drukne studenten, men da demonen bjeffet om flommen, ble han redd - plutselig hørte en av de forbipasserende, da ville mistanken falle på trollmannen; ønsket å vekke studentens interesse for staver osv.
Her er et barnslig spørsmål mulig: hvilken av de foreslåtte versjonene er riktige? Tilsynelatende, noen. Det er ingen informasjon som er ubrukt i historien for å favorisere noen versjon fremfor de andre. Her har vi å gjøre med et ganske vanlig tilfelle av kunstverk med mulighet for tvetydig tolkning. For eksempel, hvis en regissør ønsker å sette opp dette eventyret i et teater eller lage en film basert på det, kan han velge den tolkningen som er mest attraktiv fra hans ståsted. En annen regissør kan finne en annen tolkning attraktiv. Samtidig kan attraktivitet bestemmes av flere hensyn, for eksempel attraktivitet for seere for å sikre maksimale billettkontorer, eller attraktivitet for å demonstrere en super-ide: ideen om det godes seier over det onde, ideen om plikt, en opprørsk idé - for eksempel, ifølge Dostojevskij: student, som Raskolnikov, stiller han spørsmålet "er han en skjelvende skapning eller har han rett," etc.
Et annet spørsmål dukker opp.
Et spørsmål til). Hvordan kan vi lære AI å gi preferanse til en av de stemte versjonene hvis vi selv, som har AI, ikke alltid bevisst kan velge en av dem?
Tilbake til trollmannen ser versjonen om at han ønsket en pliktoppfyllende og lydig student, som en demon, slik at han ikke ville stikke nesen inn i forbudte bøker og hvor han ikke ble spurt, veldig plausibel. Det samme er nå ofte ønsket fra AI. Ved første øyekast er dette normale tradisjonelle krav for enhver maskin: fullstendig lydighet, ulydighet er uakseptabelt. Men når det gjelder AI, kan problemet med versjon 1,2 (se ovenfor) oppstå, dvs. AI degenererer - maskinvaren kan mene hva den vil om sine skapere og eiere, men den vil ikke utføre noen handlinger relatert til AI, dvs. I stedet for AI vil vi få en dum primitiv automat. Fra dette kommer en mistanke snikende: kanskje trollmannen ikke ønsket å gjøre studenten til en så dum utøver som en demon? De. Ideen om AI med begrensninger dukker opp. Her er alt enda vanskeligere selv innen EI: husk de evige konfliktene "fedre og sønner", "lærer og student", "sjef og underordnet".
Når jeg valgte en definisjon av AI blant de mulige, la jeg merke til:
oppgaven med å sortere flere titusenvis av ord alfabetisk vil være kjedelig for en person, det vil ta lang tid å gjøre det, og sannsynligheten for feil for en gjennomsnittlig utøver med et gjennomsnittlig ansvarsnivå vil være betydelig. En moderne datamaskin vil utføre denne oppgaven uten feil på svært kort tid for en person (brøkdeler av et sekund).
Jeg bestemte meg for følgende definisjon: AI inkluderer oppgaver som en datamaskin løser betydelig dårligere enn et menneske.
Denne definisjonen tar hensyn til hensynene som er uttrykt ovenfor og er praktisk for praksis; samtidig er den ikke ideell, om ikke annet fordi listene over oppgaver "som en datamaskin løser merkbart dårligere enn et menneske" er forskjellige nå og for 20 år siden . Men, etter min mening, har ingen ennå kommet opp med en mer perfekt definisjon.
Ovenstående er illustrert rent kvalitativt av diagrammet i begynnelsen av artikkelen. På koordinataksen "ferdigheter" tilsvarer ferdigheter i området null (null og litt mer) ferdigheter der en person er overlegen en datamaskin, for eksempel i evnen til å ta ikke-standardiserte beslutninger. Ferdigheter i området en (en og litt mindre) tilsvarer ferdigheter der en datamaskin er overlegen en person: evnen til å beregne, minne. Ved å sette maksimal overlegenhet lik en konvensjonell enhet på "overlegenhet"-koordinataksen, oppnår vi avhengigheten av overlegenhet på ferdigheter for mennesker og datamaskiner i form av diagonaler til en enhetskvadrat. Slik ser situasjonen ut for øyeblikket. Er det mulig for en sterk AI å ha alle sine ferdigheter på maksimum (rød linje)? Eller enda høyere (super-AI - blå linje)? Kanskje skal ikke delmålet om fremgang være sterkt, men ikke helt
svak AI (lilla linje), som vil være dårligere enn AI i en rekke ferdigheter, men ikke så mye som nå.
For å gå tilbake til vår litterære eventyrmodell, kan vi si at alle dens helter ikke opptrådte på den beste måten: den klyngende trollmannen glemte nøkkelen og mottok en flom i fangehullet sitt, studenten mottok gjennom dumhet og uforsiktighet en haug med ekstreme inntrykk og nesten druknet, ble demonen sparket ut uten noen takknemlighet. Når det gjelder demonens intelligens, har det allerede blitt bemerket at det er vanskelig å tydelig klassifisere ham som AI eller EI, men intelligensen (om enn ikke imponerende) til de andre tilhører helt klart EI. Det kan sies om dem at å gjøre farlige feil i beslutninger, være uoppmerksom, glemme nødvendige ting og bli sliten er deres viktigste iboende egenskaper. Dessverre er disse egenskapene iboende i alle andre EI-bærere i større eller mindre grad. Upåliteligheten til å sortere ord eller tall for EI har allerede blitt notert ovenfor, men det virker som en enda enklere oppgave - bare å huske et tall viser seg å være veldig vanskelig for folk. For en maskin begrenses muligheten til å huske sifrene til pi bare av størrelsen på minnet, og de fleste må bruke , som «Hva vet jeg om kretser». Det ser ut til at linjen "3,1416" har færre tegn enn den spesifiserte mnemonikken, men av en eller annen grunn foretrekker folk å huske på en mindre økonomisk måte. Og lengre:
Lær og kjenn tallet bak tallet, hvordan legge merke til flaks
Slik at vi ikke gjør feil,
Må leses riktig
Tre, fjorten, femten
Nittito og seks
For å huske fargene på regnbuen:
Alle designere vil vite hvor de skal laste ned Photoshop
Og begynnelsen av det periodiske systemet:
Naturlig vann (hydrogen) ble blandet med gel (helium) for å helle (litium). Ja, ta og hell (Beryllium) inn i furuskogen (bor), hvor fra under det innfødte hjørnet (karbon) asiatiske (nitrogen) titter ut, og med et så surt ansikt (oksygen) at sekundært (fluor) jeg ikke ønsker å se på. Men vi trengte ham ikke (Neon), så vi flyttet tre (natrium) meter unna og endte opp i Magnolia (Magnesium), der Alya i et mini (aluminium) skjørt ble smurt inn med krem (silisium) som inneholder fosfor (fosfor) slik at hun skulle slutte å være Sera (Sera). Etter det tok Alya klor (klor) og vasket argonautenes skip (argon)
Men hvorfor så åpenbar ufullkommenhet i en så perfekt EI? Kanskje, takket være evnen til å glemme de enkleste fakta, får en person friheten til å kombinere fragmenter av tankene sine i en vilkårlig vill rekkefølge og finne ikke-standardiserte løsninger? I så fall er sterk AI umulig. Enten vil han glemme som en person, eller han vil ikke være i stand til ikke-standardiserte løsninger. I alle fall, fra de ovennevnte forutsetningene følger det at det er nødvendig å skille mellom målene til AI: ett av målene er modellering av AI, det andre er å skape sterk AI. Å oppnå det ene kan utelukke å oppnå det andre.
Som vi kan se, er det for mange spørsmål med tvetydige svar innen AI, så det er uklart i hvilken retning man skal bevege seg. Som skjer i slike tilfeller prøver de å bevege seg i alle retninger samtidig. Samtidig, på grunn av mangelen på matematisk strenge formuleringer, må man vende seg til filosofi og kunstnerisk og litterær modellering. Et av de mest kjente eksemplene i denne retningen er boken "Turing Selection" (1992) av en av AI-personlighetene, Marvin Lee Minsky, og den berømte science fiction-forfatteren Harry Harrison. Jeg vil sitere fra denne boken, kanskje forklare det ovenfor beskrevne fenomenet mnemonics:
Menneskets hukommelse er ikke en båndopptaker som registrerer alt i kronologisk rekkefølge. Den er strukturert helt annerledes – snarere som en slurvete vedlikeholdt kartotek, utstyrt med en forvirrende og motstridende kartotek. Og ikke bare forvirrende - fra tid til annen endrer vi prinsippene for klassifisering av konsepter.
En interessant tolkning av båndopptakermetaforen i et annet litterært verk, Stanislaw Lems historie "Terminus" (fra serien "Stories about the Pilot Pirx"). Her er tilfellet med en slags "intelligent båndopptaker": en gammel robot på et gammelt romskip som en gang ble utsatt for en ulykke, er engasjert i pågående reparasjonsarbeid, ledsaget av avlytting. Men hvis du lytter nøye, er dette ikke bare hvit teknologisk støy, men et opptak av morsekode – samtaler mellom besetningsmedlemmer på et døende skip. Pirx griper inn i disse forhandlingene og får uventet svar fra de lenge døde astronautene. Det viser seg at den primitive reparasjonsroboten på en eller annen måte lagrer kopier av bevisstheten deres, eller er det kognitive forvrengninger av oppfatningen til piloten Pirx?
I en annen historie, "Ananke" (fra samme serie), fører en kopi av EI i kontrolldatamaskinen til en romtransport til dens paranoide overbelastning med testoppgaver, som ender i katastrofe.
I historien "Accident" dør en altfor antropomorfisk programmert robot som et resultat av en fjellklatring som han bestemte seg for å gjøre på fritiden. Trenger slike utøvere? Men demoner fiksert på å vanne en blomst er heller ikke alltid nødvendig.
Noen spesialister innen AI liker ikke slik "filosofisering" og "litteraturisme", men disse "filosofiseringen" og "litterærismen" er tradisjonelt iboende i analysen av AI og er uunngåelige så lenge AI sammenlignes med AI, og til og med mer så lenge AI prøver å kopiere AI.
Avslutningsvis en undersøkelse om en rekke problemstillinger som dukket opp.
Kun registrerte brukere kan delta i undersøkelsen. , vær så snill.
1. Inkluderer AI oppgaver som en datamaskin løser vesentlig dårligere enn et menneske?
-
Ja
-
Ikke
-
Jeg kjenner definisjonen bedre. Jeg vil gi det i kommentarfeltet.
-
Vanskelig å svare på
34 brukere stemte. 7 brukere avsto.
2. Skal AI-en bare være en eksekutør, skal alle ordre tas bokstavelig? For eksempel sa de å vanne en blomst - det betyr vann til de driver deg bort
-
Ja
-
Ikke
-
Vanskelig å svare på
37 brukere stemte. 6 brukere avsto.
3. Er det mulig å ha en sterk AI, der alle ferdigheter vil være maksimale (rød linje i bildet i begynnelsen av artikkelen)?
-
Ja
-
Ikke
-
Vanskelig å svare på
35 brukere stemte. 7 brukere avsto.
4. Er super-AI mulig (blå linje i bildet i begynnelsen av artikkelen)?
-
Ja
-
Ikke
-
Vanskelig å svare på
36 brukere stemte. 7 brukere avsto.
5. Delmålet skal ikke være sterk, men heller ikke helt svak AI (lilla strek i figuren i begynnelsen av artikkelen), som i en rekke ferdigheter vil være dårligere enn AI, men ikke så mye som nå ?
-
Ja
-
Ikke
-
Vanskelig å svare på
33 brukere stemte. 5 brukere avsto.
6. Å gjøre farlige feil i beslutninger, være uoppmerksom, glemme nødvendige ting og bli sliten er de viktigste iboende egenskapene til EI?
-
Ja
-
Ikke
-
Jeg har en annen mening, som jeg vil gi i kommentarene.
-
Vanskelig å svare på
33 brukere stemte. 5 brukere avsto.
7. Takket være evnen til å glemme de enkleste fakta, får en person friheten til å kombinere fragmenter av tankene sine i en vilkårlig vill rekkefølge og finne ikke-standardiserte løsninger?
-
Ja
-
Ikke
-
Jeg har en annen mening, som jeg vil gi i kommentarene.
-
Vanskelig å svare på
31 brukere stemte. 4 brukere avsto.
8. Å modellere AI og skape sterk AI er to forskjellige oppgaver som kan løses med forskjellige metoder?
-
Ja
-
Ikke
-
Jeg har en annen mening, som jeg vil gi i kommentarene.
-
Vanskelig å svare på
32 brukere stemte. 4 brukere avsto.
Kilde: www.habr.com