Wat voor soort student heeft een tovenaar nodig en wat voor soort AI hebben wij nodig?

WAARSCHUWING
Afgaande op de recordhoge verhouding tussen het aantal stilzwijgend ontevredenen en het aantal commentatoren die iets hebben om bezwaar tegen te maken, is het voor veel lezers niet duidelijk dat:
1) Dit is een puur theoretisch discussieartikel. Er zal hier geen praktisch advies worden gegeven over het kiezen van tools voor het minen van cryptocurrency of het samenstellen van een multivibrator om twee gloeilampen te laten knipperen.
2) Dit is geen populair-wetenschappelijk artikel. Er zal geen verklaring zijn voor de dummies van het werkingsprincipe van de Turing-machine aan de hand van het voorbeeld van luciferdoosjes.
3) Denk goed na voordat je verder leest! Spreekt de houding van agressief amateurisme jou aan: ik minus alles wat ik niet begrijp?
Bij voorbaat dank aan iedereen die besluit dit artikel niet te lezen!

Een daemon is een computerprogramma op UNIX-klasse systemen dat door het systeem zelf wordt gestart en op de achtergrond draait zonder directe gebruikersinteractie.

Wikipedia

Zelfs in de kleuterklas hoorde ik een sprookje over een tovenaarsleerling. Ik zal het herhalen in mijn hervertelling:

Er was eens, ergens in middeleeuws Europa, een tovenaar. Hij had een groot boek met spreuken, gebonden in zwart kalfsleer met ijzeren gespen en hoeken. Als de tovenaar een spreuk moest uitspreken, ontgrendelde hij deze met een grote ijzeren sleutel, die hij altijd in een speciaal zakje aan zijn riem droeg. De tovenaar had ook een student die de tovenaar diende, maar het was hem verboden in het spreukenboek te kijken.

Op een dag vertrok de tovenaar de hele dag voor zaken. Zodra hij het huis verliet, snelde de student de kerker binnen, waar zich een alchemistisch laboratorium bevond waarin een boek met spreuken aan een tafel was vastgeketend. De student pakte de smeltkroezen waarin de tovenaar lood smolt om er goud van te maken, plaatste ze op de komfoor en wakkerde het vuur aan. Het lood smolt snel, maar veranderde niet in goud. Toen herinnerde de student zich dat de tovenaar, nadat hij het lood had gesmolten, het boek elke keer met een sleutel ontgrendelde en er lange tijd een spreuk uit fluisterde. De student keek hopeloos naar het gesloten boek en zag dat ernaast de sleutel lag, vergeten door de tovenaar. Toen snelde hij naar de tafel, maakte het boek open, opende het en las luid de allereerste spreuk voor, waarbij hij onbekende woorden zorgvuldig lettergreep voor lettergreep uitsprak, in de veronderstelling dat zo'n belangrijke spreuk als de spreuk van de transmutatie van lood in goud zeker de allereerste zou zijn. .

Maar er gebeurde niets: de hoofdrolspeler wilde niet transformeren. De student wilde nog een spreuk proberen, maar toen deed een donderslag het huis trillen en verscheen er een enorme, griezelige demon voor de student, opgeroepen door de spreuk die de student zojuist had uitgesproken.
- Volgorde! - gromde de demon.
Uit angst verlieten alle gedachten het hoofd van de student, hij kon niet eens bewegen.
- Geef bevelen, of ik eet je op! - de demon gromde opnieuw en strekte een enorme hand uit naar de student om hem vast te pakken.
Wanhopig mompelde de student het eerste waar hij aan kon denken:
- Geef deze bloem water.
En hij wees naar een geranium, waarvan een pot op de grond in de hoek van het laboratorium stond; in het plafond boven de bloem zat het enige kleine raam in de kerker, waardoor zonlicht nauwelijks doordrong. De demon verdween, maar verscheen even later weer met een enorm vat water, dat hij omdraaide over de bloem en het water uitgoot. Hij verdween weer en verscheen weer met een vol vat.
‘Dat is genoeg,’ riep de student, terwijl hij tot zijn middel in het water stond.
Maar blijkbaar was verlangen alleen niet genoeg: de demon droeg en droeg water in een vat en goot het in de hoek waar ooit een bloem verborgen onder water stond. Er was waarschijnlijk een speciale spreuk nodig om de demon te verdrijven. Maar de tafel met het boek was al verdwenen in het modderige water, waarin as en kolen uit de komfoor dreven, lege retorten, kolven, krukjes, galvanometers, dosimeters, wegwerpspuiten en ander puin, dus zelfs als de student wist hoe hij het moest vinden de vereiste spreuk kon hij het niet doen. Het water steeg en de student klom op de tafel om niet te stikken. Maar dit hielp niet lang: de demon bleef methodisch water dragen. De student stond al tot aan zijn nek in het water toen de tovenaar terugkeerde, ontdekte dat hij de sleutel van het boek thuis was vergeten en de demon verdreef. Het einde van het sprookje.

Meteen over het voor de hand liggende. Met de natuurlijke intelligentie (NI) van de student lijkt het erop dat alles duidelijk is: dom, je moet lang zoeken naar iets dat nog dommer is. Maar met de intelligentie van de demon - wat voor soort intelligentie heeft hij trouwens: EI of AI? - ambigu. Verschillende versies zijn legitiem (en er zullen ook vragen over rijzen):

Versie 1) De demon is nog dommer dan de student. Hij heeft een opdracht gekregen en zal die voor onbepaalde tijd uitvoeren, zelfs als alle betekenis verdwijnt: de bloem - het voorwerp van watergift - zal verdwijnen, de hoek waaraan de coördinaten van de bloem zijn bevestigd zal verdwijnen, de planeet Aarde zal verdwijnen, en de Deze domme demon zal doorgaan met het afleveren van water in vaten naar een bepaald punt in de ruimte. En als er op dit punt een supernova uitbreekt, maakt het de demon niet uit waar hij het water naartoe moet brengen. Bovendien: hoe dom moet je zijn om een ​​klein bloemetje water te geven uit een enorm vat? Dit heet al de bloem niet water geven, maar de bloem verdrinken. Begrijpt hij überhaupt de betekenis van bevelen?

Versie 2) De demon begrijpt alles, maar is gebonden aan verplichtingen. Hij voert dus zoiets als een Italiaanse staking uit. Totdat hij officieel eruit wordt gezet volgens alle regels, zal hij niet stoppen.

Vraag 1 bij versies 1,2) Hoe onderscheid je een volkomen domme demon volgens versie 1 van een helemaal niet domme demon volgens versie 2?
Vraag 2 bij versie 1,2) Zou de demon (vanuit het standpunt van de leerling) een preciezere formulering correct hebben uitgevoerd? Als een leerling bijvoorbeeld zegt: pak die lege literfles die op de plank staat, vul hem met water en geef die bloem een ​​keer water. Of bijvoorbeeld als de leerling zegt: ga weg.

Versie 3) De tovenaar sprak een extra spreuk uit over de demon, volgens welke als iemand anders dan de tovenaar de diensten van de demon gebruikt, de demon de tovenaar onmiddellijk over dit feit moet informeren.

Versie 4) De demon koestert geen wrok tegen de tovenaar en zijn leerling, dus toen hij zag dat de situatie uit de hand liep, verscheen hij tijdens zijn bewegingen met een ton achter de rug van de tovenaar en blafte: “Je bent de sleutel thuis vergeten , er is een overstroming.” Maar de tovenaar zelf zou het zich niet hebben herinnerd.

Opmerking 1 bij versie 4) Het is vooral de moeite waard om op te merken dat EI-dragers een zeer onvolmaakt geheugen hebben.

Verdere versies kunnen worden vermenigvuldigd zoals “Fibonacci-konijnen”, d.w.z. geen erg complex algoritme. Bijvoorbeeld:
Versie 5) De demon neemt wraak op de student omdat hij hem heeft gestoord.
Versie 6) De demon koestert geen wrok tegen de student, maar neemt wraak op de tovenaar.
Versie 6) De demon neemt wraak op iedereen.
Versie 7) De demon neemt geen wraak, maar heeft plezier. Het is klaar als hij moe wordt.
En zo verder

Bij de demon is het dus duidelijk dat niets duidelijk is. Niet beter met een tovenaar. Er zijn niet minder versies te bedenken: dat hij bewust besloot een lesje te leren aan een leerling die overal zijn nieuwsgierige neus in steekt; dat hij de student wilde verdrinken, maar toen de demon blafte over de overstroming, werd hij bang - plotseling hoorde een van de voorbijgangers het, waarna de verdenking op de tovenaar zou vallen; wilde de interesse van de student voor spreuken wekken, enz.

Hier is een kinderachtige vraag mogelijk: welke van de voorgestelde versies is correct? Blijkbaar, elke. Er is geen informatie ongebruikt gelaten in het verhaal die de voorkeur geeft aan een versie boven de andere. Hier hebben we te maken met een vrij algemeen geval van kunstwerken met de mogelijkheid van dubbelzinnige interpretatie. Als een regisseur dit sprookje bijvoorbeeld in een theater wil opvoeren of er een film op wil maken, kan hij de interpretatie kiezen die vanuit zijn standpunt het aantrekkelijkst is. Een andere regisseur vindt een andere interpretatie wellicht aantrekkelijk. Tegelijkertijd kan de aantrekkelijkheid worden bepaald door aanvullende overwegingen, bijvoorbeeld de aantrekkelijkheid voor kijkers om maximale kassa-inkomsten te garanderen, of de aantrekkelijkheid om een ​​superidee te demonstreren: het idee van de overwinning van het goede op het kwade, de idee van plicht, een rebels idee - volgens Dostojevski bijvoorbeeld: de student stelt, net als Raskolnikov, de vraag "is hij een bevend wezen of heeft hij het recht", enz.

Er rijst nog een vraag.
Nog een vraag). Hoe kunnen we AI leren de voorkeur te geven aan een van de stemhebbende versies als we zelf, met AI, niet altijd bewust voor een van de versies kunnen kiezen?

Terugkerend naar de tovenaar, de versie dat hij een plichtsgetrouwe en gehoorzame student wilde, zoals een demon, zodat hij zijn neus niet in verboden boeken zou steken en waar hem niet werd gevraagd, ziet er zeer plausibel uit. Hetzelfde wordt nu vaak gevraagd van AI. Op het eerste gezicht zijn dit normale, traditionele vereisten voor elke machine: volledige gehoorzaamheid, ongehoorzaamheid is onaanvaardbaar. Maar in het geval van AI kan de kwestie van versie 1,2 (zie hierboven) zich voordoen, d.w.z. AI degenereert - de hardware kan denken wat hij wil over zijn makers en eigenaren, maar zal geen enkele actie ondernemen die verband houdt met AI, d.w.z. In plaats van AI krijgen we een stomme primitieve automaat. Hieruit kruipt een vermoeden: misschien wilde de tovenaar van de student niet zo'n stomme artiest als een demon maken? Die. Het idee van AI met beperkingen ontstaat. Hier is alles nog moeilijker, zelfs op het gebied van EI: denk aan de eeuwige conflicten 'vaders en zonen', 'leraar en leerling', 'baas en ondergeschikte'.

Vroeger Bij het kiezen van een definitie van AI uit de mogelijke definities merkte ik het volgende op:

de taak om enkele tienduizenden woorden alfabetisch te sorteren zal voor een persoon vervelend zijn, het zal hem veel tijd kosten, en de kans op fouten voor een gemiddelde artiest met een gemiddeld verantwoordelijkheidsniveau zal aanzienlijk zijn. Een moderne computer zal deze taak in zeer korte tijd (fracties van een seconde) voor een persoon foutloos uitvoeren.

Ik ben tot de volgende definitie gekomen: AI omvat taken die een computer aanzienlijk slechter oplost dan een mens.

Deze definitie houdt rekening met de hierboven genoemde overwegingen en is handig voor de praktijk; tegelijkertijd is het niet ideaal, al was het maar omdat de lijsten met taken "die een computer merkbaar slechter oplost dan een mens" nu en twintig jaar geleden anders zijn . Maar naar mijn mening heeft nog niemand een perfectere definitie bedacht.

Het bovenstaande wordt puur kwalitatief geïllustreerd door het diagram aan het begin van het artikel. Op de coördinatenas 'vaardigheden' komen vaardigheden in de buurt van nul (nul en iets meer) overeen met vaardigheden waarbij een persoon superieur is aan een computer, bijvoorbeeld wat betreft het vermogen om niet-standaard beslissingen te nemen. Vaardigheden in de buurt van één (één en iets minder) komen overeen met vaardigheden waarbij een computer superieur is aan een persoon: rekenvermogen, geheugen. Door de maximale superioriteit gelijk aan een conventionele eenheid op de coördinatenas van ‘superioriteit’ te plaatsen, verkrijgen we de afhankelijkheid van superioriteit van vaardigheden voor mensen en computers in de vorm van diagonalen van een eenheidsvierkant. Zo ziet de situatie er op dit moment uit. Is het mogelijk dat een sterke AI al zijn vaardigheden maximaal heeft (rode lijn)? Of nog hoger (super-AI - blauwe lijn)? Misschien zou het tussendoel van vooruitgang niet sterk moeten zijn, maar niet helemaal
zwakke AI (paarse lijn), die in een aantal vaardigheden inferieur zal zijn aan AI, maar niet zo veel als nu.

Terugkerend naar ons literaire sprookjesmodel kunnen we zeggen dat al zijn helden niet op de beste manier presteerden: de onhandige tovenaar vergat de sleutel en kreeg een overstroming in zijn kerker, de student ontving door domheid en onzorgvuldigheid een heleboel extreme indrukken en bijna verdronken, werd de demon zonder enige dankbaarheid eruit gegooid. Wat de intelligentie van de demon betreft, is al opgemerkt dat het moeilijk is om hem duidelijk te classificeren als AI of EI, maar de intelligentie (hoewel niet indrukwekkend) van de anderen behoort duidelijk tot EI. Over hen kan worden gezegd dat het maken van gevaarlijke fouten bij het nemen van beslissingen, onoplettendheid, het vergeten van noodzakelijke dingen en moe worden hun belangrijkste inherente eigenschappen zijn. Helaas zijn deze eigenschappen in meer of mindere mate inherent aan alle andere EI-dragers. De onbetrouwbaarheid van het sorteren van woorden of cijfers van de gebruikersinterface is hierboven al opgemerkt, maar het lijkt een nog eenvoudiger taak: het simpelweg onthouden van een getal blijkt voor mensen erg moeilijk te zijn. Voor een machine wordt het vermogen om de cijfers van pi te onthouden alleen beperkt door de grootte van het geheugen, en de meeste mensen moeten gebruik maken van geheugensteuntjes, zoals 'Wat weet ik over cirkels'. Het lijkt erop dat de regel "3,1416" minder tekens heeft dan het opgegeven geheugensteuntje, maar om de een of andere reden onthouden mensen het liever op een minder economische manier. En langer:

Leer en ken het getal achter het getal, hoe je geluk kunt opmerken

Zodat we geen fouten maken,
Moet correct gelezen worden
Drie, veertien, vijftien
Tweeënnegentig en zes

Om de kleuren van de regenboog te onthouden:

Elke ontwerper wil weten waar hij Photoshop kan downloaden

En het begin van het periodiek systeem:

Natuurlijk water (waterstof) werd gemengd met gel (helium) om (lithium) te gieten. Ja, neem en giet (Beryllium) in het dennenbos (Boron), waar van onder de Native Corner (Koolstof) Aziatisch (Stikstof) naar buiten gluurt, en met zo'n Zuur Gezicht (Zuurstof) dat Secundair (Fluor) dat niet deed naar willen kijken. Maar we hadden hem (Neon) niet nodig, dus zijn we drie (Natrium) meter verder verhuisd en kwamen terecht in Magnolia (Magnesium), waar Alya in een mini (Aluminium) rokje werd ingesmeerd met Crème (Silicium) met daarin Fosfor (Phosfor) zodat ze niet langer Sera (Sera) zou zijn. Daarna nam Alya Chloor (Chloor) en waste het schip van de Argonauten (Argon)

Maar waarom zo’n duidelijke imperfectie in zo’n perfecte EI? Misschien krijgt iemand, dankzij het vermogen om de eenvoudigste feiten te vergeten, de vrijheid om fragmenten van zijn gedachten in een willekeurige, wilde volgorde te combineren en niet-standaardoplossingen te vinden? Als dat zo is, dan is sterke AI onmogelijk. Of hij zal het vergeten als een persoon, of hij zal niet in staat zijn tot niet-standaard oplossingen. In ieder geval volgt uit bovenstaande aannames dat het noodzakelijk is om onderscheid te maken tussen de doelen van AI: één van de doelen is het modelleren van AI, de andere is het creëren van sterke AI. Het bereiken van het een kan het bereiken van het ander uitsluiten.

Zoals we kunnen zien, zijn er op het gebied van AI te veel vragen met dubbelzinnige antwoorden, waardoor het onduidelijk is welke kant we op moeten. Zoals in dergelijke gevallen gebeurt, proberen ze tegelijkertijd in alle richtingen te bewegen. Tegelijkertijd moet men zich, vanwege het gebrek aan wiskundig rigoureuze formuleringen, wenden tot filosofie en artistieke en literaire modellen. Een van de beroemdste voorbeelden in deze richting is het boek ‘Turing Selection’ (1992) van een van de grootheden van AI, Marvin Lee Minsky, en de beroemde sciencefictionschrijver Harry Harrison. Ik zal uit dit boek citeren en misschien het hierboven beschreven fenomeen van de geheugensteuntjes verklaren:

Het menselijk geheugen is geen bandrecorder die alles in chronologische volgorde registreert. Het is totaal anders gestructureerd - een beetje als een slordig onderhouden kaartsysteem, uitgerust met een verwarrende en tegenstrijdige index. En niet alleen verwarrend: van tijd tot tijd veranderen we de principes van de classificatie van concepten.

Een interessante interpretatie van de metafoor van de bandrecorder in een ander literair werk, Stanislaw Lems verhaal "Terminus" (uit de serie "Verhalen over de piloot Pirx"). Hier is het geval van een soort ‘intelligente bandrecorder’: een oude robot op een oud ruimteschip dat ooit een ongeluk heeft gehad, is voortdurend bezig met reparatiewerkzaamheden, begeleid door afluisteren. Maar als je goed luistert, is dit niet alleen witte technologische ruis, maar een opname van morsecode: gesprekken tussen bemanningsleden van een stervend schip. Pirx komt tussenbeide in deze onderhandelingen en krijgt onverwachts een reactie van de allang overleden astronauten. Het blijkt dat de primitieve reparatierobot op de een of andere manier kopieën van hun bewustzijn opslaat of zijn het cognitieve vervormingen van de perceptie van de piloot Pirx?

In een ander verhaal, “Ananke” (uit dezelfde serie), leidt een kopie van de EI in de besturingscomputer van een ruimtetransportmiddel tot zijn paranoïde overbelasting met testtaken, die op een ramp uitloopt.

In het verhaal ‘Accident’ sterft een overdreven antropomorf geprogrammeerde robot als gevolg van een bergbeklimming die hij besloot in zijn vrije tijd te maken. Zijn zulke artiesten nodig? Maar demonen die gefixeerd zijn op het water geven van een bloem zijn ook niet altijd nodig.

Sommige specialisten op het gebied van AI houden niet van dergelijk ‘filosoferen’ en ‘literarisme’, maar dit ‘filosoferen’ en ‘literarisme’ zijn traditioneel inherent aan de analyse van AI en onvermijdelijk zolang AI wordt vergeleken met AI, en zelfs vooral zolang AI AI probeert te kopiëren.

Tot slot een onderzoek naar een aantal problemen die zich voordeden.

Alleen geregistreerde gebruikers kunnen deelnemen aan het onderzoek. Inloggen, Alsjeblieft.

1. Omvat AI taken die een computer aanzienlijk slechter oplost dan een mens?

• Ja

• Geen

• Ik ken de definitie beter. Ik geef het in de reacties.

• Moeilijk te beantwoorden

34 gebruikers hebben gestemd. 7 gebruikers onthielden zich van stemming.

2. Moet de AI alleen maar een executeur zijn, moeten alle bevelen letterlijk worden opgevat? Ze zeiden bijvoorbeeld dat je een bloem water moet geven - dat betekent water totdat ze je wegjagen

• Ja

• Geen

• Moeilijk te beantwoorden

37 gebruikers hebben gestemd. 6 gebruikers onthielden zich van stemming.

3. Is het mogelijk om een ​​sterke AI te hebben, waarin alle vaardigheden maximaal zijn (rode lijn in de afbeelding aan het begin van het artikel)?

• Ja

• Geen

• Moeilijk te beantwoorden

35 gebruikers hebben gestemd. 7 gebruikers onthielden zich van stemming.

4. Is super-AI mogelijk (blauwe lijn in de afbeelding aan het begin van het artikel)?

• Ja

• Geen

• Moeilijk te beantwoorden

36 gebruikers hebben gestemd. 7 gebruikers onthielden zich van stemming.

5. Het tussendoel moet geen sterke, maar ook niet geheel zwakke AI zijn (paarse lijn in de figuur aan het begin van het artikel), die op een aantal vaardigheden inferieur zal zijn aan AI, maar niet zo veel als nu ?

• Ja

• Geen

• Moeilijk te beantwoorden

33 gebruikers hebben gestemd. 5 gebruikers onthielden zich van stemming.

6. Gevaarlijke fouten maken bij beslissingen, onoplettend zijn, noodzakelijke dingen vergeten en moe worden, zijn de belangrijkste inherente eigenschappen van de EI?

• Ja

• Geen

• Ik heb een andere mening, die ik in de reacties zal geven.

• Moeilijk te beantwoorden

33 gebruikers hebben gestemd. 5 gebruikers onthielden zich van stemming.

7. Dankzij het vermogen om de eenvoudigste feiten te vergeten, krijgt een persoon de vrijheid om fragmenten van zijn gedachten in een willekeurige, wilde volgorde te combineren en niet-standaardoplossingen te vinden?

• Ja

• Geen

• Ik heb een andere mening, die ik in de reacties zal geven.

• Moeilijk te beantwoorden

31 gebruikers hebben gestemd. 4 gebruikers onthielden zich van stemming.

8. Zijn het modelleren van AI en het creëren van sterke AI twee verschillende taken die op verschillende manieren kunnen worden opgelost?

• Ja

• Geen

• Ik heb een andere mening, die ik in de reacties zal geven.

• Moeilijk te beantwoorden

32 gebruikers hebben gestemd. 4 gebruikers onthielden zich van stemming.

Bron: www.habr.com