WAARSCHUWING
Aangezien de verhouding van het aantal stilzwijgend ontevreden mensen tot het aantal commentators die iets te zeggen hebben, recordhoog is, is het voor veel lezers blijkbaar niet duidelijk dat:
1) Dit is een puur theoretisch discussieartikel. Er zullen geen praktische aanbevelingen worden gedaan over het kiezen van tools voor cryptocurrency mining of het bouwen van een multivibrator om met twee lampjes te flitsen.
2) Dit is geen populairwetenschappelijk artikel. Er zal geen uitleg voor leken zijn over de werking van de Turingmachine aan de hand van luciferdoosjes.
3) Denk goed na voordat je verder leest! Voelt het voor jou leuk om de houding van een agressieve amateur aan te nemen: alles afkeuren wat je niet begrijpt?
Bij voorbaat dank aan iedereen die besluit dit artikel niet te lezen!
Een daemon is een computerprogramma in UNIX-achtige systemen dat door het systeem zelf wordt opgestart en op de achtergrond werkt zonder directe interactie met de gebruiker.
Al op kleuterleeftijd hoorde ik het verhaal over de leerling van de tovenaar. Ik zal het in mijn eigen woorden herhalen:
Er was eens ergens in middeleeuws Europa een tovenaar. Hij had een groot boek met spreuken, ingebonden in zwart kalfsleer met sluitingen en metalen hoeken. Wanneer de tovenaar een spreuk wilde lezen, opende hij het met een grote ijzeren sleutel die hij altijd aan zijn riem droeg in een speciaal zakje. De tovenaar had ook een leerling die hem assisteerde, maar het was hem verboden in het boek met spreuken te kijken.
Op een dag ging de tovenaar voor de hele dag op spoor. Zodra hij het huis verliet, stortte de leerling zich de kelder in, waar het alchemistische laboratorium was, waar een boek met spreuken aan tafel was geketend. De leerling greep de crucibles waarin de tovenaar lood smolt om het in goud te veranderen, zette ze op het vuur en blies de vlammen aan. Het lood smolt snel, maar veranderde niet in goud. Toen herinnerde de leerling zich dat de tovenaar, na het smelten van het lood, altijd het boek met een sleutel opende en toen langdurig de spreuk erin fluisterde. De leerling keek wanhopig naar het gesloten boek en zag dat er naast het boek een sleutel lag, vergeten door de tovenaar. Toen stortte hij zich naar de tafel, opende het boek, opende het en las luid het allereerste spreuk, waarbij hij zorgvuldig de onbekende woorden letter voor letter uitsprak, in de veronderstelling dat zo'n belangrijke spreuk als de spreuk om lood in goud te transmuteren, vast en zeker de eerste zou zijn.
Maar er gebeurde niets: het lood wilde zich niet veranderen. De leerling wilde een andere spreuk proberen, maar toen werd het huis door een donderslag geschokt, en voor hem verscheen een enorme afschuwelijke demon, opgeroepen door de spreuk die hij net had gelezen.
-- Bevel! -- gromde de demon.
Van de angst verlieten alle gedachten het hoofd van de leerling, hij kon zich zelfs niet bewegen.
-- Bevel, of ik eet je op! -- gromde de demon opnieuw en stak zijn enorme hand uit naar de leerling om hem te grijpen.
In wanhoop mompelde de leerling het eerste dat hem te binnen schoot:
-- Geef deze bloem water.
En hij wees naar de geranium, waarvan de pot op de vloer in de hoek van het laboratorium stond, het enige kleine raampje in het plafond boven de bloem liet nauwelijks zonlicht binnen. De demon verdween, maar een moment later verscheen hij opnieuw met een enorme ton water, die hij boven de bloem omkiepte en het water eruit gooide. Hij verdween weer en verscheen opnieuw met een volle ton.
-- Genoeg, -- schreeuwde de leerling, terwijl hij al tot aan zijn middel in het water stond.
Maar het lijkt erop dat Ć©Ć©n wens niet genoeg was - de demon bleef water uit het vat slepen en goot het in de hoek waar ooit de ondergedoken bloem stond. Waarschijnlijk was er een speciale spreuk nodig om de demon te verdrijven. Maar de tafel met het boek was al verdwenen in het troebele water, waarin as en kolen van de open haard dobberden, lege retorten, kolven, krukjes, galvanometers, dosimeters, wegwerpspuiten en ander afval, dus zelfs als de leerling wist hoe hij de juiste spreuk moest vinden, zou hij dat niet kunnen. Het water steeg, en de leerling klom op de tafel om niet te verdrinken. Maar dat hielp niet lang - de demon bleef methodisch water slepen. De leerling was al tot aan zijn nek in het water toen de tovenaar terugkwam, die ontdekte dat hij de sleutel tot het boek was vergeten en de demon verdreef. Einde van het verhaal.
Laten we meteen het voor de hand liggende bespreken. Met de natuurlijke intelligentie (NI) van de leerling leek alles duidelijk - een sufkop, het zal lang duren om iets slimmer te vinden. Maar met de intelligentie van de demon - trouwens, wat voor soort is dat: NI of AI? - is het onduidelijk. Er zijn verschillende versies mogelijk (en er zullen ook vragen over komen):
Versie 1) De demon is nog dommer dan de leerling. Hij kreeg een opdracht en zal deze eindeloos blijven uitvoeren, zelfs wanneer elke zin verdwijnt: de bloem verdwijnt - het object dat bewaterd moet worden, de hoek waaraan de coƶrdinaten van de bloem zijn gekoppeld verdwijnt, de aarde verdwijnt, en de domme demon blijft in een bepaald punt van de kosmos water met vaten blijven brengen. En als daar een supernova ontbrandt, maakt het de demon niet uit waar hij het water naartoe moet brengen. Sterker nog: hoe dom moet je zijn om een kleine bloem van een enorm vat te bewateren. Dit heet geen bewateren, maar de bloem verdrinken. Begrijpt hij Ć¼berhaupt de zin van de opdrachten?
Versie 2) De demon begrijpt alles, maar is gebonden aan verplichtingen. Het lijkt alsof hij iets doet dat op een Italiaanse staking lijkt. Totdat hij officieel volgens de regels wordt weggestuurd - stopt hij niet.
Vraag 1 over versies 1, 2) Hoe onderscheid je de volkomen domme demon van versie 1 van de helemaal niet domme demon van versie 2?
Vraag 2 over versies 1, 2) Zou de demon het juiste (in de ogen van de leerling) nauwkeuriger formuleren? Bijvoorbeeld, als de leerling zou zeggen: neem die lege literfles die op de plank staat, vul hem met water en geef de bloem 1 keer water. Of, bijvoorbeeld, als de leerling zou zeggen: ga weg.
Versie 3) De tovenaar heeft een extra spreuk op de demon gelegd, zodat als iemand anders dan de tovenaar gebruik maakt van de diensten van de demon, de demon dit onmiddellijk aan de tovenaar moet melden.
Versie 4) De demon koestert geen wrok tegen de tovenaar en zijn leerling, en daarom, terwijl hij met een vat in beweging was en zag dat de situatie uit de hand liep, verscheen hij achter de tovenaar en gromde: "je hebt de sleutel thuis vergeten, er is een overstroming". En de tovenaar zou het zelf nooit hebben herinnerd.
Opmerking 1 bij versie 4) Het is bijzonder belangrijk op te merken dat de dragers van EI soms een zeer onvolmaakte geheugen hebben.
Verder kunnen versies worden vermenigvuldigd als "Fibonacci-konijnen", d.w.z. met een vrij eenvoudig algoritme. Bijvoorbeeld:
Versie 5) De demon wreekt zich op de leerling vanwege zijn bezorgdheid.
Versie 6) De demon koestert geen wrok tegen de leerling, maar wreekt zich op de tovenaar.
Versie 6) De demon wreekt zich op iedereen.
Versie 7) De demon wreekt zich niet, maar amuseert zich. Hij stopt wanneer hij er genoeg van heeft.
Enzovoort.
Dus, het is duidelijk dat er niets duidelijk is met de demon. Het is niet beter met de tovenaar. Er kunnen niet minder versies worden verzonnen: dat hij speciaal de leerling wilde straffen, die overal zijn nieuwsgierige neus steekt; dat hij de leerling wilde verdrinken, maar toen de demon over de overstroming gromde, bang werd - wat als iemand van de voorbijgangers het hoorde, dan zou de tovenaar verdacht worden; dat hij de interesse van de leerling in spreuken wilde wekken, enzovoort.
Hier kan een kinderlijk vraag opkomen: welke van de voorgestelde versies is juist? Waarschijnlijk elke. In het verhaal is er geen ongebruikte informatie overgebleven om een van de versies te verkiezen boven de andere. Hier hebben we te maken met een vrij vaak voorkomend geval in artistieke werken waar er ruimte is voor dubbelzinnige interpretatie. Bijvoorbeeld, als een regisseur besluit dit verhaal in het theater te zetten of er een film van te maken, kan hij de interpretatie kiezen die het meest aantrekkelijk voor hem lijkt. Voor een andere regisseur kan een andere interpretatie aantrekkelijker zijn. Daarbij kan aantrekkelijkheid worden bepaald door aanvullende overwegingen, zoals aantrekkelijkheid voor de kijkers om de maximale kassa-ontvangsten te waarborgen, of aantrekkelijkheid voor de demonstratie van een bepaalde super-idee: het idee van de overwinning van goed over kwaad, het idee van plicht, het rebelse idee - bijvoorbeeld volgens Dostojewski: de leerling, als Raskolnikov, stelt zich de vraag "is hij een bibberend schepsel of heeft hij recht" enzovoort.
Er rijst nog een vraag.
Nog een vraag). Hoe kunnen we AI leren om de voorkeur te geven aan een van de genoemde versies, als wij zelf, met onze AI, niet altijd bewust een keuze kunnen maken?
Als we terugkijken naar de tovenaar, lijkt de versie dat hij een leerling wilde die gehoorzaam en uitvoerend was, zoals een demon, heel plausibel, zodat hij niet zijn neus in verboden boeken zou steken en daar waar hij niet gevraagd werd. Hetzelfde wordt tegenwoordig vaak van AI gewenst. Op het eerste gezicht zijn dit normale traditionele eisen aan elke machine: volledige gehoorzaamheid, ongehoorzaamheid is niet acceptabel. Maar in het geval van AI kan de vraag rijzen over versies 1,2 (zie hierboven), d.w.z. AI degenererend ā een 'doos' kan denken wat het wil over zijn scheppers en eigenaren, maar zal geen enkele actie met betrekking tot AI ondernemen, dat wil zeggen, in plaats van AI krijgen we een dom primitief apparaat. Dit roept de verdenking op: misschien wilde de tovenaar zijn leerling niet zo'n domme uitvoerder maken als een demon? D.w.z. er komt het idee van AI met beperkingen. Dit is zelfs nog ingewikkelder, zelfs binnen het domein van AI: denk terug aan de eeuwige conflicten tussen āvaders en kinderenā, āleraar en leerlingā, ābaas en ondergeschikteā.
bij het kiezen van een definitie van AI uit de mogelijke, merkte ik op:
de taak om enkele tienduizenden woorden alfabetisch te sorteren, zou voor een mens vermoeiend zijn; hij zou het lang doen, en de kans op fouten voor een gemiddelde uitvoerder met een gemiddeld verantwoordelijkheidsniveau zou aanzienlijk zijn. Een moderne computer zal deze taak zonder fouten in een voor de mens zeer korte tijd (een fractie van een seconde) uitvoeren.
Ik ben gebleven bij de volgende definitie: tot AI behoren taken die een computer merkbaar slechter uitvoert dan een mens.
Deze definitie houdt rekening met de eerder genoemde overwegingen en is handig voor de praktijk; tegelijkertijd is hij niet perfect, ook al omdat de lijsten van taken 'die een computer merkbaar slechter uitvoert dan een mens', op dit moment en 20 jaar geleden verschillend zijn. Maar een beter gedefinieerd begrip is, naar mijn mening, nog niet bedacht.
Wat gezegd is, illustreert duidelijk het schema aan het begin van het artikel. Op de coƶrdinaatlijn 'vaardigheden' komen vaardigheden dicht bij nul (nul en iets meer) overeen met vaardigheden waar een mens de computer overtreft, bijvoorbeeld het vermogen om onconventionele beslissingen te nemen. Vaardigheden dicht bij Ć©Ć©n (Ć©Ć©n en iets minder) komen overeen met vaardigheden waarbij de computer de mens overtreft: het vermogen tot berekeningen, geheugen. Als we de maximale superioriteit als gelijk aan een voorwaardelijke eenheid op de coƶrdinaatlijn 'superioriteit' leggen, krijgen we afhankelijkheden van superioriteit van mensen en computers in de vorm van diagonalen van een eenheidsvierkant. Zo ziet de situatie er momenteel uit. Is er een mogelijkheid voor sterke AI, waarbij alle vaardigheden maximaal zijn (de rode lijn)? Of zelfs hoger (super AI ā de blauwe lijn)? Misschien moet een tussenliggende doelstelling van de vooruitgang niet zijn een sterke, maar ook geen volledig
zwakke AI (de paarse lijn), die op een aantal vaardigheden inferieur zal zijn aan de algemene intelligentie, maar niet zo sterk als nu.
Terugkomend op ons literaire sprookjesmodel, kan worden gezegd dat al zijn helden niet op hun best waren: de onhandige tovenaar vergat de sleutel en kreeg een overstroming in zijn ondergrondse ruimte, de leerling kreeg door zijn domheid en onvoorzichtigheid een scala aan extreme ervaringen en dreigde te verdrinken, de demon werd met schoppen uitgezet zonder enige dankbaarheid. Wat betreft de intelligentie van de demon - het is al opgemerkt dat het moeilijk te plaatsen is als AI of menselijke intelligentie, maar de intelligentie (hoewel niet indrukwekkend) van de anderen behoort duidelijk tot menselijke intelligentie. Over hen kan worden gezegd dat het maken van gevaarlijke fouten in beslissingen, het vertonen van onoplettendheid, het vergeten van noodzakelijke dingen en vermoeidheid hun belangrijkste inherente eigenschappen zijn. Helaas zijn deze eigenschappen ook in grotere of mindere mate aanwezig bij alle andere vertegenwoordigers van menselijke intelligentie. Over de onbetrouwbaarheid van het sorteren van woorden of cijfers is hierboven al opgemerkt, maar wat nog eenvoudiger lijkt ā gewoon een nummer onthouden blijkt heel moeilijk te zijn voor mensen. Voor een machine is de mogelijkheid om cijfers van het getal pi te onthouden slechts beperkt door de grootte van het geheugen, terwijl de meeste mensen hiervoor , zoals 'Wat weet ik over cirkels'. Het lijkt alsof er in de reeks '3,1416' minder symbolen staan dan in de genoemde mnemotechniek, maar om de een of andere reden geven mensen de voorkeur aan een minder economische manier van onthouden. En ook langer:
Leer en een getal waar een cijfer bekend is, hoe het geluk wordt waargenomen
Om fouten te vermijden,
Moet je het goed lezen
Drie, veertien, vijftien
Tweeƫnnegentig en zes
Voor het onthouden van de kleuren van de regenboog:
Iedere ontwerper wil weten waar je Photoshop kunt downloaden
En het begin van de periodieke tabel:
Natuurlijke waterstof werd gemengd met helium om lithium te maken. Ja, neem en giet beryllium in dennenbos, waar aan de rand van het eigen koolstof de stikstof zich toont, met zo'n zuur gezicht dat het niet meer de moeite waard is om naar fluor te kijken. Maar niet hij was ons nodig, daarom zijn we drie meter weggegaan en kwamen we in magnesium, waar we aluminium in een mini-jurk insmeerden met siliciumcrĆØme met fosfor, zodat het niet meer grijs zou zijn. Daarna nam Alya het chloor en waste het schip van de Argonauten.
Maar waarom zo'n duidelijke imperfectie in zo'n perfecte AI? Misschien krijgt een mens door het vermogen om de eenvoudigste feiten te vergeten de vrijheid om fragmenten van zijn gedachten in een willekeurige wilde volgorde te combineren en onconventionele oplossingen te vinden? Als dat zo is, dan is sterke AI onmogelijk. Of hij zal vergeten als een mens, of hij zal niet in staat zijn tot onconventionele oplossingen. In ieder geval volgt uit de genoemde veronderstellingen de noodzaak om de doelen van AI te scheiden: een van de doelen is het modelleren van zwakke AI, de andere is het creƫren van sterke AI. Het bereiken van de ene kan het bereiken van de andere uitsluiten.
Zoals we zien, ontstaan er in het gebied van AI te veel vragen met onduidelijke antwoorden, zodat het onduidelijk is in welke richting we moeten bewegen. Zoals vaak het geval is, proberen we in alle richtingen tegelijk vooruit te komen. Hierbij worden we door het ontbreken van wiskundig strenge formuleringen gedwongen om ons tot filosofie en artistiek-literair modelleren te wenden. Een van de bekendste voorbeelden in deze richting is het boek āDe keuze van Turingā (1992) van een van de grootheden in AI, Marvin Lee Minsky, en de bekende sciencefictionauteur Harry Harrison. Ik citeer een passage uit dit boek dat misschien het boven beschreven fenomeen van mnemoniek verklaart:
Menselijke geheugen is geen recorder die alles chronologisch opslaat. Het is heel anders opgebouwd - meer als een rommelige archiefkast met een verwarrend en tegenstrijdig systeem van aanwijzingen. En het is niet alleen verwarrend - van tijd tot tijd veranderen we de classificatieprincipes van concepten.
Een interessante interpretatie van de recordermetafoor komt voor in een ander literair werk, het verhaal "Terminus" van StanisÅaw Lem (uit de serie "Verhalen over piloot Pirx"). Hierin is er sprake van een soort 'intellectuele recorder': een oude robot op een oud ruimteschip, dat ooit een ongeluk heeft gehad, voert huidige reparatiewerkzaamheden uit, vergezeld van getik. Maar als je goed luistert, is dit niet alleen een technologische ruis, maar een opname van morsecode - gesprekken tussen de leden van de bemanning van het stervende schip. Pirx mengt zich in deze gesprekken en krijgt plotseling antwoord van overleden cosmonauten. Het blijkt dat de primitieve reparatierobot in zekere zin kopieĆ«n van hun bewustzijn opslaat, of zijn dit cognitieve vertekeningen in de waarneming van piloot Pirx?
In een ander verhaal, "Ananke" (uit dezelfde serie), leidt een kopie van AI in de besturingscomputer van een ruimtevaartuig tot een paranoĆÆde overbelasting met testtaken, wat eindigt in een ramp.
In het verhaal "Ongeval" sterft een te menselijk geprogrammeerde robot tijdens een klimtocht die hij in zijn vrije tijd heeft gemaakt. Hebben we zulke uitvoerders nodig? Maar ook de demonen die vastzitten aan het water geven van een plant zijn niet altijd nodig.
Sommige specialisten op het gebied van AI houden niet van dit soort 'filosofische overpeinzingen' en 'literatuur', maar deze 'filosofische overpeinzingen' en 'literatuur' zijn traditioneel een onderdeel van de analyse van AI en onvermijdelijk zolang AI wordt vergeleken met menselijke intelligentie, en al helemaal zolang we proberen menselijke intelligentie te kopiƫren in AI.
Tot slot een enquĆŖte over een paar opgekomen vragen.
Alleen geregistreerde gebruikers kunnen deelnemen aan de enquĆŖte. , alstublieft.
1. Behoren tot AI taken die computers aanzienlijk slechter uitvoeren dan mensen?
Yes
No
Ik ken een betere definitie. Ik zal deze in de reacties geven.
Ik weet het niet.
34 gebruikers hebben gestemd. 7 gebruikers hebben zich onthouden.
2. Moet AI alleen een uitvoerder zijn die alle opdrachten letterlijk begrijpt? Bijvoorbeeld, als je zegt dat het de plant moet water geven, betekent dit dat het moet blijven water geven totdat het wordt weggestuurd?
Yes
No
Ik weet het niet.
Er hebben 37 gebruikers gestemd. 6 gebruikers hebben zich onthouden.
3. Is er een sterke AI mogelijk die over maximale vaardigheden beschikt (de rode lijn in de afbeelding aan het begin van het artikel)?
Yes
No
Ik weet het niet.
Er hebben 35 gebruikers gestemd. 7 gebruikers hebben zich onthouden.
4. Is er super AI mogelijk (de blauwe lijn in de afbeelding aan het begin van het artikel)?
Yes
No
Ik weet het niet.
Er hebben 36 gebruikers gestemd. 7 gebruikers hebben zich onthouden.
5. Zou de tussenliggende doelstelling niet een sterke, maar ook geen volledig zwakke AI moeten zijn (de paarse lijn in de afbeelding aan het begin van het artikel), die in sommige vaardigheden inferieur is aan een menselijke intelligentie, maar niet zozeer als nu?
Yes
No
Ik weet het niet.
Er hebben 33 gebruikers gestemd. 5 gebruikers hebben zich onthouden.
6. Het maken van gevaarlijke fouten in beslissingen, onoplettendheid, het vergeten van noodzakelijke zaken en vermoeidheid zijn essentiƫle eigenschappen van een menselijke intelligentie?
Yes
No
Ik heb een andere mening, die ik in de comments zal geven.
Ik weet het niet.
Er hebben 33 gebruikers gestemd. 5 gebruikers hebben zich onthouden.
7. Dankzij het vermogen om de eenvoudigste feiten te vergeten, krijgt de mens de vrijheid om fragmenten van zijn gedachten in willekeurige, chaotische volgorde te combineren en onconventionele oplossingen te vinden?
Yes
No
Ik heb een andere mening, die ik in de comments zal geven.
Ik weet het niet.
Er heeft 31 gebruikers gestemd. 4 gebruikers hebben zich onthouden.
8. Het modelleren van menselijke intelligentie en het creƫren van sterke AI zijn twee verschillende taken die met verschillende methoden kunnen worden aangepakt?
Yes
No
Ik heb een andere mening, die ik in de comments zal geven.
Ik weet het niet.
32 gebruikers hebben gestemd. 4 gebruikers hebben zich onthouden.
Bron: habr.com
