VAROITUS
Hiljaisen tyytymättömyyden ennätyksellisen korkeasta suhteesta niiden kommentoijien määrään, joilla on jotain vastustettavaa, ei monille lukijoille ole selvää, että:
1) Tämä on puhtaasti teoreettinen keskusteluartikkeli. Tässä ei ole käytännön neuvoja työkalujen valitsemiseen kryptovaluutan louhintaan tai multivibraattorin kokoamiseen kahden hehkulampun vilkkumiseen.
2) Tämä ei ole populaaritieteellinen artikkeli. Turingin koneen toimintaperiaatteen nukkeja ei tule selittämään tulitikkulaatikoiden esimerkillä.
3) Mieti tarkkaan ennen kuin jatkat lukemista! Kiehtooko sinua aggressiivisen amatöörismin asento: minä miinus kaikki mitä en ymmärrä?
Kiitos jo etukäteen kaikille, jotka päättävät olla lukematta tätä artikkelia!
Daemon on UNIX-luokan järjestelmien tietokoneohjelma, jonka järjestelmä käynnistää itse ja joka toimii taustalla ilman suoraa käyttäjän vuorovaikutusta.
Jo esikouluikäisenä kuulin sadun noidan oppipoikasta. Toistan sen uudelleenkertomuksessani:
Olipa kerran jossain keskiaikaisessa Euroopassa velho. Hänellä oli suuri loitsukirja, joka oli sidottu mustaan vasikannahkaan rautakiinnitteillä ja kulmilla. Kun noita tarvitsi loitsua, hän avasi sen suurella rauta-avaimella, jota hän kantoi aina vyöllään erityisessä pussissa. Noidalla oli myös oppilas, joka palveli noitaa, mutta häntä kiellettiin katsomasta loitsujen kirjaan.
Eräänä päivänä velho lähti työmatkalle koko päiväksi. Heti kun hän lähti talosta, opiskelija ryntäsi vankityrmään, jossa oli alkemiallinen laboratorio, jossa loitsujen kirja oli ketjutettuna pöytään. Opiskelija nappasi upokkaat, joissa velho sulatti lyijyä muuttaakseen sen kullaksi, asetti ne uunin päälle ja puhalsi tulta. Lyijy suli nopeasti, mutta ei muuttunut kullaksi. Sitten oppilas muisti, että velho sulatettuaan lyijyn avasi joka kerta kirjan lukituksen avaimella ja kuiskasi siitä loitsua pitkään. Opiskelija katsoi toivottomasti lukittua kirjaa ja näki, että sen vieressä oli avain, jonka velho oli unohtanut. Sitten hän ryntäsi pöydän luo, avasi kirjan lukituksen, avasi sen ja luki äänekkäästi aivan ensimmäisen loitsun, lausuen varovasti tuntemattomat sanat tavu kerrallaan olettaen, että niin tärkeä loitsu kuin lyijyn muuttuminen kullaksi olisi varmasti ensimmäinen loitsu. .
Mutta mitään ei tapahtunut: johto ei halunnut muuttua. Opiskelija halusi kokeilla toista loitsua, mutta sitten ukkosenkolina ravisteli taloa, ja opiskelijan eteen ilmestyi valtava, kammottava demoni, jonka kutsui oppilaan juuri lausuma loitsu.
- Tilaus! - demoni murisi.
Pelosta kaikki ajatukset poistuivat opiskelijan päästä, hän ei voinut edes liikkua.
- Anna käskyjä, tai syön sinut! - demoni murahti uudelleen ja ojensi valtavan kätensä opiskelijaa kohti tarttumaan häneen.
Epätoivoissaan opiskelija mutisi ensimmäisen asian, jonka hän ajatteli:
- Kastele tämä kukka.
Ja hän osoitti pelargoniaa, jonka ruukku seisoi lattialla laboratorion nurkassa; kukan yläpuolella katossa oli vankityrmän ainoa pieni ikkuna, josta auringonvalo tuskin pääsi läpi. Demoni katosi, mutta hetken kuluttua ilmestyi uudelleen valtavan vesitynnyrin kanssa, jonka hän käänsi kukan ympäri kaatamalla vettä. Hän katosi jälleen ja ilmestyi takaisin täydellä tynnyrillä.
"Se riittää", opiskelija huusi seisoessaan vyötärölle asti vedessä.
Mutta ilmeisesti pelkkä halu ei riittänyt - demoni kantoi ja kantoi vettä tynnyrissä ja kaatoi sen nurkkaan, jossa kerran seisoi veden alla piilotettu kukka. Erityisloitsu tarvittiin luultavasti demonin karkottamiseksi. Mutta pöytä, jossa oli kirja, oli jo kadonnut mutaiseen veteen, jossa leijui tuhkaa ja hiiltä parranajosta, tyhjiä retorteja, pulloja, jakkaraita, galvanometrejä, annosmittareita, kertakäyttöruiskuja ja muuta roskaa, joten vaikka oppilas tietäisi kuinka löytää vaadittua loitsua, hän ei voinut tehdä sitä. Vesi nousi, ja opiskelija kiipesi pöydälle tukehtumatta. Mutta tämä ei auttanut pitkään - demoni jatkoi järjestelmällisesti veden kuljettamista. Opiskelija oli jo kaulaa myöten vedessä, kun velho palasi ja huomasi, että hän oli unohtanut kirjan avaimen kotiin ja ajoi demonin pois. Satujen loppu.
Heti itsestään selvästä. Opiskelijan luonnollisella älykkyydellä (NI) näyttää siltä, että kaikki on selvää - tyhmää, sinun on etsittävä pitkään jotain vielä tyhmää. Mutta demonin älykkyyden kanssa - muuten, millainen äly hänellä on: EI vai AI? – epäselvä. Eri versiot ovat laillisia (ja niistä herää myös kysymyksiä):
Versio 1) Demoni on vielä tyhmempi kuin oppilas. Hän sai käskyn ja toteuttaa sen loputtomiin, vaikka kaikki merkitys katoaa: kukka - kastelukohde - katoaa, kulma, johon kukan koordinaatit kiinnittyvät, katoaa, planeetta Maa katoaa ja tyhmä demoni jatkaa veden toimittamista tynnyreissä tiettyyn pisteeseen ulkoavaruudessa. Ja jos supernova puhkeaa tässä vaiheessa, demoni ei välitä minne kuljettaa vettä. Lisäksi: kuinka tyhmä pitää olla kastellakseen pienen kukan valtavasta tynnyristä? Tätä kutsutaan jo ei kukan kastelemiseksi, vaan kukan hukuttamiseksi. Ymmärtääkö hän edes käskyjen merkitystä?
Versio 2) Demoni ymmärtää kaiken, mutta on velvoitteiden sitoma. Joten hän suorittaa jotain italialaisen lakon kaltaista. Ennen kuin hänet on virallisesti potkittu kaikkien sääntöjen mukaan, hän ei lopeta.
Kysymys 1 versioille 1,2) Miten erottaa täysin tyhmä demoni version 1 mukaan ei ollenkaan tyhmästä demonista version 2 mukaan?
Kysymys 2 versioihin 1,2) Olisiko demoni suorittanut oikein (oppilaan näkökulmasta) tarkemman muotoilun? Jos opiskelija esimerkiksi sanoi: ota se tyhjä litran pullo, joka on hyllyssä, täytä se vedellä ja kastele kukka kerran. Tai esimerkiksi jos opiskelija sanoi: mene pois.
Versio 3) Noita loitsi demonille lisäloitsun, jonka mukaan jos joku muu kuin velho käyttää demonin palveluita, demonin tulee välittömästi ilmoittaa velholle tästä tosiasiasta.
Versio 4) Demoni ei pidä kaunaa noitaa ja hänen oppilaansa kohtaan, joten nähdessään, että tilanne ei ollut hallinnassa, hän ilmestyi tynnyrin kanssa liikkeensä aikana noidan selän taakse ja haukkui: "Unohdit avaimen kotiin , on tulva." Mutta velho itse ei olisi muistanut.
Huomautus 1 versiolle 4) On erityisen syytä huomata, että EI-kantoaaltojen muisti on erittäin epätäydellinen.
Muita versioita voidaan monistaa, kuten "Fibonacci kanit", ts. ei kovin monimutkainen algoritmi. Esimerkiksi:
Versio 5) Demoni kostaa oppilaalle tämän häiritsemisestä.
Versio 6) Demoni ei pidä kaunaa opiskelijaa kohtaan, vaan kostaa velholle.
Versio 6) Demoni kostaa kaikille.
Versio 7) Demoni ei kosta, mutta pitää hauskaa. Loppuu, kun hän väsyy.
Ja niin edelleen.
Joten demonin kanssa on selvää, että mikään ei ole selvää. Ei parempaa noidan kanssa. Voit keksiä yhtä paljon versioita: että hän tarkoituksella päätti antaa oppitunnin opiskelijalle, joka tönäisee uteliasta nenänsä kaikkialle; että hän halusi hukuttaa opiskelijan, mutta kun demoni haukkui tulvasta, hän pelästyi - yhtäkkiä yksi ohikulkijoista kuuli, niin epäilys lankesi velhoon; halusi herättää opiskelijan kiinnostuksen loitsuihin jne.
Tässä on mahdollista lapsellinen kysymys: mikä ehdotetuista versioista on oikea? Ilmeisesti mikä tahansa. Tarinassa ei ole jätetty käyttämättä mitään tietoa, joka suosisi yhtäkään versiota muihin verrattuna. Tässä on kyseessä melko yleinen tapaus taideteoksista, joiden tulkintamahdollisuus on moniselitteinen. Jos ohjaaja esimerkiksi haluaa esittää tämän sadun teatterissa tai tehdä sen pohjalta elokuvan, hän voi valita tulkinnan, joka on hänen näkökulmastaan houkuttelevin. Toinen ohjaaja saattaa pitää toisenlaista tulkintaa houkuttelevana. Samaan aikaan houkuttelevuutta voidaan määrittää lisäkysymysten perusteella, esimerkiksi houkuttelevuus katsojien silmissä maksimaalisten lipputulojen takaamiseksi tai houkuttelevuus jonkin superidean osoittamiseksi: ajatus hyvän voitosta pahasta, ajatus velvollisuudesta, kapinallinen idea - esimerkiksi Dostojevskin mukaan: opiskelija, kuten Raskolnikov, hän kysyy "onko hän vapiseva olento vai onko hänellä oikeus" jne.
Toinen kysymys herää.
Vielä yksi kysymys). Kuinka voimme opettaa tekoälyä antamaan etusijalle jommankumman soinnillisista versioista, jos emme itse, joilla on tekoäly, voi aina tietoisesti valita yhtä niistä?
Palatakseni noidaan, versio, että hän halusi velvollisuudentuntoisen ja tottelevaisen oppilaan, kuten demonin, jottei hän työntäisi nenänsä kiellettyihin kirjoihin ja missä häneltä ei kysytty, näyttää erittäin uskottavalta. Tekoälyltä halutaan nykyään usein samaa. Ensi silmäyksellä nämä ovat normaaleja perinteisiä vaatimuksia mille tahansa koneelle: täydellinen tottelevaisuus, tottelemattomuus on mahdotonta hyväksyä. Mutta tekoälyn tapauksessa versioiden 1,2 (katso edellä) ongelma voi nousta esiin, ts. Tekoäly rappeutuu – laitteisto voi ajatella tekijöistään ja omistajistaan mitä haluaa, mutta se ei suorita tekoälyyn liittyviä toimia, ts. Tekoälyn sijaan saamme typerän primitiivisen automaatin. Tästä hiipii epäilys: ehkä velho ei halunnut tehdä opiskelijasta niin tyhmää esiintyjää kuin demoni? Nuo. Syntyy ajatus AI-rajoituksista. Täällä kaikki on vielä vaikeampaa jopa EI: n alalla: muista ikuiset konfliktit "isät ja pojat", "opettaja ja opiskelija", "pomo ja alainen".
Kun valitsin tekoälyn määritelmää mahdollisista, panin merkille:
useiden kymmenien tuhansien sanojen lajittelu aakkosjärjestykseen on ihmiselle työlästä, sen tekeminen kestää kauan, ja virheiden todennäköisyys keskimääräiselle suorittajalle, jolla on keskimääräinen vastuu, on merkittävä. Nykyaikainen tietokone suorittaa tämän tehtävän ilman virheitä erittäin lyhyessä ajassa (sekunnin murto-osissa).
Päädyin seuraavaan määritelmään: Tekoäly sisältää tehtäviä, jotka tietokone ratkaisee huomattavasti huonommin kuin ihminen.
Tämä määritelmä ottaa huomioon edellä esitetyt näkökohdat ja on käytännönläheinen; samalla se ei ole ihanteellinen, jo pelkästään siksi, että listat tehtävistä "jotka tietokone ratkaisee huomattavasti huonommin kuin ihminen" ovat erilaisia nyt ja 20 vuotta sitten. . Mutta mielestäni kukaan ei ole vielä keksinyt täydellisempää määritelmää.
Edellä olevaa havainnollistaa puhtaasti laadullisesti artikkelin alussa oleva kaavio. "Taidot" koordinaattiakselilla taidot nollan alueella (nolla ja hieman enemmän) vastaavat taitoja, joissa henkilö on tietokonetta parempi, esimerkiksi kyvyssä tehdä epätyypillisiä päätöksiä. Yhden alueen taidot (yksi ja hieman vähemmän) vastaavat taitoja, joissa tietokone on ihmistä parempi: laskentakyky, muisti. Asettamalla tavanomaista yksikköä vastaava maksimiyleisyys "ylivoima"-koordinaattiakselille, saamme paremmuuden riippuvuuden ihmisten ja tietokoneiden taidoista yksikköneliön diagonaaleina. Tältä tilanne näyttää tällä hetkellä. Voiko vahvalla tekoälyllä olla kaikki taitonsa maksimissaan (punainen viiva)? Tai vielä korkeampi (super-AI - sininen viiva)? Ehkä edistymisen välitavoitteen ei pitäisi olla vahva, mutta ei aivan
heikko AI (violetti viiva), joka tulee olemaan tekoälyä huonompi useissa taidoissa, mutta ei niin paljon kuin nyt.
Palataksemme kirjalliseen satumalliimme, voimme sanoa, että kaikki sen sankarit eivät menestyneet parhaalla tavalla: ryyppäävä velho unohti avaimen ja sai tulvan vankityrmäänsä, opiskelija sai tyhmyyden ja huolimattomuuden kautta joukon äärimmäisiä vaikutelmia ja melkein hukkui, demoni potkittiin ulos ilman kiitollisuutta. Mitä tulee demonin älykkyyteen, on jo todettu, että häntä on vaikea luokitella selvästi AI:ksi tai EI:ksi, mutta muiden älykkyys (vaikkakaan ei vaikuttava) kuuluu selvästi EI:lle. Heistä voidaan sanoa, että vaarallisten virheiden tekeminen päätöksissä, välinpitämättömyys, välttämättömien asioiden unohtaminen ja väsymys ovat heidän tärkeimpiä luontaisia ominaisuuksia. Valitettavasti nämä ominaisuudet ovat enemmän tai vähemmän luontaisia kaikille muille EI-kantoaaltoille. EI:n sanojen tai numeroiden lajittelun epäluotettavuus on jo todettu yllä, mutta se vaikuttaisi vielä yksinkertaisemmalta tehtävältä - yksinkertaisesti numeron muistaminen osoittautuu ihmisille erittäin vaikeaksi. Koneessa kykyä muistaa pi:n numerot rajoittaa vain sen muistin koko, ja useimpien ihmisten on käytettävä , kuten "Mitä tiedän piireistä". Näyttää siltä, että rivillä "3,1416" on vähemmän merkkejä kuin määritetyssä muistikirjassa, mutta jostain syystä ihmiset haluavat muistaa vähemmän taloudellisesti. Ja pidempään:
Opi ja tunne numeron takana oleva numero, kuinka huomaat onnen
Jotta emme tekisi virheitä,
On luettava oikein
Kolme, neljätoista, viisitoista
Yhdeksänkymmentäkaksi ja kuusi
Muista sateenkaaren värit:
Jokainen suunnittelija haluaa tietää, mistä Photoshopin voi ladata
Ja jaksollisen taulukon alku:
Luonnollinen vesi (vety) sekoitettiin geelin (helium) kanssa kaataakseen (litium). Kyllä, ota ja kaada (Beryllium) mäntymetsään (Boron), josta Alkuperäisen kulman alta (hiili) kurkistaa aasialainen (typpi) ja niin happamalla kasvolla (happi), että toissijaista (fluori) en haluavat katsoa. Mutta emme tarvinneet häntä (Neonia), joten muutimme kolmen (natrium) metrin päähän ja päädyimme Magnoliaan (Magnesium), missä minihameessa oleva Alya (alumiini) voideltiin kermalla (Pii), joka sisälsi fosforia (Phosphorus) jotta hän lakkaisi olemasta Sera (Sera). Sen jälkeen Alya otti klooria (Chlorine) ja pesi argonautien aluksen (Argon)
Mutta miksi niin ilmeinen epätäydellisyys niin täydellisessä EI:ssä? Ehkä kyvyn unohtaa yksinkertaisimmat tosiasiat ansiosta ihminen saa vapauden yhdistää ajatuksiaan mielivaltaiseen villiin järjestykseen ja löytää epätyypillisiä ratkaisuja? Jos näin on, niin vahva tekoäly on mahdotonta. Joko hän unohtaa kuin ihminen, tai hän ei pysty epätyypillisiin ratkaisuihin. Joka tapauksessa edellä olevista oletuksista seuraa, että tekoälyn tavoitteet on erotettava toisistaan: yksi tavoitteista on tekoälyn mallintaminen, toinen vahvan tekoälyn luominen. Yhden saavuttaminen voi sulkea pois toisen saavuttamisen.
Kuten näemme, tekoälyn alalla on liian monia kysymyksiä, joihin on vastattu epäselvästi, joten on epäselvää, mihin suuntaan edetä. Kuten tällaisissa tapauksissa tapahtuu, he yrittävät liikkua kaikkiin suuntiin kerralla. Samanaikaisesti matemaattisesti tiukkojen muotoilujen puutteen vuoksi on käännyttävä filosofian sekä taiteellisen ja kirjallisen mallintamisen puoleen. Yksi kuuluisimmista esimerkeistä tässä suunnassa on yhden tekoälyn johtajista Marvin Lee Minskyn ja kuuluisan tieteiskirjailijan Harry Harrisonin kirja "Turing Selection" (1992). Lainaan tästä kirjasta, ehkä selittäen yllä kuvatun muistotekniikan ilmiön:
Ihmisen muisti ei ole nauhuri, joka tallentaa kaiken kronologisessa järjestyksessä. Se on rakenteeltaan täysin erilainen - pikemminkin kuin huolimattomasti ylläpidetty kortisto, joka on varustettu hämmentävällä ja ristiriitaisella hakemistolla. Eikä vain hämmentävää - muutamme aika ajoin käsitteiden luokittelun periaatteita.
Mielenkiintoinen tulkinta nauhurin metaforasta toisessa kirjallisessa teoksessa, Stanislaw Lemin tarinassa "Terminus" (sarjasta "Tarinoita pilotti Pirxistä"). Tässä on eräänlainen "älykäs nauhuri": vanha robotti vanhalla avaruusaluksella, joka kerran joutui onnettomuuteen, on käynnissä korjaustöissä koputuksen mukana. Mutta jos kuuntelet tarkasti, tämä ei ole vain valkoista teknologista kohinaa, vaan tallenne Morse-koodia - keskusteluja kuolevan laivan miehistön jäsenten välillä. Pirx puuttuu näihin neuvotteluihin ja saa yllättäen vastauksen kauan kuolleilta astronauteilta. Kävi ilmi, että primitiivinen korjausrobotti tallentaa jollain tavalla kopioita heidän tietoisuudestaan vai onko kyseessä pilotti Pirxin havainnon kognitiivisia vääristymiä?
Toisessa tarinassa, ”Ananke” (samasta sarjasta), kopio EI:stä avaruuskuljetuksen ohjaustietokoneessa johtaa sen paranoidiseen testitehtävien ylikuormitukseen, joka päättyy katastrofiin.
Tarinassa "Onnettomuus" liian antropomorfisesti ohjelmoitu robotti kuolee vuorikiipeilyn seurauksena, jonka hän päätti tehdä vapaa-ajallaan. Tarvitaanko tällaisia esiintyjiä? Mutta kukkien kastelemiseen kiinnittyneet demonit eivät myöskään ole aina välttämättömiä.
Jotkut tekoälyn alan asiantuntijat eivät pidä sellaisesta "filosofisoinnista" ja "kirjallisyydestä", mutta nämä "filosofointi" ja "kirjallisuus" kuuluvat perinteisesti tekoälyn analyysiin ja ovat väistämättömiä niin kauan kuin tekoälyä verrataan tekoälyyn, ja jopa varsinkin niin kauan kuin tekoäly yrittää kopioida tekoälyä.
Lopuksi kysely useista esiin tulleista asioista.
Vain rekisteröityneet käyttäjät voivat osallistua kyselyyn. , ole kiltti.
1. Sisältääkö tekoäly tehtäviä, jotka tietokone ratkaisee huomattavasti huonommin kuin ihminen?
-
Kyllä
-
Ei
-
Tiedän määritelmän paremmin. Annan sen kommenteissa.
-
Vaikea vastata
34 käyttäjää äänesti. 7 käyttäjää pidättyi äänestämästä.
2. Pitäisikö tekoälyn olla vain toimeenpanija, pitäisikö kaikki käskyt ottaa kirjaimellisesti? Esimerkiksi he sanoivat, että kastele kukkaa - se tarkoittaa vettä, kunnes he ajavat sinut pois
-
Kyllä
-
Ei
-
Vaikea vastata
37 käyttäjää äänesti. 6 käyttäjää pidättyi äänestämästä.
3. Onko mahdollista saada vahva tekoäly, jossa kaikki taidot ovat maksimissaan (punainen viiva kuvassa artikkelin alussa)?
-
Kyllä
-
Ei
-
Vaikea vastata
35 käyttäjää äänesti. 7 käyttäjää pidättyi äänestämästä.
4. Onko super-AI mahdollista (sininen viiva artikkelin alussa olevassa kuvassa)?
-
Kyllä
-
Ei
-
Vaikea vastata
36 käyttäjää äänesti. 7 käyttäjää pidättyi äänestämästä.
5. Välitavoitteen ei tulisi olla vahva, mutta ei myöskään täysin heikko tekoäly (purppura viiva artikkelin alussa olevassa kuvassa), joka on useissa taidoissa huonompi kuin tekoäly, mutta ei niin paljon kuin nyt ?
-
Kyllä
-
Ei
-
Vaikea vastata
33 käyttäjää äänesti. 5 käyttäjää pidättyi äänestämästä.
6. Vaarallisten virheiden tekeminen päätöksissä, välinpitämättömyys, välttämättömien asioiden unohtaminen ja väsymys ovat EI:n tärkeimpiä luontaisia ominaisuuksia?
-
Kyllä
-
Ei
-
Minulla on erilainen mielipide, jonka annan kommenteissa.
-
Vaikea vastata
33 käyttäjää äänesti. 5 käyttäjää pidättyi äänestämästä.
7. Kiitos kyvyn unohtaa yksinkertaisimmat tosiasiat, ihminen saa vapauden yhdistää ajatuksiaan mielivaltaiseen villiin järjestykseen ja löytää epätyypillisiä ratkaisuja?
-
Kyllä
-
Ei
-
Minulla on erilainen mielipide, jonka annan kommenteissa.
-
Vaikea vastata
31 käyttäjää äänesti. 4 käyttäjää pidättyi äänestämästä.
8. Tekoälyn mallintaminen ja vahvan tekoälyn luominen ovat kaksi eri tehtävää, jotka voidaan ratkaista eri menetelmillä?
-
Kyllä
-
Ei
-
Minulla on erilainen mielipide, jonka annan kommenteissa.
-
Vaikea vastata
32 käyttäjää äänesti. 4 käyttäjää pidättyi äänestämästä.
Lähde: www.habr.com