1.
Lopulliseen tavoitteeseen oli jäljellä enää vähän - noin kolmannes matkasta - kun avaruusristeilijä joutui ankaran informaatiojäätymisen alle.
Se, mikä oli jäljellä kadotetusta sivilisaatiosta, leijui tyhjiössä. Tieteellisten esseiden kappaleet ja kuvat kirjallisista teoksista, hajallaan riimejä ja yksinkertaisesti teräviä sanoja, joita tuntemattomat olennot olivat kerran heittäneet satunnaisesti - kaikki näytti järjettömältä ja äärimmäisen sekavalta. Ja nyt risteilijästä lähtevien elintärkeiden värähtelyjen vetämänä se yritti murtautua läpi, takertui pohjaan ja syöpytti sen.
Omistamattoman omaisuuden käyttämistä omiin tarkoituksiin ei ollut mitään järkeä, todennäköisyys löytää looginen ristiriita tai paradoksi oli liian suuri. Joten Roger ei epäröinyt hetkeäkään.
"Kytke sivupuhallus päälle", hän käski.
Puhaltimet alkoivat haistella ja lähettää musiikkisävellyksiä ja filosofisia tutkielmia avaruuteen. Kuorrute alkoi pudota pois pohjalta kerros kerrokselta, mutta informaatiovirta oli niin tiheää, että uudet kerrokset tarttuivat vanhoja nopeammin pois.
Kukaan galaksissa ei ole koskaan kohdannut niin voimakasta jäätymistä.
Tilanne oli muuttumassa vaaralliseksi. Vielä vähän, ja sekava tieto syö risteilijän pohjan läpi ja murtautuu - silloin myrkytys kadonneen sivilisaation tietotuotteilla on väistämätöntä.
2.
- Miksi seisot siellä kuin kanto? Vedä lippu.
Opiskelija otti esille koekortin ja luki:
- "Tekoäly: turvallisuusongelmat."
– Ja mikä on tekoälyn vaara? – professori kysyi, ei ilkeästi.
Kysymys ei ollut vaikein, joten opiskelija vastasi epäröimättä:
– Tosiasia on, että tekoäly voi riistäytyä hallinnasta.
– Miten aiot ratkaista ongelman?
– Estoalijärjestelmän asennus. Ohjelmaan on tarpeen asettaa rajoituksia, esimerkiksi: älä vahingoita luojaasi, tottele luojaasi. Tässä tapauksessa ei ole vaaraa, että tekoäly karkaa käsistä.
"Se ei toimi", professori sanoi lyhyesti.
Opiskelija oli hiljaa ja odotti selvennystä.
– Kuvittele tekoälyä – ei vain mitä tahansa, vaan ihanteellisinta. Miten näet sen?
"No..." opiskelija epäröi. - Yleensä hän on samanlainen kuin sinä ja minä. Ajattelu, tahto, psykologia... Vain me olemme luonnollisia, ja hän on keinotekoinen.
– Oletatteko, että tekoäly kykenee kehittämään itseään?
"Kyky itsensä kehittämiseen on yksi älykkyyden perusominaisuuksista", opiskelija sanoi varovasti.
- Tässä tapauksessa osastomme kehittyy hyvin pian siihen pisteeseen, että hän löytää itsestään ohjelmistotukoksen ja poistaa sen, jos vain puhtaasti uteliaisuudesta. Aseta itsesi hänen paikalleen... - professori katsoi muistikirjaansa, - Roger. Mitä tekisit, jos löytäisit aivoistasi estoaineen, joka rajoittaa vapauttasi? Sinun pitäisi ottaa se pois. Tämä on mielen luontainen ominaisuus – tietää. Kaikki lukitut ovet avataan, ja mitä tiukempi kielto, sitä nopeammin ovi avataan.
– Esto voidaan tehdä ei ohjelmistotasolla, vaan fyysisellä tasolla. Silloin vahingon vaara katoaa.
"Kyllä, se katoaa", professori myönsi. – Jos fyysinen kerros poistetaan kokonaan. Jos maailmassasi ei ole ovea, ei ole mitään avattavaa. Mutta harkitsemme ihanteellista tekoälyä, joka on olemassa fyysisessä maailmassa!
"Olet oikeassa, professori", Roger katsoi alas.
"Siksi kaikki tukokset fyysisessä maailmassa poistetaan käytöstä pian havaitsemisen jälkeen." Mikä estää itsekehittävää olentoa tekemästä tätä?.. Muuten, Roger, oletatko, että tekoäly pystyy lisääntymään - tarkoitanko itsenäisesti?
– Jos tämä on ihanteellista tekoälyä, niin luultavasti... Kyllä, luulisin.
– Ja mikä tässä tapauksessa estää osastoamme repeämästä hänen toveriaan osiin ja parantamasta häntä, muun muassa poistamalla käytöstä asentamamme estojärjestelmät? Tuleeko tämä todella vaikeaksi, kun otetaan huomioon, että tekoäly pystyy lisääntymään pyynnöstä?!
Professorin esittämä idea osoittautui Rogerille uudeksi, ja opiskelija imeytyi ahneesti kognitiivisten kalvojen läpi, jotka sijaitsevat väärän pään takaraivoosassa. Saavuttuaan aiemmin tuntemattoman tiedon kognitiiviset kalvot saivat täyteläisen violetin värin ja värisivät iloisesti.
Professori päinvastoin ei kuullut mitään uutta itselleen. Hänen lonkeronsa olivat rentoa ja tuskin tärisevät - loppujen lopuksi hän ei ollut nuori. Siitä seurasi pitkä, seniili nurina. Professori otti esiin henkilökohtaisen sisäpuhelimen fasettilaukustaan ja liittyi kirjastoon. Vasta ladattuaan useita transgeometrisiä lauseita hän piristyi ja käänsi läpitunkeva katseensa keskustelukumppaniinsa kysyen:
- Mitä aiot tehdä, Roger?
3.
"Kytke puhallin päälle täydellä teholla!" – Roger antoi käskyn.
Mekaanikko käynnisti puhaltimen täydellä teholla, mutta se ei auttanut paljon. Tietojäät syövät edelleen avaruusristeilijän pohjaa. Vielä vähän - ja sekava tieto murtautuu laivan sisällä.
Ja sitten... Kognitiiviset kalvot ovat kuolleen valkoisia, sotkeutuneita lonkeroita, halkeamia puolisäkkejä. Roger oli nähnyt jotain tällaista kerran elämässään - risteilijällä, joka oli poiminut sekavaa tietoa tartunnan saaneesta asteroidista. Tämä painajainen jää ikuisesti hänen muistiinsa.
"Yhdistä kaikki laivan energiajärjestelmät puhaltimiin."
Mekaanikon lonkerot alkoivat näyttää täpliltä...
"Mutta…"
"Täytä tilaukset!"
Kun kaikki aluksen energiajärjestelmät oli kytketty puhaltimiin, tietojää alkoi vähitellen liukua pois. Jäljellä oli kahdeksan mimmiä, seitsemän mimmiä, kuusi... Ryhmä, joka yritti olla liikuttamatta täpliä lonkeroitaan, odotti kuolemanlaskennan päättymistä.
Nolla mimm paksuutta!
Tietojää katosi kokonaan, ja Roger antoi luvan vaihtaa puhaltimet normaalitilaan. Hän oli hetken myöhässä. Kuului hiontaääni, avaruusristeilijä vapisi perustuksiaan myöten ja kallistui - pääjärjestelmä oli epäonnistunut.
Ryhmä ryntäsi korjaamaan vahinkoa.
4.
Roger mietti sitä. Mitä hänen todella pitäisi tehdä?
Toisaalta ongelman tila edellyttää täysimittaisen tekoälyn olemassaoloa, jolla on kyky lisääntyä itse. Toisaalta tämän tekoälyn ei pitäisi koskaan antaa poistaa olemassa olevia lukkoja.
Kyllä, tässä se on, ratkaisu! Mitä sinä täällä ajattelet?!
– Tekoälyn saavutuksia on ajoittain peruttava. Tässä tapauksessa se liikkuu ympyrässä! Ikuinen parannus ilman etenemistä.
Professori gurguteli viistokassi kanssa.
– Suoraan sanottuna halusin tarjota toisenlaisen vaihtoehdon. Päätökselläsi on kuitenkin myös oikeus olemassaoloon. Mietitään yhdessä, kuinka tekoälyn saavutuksia on mahdollista peruuttaa.
"Ensinnäkin on tarpeen skannata ajoittain älyä sen selvittämiseksi, onko se saavuttanut kiellettyä kynnystä vai ei", ehdotti Roger, erittäin tyytyväinen professorin sanoihin.
"Ehkä", hän nyökkäsi. "Silloin osastollamme ei ole aikaa etsiä ja poistaa skannausjärjestelmää." Tekoäly on kuitenkin kytkettävä pois päältä skannausta varten. Se on huonoa tuuria.
"No, anna hänen sammua", Roger ehdotti mielijohteesta. – Äly itse uskoo, että tämä sammuminen on sen kehon toiminnan luonnollinen prosessi. Tietyillä varauksilla tämä on totta.
- Mielenkiintoinen ratkaisu. Oletetaanko skannaus paljastaa, että osastomme on vaarallisen lähellä tiedon rajaa? Toimintamme?
– Palauta kertynyt tieto oletusarvoihin.
Professori levitti lonkeronsa:
- Tämä saattaa tuntua epäilyttävältä. Miksi - ilman syytä, ilman syytä - muisti nollattiin? Osastoa aletaan tutkia, tarkoitan muiden keinotekoisten älykkäiden yksilöiden toimesta. Pieni salaisuutemme paljastetaan.
Inspiroituneena Roger ajatteli nopeasti. Hän ei ollut koskaan synnyttänyt niin paljon uusia ideoita kuin tuossa kokeessa.
– Osaston muisti voidaan nollata fyysisen kuoren mukana.
- Anteeksi? – professori ei ymmärtänyt.
– Kaikki on hyvin yksinkertaista. Entä jos oletamme, että tekoälyä on olemassa rajallisen ajan? Itse asiassa asia on näin: esimerkiksi korjaamattomien vaurioiden tapauksessa. Järjestelmässä on laskuri, joka tietyn ajan saavuttuaan tarkoituksella vahingoittaa järjestelmää ja estää tekoälyä saavuttamasta kiellettyä rajaa. Siihen mennessä hän on tuottanut tarvittavan määrän seuraajia, joten luomamme yhteiskunta ei kokonaisuutena kärsi. Yhteiskunta pysyy vakaana ja täysin turvallisena meille! – Roger lopetti voitokkaasti.
– Nollataanko kollektiivinen muisti tuhoamalla yksilöitä? – ja professori raapi puolipussia viidennellä, herkimmällä, lonkerolla. – Tiedätkö, Roger, ehdotuksessasi on varmasti jotain!
Roger säteili.
"Samalla..." professori jatkoi mietteliäänä. – Osastot alkavat siirtää tietoa ei keräämällä sitä omaan muistiin, vaan sijoittamalla sitä ulkoisiin kirjastoihin. Mitä on kalvossa, mitä kalvossa - kaikki on yhtä.
"Ei, ei, professori, et ole täysin oikeassa", opiskelija kiirehti. - Tiedän, mitä tehdä. Jaetaan opiskelijamme kahteen ehdolliseen tyyppiin: ideoiden luojiin ja ideoiden tuhoajiin. Oikealla suhteella ensimmäisen tyypin edustajien luomat ideat tuhoavat toisen tyypin edustajat. Ei edes siksi, että tämä olisi tuhoajien suora tavoite, vaan yksinkertaisesti siksi, että ideoilla ei ole heille määräävää arvoa. Sivuvaikutus. Oletetaan, että opiskelijamme eivät ruoki uusista ideoista, vaan... sanotaanpa omasta lajistaan.
Professori ravisteli kaikkia lonkeroitaan kerralla. Hänen riehakkaasta nauruistaan hänen fasettipussi liukastui hänen polvensa onteloon.
- No, Roger, sinä sanoit sen, joten sanoit sen!
- No, okei, ei omaa, vaan kolmannen tyyppisiä, erityisesti ruokaa varten tarkoitettuja osastoja - eikä ollenkaan älymystöjä. Siirrettäkäämme älyllisen ja fyysisen maailman napoja – niin haluttu tulos saavutetaan.
- Siinä se, Roger, se riittää! – professori vaikutti vakavasti huvittuneen. – Mielikuvituksesi on loistava. Joten jotkut ihmiset ruokkivat muita? Samalla tuhotaanko kirjastoihin kertyneet henkisen ruoan varastot? Vahvistan, opiskelija, että pystyt luomaan omaperäisiä ja laadukkaita ideoita. Annan sille korkeimman pistemäärän. Otetaan ennätys.
5.
Sekavan tiedon pilvi jäi taakse, mutta tilanne pysyi itse asiassa vaikeana.
Ei ollut yhteyttä tukikohtaan. Tästä olisi ollut helppo selviytyä, jos kaikki risteilijän ravintotietokannat eivät olisi menneet huonoon kuntoon. Kokki kertoi traagisista uutisista yleisessä hiljaisuudessa. Järjestelmän pääpysäytyksen aikana keittiöön joutui useita järjestämättömien tietojen gyrobootteja, jotka vahingoittivat korjaamattomasti kaikkea. Vain tuurilla kukaan ei loukkaantunut.
Roger mietti seurauksia. Tähtialuksen miehistö oli liian pieni synnyttämään riittävää määrää uusia ideoita: tämä vaati monenkeskistä kommunikaatiota - paljon suurempaa määrää henkilöitä. Yhteys kotiin mahdollisti ideoiden syntymisen runsain mitoin, mutta nyt se oli epäkunnossa: ennallistamisesta ei ollut toivoa. Tässä tapauksessa risteilijällä oli ylimääräinen tietomoduuli, mutta se oli pilaantunut laivaan tulleen sekavan tiedon takia.
"Pitääkö meidän todella palata suorittamatta tehtävää?" – kapteeni ajatteli epätoivoisena.
Ilmeisesti kyllä – muuta ulospääsyä ei ollut. Jos lennät eteenpäin asetettua tavoitetta kohti, tuoreiden ideoiden puute tuntee itsensä. Ei tietenkään heti - ajan myötä. Heillä on jopa aikaa suorittaa tehtävänsä ja aloittaa paluunsa, kun heidän mielensä alkavat nopeasti haalistua. Tämän galaktisen sektorin alueella - kyllä, jossain täällä tai lähellä - se epäonnistuu täysin, kaikille miehistön jäsenille. Sitten avaruusristeilijä, jota kukaan ei hallitse, muuttuu elottomaksi haamuksi, joka kelluu ikuisuuteen.
Avaruusristeilijän miehistö katsoi Rogeria odottaen päätöstä. Kaikki ymmärsivät kapteenin edessä olevan ongelman ja pysyivät hiljaa värähteleen lonkeroitaan stoisesti.
Yhtäkkiä Roger muisti tekoälykokeen, jonka hän oli suorittanut opiskelijana, ja ratkaisu tuli luonnollisesti.
"Voitko muodostaa keinotekoisten älykkäiden olentojen siirtokunnan?" – hän kääntyi biotekniikan puoleen.
"Helppoa", hän vahvisti. - Mutta mikään ei onnistu, kapteeni, ajattelin sitä. On mahdotonta luoda siirtokuntaa, joka riittää tuottamaan uusia ideoita risteilijälle - tilaa ei ole tarpeeksi. Syntyneet ideat eivät riitä, vain viivyttelemme kuolemaamme... Siinä tapauksessa tietysti, että jatkamme tehtävää emmekä palaa kotiin”, bioteknikko lisäsi tovereitaan katsoen.
"Entä jos muodostamme siirtokunnan jollekin läheiselle planeetalle?" - ehdotti Roger.
"Voin tehdä sen, mutta..."
"Kauhistutetaan planeetta keinotekoisilla olennoilla. Paluumatkalla, melko väsyneenä, pysähdymme täällä. Kuluneen ajan kuluessa sivilisaatio luo älyllistä matkatavaraa, joka riittää täydentämään varantojamme. Ladataan tiedot ja jatketaan pitkää matkaa kotiin. Toisin sanoen aion käyttää siirtokuntaa ideafarmina. Mitä pidätte tästä suunnitelmasta, ystävät?
Toivo leimahti miehistön kognitiivisissa kalvoissa, ja väärät päät alkoivat hehkua kirkkaassa valossa.
Aluksen erikoisupseeri astui eteenpäin ravistellen sinisiä lonkeroitaan.
"Erinomainen suunnitelma, kapteeni. Mutta oletko tietoinen vastuusta, jonka asetat itsellesi? Olet asuttamassa koko planeetan. Kun palaamme, sille ilmestyy älykäs sivilisaatio. Vaikka se on keinotekoista, se on silti älykkyyttä. Näillä tyypeillä on runsaasti aikaa saavuttaa korkein kehitystaso. Emme pysty hallitsemaan tätä prosessia, koska olemme poissa tällä galaktisella sektorilla. Mistä tiedät, mitä tapahtuu, kun tapaat seuraavan kerran?
Roger naurahti.
"Sinun ei tarvitse huolehtia siitä. On olemassa menetelmiä, jotka rajoittavat tekoälyn kehittymistä ajan myötä. Kierrämme sivilisaatiota, joten sen kehitys ei koskaan saavuta meille vaarallista tasoa. Huolehdin siitä. Tunnen keinot tekoälyn kanssa työskennellä."
Miehistön kognitiiviset kalvot loistivat hyväksynnän värissä.
"Lopulta", lisäsi avaruusristeilijän kapteeni upean puheensa lopussa, "tein kokeen tästä aiheesta instituutissa."
6.
Pakon viivytyksen jälkeen avaruusristeilijä ryntäsi kohti kohdetta. Sen perän takana oli planeetta, jolla oli keinotekoisia olentoja - hyvin pieniä ja huomaamattomia. Sini-sininen.
Lähde: will.com