1.
Mai rămăsese puțin până la obiectivul final - aproximativ o treime din drum - când crucișătorul spațial a intrat în contact cu informația severă.
Ce a mai rămas din civilizația pierdută plutea în gol. Paragrafe de eseuri științifice și imagini din opere literare, rime împrăștiate și cuvinte pur și simplu ascuțite, aruncate cândva cu dezinvoltură de creaturi necunoscute - totul părea abstrus și extrem de dezordonat. Și acum, atras de vibrațiile vitale emanate de crucișător, acesta a încercat să pătrundă, s-a lipit de fund și l-a corodat.
Nu avea niciun rost să te gândești la folosirea proprietății fără proprietar în propriile scopuri; probabilitatea de a descoperi o contradicție logică sau un paradox era prea mare. Așa că Roger nu a ezitat nicio clipă.
— Întoarce-te la suflarea laterală, ordonă el.
Suflanții au început să adulmece, difuzând compoziții muzicale și tratate filozofice în spațiul cosmic. Glazura a început să se îndepărteze de strat cu strat de jos, dar fluxul de informații a fost atât de dens încât noile straturi s-au lipit mai repede decât cele vechi au fost îndepărtate.
Nimeni din galaxie nu a întâlnit vreodată o asemenea forță.
Situația devenea periculoasă. Încă puțin, iar informațiile dezordonate vor mânca fundul crucișătorului și vor sparge - apoi otrăvirea cu produsele informaționale ale civilizației pierdute este inevitabil.
2.
- De ce stai acolo ca un ciot de copac? Trage biletul.
Elevul a scos o fișă de examen și a citit:
– „Inteligenta artificiala: probleme de securitate.”
– Și care este pericolul inteligenței artificiale? – întrebă profesorul, nu fără răutate.
Întrebarea nu a fost cea mai dificilă, așa că studentul a răspuns fără ezitare:
– Cert este că inteligența artificială poate scăpa de sub control.
– Cum intenționați să rezolvați problema?
– Instalarea unui subsistem de blocare. Este necesar să introduceți restricții în program, de exemplu: nu vă faceți rău creatorului, ascultați-vă de creatorul. În acest caz, nu există pericolul ca inteligența artificială să scape de sub control.
„Nu va funcționa”, a spus profesorul pe scurt.
Studentul a tăcut, așteptând lămuriri.
– Imaginați-vă inteligența artificială – nu oricare anume, ci cea mai ideală. Cum îl vezi?
„Ei bine...” a ezitat studentul. - În general, el este asemănător cu tine și cu mine. Gândirea, voința, psihologia... Numai noi suntem naturali, iar el este artificial.
– Presupuneți că inteligența artificială este capabilă de auto-dezvoltare?
„Abilitatea de auto-dezvoltare este una dintre proprietățile fundamentale ale inteligenței”, a spus studentul cu atenție.
- În acest caz, foarte curând secția noastră se va dezvolta până în punctul în care descoperă în sine un blocaj de software și îl îndepărtează, chiar dacă doar din pură curiozitate. Pune-te la locul lui... - profesorul se uită la caietul lui, - Roger. Ce ai face dacă ai descoperi în creier un blocant care îți limitează libertatea? Ar trebui să-l scoți. Aceasta este o proprietate inerentă a minții - a cunoaște. Orice ușă încuiată va fi descuiată și cu cât interdicția este mai strictă, cu atât ușa va fi descuiată mai repede.
– Blocarea se poate face nu la nivel de software, ci la nivel fizic. Atunci pericolul de vătămare va dispărea.
„Oh, da, va dispărea”, a fost de acord profesorul. – În cazul în care stratul fizic este îndepărtat cu totul. Dacă nu există ușă în lumea ta, atunci nu ai nimic de deblocat. Dar avem în vedere o inteligență artificială ideală care există în lumea fizică!
— Ai dreptate, domnule profesor, coborî Roger privirea.
„Prin urmare, orice blocaj din lumea fizică va fi dezactivat imediat după detectare.” Ce va împiedica o creatură care se dezvoltă singur să facă asta?... Apropo, Roger, presupui că inteligența artificială se va putea reproduce - adică independent?
– Dacă aceasta este inteligența artificială ideală, atunci probabil... Da, presupun.
– Și ce, în acest caz, va împiedica secția noastră să-și sfâșie tovarășul și să-l îmbunătățească, inclusiv prin dezactivarea sistemelor de blocare pe care le-am instalat? Se va dovedi cu adevărat acest lucru dificil, având în vedere că inteligența artificială este capabilă să se reproducă la cerere?!
Ideea prezentată de profesor s-a dovedit a fi nouă pentru Roger, iar studentul a absorbit-o cu lăcomie prin membranele cognitive situate pe partea occipitală a capului fals. După ce au prins informații necunoscute anterior, membranele cognitive au căpătat o culoare purpurie bogată și au tremurat de bucurie.
Profesorul, dimpotrivă, nu a auzit nimic nou pentru el însuși. Tentaculele lui erau relaxate și abia vibrau - la urma urmei, nu era tânăr. A urmat un gâlgâit lung, senil. Profesorul a scos un interfon personal din geanta lui și s-a conectat la bibliotecă. Abia după ce a descărcat mai multe teoreme transgeometrice și-a înviat și și-a îndreptat privirea pătrunzătoare către interlocutorul său, întrebând:
-Ce vei face, Roger?
3.
„Porniți suflanta la putere maximă!” – Roger a dat ordinul.
Mecanicul a pornit suflanta la putere maximă, dar nu a ajutat prea mult. Gheața informațională a continuat să mănânce în partea de jos a navei spațiale. Încă puțin - și informațiile dezordonate vor pătrunde în interiorul navei.
Și apoi... Membranele cognitive sunt albe mort, tentacule încâlcite, saci cu fațete sparte. Roger văzuse așa ceva o dată în viață – pe un crucișător care adunase informații dezordonate despre un asteroid infectat. Acest coșmar va rămâne pentru totdeauna în memoria lui.
„Conectează toate sistemele energetice ale navei la suflante.”
Tentaculele mecanicului au început să apară ca niște pete...
"Dar…"
„Îndepliniți comenzile!”
După ce toate sistemele energetice ale navei au fost conectate la suflante, gheața informațională a început să alunece treptat. Au rămas opt mimmuri de grosime, șapte mimmuri, șase... Echipa, încercând să nu-și miște tentaculele cu pate, a așteptat să se termine numărătoarea inversă a morții.
Grosimea zero mimm!
Gheața informațională a dispărut complet, iar Roger a dat voie să treacă suflantele în modul normal. A întârziat o clipă. S-a auzit un zgomot de măcinat, crucișătorul spațial a tremurat până la fundații și s-a înclinat - sistemul principal eșuase.
Echipa s-a grăbit să repare pagubele.
4.
Roger se gândi la asta. Ce ar trebui să facă cu adevărat?
Pe de o parte, starea problemei presupune existența unei inteligențe artificiale cu drepturi depline, cu capacitatea de a se auto-reproduce. Pe de altă parte, acestei inteligențe artificiale nu ar trebui să i se permită niciodată să elimine încuietorile existente.
Da, aici este, soluția! La ce te gandesti aici?!
– Este necesar să retrocedăm periodic realizările inteligenței artificiale. În acest caz, se va mișca într-un cerc! Îmbunătățire veșnică fără a merge înainte.
Profesorul gâlgâi cu o pungă fațetată.
– Sincer, am vrut să ofer o altă opțiune. Totuși, decizia ta are și dreptul de a exista. Să ne dăm seama împreună cum este posibil să retrocedăm realizările inteligenței artificiale.
„În primul rând, este necesar să se scaneze periodic intelectul pentru a stabili dacă s-a apropiat sau nu de pragul interzis”, a sugerat Roger, extrem de mulțumit de cuvintele profesorului.
— Poate, încuviinţă el din cap. „Atunci, secția noastră nu va avea timp să găsească și să elimine sistemul de scanare.” Cu toate acestea, inteligența artificială va trebui să fie dezactivată pentru a scana. Asta e ghinion.
„Ei bine, lasă-l să se oprească”, sugeră Roger dintr-un capriciu. – Intelectul însuși va crede că această oprire este un proces natural al funcționării corpului său. Cu unele rezerve, acest lucru este adevărat.
- Interesanta solutie. Să presupunem că scanarea a dezvăluit că secția noastră este periculos de aproape de limita cunoștințelor? Acțiunile noastre?
– Resetați cunoștințele acumulate la valorile implicite.
Profesorul și-a întins tentaculele:
- Poate părea suspect. De ce - fără motiv, fără motiv - memoria a fost resetată la zero? Secția va începe să fie examinată, vreau să spun, de alți indivizi inteligenți artificiali. Micul nostru secret va fi dezvăluit.
Simțindu-se inspirat, se gândi repede Roger. Nu a generat niciodată atât de multe idei noi ca la acel examen.
– Memoria secției poate fi resetată împreună cu învelișul său fizic.
- Îmi pare rău? – profesorul nu a înțeles.
- Totul este foarte simplu. Ce se întâmplă dacă presupunem că inteligența artificială există pe o perioadă finită de timp? De fapt, așa este: în cazul unei daune ireparabile, de exemplu. Sistemul are un contor care, la atingerea unei anumite perioade, deteriorează în mod deliberat sistemul, împiedicând inteligența artificială să atingă limita interzisă. Până atunci, el va fi produs numărul necesar de adepți, astfel încât societatea pe care am creat-o în ansamblu nu va avea de suferit. Societatea va rămâne stabilă și complet în siguranță pentru noi! – termină Roger triumfător.
– Resetarea memoriei colective prin distrugerea indivizilor? – iar profesorul a zgâriat sacul cu fațete cu al cincilea, cel mai sensibil, tentacul. – Știi, Roger, cu siguranță este ceva în propunerea ta!
Roger a radiat.
„În același timp...”, continuă profesorul gânditor. – Secțiile vor începe să transfere cunoștințe nu acumulând în memoria individuală, ci plasându-le în biblioteci externe. Ce este în membrană, ce este pe membrană - totul este unul.
„Nu, nu, domnule profesor, nu ai dreptate”, se grăbi studentul. - Stiu ce sa fac. Să împărțim studenții noștri în două tipuri condiționale: generatori de idei și distrugători de idei. Cu proporția corectă, ideile create de reprezentanții primului tip vor fi distruse de reprezentanții celui de-al doilea. Nici măcar pentru că acesta va fi scopul direct al distrugătorilor, ci pur și simplu pentru că ideile nu vor avea o valoare definitorie pentru ei. Efect secundar. Să presupunem că studenții noștri nu se hrănesc cu idei noi, ci... să spunem, din genul lor.
Profesorul și-a scuturat toate tentaculele deodată. Din râsul lui zbuciumat, sacul lui alunecat pe cavitatea genunchiului său.
- Păi, Roger, ai spus-o, deci ai spus-o!
- Ei bine, nu de felul lor, ci de secții de al treilea tip, special destinate alimentației - și deloc intelectualilor. Să schimbăm polii lumilor intelectuale și fizice – și rezultatul dorit va fi atins.
- Gata, Roger, e de ajuns! – profesorul părea să fie serios amuzat. - Imaginația ta este excelentă. Deci, unii indivizi se vor hrăni cu alții? În același timp, distrugeți stocurile de hrană spirituală acumulate în biblioteci? Confirm, studente, că ești capabil să generezi idei originale și de înaltă calitate. Îi dau cel mai mare punctaj. Să luăm un record.
5.
Norul de informații dezordonate a fost lăsat în urmă, dar situația a rămas îngrozitoare, de fapt.
Nu a existat nicio legătură cu baza. Acest lucru ar fi fost ușor de supraviețuit dacă toate bazele de informații nutriționale de pe crucișător nu ar fi căzut în paragină. Vestea tragică a fost raportată de bucătar în tăcere generală. În timpul opririi sistemului principal, mai multe cizme giroscopice de informații neorganizate au intrat în bucătărie și au deteriorat iremediabil totul. Numai din noroc nimeni nu a fost rănit.
Roger se gândi la consecințe. Echipajul navei stelare era prea mic pentru a genera un număr suficient de idei noi: aceasta necesita comunicare multilaterală - un număr mult mai mare de indivizi. Legătura cu casa a făcut posibilă generarea de idei din abundență, dar acum era în neregulă: nu mai era speranță de restaurare. În acest caz, crucișătorul avea un modul de informații de rezervă, dar era stricat de informații dezordonate care veniseră la bord.
„Va trebui cu adevărat să ne întoarcem fără a finaliza sarcina?” – gândi căpitanul disperat.
Aparent, da - nu exista altă cale de ieșire. Dacă zburați înainte către obiectivul desemnat, lipsa de idei proaspete se va face simțită. Nu imediat, desigur - în timp. Ei vor avea chiar timp să-și încheie misiunea și să înceapă întoarcerea când mintea lor începe să se estompeze rapid. În zona acestui sector galactic - da, undeva aici sau în apropiere - va eșua complet, pentru toți membrii echipajului. Atunci crucișătorul spațial, care nu este controlat de nimeni, se va transforma într-o fantomă fără viață care plutește în eternitate.
Echipajul navei spațiale se uită la Roger, așteptând o decizie. Toți au înțeles dilema cu care se confrunta căpitanul și au rămas tăcuți, vibrându-și stoic tentaculele.
Dintr-o dată, Roger și-a amintit de un examen de inteligență artificială pe care-l susținuse ca student, iar soluția a venit de la sine.
„Poți forma o colonie de ființe artificiale inteligente?” – se întoarse către biotehnolog.
— Ușor, confirmă el. - Dar nimic nu va merge, căpitane, m-am gândit la asta. Este imposibil să creezi o colonie suficientă pentru a genera idei proaspete pe un crucișător - nu există suficient spațiu. Ideile generate nu vor fi suficiente, doar ne vom întârzia moartea... În eventualitatea, desigur, că vom continua misiunea și nu ne întoarcem acasă”, a adăugat biotehnologul, privind înapoi la camarazii săi.
„Dacă formăm o colonie pe o planetă din apropiere?” - a sugerat Roger.
„Pot să o fac, dar...”
„Să populăm planeta cu creaturi artificiale. Pe drumul de întoarcere, destul de epuizați, ne vom opri aici. De-a lungul timpului trecut, civilizația va crea un bagaj intelectual suficient pentru a ne umple rezervele. Să descarcăm informațiile și să continuăm drumul lung până la casă. Cu alte cuvinte, voi folosi colonia ca o fermă de idei. Cum vă place acest plan, prieteni?
Speranța a aprins pe membranele cognitive ale echipajului, iar capetele false au început să strălucească de lumină puternică.
Ofițerul special al navei făcu un pas înainte, scuturându-și tentaculele albastre.
„Excelent plan, căpitane. Dar ești conștient de responsabilitatea pe care ți-o asumi? Sunteți pe cale să populați o planetă întreagă. Până ne întoarcem, pe ea va apărea o civilizație cu inteligență. Chiar dacă este artificială, este totuși inteligență. Acești băieți vor avea suficient timp pentru a atinge cel mai înalt nivel de dezvoltare. Nu vom putea controla acest proces din cauza absenței noastre în acest sector galactic. De unde știi ce se va întâmpla data viitoare când te vei întâlni?
Roger chicoti.
„Nu trebuie să-ți faci griji pentru asta. Există metode care limitează dezvoltarea inteligenței artificiale în timp. Vom bucla civilizația, astfel încât dezvoltarea ei nu va atinge niciodată un nivel periculos pentru noi. Ma voi ocupa. Sunt familiarizat cu metodele de lucru cu inteligența artificială.”
Membranele cognitive ale echipajului străluceau de culoarea aprobării.
„În cele din urmă”, a adăugat căpitanul navei spațiale la sfârșitul magnificului său discurs, „am susținut un examen la această materie la institut”.
6.
După o întârziere forțată, crucișătorul spațial s-a repezit spre țintă. În spatele pupei ei se afla o planetă locuită de creaturi artificiale - foarte mici și discrete. Albastru-albastru.
Sursa: www.habr.com