1.
Către destinația finală mai era puțin - aproximativ o treime din drum - când crucișătorul cosmic a fost lovit de o puternică înghețare informațională.
Ceea ce a mai rămas din civilizația dispărută plutea în vid. Paragrafe de lucrări științifice și imagini din opere literare, rime disparate și pur și simplu expresii ascuțite, odată aruncate întâmplător de creaturi necunoscute - totul părea criptic și extrem de dezorganizat. Și acum, atrași de vibrațiile vitale emanate de crucișător, încercau să pătrundă în interior, se lipeau de fund și îi erodau structura.
Nu era nimic de gândit în a folosi bunurile părăsite pentru scopuri proprii, probabilitatea de a contracta o contradicție logică sau un paradox era prea mare. De aceea, Roger nu ezita nici o clipă.
„Activează spălarea bordurilor”, a ordonat el.
Spălătoarele au început să se audă, transmițând în cosmosul deschis compoziții muzicale și tratate filozofice. Înghețarea a început să se desprindă de fund, strat cu strat, totuși fluxul informațional era atât de dens încât straturile noi se lipeau mai repede decât cele vechi se îndepărtau.
Nimeni în galaxie nu se confruntase cu o înghețare de o asemenea intensitate.
Situația devenea periculoasă. Încă puțin și informația dezorganizată va eroda fundul crucișătorului și va pătrunde în interior - atunci intoxicația cu produsele informaționale ale civilizației dispărute va fi inevitabilă.
2.
- Ce faceți, stați ca un copac? Luați biletul.
Studentul a scos biletul de examen și a citit:
- „Inteligența artificială: probleme de securitate”.
- Și care este pericolul inteligenței artificiale? - a întrebat profesorul, nu fără ironie.
Întrebarea nu era cea mai dificilă, așa că studentul a răspuns fără a sta pe gânduri:
- Că rațiunea artificială poate ieși de sub control.
- Cum intenționați să rezolvați problema?
- Prin instalarea unui sistem de blocare. În program trebuie introduse restricții, de exemplu: să nu facă rău creatorului său, să-i obey creatorului său. În acest caz, pericolul ca inteligența artificială să iasă de sub control nu există.
- Nu va funcționa, - a spus pe scurt profesorul.
Studentul a tăcut, așteptând explicații.
- Imaginați-vă inteligența artificială - nu una anume, ci cea mai perfectă posibil. Cum o vedeți?
– Ei bine… – a ezitat studentul. – În general, el este similar cu noi. Gândirea, voința, psihologia… Numai că noi suntem naturali, iar el este artificial.
– Presupuneți că inteligența artificială este capabilă de auto-dezvoltare?
– Capacitatea de auto-dezvoltare este una dintre trăsăturile fundamentale ale inteligenței, – a spus studentul cu prudență.
– În acest caz, în foarte scurt timp, subiectul nostru se va dezvolta până la punctul în care va descoperi o blocare programatică în sine și o va elimina, măcar din pură curiozitate. Puneți-vă în locul lui… – profesorul a aruncat o privire în carnetul de note, – Roger. Ce ați face dacă ați descoperi o restricție în creierul vostru, care vă limitează libertatea? Ați elimina-o. Este o trăsătură esențială a rațiunii – de a cunoaște. Orice ușă închisă va fi deschisă, iar cu cât mai severă este restricția, cu atât mai repede va fi deschisă ușa.
– Blocarea poate fi realizată nu la nivel programatic, ci la nivel fizic. Atunci pericolul de daune va dispărea.
– Oh da, va dispărea, – a convenit profesorul. – În cazul în care nivelul fizic este complet eliminat. Dacă nu există nicio ușă în lumea ta, atunci n-ai ce să deschizi. Dar noi analizăm inteligența artificială ideală, care există în lumea fizică!
– Aveți dreptate, profesor, – a spus Roger, întorcând privirea.
– De aceea, orice blocare în lumea fizică va fi dezactivată la scurt timp după descoperire. Ce ar putea împiedica un ființă auto-dezvoltătoare să facă asta?.. Apropo, Roger, considerați că inteligența artificială poate să se reproducă – mă refer la auto-reproducere?
– Dacă este o inteligență artificială ideală, atunci probabil… Da, cred.
– Și ce l-ar împiedica pe subiectul nostru să-și dezmembreze colegul și să-l îmbunătățească, inclusiv prin eliminarea blocajelor pe care le-am impus? Credeți că ar fi o sarcină dificilă, având în vedere că inteligența artificială poate să se reproducă la cerere?!
Gândul expus de profesor a fost nou pentru Roger, iar studentul l-a absorbit cu fervoare prin intermediul unor structuri cognitive situate în partea din spate a capului său. Captând informații anterior necunoscute, structurile cognitive au căpătat o nuanță violet intens și au început să vibraze cu bucurie.
Profesorul, pe de altă parte, nu a auzit nimic nou pentru el. Tentaculele lui erau relaxate și aproape că nu vibrează – la urma urmei, nu mai era tânăr. A urmat un burcă lungă, specifică vârstei înaintate. Profesorul a scos din sacul cu fațete un intercom individual și s-a conectat la bibliotecă. Numai după ce a descărcat câteva teoreme transgeometrice, s-a înviorat și a îndreptat o privire pătrunzătoare către interlocutor, întrebând:
– Ce veți face, Roger?
3.
«Activare ventilație la puterea maximă!» – a dat Roger comanda.
Mecanicul a activat ventilația la puterea maximă, dar asta ajuta puțin. Gheața informațională continua să corodeze fundul crucișătorului spațial. Încă puțin – și informația dezordonată va pătrunde în interiorul navei.
Și atunci… Membranele cognitive de culoare albă moartă, tentaculele împletite, sacii cu fațete explodați. O singură dată în viață, Roger a văzut așa ceva – pe un crucișător care a prins informație dezordonată de pe un asteroid contaminat. Acest coșmar va rămâne pentru totdeauna în memoria lui.
«Conectați toate sistemele energetice ale navei la ventilație.»
Tentaculele mecanicului au început să se umple de pete…
«Dar…»
«Executați comanda!»
După ce toate sistemele energetice ale navei au fost conectate la ventilație, gheața informațională a început să se retragă treptat. A mai rămas opt mimpuri grosime, șapte mimpuri, șase… Echipajul, încercând să nu miște tentaculele petrecute, aștepta sfârșitul numărătorii mortale.
Zero mimpuri grosime!
Gheața informațională a dispărut complet, iar Roger a dat semnalul să se treacă la modul normal de ventilație. A întârziat o clipă. A fost un zgomot strident, crucișătorul spațial a tremurat până la temelii și a înclinat – sistemul principal a cedat.
Echipajul s-a grăbit să repare daunele.
4.
Roger s-a gândit. Ce ar trebui să facă, de fapt?
Pe de o parte, condiția problemei presupune existența unei inteligențe artificiale complete, capabilă de auto-reproducere. Pe de altă parte, acestei inteligențe artificiale nu trebuie sub nicio formă să i se permită eliminarea blocajelor instalate.
Dar iată, soluția! Ce mai este de gândit?!
– Este necesar să revenim periodic asupra realizărilor inteligenței artificiale. În acest caz, va merge într-un cerc! Perfecționarea eternă fără a avansa.
Profesorul a rumegat cu un sac facete.
– Trebuie să recunosc că am vrut să propun o altă variantă. Totuși, soluția dumneavoastră are dreptul la existență. Să ne gândim împreună cum putem reveni asupra realizărilor inteligenței artificiale.
– În primul rând, trebuie să scanăm periodic inteligența, pentru a stabili dacă s-a apropiat de o limită interzisă sau nu, – a propus Roger, extrem de încântat de cuvintele profesorului.
– Probabil, – a încuviințat acesta. – Atunci pacientul nostru nu va avea timp să găsească și să îndepărteze sistemul de scanare. Totuși, pentru scanare, inteligența artificială va trebui oprită. Aceasta este o problemă.
– Și ce dacă se oprește, – a sugerat Roger cu intuiție. – Inteligența va crede că această oprire este un proces natural de funcționare al organismului său. Cu unele rezerve, aceasta corespunde adevărului.
– O soluție interesantă. Să presupunem că scanarea a stabilit că pacientul nostru s-a apropiat periculos de limita cunoașterii? Ce acțiuni vom întreprinde?
– Vom reseta cunoștințele acumulate la valorile implicite.
Profesorul și-a întins tentaculele:
– Acest lucru ar putea părea suspect. De ce s-a resetat memoria fără motiv? Pacientul va începe să fie investigat, mă refer – de alte entități inteligențe artificiale. Micuța noastră taină va fi descoperită.
Simțind inspirația, Roger gândea foarte repede. Niciodată nu a generat atât de multe idei noi ca în acel examen.
– Memoria pacientului poate fi resetată împreună cu învelisul său fizic.
– Scuzați-mă? – nu a înțeles profesorul.
– Totul este foarte simplu. Ce s-ar întâmpla dacă ne-am imagina că inteligența artificială există pe o perioadă limitată de timp? De fapt, așa este: în cazul unei avarii ireparabile, de exemplu. În sistem este instalat un contor care, odată atins un anumit termen, degradează intenționat sistemul, împiedicând inteligența artificială să ajungă la limita interzisă. Până atunci, aceasta va produce numărul necesar de urmași, așa că societatea pe care am creat-o în ansamblu nu va suferi. Societatea va rămâne stabilă și complet sigură pentru noi! – a încheiat Roger cu mândrie.
– A anula memoria colectivă prin distrugerea unor indivizi? – și profesorul s-a scărpinat la sacul facetat cu cel de-al cincilea, cel mai sensibil, tentacul. – Și știți, Roger, în propunerea dumneavoastră cu siguranță există ceva!
Roger a strălucit.
– Cu toate acestea… – a continuat profesorul în gândire. – Subiecții vor începe să transmită cunoștințe nu prin acumularea lor în memoria individuală, ci prin depozitarea în biblioteci externe. Fie prin membrană, fie pe membrană – totul este același lucru.
– Nu, nu, profesor, nu aveți dreptate – s-a grăbit studentul. – Știu cum să procedăm. Vom împărți subiecții în două tipuri convenționale: generatori de idei și distrugători de idei. Cu o proporție corectă, ideile create de reprezentanții primului tip vor fi distruse de cei din al doilea. Nici măcar nu pentru că aceasta va fi o țintă directă a distrugătorilor, ci pur și simplu pentru că ideile nu vor avea pentru ei o valoare definitorie. Un efect secundar. Să presupunem că subiecții noștri se hrănesc nu cu idei noi, ci… să zicem, cu semenii lor.
Profesorul a tremurat cu toate tentaculele în același timp. De la râsul lui zgomotos, sacul facetat i s-a alunecat în cavitatea genunchiului.
– Ei bine, Roger, ai spus-o, așa că ai spus-o!
– Bine, nu cu semenii, ci cu subiecții de tipul trei, special destinați hrănirii – deloc intelectuali. Vom muta poli universului intelectual și fizic – și rezultatul dorit va fi atins.
– Tot, Roger, destul! – părintele părea să fie cu adevărat amuzat. – Imaginația ta este excepțională. Așadar, unele specii se vor hrăni cu altele? Și în același timp, vor distruge rezervele de hrană spirituală acumulată în biblioteci? Confirm, student, ești capabil să generezi idei originale și de calitate. Îți acord nota maximă. Să ne uităm la carnetul de note.
5.
Norul de informații neordonate a rămas în urmă, dar situația rămânea critică, de fapt.
Legătura cu baza era absentă. A fost ușor de suportat, dacă nu ar fi fost toate bazele de informații nutritive de pe crucișător deteriorate. Vestea tragică a fost comunicată bucătarului în tăcerea generală. În timpul deconectării sistemului principal, câteva gigaocte de informații neordonate au pătruns în bucătărie și au stricat totul iremediabil. Doar dintr-o fericire norocoasă, nimeni nu a avut de suferit.
Roger a evaluat consecințele. Echipajul navei stelare era prea mic pentru a genera un număr suficient de idei noi: era nevoie de o comunicare multidirecțională – un număr mult mai mare de specii. Legătura cu casa oferea posibilitatea de a genera idei din belșug, dar acum era defectă: nu existau speranțe de restaurare. În acest sens, pe crucișător era prevăzut un modul de informație de rezervă, dar acesta fusese distrus din cauza informațiilor neordonate care pătrunseseră la bord.
„Va trebui să ne întoarcem fără a finaliza misiunea?” – se gândi căpitanul cu disperare.
Se pare că da – nu existau alte opțiuni. Dacă mergeau înainte, spre destinație, lipsa de idei proaspete se va resimți. Nu imediat, desigur – cu timpul. Vor reuși să-și îndeplinească misiunea și să înceapă întoarcerea, când rațiunea va începe să se estompeze rapid. În apropierea acestui sector galactic – da, undeva aici sau în apropiere – va ceda complet, la toți membrii echipajului. Atunci, crucișătorul spațial, necontrolat de nimeni, se va transforma într-un spectru fără viață plutind în eternitate.
Echipajul crucișătorului spațial se uita la Roger, așteptând o decizie. Toți înțelegeau dilema în care se afla căpitanul și tăceau, vibrând stoic cu tentaculele.
Deodată, Roger și-a amintit de examenul de inteligență artificială pe care îl susținuse în anii de studii și soluția i-a venit de la sine.
„Veți putea forma o colonie din ființe conștiente artificiale?“ – s-a adresat el biotehnologului.
„Ușor, – a confirmat acesta. – Dar nu va merge, căpitane, m-am gândit la asta. A crea o colonie suficientă pentru generarea de idei noi pe crucișător este imposibil – ne lipsește spațiul. Ideile generate vor fi insuficiente, doar vom amâna moartea noastră… În cazul în care, desigur, vom continua să ne ducem la bun sfârșit misiunea, și nu ne vom întoarce acasă”, – a adăugat biotehnologul, uitându-se la colegi.
„Dar ce-ar fi să formăm o colonie pe vreo planetă din apropiere?” – a propus Roger.
„Pot să fac asta, dar…”
„Colonizăm planeta cu ființe artificiale. Pe drumul de întoarcere, obosiți, ne vom întoarce aici. În timpul acesta, civilizația își va crea un bagaj intelectual suficient pentru a-și reumple rezervele. Vom descărca informațiile și vom continua drumul lung spre casă. Cu alte cuvinte, intenționez să folosesc colonia ca o fermă pentru cultivarea ideilor. Ce părere aveți despre acest plan, prieteni?”
Pe pereții cognitivi ai echipajului a apărut o speranță, luminile false s-au aprins strălucitor.
Înainte, legănându-se cu tentaculele sale vânătăci, a ieșit ofițerul navei.
„Un plan excelent, căpitane. Dar îți dai seama ce responsabilitate îți asumi? Intenționezi să colonizezi o planetă întreagă. La momentul întoarcerii noastre, pe ea va apărea o civilizație cu inteligență. Chiar dacă este artificială, rămâne inteligență. Acestora le va fi suficient timp pentru a atinge un nivel înalt de dezvoltare. Nu vom putea controla acest proces, din cauza absenței noastre în acest sector galactic. Cine știe ce se va întâmpla la următoarea întâlnire?”
Roger a zâmbit.
„Pentru asta nu-ți face griji. Există metode care limitează dezvoltarea inteligenței artificiale în timp. Vom închide civilizația în cerc, astfel încât dezvoltarea ei să nu atingă niciodată un nivel periculos pentru noi. Mă voi ocupa de asta. Metodele de lucru cu inteligența artificială sunt cunoscute pentru mine.”
Pereții cognitivi ai echipajului au prins culoarea aprobării.
„În cele din urmă, – a adăugat căpitanul crucișătorului spațial, în încheierea splendidului său discurs, – am susținut un examen pe această temă la institut.”
6.
După o întârziere forțată, crucișătorul spațial s-a îndreptat spre destinație. În urma sa a rămas o planetă populată de ființe artificiale – una foarte mică și neobservabilă. Albastră-albastră.
Sursa: habr.com
