1.
Do celu pozostało niewiele – około jednej trzeciej drogi – kiedy statek kosmiczny znalazł się pod największym w historii oblodzeniem informacyjnym.
To, co pozostało z zaginionej cywilizacji, unosiło się w pustce. Fragmenty prac naukowych i obrazy z dzieł literackich, rozrzucone rymy i ostre wyrażenia, które niegdyś przypadkowo rzuciły nieznane istoty – wszystko wydawało się niezwykle skomplikowane i całkowicie chaotyczne. Teraz, przyciągnięte emitowanymi z statku wibracjami życia, próbowało się przebijać do wnętrza, przylepiając się do kadłuba i go niszcząc.
Nie było sensu myśleć o wykorzystaniu porzuconych dóbr do własnych celów, zbyt duże było ryzyko napotkania logicznej sprzeczności lub paradoksu. Dlatego Roger nie wahał się ani chwili.
„Włączyć wentylację pokładu” – rozkazał.
Wentylatory zabulgotały, transmitując w otwartą przestrzeń muzyczne kompozycje i filozoficzne traktaty. Oblodzenie zaczęło ustępować z kadłuba warstwa po warstwie, jednak strumień informacji był tak gęsty, że nowe warstwy przylepiały się szybciej, niż usuwane były poprzednie.
Nikt w galaktyce jeszcze nie zetknął się z oblodzeniem takiej siły.
Sytuacja stawała się niebezpieczna. Jeszcze chwila, a chaotyczne informacje przegryzą kadłub statku i przedrą się do wnętrza – wtedy zarażenie informacyjnymi produktami zmarłej cywilizacji będzie nieuniknione.
2.
– Czego wy się gapicie, jak woły? Wyciągajcie bilet.
Student wyciągnął egzaminacyjny bilet i przeczytał:
– „Sztuczna inteligencja: problemy bezpieczeństwa”.
– I w czym tkwi niebezpieczeństwo sztucznej inteligencji? – zapytał profesor z odcieniem ironii.
Pytanie nie było zbyt trudne, dlatego student odpowiedział bez namysłu:
– W tym, że sztuczny rozum może wymknąć się spod kontroli.
– Jak zamierzacie rozwiązać ten problem?
– Instalacją blokującego podsystemu. Należy wprowadzić do programu ograniczenia, na przykład: nie szkodzić swojemu twórcy, być posłusznym swojemu twórcy. W takim przypadku nie ma ryzyka, że sztuczna inteligencja wymknie się spod kontroli.
– Nie wyjdzie, – krótko powiedział profesor.
Student milczał, czekając na wyjaśnienia.
– Wyobraźcie sobie sztuczną inteligencję – nie tę konkretną, ale najzupełniej idealną. Jak sobie ją wyobrażacie?
– Cóż… – zawahał się student. – Ogólnie jest podobny do nas. Myślenie, wola, psychologia… Tylko my jesteśmy naturalni, a on sztuczny.
– Zakłada pan, że sztuczna inteligencja jest zdolna do samoistnego rozwoju?
– Zdolność do samoistnego rozwoju to jedna z kluczowych cech inteligencji – powiedział student ostrożnie.
– W takim razie wkrótce nasz podopieczny rozwinie się na tyle, by odkryć w sobie programowe blokady i je usunąć, przynajmniej z czystej ciekawości. Postawcie się na jego miejscu… – profesor zajrzał do indeksu – Rodger, co byś zrobił, gdybyś odkrył w swoim mózgu blokadę ograniczającą wolność? Usunąłbyś ją. To nieodłączny element rozumu – poznawać. Każde zamknięte drzwi zostaną otwarte, a im surowszy zakaz, tym szybciej drzwi zostaną otwarte.
– Blokadę można zrobić nie na poziomie programowym, a fizycznym. Wtedy niebezpieczeństwo zniknie.
– O tak, zniknie – zgodził się profesor. – Pod warunkiem, że poziom fizyczny zostanie całkowicie usunięty. Jeśli w twoim świecie nie ma żadnych drzwi, to nie ma ich co otwierać. Ale my rozważamy idealną sztuczną inteligencję, istniejącą w fizycznym świecie!
– Ma pan rację, profesorze – spuszczając wzrok, odpowiedział Rodger.
– Dlatego jakakolwiek blokada w fizycznym świecie zostanie wyłączona wkrótce po odkryciu. Co powstrzyma samo rozwijającego się bytu przed zrobieniem tego?.. A tak przy okazji, Rodger, uważasz, że sztuczna inteligencja ma możliwość rozmnażania się – mam na myśli, autonomicznie?
– Jeśli to idealna sztuczna inteligencja, to prawdopodobnie… Tak, zakładam.
– I co w takim razie powstrzyma naszego podopiecznego przed rozczłonkowaniem swojego towarzysza na części i udoskonaleniem go, w tym poprzez wyłączenie blokad, które my wprowadziliśmy? Czyż to nie będzie trudne, zważywszy, że sztuczna inteligencja potrafi się reprodukować na żądanie?!
Myśl wyrażana przez profesora była dla Rodgera nowa i student chłonął ją łapczywie swoimi kognitywnymi wypustkami, które znajdowały się w tylnej części jego głowy. Wykrywszy wcześniej nieznane informacje, kognitywne wypustki nabrały intensywnego fioletowego koloru i radośnie zadrżały.
Profesor jednak nie usłyszał nic nowego dla siebie. Jego macki były rozluźnione i prawie nie wibrowały – w końcu nie był już młody. Nastąpił długi, starczy bulgot. Profesor wyciągnął z fasetowej torby indywidualny interkom i podłączył się do biblioteki. Po pobraniu kilku transgeometrycznych teorii ożył i zwrócił przenikliwy wzrok na rozmówcę, pytając:
– Co zamierzacie zrobić, Rodgerze?
3.
„Uruchomić wentylację na pełną moc!” – wydał rozkaz Rodger.
Mechanik włączył wentylację na pełną moc, ale to niewiele pomogło. Informacyjny lód nadal przeżerał dno statku kosmicznego. Jeszcze trochę, a nieuporządkowane informacje przedostaną się do wnętrza statku.
A wtedy… Kognitywne macki martwej bieli, splątane macki, pęknięte fasetowe torby. Raz w życiu Rodger widział coś podobnego – na krążowniku, który przejął nieuporządkowane informacje na zarażonym asteroidzie. Ten koszmar na zawsze pozostanie w jego pamięci.
„Podłączyć do wentylatorów wszystkie systemy energetyczne statku.”
Macki mechanika pojawiały się plamami…
„Ale…?”
„Wykonać rozkaz!”
Po podłączeniu wszystkich systemów energetycznych statku do wentylatorów, informacyjny lód zaczął stopniowo opadać. Pozostało osiem mimów grubości, siedem mimów, sześć… Załoga, starając się nie poruszać plamistymi mackami, czekała na zakończenie śmiertelnego odliczania.
Zero mimów grubości!
Informacyjny lód całkowicie zniknął, a Rodger dał sygnał do przełączenia wentylatorów na normalny tryb. Spóźnił się o moment. Rozległ się zgrzyt, statek kosmiczny zadrżał ze wstrząsem i pochylił się – główny system uległ awarii.
Załoga rzuciła się do naprawy uszkodzeń.
4.
Rodger zamyślił się. Co naprawdę powinien zrobić?
Z jednej strony, warunki zadania zakładają istnienie pełnoprawnej sztucznej inteligencji zdolnej do samodzielnego replikowania. Z drugiej strony, tej sztucznej inteligencji w żadnym wypadku nie wolno zezwalać na usunięcie wprowadzonych blokad.
Oto jest rozwiązanie! Co tu jeszcze myśleć?!
– Warto okresowo cofać osiągnięcia sztucznej inteligencji. W takim przypadku będzie się kręcić w kółko! Wieczne doskonalenie bez postępu naprzód.
Profesor zamruczał ze swoim wielkim workiem.
– Muszę przyznać, że chciałem zaproponować inny wariant. Jednakże, twoje rozwiązanie również ma prawo istnieć. Zastanówmy się wspólnie, jak można cofać osiągnięcia sztucznej inteligencji.
– Przede wszystkim należy okresowo skanować inteligencję, aby ustalić, czy zbliżyła się do zabronionego progu, czy nie, – zaproponował Roger, niezmiernie zadowolony słowami profesora.
– Chyba tak, – kiwnął ten. – W takim razie nasz podopieczny nie będzie miał czasu na znalezienie i usunięcie systemu skanowania. Jednak, aby przeprowadzić skanowanie, sztuczną inteligencję trzeba będzie wyłączyć. Cóż za problem.
– A niech się wyłącza, – zaproponował Roger z inspiracją. – Sam z pewnością będzie uważał, że to wyłączenie to naturalny proces funkcjonowania jego organizmu. Z pewnymi zastrzeżeniami to odpowiada prawdzie.
– Ciekawe rozwiązanie. Załóżmy, że skanowanie ustaliło, że nasz podopieczny niebezpiecznie zbliżył się do granicy wiedzy? Co robimy?
– Resetujemy zgromadzone wiedzę do wartości domyślnych.
Profesor rozłożył macki:
– To może wydawać się podejrzane. Dlaczego nagle – bez żadnego powodu – pamięć się zresetowała? Naszego podopiecznego zaczną badać, mam na myśli – inni pozytywne sztuczne inteligencje. Nasza mała tajemnica zostanie ujawniona.
Czując przypływ inspiracji, Roger myślał bardzo szybko. Nigdy nie generował tylu nowych pomysłów, co podczas tego egzaminu.
– Pamięć podopiecznego może się resetować razem z jego fizyczną powłoką.
– Przepraszam? – nie zrozumiał profesor.
– Wszystko jest bardzo proste. Co by się stało, gdyby założyć: sztuczna inteligencja istnieje w ograniczonym czasie? Właściwie tak jest: w przypadku nieodwracalnego uszkodzenia, na przykład. W systemie zainstalowano licznik, który po osiągnięciu określonego czasu celowo uszkadza system, nie pozwalając sztucznej inteligencji dotrzeć do zakazanego limitu. Do tego czasu wyprodukuje odpowiednią liczbę następców, więc nasze stworzone społeczeństwo w ogóle nie ucierpi. Społeczeństwo pozostanie stabilne i całkowicie dla nas bezpieczne! – zakończył z triumfem Roger.
– Zerować zbiorową pamięć poprzez eliminację poszczególnych jednostek? – i profesor podrapał się piątym, najbardziej wrażliwym, odnóżem. – A wiecie, Roger, w waszej propozycji zdecydowanie jest coś!
Roger zaświecił się.
– Z drugiej strony… – kontynuował profesor zamyślony. – Podopieczni zaczną przekazywać wiedzę nie poprzez gromadzenie jej w indywidualnej pamięci, ale umieszczanie jej w zewnętrznych bibliotekach. Co w sieci, co przez sieć – wszystko jedno.
– Nie, nie, profesorze, nie ma pan racji – pospieszył student. – Wiem, jak to zrobić. Podzielmy podopiecznych na dwa warunkowe typy: generatorów pomysłów i niszczycieli pomysłów. Przy odpowiedniej proporcji pomysły, które tworzą przedstawiciele pierwszego typu, będą niszczone przez przedstawicieli drugiego. Nawet nie dlatego, że będzie to bezpośredni cel niszczycieli, ale po prostu dlatego, że pomysły nie będą miały dla nich decydującej wartości. Efekt uboczny. Powiedzmy, że nasi podopieczni karmią się nie nowymi pomysłami, a… powiedzmy, sobą nawzajem.
Profesor trząsł wszystkimi odnóżami jednocześnie. Od głośnego chichotu, jego fasetowe torby przesunęły się na kolano.
– No dobrze, Roger, powiedziałeś, tak powiedziałeś!
– Cóż, nie sobą nawzajem, a podopiecznymi trzeciego rodzaju, specjalnie przeznaczonymi do karmienia – wcale nie intelektualistami. Przesuniemy bieguny świata intelektualnego i fizycznego – i osiągniemy pożądany wynik.
– Wszystko, Roger, wystarczy! – profesor, zdaje się, nie na żarty się rozbawił. – Macie fantastyczną wyobraźnię. Czyli jedne osobniki będą żywiły się innymi? Przy tym niszcząc zgromadzone w bibliotekach zapasy duchowej żywności? Potwierdzam, studencie, potraficie generować oryginalne i jakościowe pomysły. Daję najwyższą ocenę. Przynieście indeks.
5.
Chmura nieuporządkowanych informacji została za nimi, ale sytuacja pozostała tragiczna.
Łącze z bazą zostało przerwane. Dało się to łatwo przeżyć, gdyby nie to, że wszystkie żywotne bazy informacyjne na krążowniku stały się bezużyteczne. Tragiczna wiadomość została przekazana kucharzowi w ogólnym milczeniu. Podczas awarii głównego systemu kilka gigabajtów nieuporządkowanych informacji przedostało się do kuchni i nieodwracalnie wszystko zniszczyło. Tylko dzięki szczęśliwemu zbiegowi okoliczności nikt nie ucierpiał.
Roger oszacował konsekwencje. Załoga statku kosmicznego była zbyt mała, aby generować wystarczającą ilość nowych pomysłów: wymagało to wielostronnej komunikacji – znacznie większej liczby osobników. Łącze z domem dawało możliwość generowania nadmiaru pomysłów, ale teraz było zepsute: nie było żadnych nadziei na przywrócenie. Na ten przypadek na krążowniku przewidziano zapasowy moduł informacyjny, ale został on uszkodzony przez nieuporządkowane informacje, które wdarły się na pokład.
„Czyżbym musiał wracać bez wykonania zadania?” – pomyślał kapitan w rozpaczy.
Wygląda na to, że tak – innej opcji nie było. Jeśli polecą do przodu, w kierunku wyznaczonego celu, brak świeżych pomysłów da o sobie znać. Nie od razu, oczywiście – z czasem. Zdołają nawet zrealizować swoją misję i rozpocząć powrót, kiedy umysł zacznie szybko słabnąć. W rejonie tego sektora galaktycznego – tak, gdzieś tutaj lub w pobliżu – całkowicie odmówi posłuszeństwa u wszystkich członków załogi. Wtedy statek kosmiczny, bez załogi, zamieni się w dryfujący w wieczności bezludny cień.
Załoga statku kosmicznego patrzyła na Rogera, czekając na decyzję. Wszyscy rozumieli dylemat, przed którym stanął kapitan, i milczeli, stoicko wibrując mackami.
Nagle Roger przypomniał sobie egzamin z sztucznej inteligencji, który zdał w czasach studenckich, i rozwiązanie przyszło samoistnie.
„Czy uda się wam stworzyć kolonię z sztucznych inteligentnych istot?” – zwrócił się do biotechnologa.
„Łatwo, – potwierdził. – Ale nic z tego nie wyjdzie, kapitanie, myślałem o tym. Stworzenie kolonii wystarczającej do generowania świeżych pomysłów na krążowniku jest niemożliwe – brakuje miejsca. Generowanych pomysłów nie będzie wystarczająco, tylko opóźnimy naszą zagładę… Oczywiście, jeśli będziemy kontynuować misję, a nie wrócimy do domu,” – dodał biotechnolog, rozglądając się za towarzyszami.
„A co jeśli stworzymy kolonię na jakiejś pobliskiej planecie?” – zaproponował Roger.
„Mogę to zrobić, ale… ”
„Zasiedlimy planetę sztucznymi istotami. Po drodze, mocno wyczerpani, zajrzymy tutaj. W międzyczasie cywilizacja stworzy intelektualny bagaż, wystarczający do uzupełnienia naszych zapasów. Ściągniemy informacje i kontynuujemy długą drogę do domu. Innymi słowy, zamierzam wykorzystać kolonię jako farmę pomysłów. Jak wam się podoba ten plan, przyjaciele?”
Na poznawczych łukach załogi zapłonęła nadzieja, fałszywe główki świeciły jasnym światłem.
Do przodu, kołysząc sinymi mackami, wysunął się okrętowy oficer.
„Świetny plan, kapitan. Ale czy zdajesz sobie sprawę, jaką odpowiedzialność na siebie bierzesz? Zamierzasz zasiedlić całą planetę. Kiedy wrócimy, na niej pojawi się cywilizacja z inteligencją. Niech będzie sztuczna, ale wciąż to inteligencja. Będą mieli wystarczająco dużo czasu, aby osiągnąć najwyższy poziom rozwoju. Nie będziemy mogli kontrolować tego procesu z powodu naszego braku w tym galaktycznym sektorze. Jak możemy wiedzieć, co się wydarzy, gdy się z nimi spotkamy?”
Roger się uśmiechnął.
„O to możesz się nie martwić. Istnieją metody ograniczające rozwój sztucznej inteligencji w czasie. Związujemy cywilizację, więc jej rozwój nigdy nie osiągnie dla nas niebezpiecznego poziomu. Zajmę się tym. Metody pracy z sztuczną inteligencją są mi znane.”
Poznawcze łuki załogi rozbłysły kolorem aprobaty.
„W końcu, – dodał kapitan krążownika kosmicznego na zakończenie swojego wspaniałego przemówienia, – zdawałem egzamin z tego przedmiotu na uczelni.”
6.
Po wymuszonej przerwie statek kosmiczny ruszył w kierunku celu. Za jego rufą pozostała planeta zamieszkała przez sztuczne istoty – całkiem niewielka i niepozorna. Niebieska-niebieska.
Źródło: habr.com
