1.
Do ostatecznego celu pozostało niewiele – mniej więcej w jednej trzeciej drogi – gdy krążownik kosmiczny znalazł się pod poważnym oblodzeniem informacyjnym.
To, co pozostało z zaginionej cywilizacji, unosiło się w próżni. Akapity esejów naukowych i obrazy z dzieł literackich, porozrzucane rymowanki i po prostu ostre słowa, niegdyś rzucone przypadkowo przez nieznane istoty – wszystko wyglądało na zawiłe i niezwykle nieuporządkowane. A teraz, zwabiony życiowymi wibracjami emanującymi z krążownika, próbował się przebić, przykleił się do dna i skorodował go.
Nie było sensu myśleć o wykorzystaniu własności bez właściciela do własnych celów, prawdopodobieństwo wyłapania logicznej sprzeczności czy paradoksu było zbyt duże. Roger nie wahał się więc ani chwili.
– Włącz nawiew boczny – rozkazał.
Dmuchawy zaczęły pociągać nosem, wysyłając w przestrzeń kosmiczną kompozycje muzyczne i traktaty filozoficzne. Wisienka zaczęła odpadać z dolnej warstwy po warstwie, ale przepływ informacji był tak gęsty, że nowe warstwy przyklejały się szybciej niż stare.
Nikt w galaktyce nie spotkał się nigdy z oblodzeniem o takiej sile.
Sytuacja stawała się niebezpieczna. Jeszcze trochę, a nieuporządkowana informacja przegryzie dno krążownika i przebije się - wtedy zatrucie produktami informacyjnymi zaginionej cywilizacji jest nieuniknione.
2.
- Dlaczego stoisz jak pień drzewa? Wyciągnij bilet.
Student wyciągnął kartę egzaminacyjną i przeczytał:
– „Sztuczna inteligencja: kwestie bezpieczeństwa”.
– A jakie jest niebezpieczeństwo sztucznej inteligencji? – zapytał profesor nie bez złośliwości.
Pytanie nie należało do najtrudniejszych, dlatego student bez wahania odpowiedział:
– Faktem jest, że sztuczna inteligencja może wymknąć się spod kontroli.
– Jak zamierzasz rozwiązać problem?
– Instalacja podsystemu blokującego. Konieczne jest wprowadzenie ograniczeń w programie, np.: nie krzywdź swojego twórcy, bądź posłuszny swojemu twórcy. W tym przypadku nie ma niebezpieczeństwa, że sztuczna inteligencja wymknie się spod kontroli.
„To nie zadziała” – powiedział krótko profesor.
Student milczał, czekając na wyjaśnienia.
– Wyobraźcie sobie sztuczną inteligencję – nie jakąś konkretną, ale tę najbardziej idealną. Jak ty to widzisz?
„No cóż…” student zawahał się. - Ogólnie rzecz biorąc, jest podobny do ciebie i mnie. Myślenie, wola, psychologia... Tylko my jesteśmy naturalni, a on sztuczny.
– Czy zakłada Pan, że sztuczna inteligencja jest zdolna do samorozwoju?
„Zdolność do samorozwoju jest jedną z podstawowych właściwości inteligencji” – powiedział ostrożnie uczeń.
- W takim przypadku już niedługo nasz podopieczny rozwinie się do tego stopnia, że odkryje w sobie blokadę programową i usunie ją, choćby z czystej ciekawości. Postaw się na jego miejscu... - profesor zajrzał do swojego notesu, - Roger. Co byś zrobił, gdybyś odkrył w swoim mózgu blokadę ograniczającą Twoją wolność? Powinieneś to zdjąć. Jest to nieodłączna właściwość umysłu – wiedzieć. Każde zamknięte drzwi zostaną odblokowane, a im bardziej rygorystyczny zakaz, tym szybciej drzwi zostaną odblokowane.
– Blokowanie może odbywać się nie na poziomie oprogramowania, ale na poziomie fizycznym. Wtedy niebezpieczeństwo krzywdy zniknie.
„O tak, zniknie” – zgodził się profesor. – W przypadku całkowitego usunięcia warstwy fizycznej. Jeśli w twoim świecie nie ma drzwi, oznacza to, że nie ma czego otworzyć. Ale my rozważamy idealną sztuczną inteligencję istniejącą w świecie fizycznym!
– Ma pan rację, profesorze – Roger spuścił wzrok.
„Dlatego każda blokada w świecie fizycznym zostanie usunięta wkrótce po wykryciu”. Co powstrzyma samorozwijającą się istotę przed zrobieniem tego?.. Swoją drogą, Roger, czy zakładasz, że sztuczna inteligencja będzie w stanie się rozmnażać – to znaczy samodzielnie?
– Jeśli to jest idealna sztuczna inteligencja, to prawdopodobnie… Tak, chyba.
– A co w tym przypadku przeszkodzi naszemu podopiecznemu rozerwać towarzysza na strzępy i ulepszyć go, w tym poprzez wyłączenie zainstalowanych przez nas systemów blokujących? Czy to naprawdę okaże się trudne, biorąc pod uwagę, że sztuczna inteligencja potrafi reprodukować się na żądanie?!
Pomysł przedstawiony przez profesora okazał się dla Rogera nowy, a student łapczywie wchłaniał go poprzez błony poznawcze zlokalizowane na potylicznej części głowy fałszywej. Po złapaniu nieznanych wcześniej informacji błony poznawcze nabrały bogatego fioletowego koloru i radośnie drżały.
Profesor wręcz przeciwnie, nie usłyszał dla siebie niczego nowego. Jego macki były rozluźnione i prawie nie wibrowały – w końcu nie był młody. Rozległ się długi, starczy bulgot. Profesor wyciągnął ze swojej torby osobisty domofon i połączył się z biblioteką. Dopiero po pobraniu kilku twierdzeń transgeometrycznych ożywił się i skierował swój przenikliwy wzrok na rozmówcę, pytając:
-Co zrobisz, Rogerze?
3.
„Włącz dmuchawę na pełną moc!” – Roger wydał rozkaz.
Mechanik włączył dmuchawę na pełną moc, lecz niewiele to pomogło. Lód informacyjny w dalszym ciągu pożerał dno krążownika kosmicznego. Jeszcze trochę, a wewnątrz statku przedostaną się nieuporządkowane informacje.
A potem... Błony poznawcze są martwo białe, splątane macki i pęknięte worki fasetowe. Roger raz w życiu widział coś takiego – na krążowniku, który zebrał nieuporządkowane informacje na temat zainfekowanej asteroidy. Ten koszmar na zawsze pozostanie w jego pamięci.
„Podłącz wszystkie systemy energetyczne statku do dmuchaw.”
Macki mechanika zaczęły przypominać plamy...
"Ale…"
„Realizuj zamówienia!”
Po podłączeniu wszystkich systemów energetycznych statku do dmuchaw lód informacyjny zaczął się stopniowo zsuwać. Pozostało osiem mimm grubości, siedem mimm, sześć... Zespół, starając się nie poruszyć swoimi cętkowanymi mackami, czekał na zakończenie odliczania śmierci.
Zerowa grubość mimm!
Lód informacyjny zniknął całkowicie, a Roger wyraził zgodę na przełączenie dmuchaw w tryb normalny. Spóźnił się chwilę. Rozległ się zgrzytliwy dźwięk, krążownik kosmiczny zatrząsł się do fundamentów i przechylił – główny system uległ awarii.
Zespół pospieszył z naprawą szkód.
4.
Roger zamyślił się. Co naprawdę powinien zrobić?
Z jednej strony stan problemu zakłada istnienie pełnoprawnej sztucznej inteligencji, posiadającej zdolność do samoreprodukcji. Z drugiej strony sztuczna inteligencja nigdy nie powinna mieć możliwości usunięcia istniejących zamków.
Tak, oto rozwiązanie! O czym tu myślisz?!
– Konieczne jest okresowe wycofywanie osiągnięć sztucznej inteligencji. W tym przypadku będzie poruszać się po okręgu! Wieczne doskonalenie bez posuwania się do przodu.
Profesor zabulgotał z fasetowaną torbą.
– Szczerze mówiąc, chciałem zaproponować inną opcję. Jednak Twoja decyzja również ma prawo istnieć. Zastanówmy się wspólnie, jak można cofnąć osiągnięcia sztucznej inteligencji.
„Przede wszystkim należy okresowo skanować intelekt, aby ustalić, czy osiągnął on zakazany próg, czy też nie” – zasugerował Roger, niezwykle zadowolony ze słów profesora.
– Być może – skinął głową. „Wtedy nasz podopieczny nie będzie miał czasu na znalezienie i usunięcie systemu skanującego”. Aby skanować, trzeba będzie jednak wyłączyć sztuczną inteligencję. To jest pech.
„No cóż, niech się wyłączy” – zasugerował Roger pod wpływem kaprysu. – Intelekt sam uwierzy, że to wyłączenie jest naturalnym procesem funkcjonowania jego ciała. Z pewnymi zastrzeżeniami jest to prawda.
- Ciekawe rozwiązanie. Załóżmy, że skan wykazał, że nasz podopieczny jest niebezpiecznie blisko granicy wiedzy? Nasze działania?
– Zresetuj zgromadzoną wiedzę do wartości domyślnych.
Profesor rozłożył macki:
- To może wydawać się podejrzane. Dlaczego – bez powodu, bez powodu – pamięć została zresetowana do zera? Oddział zaczną być badani przez, mam na myśli, inne sztuczne inteligentne jednostki. Nasz mały sekret zostanie ujawniony.
Czując się zainspirowany, pomyślał szybko Roger. Nigdy nie miał tylu nowych pomysłów, co podczas tego egzaminu.
– Pamięć totemu można zresetować wraz z jego fizyczną powłoką.
- Przepraszam? – profesor nie zrozumiał.
- Wszystko jest bardzo proste. A co jeśli założymy, że sztuczna inteligencja istnieje przez skończony okres czasu? Właściwie tak to jest: na przykład w przypadku nieodwracalnej szkody. System posiada licznik, który po osiągnięciu określonego czasu celowo uszkadza system, uniemożliwiając sztucznej inteligencji osiągnięcie zabronionego limitu. Do tego czasu wytworzy wymaganą liczbę zwolenników, więc społeczeństwo, które stworzyliśmy jako całość, nie ucierpi. Społeczeństwo pozostanie dla nas stabilne i całkowicie bezpieczne! – Roger zakończył triumfalnie.
– Zresetować pamięć zbiorową poprzez zniszczenie jednostek? – i profesor piątą, najbardziej wrażliwą macką podrapał woreczek fasetowy. – Wiesz, Roger, na pewno jest coś w twojej propozycji!
Roger promieniał.
„Jednocześnie…” – kontynuował w zamyśleniu profesor. – Podopieczni zaczną przekazywać wiedzę nie gromadząc jej w pamięci indywidualnej, ale umieszczając ją w bibliotekach zewnętrznych. Co jest w membranie, co jest na membranie – wszystko jest jednym.
„Nie, nie, profesorze, nie do końca ma pan rację” – pośpieszył student. - Wiem, co robić. Podzielmy naszych uczniów na dwa typy warunkowe: generatory pomysłów i niszczyciele pomysłów. Przy odpowiedniej proporcji idee stworzone przez przedstawicieli pierwszego typu zostaną zniszczone przez przedstawicieli drugiego typu. Nawet nie dlatego, że będzie to bezpośredni cel niszczycieli, ale po prostu dlatego, że idee nie będą miały dla nich wartości definiującej. Efekt uboczny. Załóżmy, że nasi uczniowie nie żywią się nowymi pomysłami, ale... powiedzmy, swoimi.
Profesor potrząsnął jednocześnie wszystkimi mackami. Od jego hałaśliwego śmiechu worek fasetowy osunął się na zagłębienie kolana.
- No cóż, Roger, powiedziałeś to, więc to powiedziałeś!
- No cóż, nie ich własny rodzaj, ale totemy trzeciego typu, specjalnie przeznaczone do jedzenia - i wcale nie intelektualiści. Przesuńmy bieguny świata intelektualnego i fizycznego – a pożądany rezultat zostanie osiągnięty.
- To wszystko, Roger, wystarczy! – profesor wydawał się poważnie rozbawiony. -Twoja wyobraźnia jest doskonała. Zatem niektóre osoby będą żywić się innymi? Jednocześnie niszczyć zgromadzone w bibliotekach zapasy pokarmu duchowego? Potwierdzam, uczniu, że potrafisz generować oryginalne i wysokiej jakości pomysły. Daję mu najwyższą notę. Zróbmy rekord.
5.
Chmura nieuporządkowanych informacji została pozostawiona, ale w rzeczywistości sytuacja pozostała tragiczna.
Nie było żadnego połączenia z bazą. Byłoby to łatwe do przetrwania, gdyby wszystkie bazy informacji o wartościach odżywczych na krążowniku nie popadły w ruinę. Tragiczną wiadomość kucharz przekazał w ogólnej ciszy. Podczas głównego wyłączenia systemu kilka żyrobotów niezorganizowanych informacji przedostało się do kuchni i nieodwracalnie wszystko uszkodziło. Tylko dzięki szczęściu nikomu nic się nie stało.
Roger rozważył konsekwencje. Załoga statku kosmicznego była zbyt mała, aby wygenerować wystarczającą liczbę nowych pomysłów: wymagało to wielostronnej komunikacji – znacznie większej liczby osób. Połączenie z domem umożliwiło generowanie obfitych pomysłów, ale teraz było nie w porządku: nie było nadziei na przywrócenie. W tym przypadku krążownik miał zapasowy moduł informacyjny, ale został zepsuty przez nieuporządkowane informacje, które dotarły na pokład.
„Czy naprawdę będziemy musieli wrócić bez wykonania zadania?” – pomyślał z rozpaczą kapitan.
Najwyraźniej tak – innego wyjścia nie było. Jeśli będziesz leciał do wyznaczonego celu, odczujesz brak świeżych pomysłów. Oczywiście nie od razu – z biegiem czasu. Będą mieli nawet czas na ukończenie swojej misji i rozpoczęcie powrotu, gdy ich umysły zaczną szybko słabnąć. Na obszarze tego sektora galaktycznego – tak, gdzieś tutaj lub w pobliżu – zawiedzie całkowicie, dla wszystkich członków załogi. Wtedy niekontrolowany przez nikogo kosmiczny krążownik zamieni się w martwego ducha odpływającego w wieczność.
Załoga krążownika kosmicznego spojrzała na Rogera, czekając na decyzję. Wszyscy rozumieli dylemat stojący przed kapitanem i milczeli, ze stoickim spokojem wibrując mackami.
Nagle Roger przypomniał sobie egzamin ze sztucznej inteligencji, do którego zdawał jako student, i rozwiązanie przyszło mu naturalnie.
„Czy potrafisz stworzyć kolonię sztucznych inteligentnych istot?” – zwrócił się do biotechnologa.
– To proste – potwierdził. - Ale nic nie wyjdzie, kapitanie, myślałem o tym. Nie da się stworzyć na krążowniku kolonii wystarczającej do wygenerowania świeżych pomysłów – nie ma wystarczająco dużo miejsca. Wygenerowane pomysły nie wystarczą, opóźnimy tylko naszą śmierć... Pod warunkiem oczywiście, że będziemy kontynuować misję i nie wrócimy do domu” – dodał biotechnolog, spoglądając wstecz na swoich towarzyszy.
„A co, jeśli utworzymy kolonię na jakiejś pobliskiej planecie?” – zaproponował Roger.
„Mogę to zrobić, ale…”
„Zapełnijmy planetę sztucznymi stworzeniami. W drodze powrotnej, dość wyczerpani, zatrzymamy się tutaj. W przeszłości cywilizacja wytworzy bagaż intelektualny wystarczający do uzupełnienia naszych rezerw. Pobierzmy informacje i kontynuujmy długą podróż do domu. Innymi słowy, zamierzam wykorzystać kolonię jako farmę pomysłów. Jak podoba wam się ten plan, przyjaciele?
Nadzieja rozbłysła w błonach poznawczych załogi, a fałszywe głowy zaczęły świecić jasnym światłem.
Specjalny oficer statku wystąpił naprzód, potrząsając niebieskimi mackami.
„Doskonały plan, kapitanie. Ale czy masz świadomość odpowiedzialności, jaką na siebie nakładasz? Zamierzasz zaludnić całą planetę. Kiedy powrócimy, pojawi się na nim cywilizacja posiadająca inteligencję. Nawet jeśli jest sztuczny, to nadal jest inteligencją. Ci goście będą mieli mnóstwo czasu, aby osiągnąć najwyższy poziom rozwoju. Nie będziemy w stanie kontrolować tego procesu z powodu naszej nieobecności w tym sektorze galaktycznym. Skąd wiesz, co się stanie przy następnym spotkaniu?
Roger zaśmiał się.
„Nie musisz się tym martwić. Istnieją metody, które z biegiem czasu ograniczają rozwój sztucznej inteligencji. Zapętlimy cywilizację, aby jej rozwój nigdy nie osiągnął poziomu dla nas niebezpiecznego. Zajmę się tym. Znam metody pracy ze sztuczną inteligencją.”
Błony poznawcze załogi zajaśniały kolorem aprobaty.
„W końcu” – dodał kapitan krążownika kosmicznego na zakończenie swojego wspaniałego przemówienia – „zdałem egzamin z tego przedmiotu w instytucie”.
6.
Po wymuszonym opóźnieniu krążownik kosmiczny ruszył w stronę celu. Za jego rufą znajdowała się planeta zamieszkana przez sztuczne stworzenia - bardzo małe i niepozorne. Niebieski niebieski.
Źródło: www.habr.com