OSTRZEŻENIE
Z analizy rekordowej liczby cichych niezadowolonych w stosunku do liczby komentatorów, którzy mają coś do powiedzenia, wynika, że wielu czytelnikom nie jest oczywiste, że:
1) Jest to czysto teoretyczny artykuł dyskusyjny. Nie znajdziesz tutaj praktycznych wskazówek dotyczących wyboru narzędzi do kopania kryptowalut czy budowania multivibratora, aby migotały dwie żarówki.
2) To nie jest artykuł popularnonaukowy. Nie zostanie tutaj wyjaśniony w prosty sposób zasada działania maszyny Turinga na przykładzie pudełek zapałek.
3) Zastanów się dobrze, zanim będziesz czytać dalej! Czy wciąga cię postawa agresywnego amatora: neguję wszystko, czego nie rozumiem?
Z góry dziękuję wszystkim, którzy zdecydują się nie czytać tego artykułu!
Demon to program komputerowy w systemach klasy UNIX, uruchamiany przez samą system i działający w tle bez bezpośredniego kontaktu z użytkownikiem.
Już w przedszkolu słyszałem bajkę o uczniu czarodzieja. Powtórzę ją w moim przekazie:
Gdzieś w średniowiecznej Europie żył czarodziej. Miał dużą księgę zaklęć w oprawie z czarnej cielęcej skóry z zapięciami i rogami z żelaza. Kiedy czarodziej musiał przeczytać zaklęcie, otwierał ją dużym żelaznym kluczem, który zawsze nosił przy pasie w specjalnym woreczku. Czarodziej miał również ucznia, który asystował mu, ale zabroniono mu zaglądania do księgi zaklęć.
Pewnego razu czarodziej wyjechał na cały dzień w sprawach. Gdy tylko opuścił dom, jego uczeń rzucił się do podziemia, gdzie znajdowała się alchemiczna laboratoria, w której leżała księga zaklęć, przywiązana łańcuchami do stołu. Uczeń chwycił tygielki, w których czarodziej topił ołów, aby przemienić go w złoto, postawił je na ruszcie i rozpalił ogień. Ołów szybko się stopił, ale nie przemienił się w złoto. Wtedy uczeń przypomniał sobie, że czarodziej, topiąc ołów, za każdym razem otwierał księgę kluczem i długo szeptał zaklęcie z niej. Uczeń beznadziejnie spojrzał na zamkniętą księgę i zauważył, że obok niej leży klucz, zapomniany przez czarodzieja. Rzucił się do stołu, otworzył księgę, rozłożył ją i głośno przeczytał pierwsze zaklęcie, starannie wymawiając nieznane słowa, przypuszczając, że tak ważne zaklęcie, jak zaklęcie transmutacji ołowiu w złoto, na pewno będzie pierwsze.
Ale nic się nie stało: ołów nie chciał się przemieniać. Uczeń chciał spróbować innego zaklęcia, ale w tym momencie grzmot wstrząsnął domem, a przed uczniem pojawił się ogromny, przerażający demon, wywołany zaklęciem, które właśnie przeczytał.
— Rozkazuj! — warknął demon.
Ze strachu wszystkie myśli opuściły głowę ucznia, nie mógł się nawet poruszyć.
— Rozkazuj, albo cię zjem! — znowu warknął demon i wyciągnął do ucznia ogromną dłoń, aby go chwycić.
W rozpaczy uczeń wybełkotał pierwsze, co mógł wymyślić:
— Podlej ten kwiatek.
I wskazał na pelargonię, której doniczka stała na podłodze w kącie laboratorium, a w suficie nad kwiatem było jedyne w podziemiu małe okno, przez które ledwo przebijało się światło słoneczne. Demon zniknął, ale po chwili znów się pojawił z ogromną beczką wody, którą przewrócił nad kwiatkiem, wylewając wodę. Znowu zniknął i znów się pojawił z pełną beczką.
— Dość — krzyknął uczeń, stojąc już po pas w wodzie.
Ale najwyraźniej sama chęć nie wystarczyła — demon nieustannie przenosił wodę w beczce, wylewając ją w rogu, gdzie kiedyś stał kwiat ukryty pod wodą. Prawdopodobnie potrzebne było specjalne zaklęcie, aby przepędzić demona. Ale stół z książką już zniknął w mętnej wodzie, w której unosił się popiół i węgiel z paleniska, puste retorty, kolby, taborety, galwanometry, dozymetry, jednorazowe strzykawki i inny bałagan, więc nawet gdyby uczeń wiedział, jak znaleźć potrzebne zaklęcie, nie mógłby tego zrobić. Woda podnosiła się, a uczeń wdrapał się na stół, aby się nie udusić. Ale to pomogło tylko na krótko – demon metodycznie kontynuował przenoszenie wody. Uczeń był już po szyję w wodzie, gdy wrócił czarodziej, odkrywając, że zapomniał klucza do książki, i przepędził demona. Koniec bajki.
Od razu o oczywistym. Z naturalnym inteligencją (NI) ucznia, wydaje się, wszystko jest jasne – głupek, a głupszy musi długo szukać. A co z inteligencją demona – ciekaw jestem, jaka ona jest: NI czy SI? – nie jest tak jednoznaczne. Różne wersje są uzasadnione (a do nich będą pojawiać się jeszcze pytania):
Wersja 1) Demon jest jeszcze głupszy niż uczeń. Otrzymał rozkaz i będzie go wykonywać nieskończenie długo, nawet wtedy, gdy wszelki sens zniknie: zniknie kwiat – obiekt podlewania, zniknie róg, do którego odnoszą się współrzędne kwiatu, zniknie planeta Ziemia, a głupi demon nadal będzie dostarczał wodę do określonego punktu kosmicznej przestrzeni beczkami. A jeśli w tym punkcie wybuchnie supernowa, to demonowi bez różnicy, gdzie wodę nosić. Co więcej: jak głupim trzeba być, aby podlewać mały kwiat z ogromnej beczki. To już nie podlewanie kwiatu, a utopienie kwiatu. Czy on w ogóle rozumie sens rozkazów?
Wersja 2) Demon wszystko rozumie, ale jest związany zobowiązaniami. Więc prowadzi coś w rodzaju włoskiego strajku. Dopóki oficjalnie według wszystkich zasad go nie przepędzą – nie przestanie.
Pytanie 1 do wersji 1,2) Jak odróżnić całkowicie głupiego demona według wersji 1 od całkowicie niegłupiego według wersji 2?
Pytanie 2 do wersji 1,2) Czy demon wykonałby poprawnie (z punktu widzenia ucznia) bardziej precyzyjne sformułowanie? Na przykład, gdyby uczeń powiedział: weź tę pustą litrową kolbę, która stoi na półce, napełnij ją wodą i podlej ten kwiat 1 raz. Albo, na przykład, gdyby uczeń powiedział: idź precz.
Wersja 3) Czarodziej nałożył dodatkowe zaklęcie na demona, zgodnie z którym, jeśli ktoś poza czarodziejem korzysta z usług demona, demon musi natychmiast powiadomić o tym czarodzieja.
Wersja 4) Demon nie żywi urazy do czarodzieja i jego ucznia, więc widząc, że sytuacja wymknęła się spod kontroli, podczas swoich ruchów z beczką pojawił się za plecami czarodzieja i krzyknął: „zapomniałeś kluczyka do domu, tam zalanie”. A czarodziej sam by o tym nie przypomniał.
Uwagi 1 do wersji 4) Należy szczególnie zaznaczyć, że nosiciele EI mają bardzo niedoskonałą pamięć.
Dalsze wersje można mnożyć jak „króliki Fibonacciego”, tzn. dość prostym algorytmem. Na przykład:
Wersja 5) Demon mści się na uczniu za zmartwienie.
Wersja 6) Demon nie żywi urazy do ucznia, ale mści się na czarodzieju.
Wersja 6) Demon mści się na wszystkich.
Wersja 7) Demon się nie mści, ale się bawi. Skończy, gdy mu się znudzi.
I tak dalej.
Tak więc, w przypadku demona, wiadomo, że nic nie jest jasne. Z czarodziejem nie jest lepiej. Można wymyślić nie mniej wersji: że postanowił specjalnie ukarać ucznia, który wszędzie pakuje ciekawskie noski; że chciał utopić ucznia, ale gdy demon krzyknął o zalaniu, przestraszył się — nagle ktoś z przechodniów usłyszał, wtedy czarodziejowi spadnie podejrzenie; chciał obudzić w uczniu zainteresowanie zaklęciami itp.
Tutaj pojawia się pytanie dziecięce: która z proponowanych wersji jest poprawna? Wydaje się, że każda. W baśni nie pozostały niezagospodarowane informacje, aby preferować jedną z wersji nad innymi. Mamy do czynienia z dość częstym przypadkiem dzieł literackich, które można interpretować na różne sposoby. Na przykład, jeśli jakiś reżyser zechce wystawić tę baśń w teatrze lub nakręcić na jej podstawie film, może wybrać interpretację, która mu się najbardziej podoba. Dla innego reżysera atrakcyjna może być inna interpretacja. Przy tym atrakcyjność może być określana dodatkowymi względami, na przykład atrakcyjnością dla widzów, aby zapewnić maksymalne zyski z biletów, lub atrakcyjnością w celu zaprezentowania jakiejś ponad-idei: idee zwycięstwa dobra nad złem, idea obowiązku, idea buntu – na przykład, zgodnie z Dostojewskim: uczeń, jak Raskolnikow, zadaje sobie pytanie „czy jest on drżącą istotą czy ma prawo” itp.
Pojawia się jeszcze jedno pytanie.
Jak możemy nauczyć AI preferować którąś z wymienionych wersji, jeśli sami, posiadając EI, nie zawsze jesteśmy w stanie świadomie wybrać jedną z nich?
Wracając do czarodzieja, bardzo prawdopodobna wydaje się wersja, że chciał ucznia wykonawczego i posłusznego, jak demon, aby nie wtykał nosa w zakazane księgi i tam, gdzie go nie proszą. Tego samego teraz często oczekuje się od AI. Na pierwszy rzut oka są to normalne, tradycyjne wymagania wobec każdej maszyny: całkowite posłuszeństwo, nieposłuszeństwo jest niedopuszczalne. Ale w przypadku AI może pojawić się pytanie o wersje 1,2 (patrz wyżej), to znaczy AI degeneruje się — „żelazo” może myśleć cokolwiek o swoich twórcach i właścicielach, ale nie podejmie żadnych działań związanych z AI, co oznacza, że zamiast AI otrzymamy głupi, prymitywny automat. Z tego rodzi się podejrzenie: może czarodziej nie chciał uczynić ucznia tak głupim wykonawcą jak demon? Tzn. pojawia się idea AI z ograniczeniami. Tu jest jeszcze trudniej nawet w sferze EI: warto przypomnieć stale powracające konflikty „ojcowie i dzieci”, „nauczyciel i uczeń”, „szef i podwładny”.
przy wyborze definicji AI z możliwych zauważyłem:
zadanie posortowania kilku dziesiątków tysięcy słów według alfabetu będzie dla człowieka męczące, będzie to robił długo, a prawdopodobieństwo błędów dla przeciętnego wykonawcy o średnim poziomie odpowiedzialności będzie znaczne. Współczesny komputer wykona to zadanie bez błędów w bardzo krótkim czasie dla człowieka (ułamków sekundy).
Zatrzymałem się na następującej definicji: do AI zalicza się zadania, które komputer rozwiązuje zauważalnie gorzej niż człowiek..
Ta definicja uwzględnia powyższe rozważania i jest wygodna w praktyce, równocześnie nie jest idealna, przynajmniej dlatego, że listy zadań, „które komputer rozwiązuje zauważalnie gorzej niż człowiek”, różnią się w chwili obecnej i 20 lat temu. Ale moim zdaniem nikt jak dotąd nie wymyślił bardziej doskonałej definicji.
To, co zostało powiedziane, idealnie ilustruje schemat na początku artykułu. Na osi współrzędnych "umiejętności" umiejętności w okolicach zera (zero i nieco powyżej) odpowiadają umiejętności, w których człowiek przewyższa komputer, na przykład zdolność podejmowania nietypowych decyzji. Umiejętności w okolicach jedynki (jeden i nieco mniej) odpowiadają umiejętnościom, w których komputer przewyższa człowieka: zdolnością do obliczeń, pamięcią. Przyjmując maksymalne przewyższenie równym umownej jedynce na osi współrzędnych "przewyższenie", otrzymujemy zależności przewyższenia od umiejętności dla człowieka i komputera w postaci przekątnych jednostkowego kwadratu. Tak przedstawia się sytuacja w chwili obecnej. Czy jednak możliwy jest silny AI, który miałby maksymalne umiejętności (czerwona linia)? A może nawet wyższe (super-AI – niebieska linia)? Być może pośrednim celem postępu powinien być nie silny, ale i zupełnie
słaby AI (fioletowa linia), który w szeregu umiejętności ustępuje EI, ale nie tak bardzo, jak teraz.
Wracając do naszej literackiej bajkowej modelu, można powiedzieć, że wszyscy jej bohaterowie nie wypadli najlepiej: niezdarny czarodziej zapomniał klucza i zgotował sobie potop w swoim lochu, uczeń wskutek głupoty i nierozwaga przeżył szereg ekstremalnych doświadczeń i ledwo nie utonął, demon został wygnany kopniakami bez żadnej wdzięczności. Jeśli chodzi o inteligencję demona – już wspomniano, że określenie go jednoznacznie jako AI lub EI jest trudne, ale inteligencja (choć nie imponująca) pozostałych wyraźnie odnosi się do EI. Można o nich powiedzieć, że popełniają niebezpieczne błędy w decyzjach, wykazują brak uwagi, zapominają potrzebne rzeczy i się męczą – to ich podstawowe, nieodłączne cechy. Niestety, te cechy przysługują również wszystkim innym nosicielom EI w większym lub mniejszym stopniu. O niezawodności sortowania słów lub liczb EI już wcześniej wspomniano, ale wydawałoby się, że jeszcze prostsze zadanie – po prostu zapamiętać liczbę, okazuje się bardzo trudne dla ludzi. Dla maszyny możliwość zapamiętania cyfr liczby π ogranicza tylko rozmiar pamięci, a większość ludzi musi do tego używać , typu "Co wiem o okręgach". W przypadku ciągu "3,1416" jest mniej znaków niż w podanej mnemonice, ale z jakiegoś powodu ludzie wolą zapamiętywać w sposób mniej oszczędny. I dłużej:
Ucz się i zapamiętuj znaną cyfrę, aby dostrzegać szczęście
Aby uniknąć błędów,
Trzeba przeczytać poprawnie
Trzy, czternaście, piętnaście
Dziewięćdziesiąt dwa i sześć
Aby zapamiętać kolory tęczy:
Każdy grafik chce wiedzieć, skąd pobrać Photoshopa
A początek tabeli Mendelejewa:
Rodzinną wodę (Wodór) wymieszałem z Helem (Hel) do odlewania (Lit) . Tak, weź i lej (Beryl) w sosnowy las (Bór), gdzie spod narożnika rodzinnego (Węgiel) wygląda Azjata (Azot), przy tym z takim kwaśnym wyrazem twarzy (Tlen), że drugiej (Fluor) nie było miło oglądać. Ale nie on (Neon) był nam potrzebny, więc odeszliśmy na trzy (Sód) metry i trafiliśmy do Magnolii (Magnez), gdzie Aluminiową (Aluminium) spódniczkę posmarowaliśmy kremem (Krzem) z zawartością Fosforu (Fosfor), aby przestała być szara (Siarka). Po tym Ala wzięła Chlorek (Chlor) i umyła statek Argonautów (Argon)
Ale dlaczego takie oczywiste niedoskonałości w tak doskonałym EI? Czy to możliwe, że dzięki umiejętności zapominania najprostszych faktów człowiek zyskuje wolność do łączenia fragmentów swoich myśli w dowolnej, szalonej kolejności i znajdowania niestandardowych rozwiązań? Jeśli tak, to silny AI jest niemożliwy. Albo będzie zapominał jak człowiek, albo nie będzie zdolny do niestandardowych rozwiązań. W każdym razie z przedstawionych hipotez wynika konieczność rozgraniczenia celów AI: jednym celem jest modelowanie EI, a drugim stworzenie silnego AI. Osiągnięcie jednego celu może wykluczać osiągnięcie drugiego.
Jak widać, w dziedzinie AI pojawia się zbyt wiele pytań z niejednoznacznymi odpowiedziami, więc nie jest jasne, w jakim kierunku zmierzać. Jak to zazwyczaj bywa w takich sytuacjach, próbuje się zmierzać we wszystkich kierunkach jednocześnie. Przy tym z powodu braku matematycznie ścisłych sformułowań trzeba odwołać się do filozofii i artystyczno-literackiego modelowania. Jako jeden z najbardziej znanych przykładów w tym zakresie można podać książkę „Wybór według Turinga” (1992) jednego z autorytetów AI Marvina Lee Minsky’ego i znanego fantasty Harry'ego Harrisona. Przytoczę cytat z tej książki, który może wyjaśnić opisany powyżej fenomen mnemoniki:
Ludzka pamięć nie jest magnetofonem, który zapisuje wszystko w kolejności chronologicznej. Działa zupełnie inaczej — bardziej jak niechlujnie prowadzone archiwum, wyposażone w skomplikowany i sprzeczny wskaźnik. I to nie tylko skomplikowane — od czasu do czasu zmieniamy zasady klasyfikacji pojęć.
Ciekawa interpretacja metafory magnetofonu pojawia się w innym dziele literackim, opowiadaniu Stanisława Lema „Terminus” (z serii „Opowieści o pilocie Pirksie”). Tu mamy do czynienia z unikalnym przypadkiem „inteligentnego magnetofonu”: stary robot na starym statku kosmicznym, który kiedyś uległ wypadkowi, zajmuje się bieżącymi naprawami, którym towarzyszy stukanie. Ale jeśli się nasłuchać, to nie jest tylko biały hałas technologiczny, lecz zapis Morse'a — rozmowy członków załogi umierającego statku. Pirks wkracza w te rozmowy i niespodziewanie otrzymuje odpowiedź od dawno zmarłych kosmonautów. Okazuje się, że prymitywny robot naprawczy w pewnym sensie przechowuje kopie ich świadomości, czy to tylko poznawcze zniekształcenia postrzegania pilota Pirksa?
W innym opowiadaniu „Ananke” (z tej samej serii) kopia OS w komputerze sterującym statkiem kosmicznym prowadzi do jego paranoidalnego przeciążenia zadaniami testowymi, co kończy się katastrofą.
W opowiadaniu „Nieszczęśliwy wypadek” zbyt antropomorficznie zaprogramowany robot ginie w wyniku wspinaczki górskiej, którą postanowił odbyć w czasie wolnym od pracy. Czy tacy wykonawcy są potrzebni? Ale demony permanentnie podlewające kwiaty również nie zawsze są potrzebne.
Niektórzy specjaliści w dziedzinie AI nie lubią takich „filozofii” i „literackości”, jednak te „filozofie” i „literackość” są tradycyjnie związane z analizą AI i są nieuniknione, póki AI porównuje się z AI, a tym bardziej, póki w AI próbuje się kopiować AI.
Na zakończenie ankieta dotycząca kilku powstałych kwestii.
Tylko zarejestrowani użytkownicy mogą brać udział w ankiecie. , proszę.
1. Czy do AI zaliczają się zadania, które komputer rozwiązuje zdecydowanie gorzej niż człowiek?
Tak
Nie
Znam lepszą definicję. Podam w komentarzach.
Nie potrafię powiedzieć
Zagłosowało 34 użytkowników. Powstrzymało się 7 użytkowników.
2. AI powinno być tylko wykonawcą, rozumiejącym wszystkie polecenia dosłownie? Na przykład, jeśli powiedziano podlewać kwiat — to znaczy, podlewać, aż nie będą go przepędzać.
Tak
Nie
Nie potrafię powiedzieć
Zagłosowało 37 użytkowników. Wstrzymało się 6 użytkowników.
3. Czy może istnieć silna SI, która miałaby maksymalne umiejętności (czerwona linia na rysunku na początku artykułu)?
Tak
Nie
Nie potrafię powiedzieć
Zagłosowało 35 użytkowników. Wstrzymało się 7 użytkowników.
4. Czy możliwa jest super-SI (niebieska linia na rysunku na początku artykułu)?
Tak
Nie
Nie potrafię powiedzieć
Zagłosowało 36 użytkowników. Wstrzymało się 7 użytkowników.
5. Czy pośrednim celem powinno być nie silne, ale także nie całkowicie słabe SI (fioletowa linia na rysunku na początku artykułu), które w niektórych umiejętności będzie ustępować ESI, ale nie tak bardzo jak teraz?
Tak
Nie
Nie potrafię powiedzieć
Zagłosowało 33 użytkowników. Wstrzymało się 5 użytkowników.
6. Czy popełnianie niebezpiecznych błędów w podejmowaniu decyzji, wykazywanie niewłaściwej uwagi, zapominanie potrzebnych rzeczy i zmęczenie – to główne nieodłączne cechy ESI?
Tak
Nie
Mam inne zdanie, które przedstawię w komentarzach
Nie potrafię powiedzieć
Zagłosowało 33 użytkowników. Wstrzymało się 5 użytkowników.
7. Dzięki umiejętności zapominania najprostszych faktów człowiek zdobywa wolność łączenia fragmentów swoich myśli w dowolnym dzikim porządku i znajdowania nietypowych rozwiązań?
Tak
Nie
Mam inne zdanie, które przedstawię w komentarzach
Nie potrafię powiedzieć
Zagłosował 31 użytkownik. Wstrzymał się 4 użytkowników.
8. Modelowanie ESI i stworzenie silnej SI to dwa różne zadania, które mogą być realizowane różnymi metodami?
Tak
Nie
Mam inne zdanie, które przedstawię w komentarzach
Nie potrafię powiedzieć
Zagłosowało 32 użytkowników. Wstrzymało się 4 użytkowników.
Źródło: habr.com
