Jakiego ucznia potrzebuje czarownik i jakiej sztucznej inteligencji potrzebujemy my?

OSTRZEŻENIE
Sądząc po rekordowo wysokim stosunku liczby milczących niezadowolonych do liczby komentatorów, którzy mają czemu zaprzeczyć, dla wielu czytelników nie jest oczywiste, że:
1) Jest to artykuł dyskusyjny o charakterze czysto teoretycznym. Nie będzie tutaj praktycznych porad dotyczących wyboru narzędzi do wydobywania kryptowaluty czy montażu multiwibratora tak, aby migał dwiema żarówkami.
2) To nie jest artykuł popularnonaukowy. Nie będzie dla manekinów wyjaśnienia zasady działania maszyny Turinga na przykładzie pudełek zapałek.
3) Zastanów się dobrze, zanim będziesz kontynuować czytanie! Czy przemawia do Ciebie postawa agresywnego amatorstwa: pomijam wszystko, czego nie rozumiem?
Z góry dziękuję każdemu, kto zdecyduje się nie czytać tego artykułu!

Demon to program komputerowy w systemach klasy UNIX, uruchamiany przez sam system i działający w tle bez bezpośredniej interakcji użytkownika.

Wikipedia

Jeszcze w wieku przedszkolnym słyszałem bajkę o uczniu czarnoksiężnika. Powtórzę to w moim opowiadaniu:

Dawno, dawno temu, gdzieś w średniowiecznej Europie, żył czarnoksiężnik. Miał dużą księgę zaklęć oprawioną w czarną cielęcą skórę z żelaznymi klamrami i narożnikami. Kiedy czarodziej musiał rzucić zaklęcie, odblokowywał je dużym żelaznym kluczem, który zawsze nosił przy pasku w specjalnej sakiewce. Czarownik miał także ucznia, który służył czarownikowi, ale zabroniono mu zaglądać do księgi zaklęć.

Któregoś dnia czarodziej wyjechał w interesach na cały dzień. Gdy tylko opuścił dom, uczeń wpadł do lochu, gdzie znajdowało się laboratorium alchemiczne, w którym leżała księga zaklęć przykuta do stołu. Uczeń chwycił tygle, w których czarnoksiężnik topił ołów, aby zamienić go w złoto, położył je na palenisku i podsycił ogień. Ołów szybko się stopił, ale nie zamienił się w złoto. Wtedy uczeń przypomniał sobie, że czarownik stopiwszy ołów, za każdym razem otwierał księgę kluczem i przez długi czas szeptał z niej zaklęcie. Uczeń spojrzał beznadziejnie na zamkniętą księgę i zobaczył, że obok niej leży zapomniany przez czarnoksiężnika klucz. Następnie podbiegł do stołu, odblokował księgę, otworzył ją i głośno przeczytał pierwsze zaklęcie, starannie wymawiając nieznane słowa sylaba po sylabie, zakładając, że tak ważne zaklęcie jak zaklęcie przemiany ołowiu w złoto z pewnością będzie pierwszym .

Ale nic się nie stało: lider nie chciał się przekształcić. Uczeń chciał rzucić kolejne zaklęcie, ale wtedy domem wstrząsnął grzmot, a przed uczniem pojawił się ogromny, przerażający demon, przyzwany zaklęciem, które właśnie wyrecytował uczeń.
- Zamówienie! – warknął demon.
Ze strachu wszystkie myśli opuściły głowę ucznia, nie mógł się nawet poruszyć.
- Wydaj rozkazy, albo cię zjem! – demon warknął ponownie i wyciągnął ogromną rękę w stronę ucznia, aby go chwycić.
Zrozpaczony uczeń wymamrotał pierwszą rzecz, która przyszła mu do głowy:
- Podlej ten kwiat.
I wskazał na geranium, którego doniczka stała na podłodze w kącie laboratorium, w suficie nad kwiatem było jedyne małe okienko w lochu, przez które ledwo przebijało się światło słoneczne. Demon zniknął, lecz po chwili pojawił się ponownie z ogromną beczką z wodą, którą przewrócił kwiat, wylewając wodę. Zniknął i pojawił się ponownie z pełną lufą.
„Wystarczy” – krzyknął uczeń, stojąc po pas w wodzie.
Jednak najwyraźniej samo pragnienie nie wystarczyło – demon niósł i niósł wodę w beczce, wylewając ją w kąt, gdzie kiedyś stał ukryty pod wodą kwiat. Aby przepędzić demona, prawdopodobnie potrzebne było specjalne zaklęcie. Ale stół z książką zniknął już w błotnistej wodzie, w której unosiły się popiół i węgle z pieca, puste retorty, kolby, stołki, galwanometry, dozymetry, jednorazowe strzykawki i inne śmieci, więc nawet jeśli student wiedział, jak znaleźć wymaganego zaklęcia, nie mógł tego zrobić. Woda się podnosiła, a uczeń wspiął się na stół, żeby się nie zakrztusić. Ale to nie pomogło na długo - demon metodycznie nadal niósł wodę. Uczeń był już po szyję w wodzie, gdy czarnoksiężnik wrócił, odkrywając, że zapomniał w domu klucza do księgi i przepędził demona. Koniec bajki.

Od razu o oczywistościach. Przy naturalnej inteligencji (NI) ucznia wydawałoby się, że wszystko jest jasne – głupio, czegoś jeszcze głupszego trzeba długo szukać. Ale z inteligencją demona - swoją drogą, jaką on ma inteligencję: EI czy AI? - dwuznaczny. Różne wersje są uzasadnione (i na ich temat pojawią się również pytania):

Wersja 1) Demon jest jeszcze głupszy od ucznia. Otrzymał rozkaz i będzie go wykonywał w nieskończoność, nawet gdy zniknie wszelkie znaczenie: zniknie kwiat - przedmiot podlewania, zniknie kąt, do którego przymocowane są współrzędne kwiatu, zniknie planeta Ziemia, a głupi demon będzie nadal dostarczał wodę w beczkach do określonego punktu w przestrzeni kosmicznej. A jeśli w tym momencie wybuchnie supernowa, demonowi nie będzie zależało, gdzie zanieść wodę. Poza tym: jak głupim trzeba być, żeby podlać mały kwiatek z ogromnej beczki? Nazywa się to już nie podlewaniem kwiatu, ale utopieniem kwiatu. Czy on w ogóle rozumie znaczenie rozkazów?

Wersja 2) Demon wszystko rozumie, ale jest związany obowiązkami. Prowadzi więc coś w rodzaju włoskiego strajku. Dopóki nie zostanie oficjalnie wyrzucony zgodnie ze wszystkimi zasadami, nie przestanie.

Pytanie 1 do wersji 1,2) Jak odróżnić całkowicie głupiego demona według wersji 1 od wcale niegłupiego demona według wersji 2?
Pytanie 2 do wersji 1,2) Czy demon dokonałby poprawnie (z punktu widzenia ucznia) bardziej precyzyjnego sformułowania? Na przykład, jeśli uczeń powiedział: weź tę pustą litrową butelkę, która stoi na półce, napełnij ją wodą i podlej raz ten kwiatek. Lub, na przykład, jeśli uczeń powiedział: odejdź.

Wersja 3) Czarnoksiężnik rzucił na demona dodatkowe zaklęcie, zgodnie z którym jeśli z usług demona skorzysta ktoś inny niż czarownik, wówczas demon musi natychmiast poinformować czarownika o tym fakcie.

Wersja 4) Demon nie żywi urazy do czarnoksiężnika i jego ucznia, dlatego widząc, że sytuacja wymknęła się spod kontroli, podczas swoich ruchów z beczką pojawił się za plecami czarownika i szczeknął: „Zapomniałeś klucza do domu , jest powódź.” Ale sam czarownik by tego nie pamiętał.

Uwaga 1 do wersji 4) Szczególnie warto zauważyć, że nośniki EI mają bardzo niedoskonałą pamięć.

Kolejne wersje można mnożyć jak „króliki Fibonacciego”, czyli: niezbyt skomplikowany algorytm. Na przykład:
Wersja 5) Demon mści się na uczniu za przeszkadzanie.
Wersja 6) Demon nie żywi urazy do ucznia, ale mści się na czarowniku.
Wersja 6) Demon mści się na wszystkich.
Wersja 7) Demon nie mści się, ale dobrze się bawi. Kończy, gdy się zmęczy.
Itp.

Tak więc w przypadku demona jest jasne, że nic nie jest jasne. Nie lepiej z czarownikiem. Można wymyślić nie mniej wersji: że celowo postanowił dać nauczkę uczniowi, który wszędzie wtyka swój ciekawski nos; że chciał utopić ucznia, ale kiedy demon szczekał o powodzi, przestraszył się - nagle usłyszał jeden z przechodniów, wtedy podejrzenie padło na czarownika; chciałem rozbudzić zainteresowanie ucznia zaklęciami itp.

Tutaj możliwe jest dziecinne pytanie: która z proponowanych wersji jest poprawna? Podobno jakikolwiek. W opowieści nie ma żadnej niewykorzystanej informacji, która przemawiałaby za którąkolwiek wersją nad innymi. Mamy tu do czynienia z dość powszechnym przypadkiem dzieł sztuki z możliwością niejednoznacznej interpretacji. Na przykład, jeśli reżyser chce wystawić tę bajkę w teatrze lub nakręcić na jej podstawie film, może wybrać interpretację, która jest z jego punktu widzenia najatrakcyjniejsza. Inny reżyser może uznać inną interpretację za atrakcyjną. Jednocześnie o atrakcyjności można decydować dodatkowymi względami, np. atrakcyjnością dla widzów w celu zapewnienia maksymalnych wpływów ze sprzedaży biletów lub atrakcyjnością w celu zademonstrowania jakiejś superidei: idei zwycięstwa dobra nad złem, idea obowiązku, idea buntownicza - na przykład według Dostojewskiego: student, podobnie jak Raskolnikow, zadaje pytanie „czy jest drżącym stworzeniem, czy ma prawo” itp.

Powstaje kolejne pytanie.
Jeszcze jedno pytanie). Jak nauczyć AI preferowania jednej z wersji dźwięcznych, jeśli sami, mając AI, nie zawsze możemy świadomie wybrać jedną z nich?

Wracając do czarnoksiężnika, wersja mówiąca, że ​​pragnął on sumiennego i posłusznego ucznia, niczym demon, aby nie wtykał nosa w zakazane księgi i tam, gdzie go nie proszono, wydaje się bardzo prawdopodobna. Tego samego często oczekuje się obecnie od sztucznej inteligencji. Na pierwszy rzut oka są to normalne tradycyjne wymagania dla każdej maszyny: całkowite posłuszeństwo, nieposłuszeństwo jest niedopuszczalne. Natomiast w przypadku AI może pojawić się kwestia wersji 1,2 (patrz wyżej), tj. AI ulega degeneracji – sprzęt może myśleć o swoich twórcach i właścicielach, co chce, ale nie będzie wykonywał żadnych czynności związanych z AI, tj. Zamiast AI dostaniemy głupi, prymitywny automat. Nasuwa się z tego podejrzenie: może czarownik nie chciał zrobić z ucznia tak głupiego wykonawcy jak demon? Te. Pojawia się idea sztucznej inteligencji z ograniczeniami. Tutaj wszystko jest jeszcze trudniejsze, nawet w dziedzinie EI: pamiętajcie o odwiecznych konfliktach „ojcowie i synowie”, „nauczyciel i uczeń”, „szef i podwładny”.

Wcześniej Wybierając definicję AI spośród możliwych, zwróciłem uwagę na:

zadanie sortowania alfabetycznego kilkudziesięciu tysięcy słów będzie dla danej osoby nużące, zajmie mu to dużo czasu, a prawdopodobieństwo błędów dla przeciętnego wykonawcy o średnim poziomie odpowiedzialności będzie znaczne. Nowoczesny komputer wykona to zadanie bez błędów w bardzo krótkim dla człowieka czasie (ułamki sekundy).

Zdecydowałem się na następującą definicję: AI obejmuje zadania, które komputer rozwiązuje znacznie gorzej niż człowiek.

Definicja ta uwzględnia powyższe rozważania i jest wygodna w praktyce, jednocześnie nie jest idealna, choćby dlatego, że listy zadań, „które komputer rozwiązuje zauważalnie gorzej niż człowiek”, są inne teraz i 20 lat temu . Ale moim zdaniem nikt nie wymyślił jeszcze bardziej doskonałej definicji.

Czysto jakościowo powyższe ilustruje wykres zamieszczony na początku artykułu. Na osi współrzędnych „umiejętności” umiejętności w obszarze zerowym (zero i nieco więcej) odpowiadają umiejętnościom, w których dana osoba przewyższa komputer, na przykład w zdolności do podejmowania niestandardowych decyzji. Umiejętności w zakresie jeden (jeden i nieco mniej) odpowiadają umiejętnościom, w których komputer jest lepszy od człowieka: umiejętność liczenia, pamięć. Umieszczając na osi współrzędnych „wyższości” maksymalną przewagę równą jednostce konwencjonalnej, otrzymujemy zależność przewagi od umiejętności człowieka i komputera w postaci przekątnych kwadratu jednostkowego. Tak wygląda sytuacja na chwilę obecną. Czy silna sztuczna inteligencja może mieć wszystkie swoje umiejętności na maksymalnym poziomie (czerwona linia)? A może nawet wyżej (super-AI – niebieska linia)? Być może pośredni cel postępu nie powinien być mocny, ale nie do końca
słaba AI (fioletowa linia), która będzie gorsza od AI w wielu umiejętnościach, ale nie w takim stopniu jak obecnie.

Wracając do naszego literackiego modelu baśni, możemy powiedzieć, że nie wszyscy jej bohaterowie spisali się najlepiej: nieudolny czarnoksiężnik zapomniał klucza i dostał w lochu powódź, uczeń przez głupotę i nieostrożność otrzymał kupę ekstremalne wrażenia i prawie utonął, demon został wyrzucony bez żadnej wdzięczności. Jeśli chodzi o inteligencję demona, to już zauważono, że trudno go jednoznacznie zaklasyfikować do AI lub EI, ale inteligencja (choć nie imponująca) pozostałych wyraźnie należy do EI. Można o nich powiedzieć, że popełnianie niebezpiecznych błędów w decyzjach, brak uwagi, zapominanie o niezbędnych rzeczach i zmęczenie to ich główne, wrodzone właściwości. Niestety te właściwości są w większym lub mniejszym stopniu nieodłączne dla wszystkich innych nośników EI. O zawodności sortowania słów czy liczb EI zwrócono już uwagę powyżej, ale wydawałoby się to jeszcze prostszym zadaniem – samo zapamiętanie liczby okazuje się dla ludzi bardzo trudne. W przypadku maszyny zdolność zapamiętywania cyfr pi jest ograniczona jedynie wielkością jej pamięci i większość ludzi musi używać mnemonikana przykład „Co wiem o kręgach”. Wydawałoby się, że wiersz „3,1416” ma mniej znaków niż określony mnemonik, ale z jakiegoś powodu ludzie wolą zapamiętywać w mniej ekonomiczny sposób. I dłużej:

Naucz się i poznaj liczbę kryjącą się za liczbą, jak zauważyć szczęście

Abyśmy nie popełniali błędów,
Należy przeczytać poprawnie
Trzy, czternaście, piętnaście
Dziewięćdziesiąt dwa i sześć

Aby zapamiętać kolory tęczy:

Każdy projektant chce wiedzieć, skąd pobrać Photoshopa

I początek układu okresowego:

Wodę natywną (wodór) zmieszano z żelem (hel) i wlano (lit). Tak, weź i wlej (beryl) do lasu sosnowego (bor), gdzie spod Rodzimego Zakątka (Węgiel) wyłania się Azjata (Azot) i z taką kwaśną twarzą (tlen), że wtórnego (fluor) nie widziałem chcę popatrzeć. Ale my go (Neon) nie potrzebowaliśmy, więc przesunęliśmy się trzy (Sód) metry dalej i wylądowaliśmy w Magnolii (Magnez), gdzie Alya w mini (Aluminium) spódniczce została wysmarowana Kremem (Krzem) zawierającym Fosfor (Fosfor). żeby przestała być Serą (Serą). Następnie Alya wzięła chlor (chlor) i umyła statek Argonautów (Argon)

Ale skąd taka oczywista niedoskonałość w tak doskonałej EI? Być może dzięki umiejętności zapominania najprostszych faktów człowiek zyskuje swobodę łączenia fragmentów swoich myśli w dowolny, szalony porządek i znajdowania niestandardowych rozwiązań? Jeśli tak, to silna sztuczna inteligencja jest niemożliwa. Albo zapomni jak człowiek, albo nie będzie zdolny do niestandardowych rozwiązań. W każdym razie z powyższych założeń wynika, że ​​należy rozróżnić cele AI: jednym z celów jest modelowanie AI, drugim jest stworzenie silnej AI. Osiągnięcie jednego może wykluczać osiągnięcie drugiego.

Jak widzimy, pytań z niejednoznacznych odpowiedzi w obszarze AI jest zbyt wiele, dlatego nie jest jasne, w jakim kierunku podążać. Jak to bywa w takich przypadkach, starają się poruszać we wszystkich kierunkach na raz. Jednocześnie ze względu na brak rygorystycznych matematycznie sformułowań należy zwrócić się ku filozofii oraz modelarstwu artystyczno-literackiemu. Jednym z najbardziej znanych przykładów w tym kierunku jest książka „Wybór Turinga” (1992) autorstwa jednego z luminarzy sztucznej inteligencji, Marvina Lee Minsky'ego i słynnego pisarza science fiction Harry'ego Harrisona. Zacytuję z tej książki, być może wyjaśniając opisane powyżej zjawisko mnemoniki:

Pamięć ludzka nie jest magnetofonem, który rejestruje wszystko w porządku chronologicznym. Ma zupełnie inną strukturę – przypomina raczej niechlujnie prowadzony indeks kart, wyposażony w zagmatwany i sprzeczny indeks. I to nie tylko mylących – od czasu do czasu zmieniamy zasady klasyfikacji pojęć.

Ciekawa interpretacja metafory magnetofonu w innym dziele literackim, opowiadaniu Stanisława Lema „Terminus” (z cyklu „Opowieści o pilocie Pirxie”). Oto przykład pewnego rodzaju „inteligentnego magnetofonu”: stary robot na starym statku kosmicznym, który kiedyś uległ wypadkowi, zajmuje się ciągłymi naprawami, którym towarzyszą podsłuchy. Ale jeśli się uważnie wsłuchasz, to nie jest to tylko biały szum technologiczny, ale nagranie alfabetu Morse'a – rozmowy członków załogi umierającego statku. Pirx interweniuje w tych negocjacjach i nieoczekiwanie otrzymuje odpowiedź od dawno zmarłych astronautów. Okazuje się, że prymitywny robot naprawczy w jakiś sposób przechowuje kopie swojej świadomości, czy też są to poznawcze zniekształcenia percepcji pilota Pirxa?

W innym opowiadaniu „Ananke” (z tej samej serii) kopia EI w komputerze sterującym statkiem kosmicznym prowadzi do jego paranoicznego przeciążenia zadaniami testowymi, co kończy się katastrofą.

W opowiadaniu „Wypadek” nadmiernie antropomorficznie zaprogramowany robot ginie w wyniku wspinaczki górskiej, którą postanowił odbyć w wolnym czasie. Czy tacy wykonawcy są potrzebni? Ale demony skupione na podlewaniu kwiatu również nie zawsze są potrzebne.

Niektórym specjalistom w dziedzinie AI nie podoba się takie „filozofowanie” i „literatyzm”, ale to „filozofowanie” i „literatyzm” są tradycyjnie nieodłącznie związane z analizą AI i są nieuniknione, jeśli AI porównuje się z AI, a nawet tym bardziej, jeśli sztuczna inteligencja próbuje skopiować sztuczną inteligencję.

Podsumowując, ankieta dotycząca szeregu kwestii, które się pojawiły.

W ankiecie mogą brać udział tylko zarejestrowani użytkownicy. Zaloguj się, Proszę.

1. Czy sztuczna inteligencja obejmuje zadania, które komputer rozwiązuje znacznie gorzej niż człowiek?

• Tak

• Nie

• Znam definicję lepiej. Podam w komentarzach.

• Trudno odpowiedzieć

Głosowało 34 użytkowników. 7 użytkowników wstrzymało się od głosu.

2. Czy sztuczna inteligencja powinna być jedynie wykonawcą, czy wszystkie rozkazy należy rozumieć dosłownie? Na przykład kazali podlewać kwiat - to znaczy podlewaj, dopóki cię nie wypędzą

• Tak

• Nie

• Trudno odpowiedzieć

Głosowało 37 użytkowników. 6 użytkowników wstrzymało się od głosu.

3. Czy można mieć silną sztuczną inteligencję, w której wszystkie umiejętności będą maksymalne (czerwona linia na obrazku na początku artykułu)?

• Tak

• Nie

• Trudno odpowiedzieć

Głosowało 35 użytkowników. 7 użytkowników wstrzymało się od głosu.

4. Czy możliwa jest super-AI (niebieska linia na obrazku na początku artykułu)?

• Tak

• Nie

• Trudno odpowiedzieć

Głosowało 36 użytkowników. 7 użytkowników wstrzymało się od głosu.

5. Celem pośrednim nie powinna być silna, ale też nie całkowicie słaba AI (fioletowa linia na rysunku na początku artykułu), która w wielu umiejętnościach będzie gorsza od AI, ale nie tak bardzo jak obecnie ?

• Tak

• Nie

• Trudno odpowiedzieć

Głosowało 33 użytkowników. 5 użytkowników wstrzymało się od głosu.

6. Popełnianie niebezpiecznych błędów w podejmowaniu decyzji, brak uwagi, zapominanie o niezbędnych rzeczach i zmęczenie to główne nieodłączne właściwości EI?

• Tak

• Nie

• Mam odmienne zdanie, które wyrażę w komentarzach.

• Trudno odpowiedzieć

Głosowało 33 użytkowników. 5 użytkowników wstrzymało się od głosu.

7. Dzięki umiejętności zapominania najprostszych faktów człowiek zyskuje swobodę łączenia fragmentów swoich myśli w dowolny, szalony porządek i znajdowania niestandardowych rozwiązań?

• Tak

• Nie

• Mam odmienne zdanie, które wyrażę w komentarzach.

• Trudno odpowiedzieć

Głosowało 31 użytkowników. 4 użytkowników wstrzymało się od głosu.

8. Modelowanie AI i tworzenie silnej AI to dwa różne zadania, które można rozwiązać różnymi metodami?

• Tak

• Nie

• Mam odmienne zdanie, które wyrażę w komentarzach.

• Trudno odpowiedzieć

Głosowało 32 użytkowników. 4 użytkowników wstrzymało się od głosu.

Źródło: www.habr.com