Ten tekst nie jest wynikiem badań naukowych, a jednym z wielu poglądów dotyczących naszego najbliższego rozwoju technologicznego. I przy okazji zaproszeniem do dyskusji.
Gary Marcus, profesor Uniwersytetu Nowojorskiego, jest przekonany, że głębokie uczenie odgrywa ważną rolę w rozwoju AI. Uważa jednak, że nadmierna fascynacja tą metodą może doprowadzić do jej zdyskredytowania.
W swojej książce Rebooting AI: Budowanie sztucznej inteligencji, której możemy zaufać Marcus, wykształcony neurolog, który zbudował karierę na zaawansowanych badaniach w dziedzinie AI, odwołuje się do aspektów technicznych i etycznych. Z punktu widzenia technologii, głębokie uczenie może skutecznie naśladować rozwiązywanie problemów percepcyjnych, które wykonuje nasz mózg: na przykład rozpoznawanie obrazów czy mowy. Jednak do rozwiązywania innych zadań, takich jak zrozumienie rozmów czy określenie przyczynowo-skutkowych związków, głębokie uczenie się nie wystarcza. Aby stworzyć bardziej zaawansowane inteligentne maszyny, zdolne do rozwiązywania szerszego kręgu zadań - często nazywanych ogólną sztuczną inteligencją - głębokie uczenie należy łączyć z innymi metodami.
Jeśli system AI tak naprawdę nie rozumie swoich zadań ani otaczającego świata, może to prowadzić do niebezpiecznych konsekwencji. Nawet najmniejsze niespodziewane zmiany w otoczeniu systemu mogą wywołać jego błędne zachowanie. Takich przykładów już było wiele: wykrywacze nieodpowiednich wyrażeń, które łatwo oszukać; systemy poszukiwania pracy, które stale dyskryminują; autonomiczne samochody, które ulegają wypadkom i czasami zabijają kierowcę lub pieszego. Tworzenie ogólnej sztucznej inteligencji to nie tylko interesujący problem badawczy, ale ma wiele całkowicie praktycznych zastosowań.
W swojej książce Marcus i jego współautor Ernest Davis proponują inny kierunek. Uważają, że jeszcze jesteśmy daleko od stworzenia ogólnej AI, ale są pewni, że prędzej czy później uda się ją stworzyć.
Po co potrzebujemy ogólnej AI? Specjalizowane wersje już zostały stworzone i przynoszą wiele korzyści.
Zgadza się, korzyści będzie jeszcze więcej. Ale istnieje wiele zadań, które wyspecjalizowana AI po prostu nie jest w stanie rozwiązać. Na przykład, zrozumienie mowy potocznej, ogólna pomoc w wirtualnym świecie czy robot pomocniczy do sprzątania i przygotowywania posiłków. Takie zadania są poza możliwościami wyspecjalizowanej AI. Jeszcze jedno ciekawe pytanie praktyczne: czy za pomocą wyspecjalizowanej AI można stworzyć bezpieczny samochód autonomiczny? Praktyka pokazuje, że taka AI wciąż ma wiele problemów z zachowaniem w anomalnych sytuacjach, nawet podczas jazdy, co znacznie komplikuje sytuację.
Myślę, że wszyscy chcielibyśmy mieć AI, która może pomóc nam dokonać nowych, wielkich odkryć w medycynie. Nie wiadomo, czy obecne technologie będą do tego odpowiednie, ponieważ biologia jest skomplikowanym obszarem. Należy być gotowym przeczytać wiele książek. Naukowcy rozumieją przyczynowo-skutkowe relacje w interakcji sieci i cząsteczek, są w stanie opracowywać teorie dotyczące planet i tym podobnych. Jednak przy pomocy wyspecjalizowanej AI nie możemy stworzyć maszyn zdolnych do takich odkryć. A przy ogólnej AI moglibyśmy zrewolucjonizować naukę, technologię i medycynę. Uważam, że bardzo ważne jest, aby kontynuować prace nad stworzeniem ogólnej AI.
Wydaje się, że przez 'ogólne' rozumiesz silne AI?
Mówiąc 'ogólny', mam na myśli, że AI będzie w stanie na bieżąco rozważać i samodzielnie rozwiązywać nowe zadania. W przeciwieństwie do, powiedzmy, gry w go, w której problem nie zmienia się od ostatnich 2000 lat.
Ogólny AI powinien być w stanie podejmować decyzje zarówno w polityce, jak i w medycynie. To odpowiada ludzkiej zdolności; każdy rozsądnie myślący człowiek może robić bardzo wiele. Bierzesz niedoświadczonych studentów i po kilku dniach usiłujesz ich zmusić do pracy nad praktycznie każdym tematem, od problemu prawnego po medycynę. To dzięki temu, że mają ogólne zrozumienie świata i potrafią czytać, mogą przyczynić się do bardzo szerokiego zakresu działalności.
Związek między takim inteligencją a silnym polega na tym, że nie silna inteligencja prawdopodobnie nie będzie w stanie rozwiązywać ogólnych zadań. Aby stworzyć coś dostatecznie niezawodnego, zdolnego do pracy w ciągle zmieniającym się świecie, być może trzeba będzie przynajmniej zbliżyć się do ogólnego intelektu.
Ale teraz jesteśmy od tego bardzo daleko. AlphaGo doskonale radzi sobie na planszy 19×19, ale musi być przeuczony do gry na prostokątnej planszy. Weźmy przeciętny system głębokiego uczenia: potrafi rozpoznać słonia, jeśli jest dobrze oświetlony, a struktura jego skóry jest widoczna. A jeśli widoczny jest tylko zarys słonia, system na pewno go nie rozpozna.
W swojej książce wspominasz, że głębokie uczenie się nie jest w stanie osiągnąć możliwości ogólnej sztucznej inteligencji, ponieważ nie potrafi głęboko zrozumieć.
W kognitywistyce mówi się o tworzeniu różnych modeli poznawczych. Siedzę w pokoju hotelowym i rozumiem, że tam jest szafa, tam jest łóżko, tam jest telewizor, który jest nietypowo zawieszony. Znam te przedmioty, nie tylko je identyfikuję. Rozumiem również, jak są ze sobą powiązane. Mam pomysły na funkcjonowanie otaczającego mnie świata. Nie są idealne. Mogą być błędne, ale są całkiem dobre. I na ich podstawie wyciągam wiele wniosków, które stają się wskazówkami dla mojej codziennej działalności.
Innym skrajnym przypadkiem jest coś w rodzaju systemu gier Atari stworzonego przez DeepMind, w którym zapamiętywał, co musi robić, gdy widział piksele w określonych miejscach na ekranie. Jeśli uzyskasz wystarczającą ilość danych, może się wydawać, że masz zrozumienie, ale w rzeczywistości jest ono bardzo powierzchowne. Dowodem na to jest to, że jeśli przesuniesz obiekty o trzy piksele, AI gra znacznie gorzej. Zmiany stawiają go w martwym punkcie. To przeciwieństwo głębokiego zrozumienia.
Aby rozwiązać ten problem, proponujesz powrót do klasycznej sztucznej inteligencji. Jakie jej zalety powinniśmy starać się wykorzystać?
Zalet jest kilka.
Po pierwsze, klasyczna sztuczna inteligencja jest w rzeczywistości ramą do tworzenia modeli poznawczych świata, na podstawie których można potem wyciągać wnioski.
Po drugie, klasyczny AI idealnie współpracuje z regułami. Obecnie w dziedzinie głębokiego uczenia obserwuje się dziwną tendencję, w której specjaliści starają się unikać reguł. Chcą wszystko zrobić na sieciach neuronowych i nie robić niczego, co wygląda jak klasyczne programowanie. Jednak są zadania, które zostały spokojnie rozwiązane w ten sposób, a nikt na to nie zwracał uwagi. Na przykład budowanie tras w Google Maps.
W rzeczywistości potrzebujemy obu podejść. Uczenie maszynowe pozwala dobrze uczyć się na danych, ale bardzo słabo pomaga w przedstawianiu abstrakcji, którą stanowi program komputerowy. Klasyczny AI dobrze radzi sobie z abstrakcjami, ale musi być całkowicie programowany ręcznie, a na świecie zgromadzono zbyt wiele wiedzy, aby wszystko to zaprogramować. Oczywiste jest, że musimy połączyć oba podejścia.
To związane jest z rozdziałem, w którym opowiadasz o tym, czego możemy nauczyć się od ludzkiego umysłu. I przede wszystkim o koncepcji, która opiera się na wspomnianej wcześniej idei, że nasze świadomość składa się z wielu różnych systemów, które działają na różne sposoby.
Myślę, że jest inny sposób, aby to wyjaśnić: każdy system poznawczy, który posiadamy, naprawdę rozwiązuje różne zadania. Podobne części AI powinny być zaprojektowane do rozwiązywania różnych zadań, które mają różne cechy.
Obecnie próbujemy używać pewnych technologii all-in-one do rozwiązywania zadań, które zasadniczo różnią się od siebie. Zrozumienie zdania to nie to samo, co rozpoznawanie obiektu. Jednak ludzie próbują w obu przypadkach stosować głębokie uczenie. Z punktu widzenia poznawczego to jakościowo różne zadania. Po prostu jestem zdumiony tym, jak mało w społeczności specjalistów od głębokiego uczenia ceni klasyczny AI. Po co czekać na pojawienie się srebrnej kuli? Jest ona nieosiągalna, a bezowocne poszukiwania nie pozwalają dostrzec całej złożoności zadania stworzenia AI.
Wspominasz również, że systemy AI są niezbędne do zrozumienia związków przyczynowo-skutkowych. Uważasz, że w tym pomoże nam głębokie uczenie, klasyczny AI czy coś zupełnie nowego?
To jeszcze jedna sfera, dla której głębokie uczenie się nie jest zbyt odpowiednie. Nie wyjaśnia przyczyn zdarzeń, a jedynie oblicza prawdopodobieństwo zdarzenia w określonych warunkach.
O czym mówimy? Patrzysz na pewne scenariusze i rozumiesz, dlaczego tak się dzieje oraz co może się wydarzyć, jeśli niektóre okoliczności się zmienią. Mogę spojrzeć na podstawę, na której stoi telewizor, i wyobrazić sobie, że jeśli odetnę jej jedną nogę, to podstawa się przewróci i telewizor spadnie. To jest związek przyczynowo-skutkowy.
Klasyczny AI daje nam do tego pewne narzędzia. Może na przykład wyobrazić sobie, czym jest wsparcie i czym jest upadek. Ale nie będę przesadzać. Problem polega na tym, że klasyczny AI w dużej mierze zależy od pełności informacji o sytuacji, a ja wyciągnąłem wnioski, tylko patrząc na podstawę. W jakiś sposób mogę generalizować, przedstawiając części podstawy, które są dla mnie niewidoczne. Na razie nie mamy narzędzi do realizacji tej cechy.
Mówisz również o tym, że ludzie mają wrodzoną wiedzę. W jaki sposób można to zrealizować w AI?
W momencie narodzin nasz mózg jest już bardzo starannie zaprojektowanym systemem. Nie jest on stały, natura stworzyła pierwszy, szorstki szkic. A następnie nauka pomaga nam przeglądać ten szkic przez całe nasze życie.
Szorstki szkic mózgu już dysponuje pewnymi możliwościami. Noworoczny kozioł górski już po kilku godzinach potrafi bezbłędnie schodzić po stoku góry. Oczywiste jest, że ma już zrozumienie przestrzeni trójwymiarowej, własnego ciała oraz związku między nimi. To bardzo skomplikowany system.
Częściowo dlatego uważam, że potrzebujemy hybryd. Trudno wyobrazić sobie, jak można stworzyć robota, który dobrze funkcjonuje w świecie bez podobnej wiedzy, od czego ma zacząć, zamiast zaczynać od czystej kartki i uczyć się na długa doświadczeniu.
Jeśli chodzi o ludzi, nasze wrodzone wiedza pochodzi z naszego genomu, który ewoluował przez długi czas. Z systemami AI będziemy musieli podążać inną drogą. Częściowo mogą to być reguły budowania naszych algorytmów. Częściowo mogą to być zasady tworzenia struktur danych, którymi te algorytmy manipulują. A częściowo mogą to być wiedza, którą bezpośrednio włożymy w maszyny.
Interesujące, że w książce zbliżacie się do idei zaufania i tworzenia zaufanych systemów. Dlaczego wybraliście akurat ten kryterium?
Uważam, że wszystko to dziś przypomina grę w piłkę. Mam wrażenie, że przeżywamy dziwny moment w historii, w dużej mierze ufając oprogramowaniu, które nie zasługuje na to zaufanie. Myślę, że nasze współczesne obawy nie będą wieczne. Za sto lat AI spełni nasze zaufanie, a może nawet wcześniej.
Jednak dziś AI jest niebezpieczne. Nie w tym sensie, jak boi się Elon Musk, ale w tym, że systemy rekrutacyjne dyskryminują kobiety, niezależnie od tego, co robią programiści, ponieważ ich narzędzia są zbyt proste.
Chciałbym, abyśmy mieli bardziej zaawansowane AI. Nie chcę, aby zaczęła się 'zima sztucznej inteligencji', kiedy ludzie zdadzą sobie sprawę, że AI nie działa i jest po prostu niebezpieczne, i nie będą chcieli tego naprawić.
W pewnym sensie wasza książka rzeczywiście wydaje się bardzo optymistyczna. Zakładacie, że można zbudować godne zaufania AI. Po prostu musimy spojrzeć w innym kierunku.
To prawda, książka jest bardzo pesymistyczna w krótkim okresie i bardzo optymistyczna w długim okresie. Uważamy, że wszystkie opisane przez nas problemy mogą zostać rozwiązane, jeśli szerszym okiem spojrzymy na to, jakie powinny być właściwe odpowiedzi. I myślimy, że jeśli to się stanie, świat stanie się lepszy.
Źródło: habr.com
