<\/a><\/noindex>W swojej ksi\u0105\u017cce Marcus i jego wsp\u00f3\u0142autor Ernest Davis proponuj\u0105 inny kierunek. Uwa\u017caj\u0105, \u017ce jeszcze jeste\u015bmy daleko od stworzenia og\u00f3lnej AI, ale s\u0105 pewni, \u017ce pr\u0119dzej czy p\u00f3\u017aniej uda si\u0119 j\u0105 stworzy\u0107.<\/p>\n
Po co potrzebujemy og\u00f3lnej AI? Specjalizowane wersje ju\u017c zosta\u0142y stworzone i przynosz\u0105 wiele korzy\u015bci.<\/b><\/p>\n
Zgadza si\u0119, korzy\u015bci b\u0119dzie jeszcze wi\u0119cej. Ale istnieje wiele zada\u0144, kt\u00f3re wyspecjalizowana AI po prostu nie jest w stanie rozwi\u0105za\u0107. Na przyk\u0142ad, zrozumienie mowy potocznej, og\u00f3lna pomoc w wirtualnym \u015bwiecie czy robot pomocniczy do sprz\u0105tania i przygotowywania posi\u0142k\u00f3w. Takie zadania s\u0105 poza mo\u017cliwo\u015bciami wyspecjalizowanej AI. Jeszcze jedno ciekawe pytanie praktyczne: czy za pomoc\u0105 wyspecjalizowanej AI mo\u017cna stworzy\u0107 bezpieczny samoch\u00f3d autonomiczny? Praktyka pokazuje, \u017ce taka AI wci\u0105\u017c ma wiele problem\u00f3w z zachowaniem w anomalnych sytuacjach, nawet podczas jazdy, co znacznie komplikuje sytuacj\u0119.<\/p>\n
My\u015bl\u0119, \u017ce wszyscy chcieliby\u015bmy mie\u0107 AI, kt\u00f3ra mo\u017ce pom\u00f3c nam dokona\u0107 nowych, wielkich odkry\u0107 w medycynie. Nie wiadomo, czy obecne technologie b\u0119d\u0105 do tego odpowiednie, poniewa\u017c biologia jest skomplikowanym obszarem. Nale\u017cy by\u0107 gotowym przeczyta\u0107 wiele ksi\u0105\u017cek. Naukowcy rozumiej\u0105 przyczynowo-skutkowe relacje w interakcji sieci i cz\u0105steczek, s\u0105 w stanie opracowywa\u0107 teorie dotycz\u0105ce planet i tym podobnych. Jednak przy pomocy wyspecjalizowanej AI nie mo\u017cemy stworzy\u0107 maszyn zdolnych do takich odkry\u0107. A przy og\u00f3lnej AI mogliby\u015bmy zrewolucjonizowa\u0107 nauk\u0119, technologi\u0119 i medycyn\u0119. Uwa\u017cam, \u017ce bardzo wa\u017cne jest, aby kontynuowa\u0107 prace nad stworzeniem og\u00f3lnej AI.<\/p>\n
Wydaje si\u0119, \u017ce przez 'og\u00f3lne' rozumiesz silne AI?<\/b><\/p>\n
M\u00f3wi\u0105c 'og\u00f3lny', mam na my\u015bli, \u017ce AI b\u0119dzie w stanie na bie\u017c\u0105co rozwa\u017ca\u0107 i samodzielnie rozwi\u0105zywa\u0107 nowe zadania. W przeciwie\u0144stwie do, powiedzmy, gry w go, w kt\u00f3rej problem nie zmienia si\u0119 od ostatnich 2000 lat.<\/p>\n
Og\u00f3lny AI powinien by\u0107 w stanie podejmowa\u0107 decyzje zar\u00f3wno w polityce, jak i w medycynie. To odpowiada ludzkiej zdolno\u015bci; ka\u017cdy rozs\u0105dnie my\u015bl\u0105cy cz\u0142owiek mo\u017ce robi\u0107 bardzo wiele. Bierzesz niedo\u015bwiadczonych student\u00f3w i po kilku dniach usi\u0142ujesz ich zmusi\u0107 do pracy nad praktycznie ka\u017cdym tematem, od problemu prawnego po medycyn\u0119. To dzi\u0119ki temu, \u017ce maj\u0105 og\u00f3lne zrozumienie \u015bwiata i potrafi\u0105 czyta\u0107, mog\u0105 przyczyni\u0107 si\u0119 do bardzo szerokiego zakresu dzia\u0142alno\u015bci.<\/p>\n
Zwi\u0105zek mi\u0119dzy takim inteligencj\u0105 a silnym polega na tym, \u017ce nie silna inteligencja prawdopodobnie nie b\u0119dzie w stanie rozwi\u0105zywa\u0107 og\u00f3lnych zada\u0144. Aby stworzy\u0107 co\u015b dostatecznie niezawodnego, zdolnego do pracy w ci\u0105gle zmieniaj\u0105cym si\u0119 \u015bwiecie, by\u0107 mo\u017ce trzeba b\u0119dzie przynajmniej zbli\u017cy\u0107 si\u0119 do og\u00f3lnego intelektu.<\/p>\n
Ale teraz jeste\u015bmy od tego bardzo daleko. AlphaGo mo\u017ce doskonale gra\u0107 na planszy 19×19, ale musi by\u0107 ponownie szkolony do gry na prostok\u0105tnej planszy. Albo we\u017amy przeci\u0119tny system g\u0142\u0119bokiego uczenia si\u0119: jest w stanie rozpozna\u0107 s\u0142onia, je\u015bli jest dobrze o\u015bwietlony i widoczna jest tekstura jego sk\u00f3ry. A je\u015bli widoczny jest tylko sylwetka s\u0142onia, system z pewno\u015bci\u0105 nie b\u0119dzie w stanie go rozpozna\u0107.<\/p>\n
W swojej ksi\u0105\u017cce wspominasz, \u017ce g\u0142\u0119bokie uczenie si\u0119 nie jest w stanie osi\u0105gn\u0105\u0107 mo\u017cliwo\u015bci og\u00f3lnej sztucznej inteligencji, poniewa\u017c nie potrafi g\u0142\u0119boko zrozumie\u0107.<\/b><\/p>\n
W kognitywistyce m\u00f3wi si\u0119 o tworzeniu r\u00f3\u017cnych modeli poznawczych. Siedz\u0119 w pokoju hotelowym i rozumiem, \u017ce tam jest szafa, tam jest \u0142\u00f3\u017cko, tam jest telewizor, kt\u00f3ry jest nietypowo zawieszony. Znam te przedmioty, nie tylko je identyfikuj\u0119. Rozumiem r\u00f3wnie\u017c, jak s\u0105 ze sob\u0105 powi\u0105zane. Mam pomys\u0142y na funkcjonowanie otaczaj\u0105cego mnie \u015bwiata. Nie s\u0105 idealne. Mog\u0105 by\u0107 b\u0142\u0119dne, ale s\u0105 ca\u0142kiem dobre. I na ich podstawie wyci\u0105gam wiele wniosk\u00f3w, kt\u00f3re staj\u0105 si\u0119 wskaz\u00f3wkami dla mojej codziennej dzia\u0142alno\u015bci.<\/p>\n
Innym skrajnym przypadkiem jest co\u015b w rodzaju systemu gier Atari stworzonego przez DeepMind, w kt\u00f3rym zapami\u0119tywa\u0142, co musi robi\u0107, gdy widzia\u0142 piksele w okre\u015blonych miejscach na ekranie. Je\u015bli uzyskasz wystarczaj\u0105c\u0105 ilo\u015b\u0107 danych, mo\u017ce si\u0119 wydawa\u0107, \u017ce masz zrozumienie, ale w rzeczywisto\u015bci jest ono bardzo powierzchowne. Dowodem na to jest to, \u017ce je\u015bli przesuniesz obiekty o trzy piksele, AI gra znacznie gorzej. Zmiany stawiaj\u0105 go w martwym punkcie. To przeciwie\u0144stwo g\u0142\u0119bokiego zrozumienia.<\/p>\n
Aby rozwi\u0105za\u0107 ten problem, proponujesz powr\u00f3t do klasycznej sztucznej inteligencji. Jakie jej zalety powinni\u015bmy stara\u0107 si\u0119 wykorzysta\u0107?<\/b><\/p>\n
Zalet jest kilka. <\/p>\n
Po pierwsze, klasyczna sztuczna inteligencja jest w rzeczywisto\u015bci ram\u0105 do tworzenia modeli poznawczych \u015bwiata, na podstawie kt\u00f3rych mo\u017cna potem wyci\u0105ga\u0107 wnioski.<\/p>\n
Po drugie, klasyczny AI idealnie wsp\u00f3\u0142pracuje z regu\u0142ami. Obecnie w dziedzinie g\u0142\u0119bokiego uczenia obserwuje si\u0119 dziwn\u0105 tendencj\u0119, w kt\u00f3rej specjali\u015bci staraj\u0105 si\u0119 unika\u0107 regu\u0142. Chc\u0105 wszystko zrobi\u0107 na sieciach neuronowych i nie robi\u0107 niczego, co wygl\u0105da jak klasyczne programowanie. Jednak s\u0105 zadania, kt\u00f3re zosta\u0142y spokojnie rozwi\u0105zane w ten spos\u00f3b, a nikt na to nie zwraca\u0142 uwagi. Na przyk\u0142ad budowanie tras w Google Maps.<\/p>\n
W rzeczywisto\u015bci potrzebujemy obu podej\u015b\u0107. Uczenie maszynowe pozwala dobrze uczy\u0107 si\u0119 na danych, ale bardzo s\u0142abo pomaga w przedstawianiu abstrakcji, kt\u00f3r\u0105 stanowi program komputerowy. Klasyczny AI dobrze radzi sobie z abstrakcjami, ale musi by\u0107 ca\u0142kowicie programowany r\u0119cznie, a na \u015bwiecie zgromadzono zbyt wiele wiedzy, aby wszystko to zaprogramowa\u0107. Oczywiste jest, \u017ce musimy po\u0142\u0105czy\u0107 oba podej\u015bcia.<\/p>\n
To zwi\u0105zane jest z rozdzia\u0142em, w kt\u00f3rym opowiadasz o tym, czego mo\u017cemy nauczy\u0107 si\u0119 od ludzkiego umys\u0142u. I przede wszystkim o koncepcji, kt\u00f3ra opiera si\u0119 na wspomnianej wcze\u015bniej idei, \u017ce nasze \u015bwiadomo\u015b\u0107 sk\u0142ada si\u0119 z wielu r\u00f3\u017cnych system\u00f3w, kt\u00f3re dzia\u0142aj\u0105 na r\u00f3\u017cne sposoby.<\/b><\/p>\n
My\u015bl\u0119, \u017ce jest inny spos\u00f3b, aby to wyja\u015bni\u0107: ka\u017cdy system poznawczy, kt\u00f3ry posiadamy, naprawd\u0119 rozwi\u0105zuje r\u00f3\u017cne zadania. Podobne cz\u0119\u015bci AI powinny by\u0107 zaprojektowane do rozwi\u0105zywania r\u00f3\u017cnych zada\u0144, kt\u00f3re maj\u0105 r\u00f3\u017cne cechy.<\/p>\n
Obecnie pr\u00f3bujemy u\u017cywa\u0107 pewnych technologii all-in-one do rozwi\u0105zywania zada\u0144, kt\u00f3re zasadniczo r\u00f3\u017cni\u0105 si\u0119 od siebie. Zrozumienie zdania to nie to samo, co rozpoznawanie obiektu. Jednak ludzie pr\u00f3buj\u0105 w obu przypadkach stosowa\u0107 g\u0142\u0119bokie uczenie. Z punktu widzenia poznawczego to jako\u015bciowo r\u00f3\u017cne zadania. Po prostu jestem zdumiony tym, jak ma\u0142o w spo\u0142eczno\u015bci specjalist\u00f3w od g\u0142\u0119bokiego uczenia ceni klasyczny AI. Po co czeka\u0107 na pojawienie si\u0119 srebrnej kuli? Jest ona nieosi\u0105galna, a bezowocne poszukiwania nie pozwalaj\u0105 dostrzec ca\u0142ej z\u0142o\u017cono\u015bci zadania stworzenia AI.<\/p>\n
Wspominasz r\u00f3wnie\u017c, \u017ce systemy AI s\u0105 niezb\u0119dne do zrozumienia zwi\u0105zk\u00f3w przyczynowo-skutkowych. Uwa\u017casz, \u017ce w tym pomo\u017ce nam g\u0142\u0119bokie uczenie, klasyczny AI czy co\u015b zupe\u0142nie nowego?<\/b><\/p>\n
To jeszcze jedna sfera, dla kt\u00f3rej g\u0142\u0119bokie uczenie si\u0119 nie jest zbyt odpowiednie. Nie wyja\u015bnia przyczyn zdarze\u0144, a jedynie oblicza prawdopodobie\u0144stwo zdarzenia w okre\u015blonych warunkach.<\/p>\n
O czym m\u00f3wimy? Patrzysz na pewne scenariusze i rozumiesz, dlaczego tak si\u0119 dzieje oraz co mo\u017ce si\u0119 wydarzy\u0107, je\u015bli niekt\u00f3re okoliczno\u015bci si\u0119 zmieni\u0105. Mog\u0119 spojrze\u0107 na podstaw\u0119, na kt\u00f3rej stoi telewizor, i wyobrazi\u0107 sobie, \u017ce je\u015bli odetn\u0119 jej jedn\u0105 nog\u0119, to podstawa si\u0119 przewr\u00f3ci i telewizor spadnie. To jest zwi\u0105zek przyczynowo-skutkowy.<\/p>\n
Klasyczny AI daje nam do tego pewne narz\u0119dzia. Mo\u017ce na przyk\u0142ad wyobrazi\u0107 sobie, czym jest wsparcie i czym jest upadek. Ale nie b\u0119d\u0119 przesadza\u0107. Problem polega na tym, \u017ce klasyczny AI w du\u017cej mierze zale\u017cy od pe\u0142no\u015bci informacji o sytuacji, a ja wyci\u0105gn\u0105\u0142em wnioski, tylko patrz\u0105c na podstaw\u0119. W jaki\u015b spos\u00f3b mog\u0119 generalizowa\u0107, przedstawiaj\u0105c cz\u0119\u015bci podstawy, kt\u00f3re s\u0105 dla mnie niewidoczne. Na razie nie mamy narz\u0119dzi do realizacji tej cechy.<\/p>\n
M\u00f3wisz r\u00f3wnie\u017c o tym, \u017ce ludzie maj\u0105 wrodzon\u0105 wiedz\u0119. W jaki spos\u00f3b mo\u017cna to zrealizowa\u0107 w AI?<\/b><\/p>\n
W momencie narodzin nasz m\u00f3zg jest ju\u017c bardzo starannie zaprojektowanym systemem. Nie jest on sta\u0142y, natura stworzy\u0142a pierwszy, szorstki szkic. A nast\u0119pnie nauka pomaga nam przegl\u0105da\u0107 ten szkic przez ca\u0142e nasze \u017cycie.<\/p>\n
Szorstki szkic m\u00f3zgu ju\u017c dysponuje pewnymi mo\u017cliwo\u015bciami. Noworoczny kozio\u0142 g\u00f3rski ju\u017c po kilku godzinach potrafi bezb\u0142\u0119dnie schodzi\u0107 po stoku g\u00f3ry. Oczywiste jest, \u017ce ma ju\u017c zrozumienie przestrzeni tr\u00f3jwymiarowej, w\u0142asnego cia\u0142a oraz zwi\u0105zku mi\u0119dzy nimi. To bardzo skomplikowany system.<\/p>\n
Cz\u0119\u015bciowo dlatego uwa\u017cam, \u017ce potrzebujemy hybryd. Trudno wyobrazi\u0107 sobie, jak mo\u017cna stworzy\u0107 robota, kt\u00f3ry dobrze funkcjonuje w \u015bwiecie bez podobnej wiedzy, od czego ma zacz\u0105\u0107, zamiast zaczyna\u0107 od czystej kartki i uczy\u0107 si\u0119 na d\u0142uga do\u015bwiadczeniu.<\/p>\n
Je\u015bli chodzi o ludzi, nasze wrodzone wiedza pochodzi z naszego genomu, kt\u00f3ry ewoluowa\u0142 przez d\u0142ugi czas. Z systemami AI b\u0119dziemy musieli pod\u0105\u017ca\u0107 inn\u0105 drog\u0105. Cz\u0119\u015bciowo mog\u0105 to by\u0107 regu\u0142y budowania naszych algorytm\u00f3w. Cz\u0119\u015bciowo mog\u0105 to by\u0107 zasady tworzenia struktur danych, kt\u00f3rymi te algorytmy manipuluj\u0105. A cz\u0119\u015bciowo mog\u0105 to by\u0107 wiedza, kt\u00f3r\u0105 bezpo\u015brednio w\u0142o\u017cymy w maszyny.<\/p>\n
Interesuj\u0105ce, \u017ce w ksi\u0105\u017cce zbli\u017cacie si\u0119 do idei zaufania i tworzenia zaufanych system\u00f3w. Dlaczego wybrali\u015bcie akurat ten kryterium?<\/b><\/p>\n
Uwa\u017cam, \u017ce wszystko to dzi\u015b przypomina gr\u0119 w pi\u0142k\u0119. Mam wra\u017cenie, \u017ce prze\u017cywamy dziwny moment w historii, w du\u017cej mierze ufaj\u0105c oprogramowaniu, kt\u00f3re nie zas\u0142uguje na to zaufanie. My\u015bl\u0119, \u017ce nasze wsp\u00f3\u0142czesne obawy nie b\u0119d\u0105 wieczne. Za sto lat AI spe\u0142ni nasze zaufanie, a mo\u017ce nawet wcze\u015bniej.<\/p>\n
Jednak dzi\u015b AI jest niebezpieczne. Nie w tym sensie, jak boi si\u0119 Elon Musk, ale w tym, \u017ce systemy rekrutacyjne dyskryminuj\u0105 kobiety, niezale\u017cnie od tego, co robi\u0105 programi\u015bci, poniewa\u017c ich narz\u0119dzia s\u0105 zbyt proste.<\/p>\n
Chcia\u0142bym, aby\u015bmy mieli bardziej zaawansowane AI. Nie chc\u0119, aby zacz\u0119\u0142a si\u0119 'zima sztucznej inteligencji', kiedy ludzie zdadz\u0105 sobie spraw\u0119, \u017ce AI nie dzia\u0142a i jest po prostu niebezpieczne, i nie b\u0119d\u0105 chcieli tego naprawi\u0107.<\/p>\n
W pewnym sensie wasza ksi\u0105\u017cka rzeczywi\u015bcie wydaje si\u0119 bardzo optymistyczna. Zak\u0142adacie, \u017ce mo\u017cna zbudowa\u0107 godne zaufania AI. Po prostu musimy spojrze\u0107 w innym kierunku.<\/b><\/p>\n
To prawda, ksi\u0105\u017cka jest bardzo pesymistyczna w kr\u00f3tkim okresie i bardzo optymistyczna w d\u0142ugim okresie. Uwa\u017camy, \u017ce wszystkie opisane przez nas problemy mog\u0105 zosta\u0107 rozwi\u0105zane, je\u015bli szerszym okiem spojrzymy na to, jakie powinny by\u0107 w\u0142a\u015bciwe odpowiedzi. I my\u015blimy, \u017ce je\u015bli to si\u0119 stanie, \u015bwiat stanie si\u0119 lepszy.habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"\u042d\u0442\u043e\u0442 \u0442\u0435\u043a\u0441\u0442 \u2014 \u043d\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430\u0443\u0447\u043d\u043e\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f, \u0430 \u043e\u0434\u043d\u043e \u0438\u0437 \u043c\u043d\u043e\u0433\u0438\u0445 \u043c\u043d\u0435\u043d\u0438\u0439 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u0448\u0435\u0433\u043e \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0435\u0433\u043e \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f. \u0418 \u0437\u0430\u043e\u0434\u043d\u043e \u043f\u0440\u0438\u0433\u043b\u0430\u0448\u0435\u043d\u0438\u0435 \u043a \u0434\u0438\u0441\u043a\u0443\u0441\u0441\u0438\u0438. \u0413\u0430\u0440\u0438 \u041c\u0430\u0440\u043a\u0443\u0441, \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u043e\u0440 \u041d\u044c\u044e-\u0419\u043e\u0440\u043a\u0441\u043a\u043e\u0433\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u0430, \u0443\u0432\u0435\u0440\u0435\u043d, \u0447\u0442\u043e \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0433\u0440\u0430\u0435\u0442 \u0432\u0430\u0436\u043d\u0443\u044e \u0440\u043e\u043b\u044c \u0432 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0438 \u0418\u0418. \u041d\u043e \u043e\u043d \u0442\u0430\u043a\u0436\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442, \u0447\u0442\u043e \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0435 \u0443\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u044d\u0442\u043e\u0439 \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 \u043a \u0435\u0451 \u0434\u0438\u0441\u043a\u0440\u0435\u0434\u0438\u0442\u0430\u0446\u0438\u0438. \u0412 \u0441\u0432\u043e\u0435\u0439 \u043a\u043d\u0438\u0433\u0435 Rebooting […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29302,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-39055","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Nie](\"\/wp-content\/uploads\/2019\/10\/dccacd1c137f2ec973edd6dc5d4c42f3.png\")