Myślę, że problemem nie jest to, że maszyny zastąpią ludzi w miejscu pracy, także w sferze intelektualnej, ani to, że komputery najwyraźniej chwyciły za broń przeciwko osobom z wyższym wykształceniem i kontami na Twitterze. Wdrażanie sztucznej inteligencji nie następuje szybko, wręcz przeciwnie, jest zbyt wolne. Dlaczego? Bo to jest normalny cykl rozwoju człowieka, a my po prostu nie zdajemy sobie sprawy, że destrukcja, którą widzimy, oznacza wprowadzenie nowej technologii, która zanim stworzy nowe miejsca pracy, niszczy stare.
Technologie niszczą przestarzałe gałęzie przemysłu i tworzą nowe, to jest proces tworzenia, to jest cykl rozwoju. Jeśli spróbujesz przedłużyć agonię, włączając do procesu stare technologie lub tworząc pewne korzyści dla przestarzałych technologii, po prostu spowolnisz proces i sprawisz, że będzie on bardziej bolesny. Tak czy inaczej to się stanie, ale problem w tym, że regulujemy ten proces, tworząc zasady, które celowo go spowalniają. Myślę, że jest to problem większy niż te, których jesteśmy bardziej świadomi. Jest to raczej problem psychologiczny, w którym ludzie zadają pytanie: „jak możesz czuć się bezpiecznie, jadąc samochodem autonomicznym?”
Zajrzałem do historii i dowiedziałem się, że sto lat temu jednym z najpotężniejszych związków zawodowych w Nowym Jorku był związek pracowników wind, który zrzeszał 17 tysięcy pracowników. Swoją drogą, w tamtym czasie istniała już technologia, w której wystarczyło nacisnąć przycisk i gotowe, ale ludzie jej nie ufali! To okropne, że musisz sam nacisnąć przycisk, aby zadzwonić po windę! Czy wiesz dlaczego ten związek zawodowy „umarł” i ludzie sami zaczęli używać guzików? Ponieważ pewnego dnia pracownicy windy postanowili rozpocząć strajk. Rozpoczęli strajk, a wtedy ludzie, którzy musieli wspiąć się na szczyt Empire State Building, ryzykowali wciśnięciem guzików własnymi rękami.
Pamiętajcie, co mówili 20-30 lat temu o dzieciach i wnukach, gdy wsiadali za kierownicę samochodu: „to straszne, spójrzcie tylko na statystyki, bo samochody są jedną z głównych przyczyn śmiertelności ludzi, jak mogą ryzykować? ich życia?"
Więc to wszystko jest czystą psychologią. Nie zwracamy uwagi na to, ile osób ginie w wypadkach samochodowych, ale gdy jedna osoba ginie w samochodzie autonomicznym, wydarzenie staje się nieproporcjonalne. Każda usterka, każdy błąd w technologiach sztucznej inteligencji jest natychmiast omawiany na pierwszych stronach gazet. Ale spójrzcie na statystyki, spójrzcie na liczbę wypadków, a zobaczycie jaki to niewielki procent całkowitej liczby wypadków. Dlatego wspólnota ludzka zwycięży tylko wtedy, gdy będzie mogła iść do przodu, nie będąc sparaliżowanym przez takie lęki.
Kolejna kwestia pojawia się, gdy mówimy o fałszywych wiadomościach lub cyberbezpieczeństwie. Są to tematy bardzo upolitycznione i dostaję wiele telefonów z pytaniem, jak radzę sobie z hejterami AI. Na przykład prowadzę regularnie bloga, a mój nowy post, który ukaże się za kilka dni, opowiada o nienawiści i o tym, że wybawieniem od nienawiści jest wiedza, nauka. Musimy tylko zrozumieć, że problem ten istniał na długo przed wynalezieniem tych wszystkich rzeczy, tyle że teraz jego znaczenie wzrosło dzięki Internetowi, który dociera do milionów i miliardów ludzi.
Myślę, że to naprawdę dobrze, gdy ktoś próbuje zatrzymać postęp, próbując zakazać sztucznej inteligencji, a wiesz, że to nie zadziała, ponieważ mamy Putina i innych złoczyńców, gdziekolwiek się znajdują, którzy wykorzystują przeciwko nam nasze własne technologie stworzone w wolny świat. Dlatego uważam, że powinniśmy to po prostu przyjąć jako coś oczywistego.
Istota problemu leży tylko w nas, a odpowiedzi na pytania leżą w nas, w naszej własnej sile i naszej pewności siebie. Twierdzę, że inteligentne maszyny nie mogą uczynić nas „przestarzałymi”. Trzeba jednak pamiętać, że istnieją pewne ograniczenia dotyczące współpracy człowiek-komputer i w dużej mierze są to jedynie plotki, które istniały już wcześniej. Jak zawsze są to po prostu nowe możliwości, które niszczą stary świat i tworzą nowy, a im dalej pójdziemy do przodu, tym będziemy w lepszej sytuacji.
Dziś najbardziej przypomina to przeniesienie się w świat science fiction. Paradoks polega na tym, że jeśli spojrzymy wstecz na 50–60 lat, zobaczymy, że w tamtych czasach fantastyka naukowa była czymś absolutnie pozytywnym, była zupełną utopią. Potem jednak nastąpiło stopniowe przejście od utopii do dystopii, w taki sposób, że nie chcemy już słyszeć nic o przyszłości ludzkości.
To nie stało się z dnia na dzień. Był czas, kiedy ludzie uznali, że eksploracja kosmosu jest zbyt ryzykowna. To rzeczywiście duże ryzyko, ale wyobraźcie sobie, że w 1969 roku, kiedy Amerykanie wylądowali na Księżycu, cała moc obliczeniowa NASA była mniejsza niż moc jakiegokolwiek nowoczesnego urządzenia komputerowego, które mieści się w kieszeni. To urządzenie jest tysiąc razy potężniejsze od superkomputera, który istniał 40 lat temu. Wyobraź sobie, jaką moc obliczeniową masz w kieszeni! Nie jestem jednak pewien, czy Apple iPhone 7 ma taką samą moc obliczeniową, jaką miał Apollo 7, czyli jest w stanie wytworzyć ten sam efekt.
Jednakże maszyny zapewniły nam wiele wspaniałych postępów w eksploracji kosmosu i oceanów i musimy zrozumieć, że komputery umożliwiają nam podejmowanie wielkiego ryzyka.
Chciałbym zakończyć moje wystąpienie pozytywnym akcentem. Czy ten slajd nie pokazuje pozytywnych obrazów? Zdjęcie w prawym dolnym rogu nie jest przerobione w Photoshopie. Terminatora spotkałem w 2003 roku.
Od dzieciństwa kochał także szachy, ale nie uczył się ich specjalnie, więc przegrał bardzo szybko. Byłem więc bardzo zaskoczony, gdy 6 miesięcy później kandydował na gubernatora Kalifornii i wygrał!
Dlaczego nazywam te zdjęcia pozytywnymi? Bo choć we wszystkich odcinkach z wyjątkiem pierwszego, stary Arnold zawsze staje po stronie zwycięzców i nigdy nie męczy się walką z nowymi maszynami, to już w pierwszym odcinku widzimy kombinację, o której mówiłem – wtedy osoba plus stara maszyna plus doskonały interfejs pokonuje najnowszy samochód.
Możesz powiedzieć: „tak, maszyny są silniejsze od ludzi, ponieważ potrafią obliczyć absolutnie wszystko!” Nie chodzi jednak o to, że potrafią wszystko obliczyć. Na przykład w szachach technicznie możemy mówić o matematycznej nieskończoności liczby możliwych ruchów, równej 1045, których obliczenie nie jest trudne dla żadnego współczesnego komputera. Jednak w grze nie liczą się obliczenia, ale to, że komputer wyprzedza człowieka, bo zawsze kieruje się zasadami. Znasz efekt tych zasad i wiesz, dlaczego komputer wybiera najlepszy ruch z ogromnej różnorodności możliwych ruchów.
Ale jeśli przejdziemy do prawdziwego życia, nie jestem pewien, czy komputer zawsze może się przydać. Przyjrzyjmy się najbardziej typowej sytuacji – masz komputer, który monitoruje Twój budżet, jesteś w sklepie i masz zamiar kupić drogi prezent. Komputer ocenia zakup i mówi: „Nie, nie stać Cię na ten przedmiot, ponieważ przekroczysz budżet”. Maszyna wszystko obliczyła, ale jest mały niuans - Twoje dziecko stoi obok Ciebie, a ten prezent jest przeznaczony na jego urodziny. Czy widzisz, jak zmienia to warunki problemu? To zmienia wszystko, bo dziecko czeka na ten prezent.
Mogę zacząć dodawać te małe rzeczy, które zmieniają wszystko, ale nie sądzę, że można je uwzględnić w opisie problemu i znaleźć właściwe rozwiązanie. Mamy wiele zasad, ale nadal musimy zadawać pytania, ponieważ wszystko się zmienia. Można to nazwać zwyczajną sytuacją, ale patrząc na te filmy, można powiedzieć, że przedstawiona tutaj sytuacja jest bardziej dramatyczna i niezwykła. Ten slajd przedstawia kadr z V odcinka Gwiezdnych Wojen: Imperium Kontratakuje.
Han Solo pilotuje statek prosto przez pole asteroid, a C-3PO wpada w panikę, zgłaszając, że szansa na przeżycie tego pola wynosi 1: 3122. Han Solo mówi mu: „Nigdy nie mów mi, jakie są nasze szanse!” Tutaj pojawia się pytanie, kto w tej sytuacji ma więcej racji?
Technologia reprezentowana przez C-3PO jest jak najbardziej słuszna, gdyż szansa na przeżycie dąży do zera. Możliwe, że z punktu widzenia robota schwytanie przez siły imperialne jest lepszym wyborem, którego człowiek nawet nie wziąłby pod uwagę, niż śmierć w polu asteroid. Jeśli jednak komputer uzna, że poddanie się imperium jest najlepszą opcją, możemy założyć, że dana osoba nie ma żadnego wyboru. Bardzo ważne jest to, że w obu przypadkach, zwyczajnym i nadzwyczajnym, mamy możliwość podjęcia ostatecznej decyzji, a podjęcie takiej decyzji nadal wymaga przywództwa człowieka.
Czasami oznacza to, że musisz postępować wbrew zaleceniom komputera. Celem ludzkiego przywództwa nie jest poznanie szans, ale zadawanie pytań, które naprawdę mają znaczenie, nie tylko dziś czy jutro, ale w odległej przyszłości. Proces ten można nazwać „przewodnictwem człowieka” lub „interwencją człowieka”, wywieraniem wpływu bez pomocy inteligentnych maszyn. Właśnie taki powinien być nasz kurs w tym stuleciu.
Biorąc pod uwagę moje doświadczenia z nimi, ludzie są czasami zaskoczeni moim optymizmem co do inteligentnych maszyn, ale ja naprawdę jestem optymistą. Jestem pewien, że wszyscy z równym optymizmem patrzycie w przyszłość sztucznej inteligencji. Musimy jednak pamiętać, że nasze technologie są agnostyczne. Nie jest ani dobre, ani złe, ale może być użyte zarówno w dobrym, jak i złym celu. Maszyny muszą stać się inteligentniejsze i wydajniejsze. A my, ludzie, musimy robić to, co potrafią tylko ludzie – marzyć, marzyć w pełni, a wtedy będziemy mogli wydobyć wszystkie korzyści, jakie przynoszą te niesamowite nowe narzędzia.
Zgodnie z planem zostało nam jeszcze 10 minut na udzielenie odpowiedzi na pytania.
Pytanie: Czy uważasz, że możliwe byłoby stworzenie systemu uczenia maszynowego, który określałby, które ruchy są bardziej spójne z ludzkim stylem gry?
Kasparow: Po pierwsze, nie oczekujemy, że komputer powie nam pierwszy ruch i pozostałe 17505 9 ruchów. Myślę, że powinniśmy polegać na maszynie, która zapewni najlepsze rekomendacje dotyczące unikalnych ruchów. Swoją drogą, najwyższej klasy gracze korzystają z komputerów jako przewodników, pomagających im zająć najodpowiedniejszą pozycję w grze. Powtarzam jeszcze raz – w 10 na XNUMX przypadków komputerowa ocena sytuacji jest znacznie lepsza od tej, którą może dokonać człowiek.
Pytanie: Czy zgadzasz się, że prawdziwa inteligencja wymaga wolności wyboru, wolności podejmowania decyzji, które może podjąć tylko osoba? W końcu oprogramowanie Deep Blue i inne programy komputerowe są pisane przez ludzi, a kiedy przegrywasz z Deep Blue, przegrywasz nie z komputerem, ale z programistami, którzy napisali program. Moje pytanie brzmi: czy istnieje jakieś zagrożenie ze strony jakiejkolwiek inteligencji maszynowej, jeśli komputery mają swobodę wyboru?
Kasparow: tutaj muszę przejść od nauki do filozofii. W przypadku Deep Blue wszystko jest jasne – to efekt ogromnej pracy człowieka. W większości przypadków, nawet w przypadku AlphaGo Demisa Hassabisa, wszystko to jest wytworem ludzkiej inteligencji. Nie wiem, czy maszyny mogą mieć wolność wyboru, ale wierzę, że cokolwiek zrobimy, jeśli będziemy wiedzieć, jak to zrobić, maszyny zrobią to lepiej. Jednak gdy większość rzeczy wykonujemy, nie wiemy, jak to zrobić najlepiej, dlatego często nie jesteśmy w stanie zrozumieć, co nam się uda. Mówiąc najprościej, mamy cel, ale nie wiemy, jaki on jest, a rolą maszyny jest pomóc nam w realizacji tego celu. Dlatego jeśli mówimy o swobodnym wyborze komputerów, powinno to pomóc nam w osiągnięciu tego celu. Myślę, że to bardzo odległa przyszłość komputerów.
Pytanie: Co sądzisz o cechach człowieka, takich jak odwaga i moralność, oraz o decyzjach, które sztuczna inteligencja może na ich podstawie podejmować? Na przykład, co powinien zrobić samochód autonomiczny – przejechać dziecko czy uniknąć uderzenia w skałę i zabicia pasażera?
Kasparow: To jest to, co ludzie nazywają „uczuciami”. Nie można ich określić ilościowo, ponieważ jest to cała gama różnych cech ludzkich. Jeśli mówimy o odwadze, to cecha ta zawsze przekreśla szanse wyboru optymalnej opcji. Odwaga, podobnie jak inne ludzkie emocje, z definicji stoi w sprzeczności z dokładną kalkulacją.
Pytanie: Panie Kasparow, moje pytanie nie dotyczy komputerów: co jest w pańskiej kolbie i czy mogę tego spróbować?
Kasparow: co masz na myśli?
Prowadzący: Pyta, co masz w kieszeni!
Kasparow: w mojej kieszeni? „Stoliczna”! To nie jest reklama, jeśli zauważyłeś, to wyrzuciłem.
Pytanie: Kto według Ciebie zostanie kolejnym mistrzem świata w szachach i czy młody chiński szachista Wei Yi ma szansę zdetronizować Carelsena jako króla szachów?
Kasparow: Karelsen jest graczem numer 1, nie jest mistrzem świata, ale po prostu najlepszym szachistą na świecie według rankingu. W tym roku kończy 27 lat, więc jest jeszcze młody, ale nie bardzo młody jak na dzisiejsze standardy. Myślę, że Wei Yi ma teraz 18 lub 19 lat. Magnus wyprzedza młodych zawodników, takich jak Amerykanie Wesley So i Fabiano Kerouana, a Wei Yi mógłby potencjalnie być jego przeciwnikiem. Aby jednak zostać mistrzem świata, trzeba mieć talent, nie trzeba być młodym i energicznym, wystarczy mieć trochę szczęścia. Odpowiadając więc na pytanie, mogę powiedzieć – tak, ma szansę pokonać Magnusa Carelsena.
Pytanie: Mówiąc o algorytmach deterministycznych i uczeniu maszynowym, wspomniałeś o możliwości wykorzystania maszyn jako narzędzi uzupełniających naszą inteligencję. A co z możliwością maksymalizacji zasobów przed stworzeniem potężnej sztucznej inteligencji lub nawet umieszczeniem ludzkiego mózgu w komputerze?
Kasparow: Nie wstydzę się przyznać do swojej niewiedzy, kiedy nie jestem pewien, czy nie potrafię poprawnie odpowiedzieć na pytanie. Staram się jak mogę zrozumieć, czym jest ludzki mózg, jeśli rozpatrywać go w oderwaniu od ludzkiego ciała, jakie funkcje pełni. Ponieważ trudno sobie wyobrazić, jak mózg będzie się zachowywał oddzielnie od ciała. Być może uda się przeprowadzić taki eksperyment w przyszłości, jednak jestem przekonany, że połączenie ludzkiego mózgu, ludzkich uczuć i emocji z komputerem stworzy „umysł”, który będzie znacznie skuteczniejszy niż mózg wydobyty i zamrożony, wykorzystany jako urządzenie wypełnione neuronami.
Pytanie: Czy istnieje uniwersalne, podstawowe podejście do problemu zastępowania pracy człowieka komputerami?
Kasparow: Myślę, że to bardzo ważne pytanie, ponieważ jasne jest, że zbliżamy się do punktu, w którym wiele osób może zostać bezrobotnych. Na tym polega paradoks postępu technologicznego: z jednej strony mamy najnowsze technologie, które zapewniają ogromne przewagi konkurencyjne młodszemu pokoleniu, które ma do czynienia z tymi urządzeniami i technologiami. Z drugiej strony mamy postęp w medycynie i zdrowym żywieniu, które przedłuża życie człowieka i daje mu zdolność do pracy na wiele lat. W tym sensie pokolenie lat 50., 60., a nawet 40. nie może konkurować z dzisiejszą młodzieżą. Musimy znaleźć rozwiązanie tej paradoksalnej sytuacji, w której przepaść między pokoleniami jest tak duża. Doświadczenie historyczne mówi, że taka luka zawsze prowadzi do wielkiej eksplozji. Mam na myśli przepaść pomiędzy istniejącą infrastrukturą społeczną społeczeństwa a postępem technologicznym.
To kwestia, którą politycy wolą odłożyć do następnych wyborów. Nikt nie chce o tym rozmawiać, bo to drażliwy temat. Bardzo łatwo jest wydrukować pieniądze i mieć nadzieję, że ktoś kiedyś za to zapłaci. Istnieje więc wiele paradoksów w tym obszarze, np. kumulacja długów w celu zapewnienia gwarancji socjalnych starszemu pokoleniu w oczekiwaniu, że ciężar spłaty tych długów spadnie na barki młodszego pokolenia. Jest wiele pytań, na które nie znam odpowiedzi, i wiele pytań, które mógłbym zadać, i mam nadzieję, że sztuczna inteligencja będzie mi w stanie pomóc.
To bardzo źle, że od dziesięcioleci politycy starają się ignorować problemy, o których właśnie rozmawialiśmy. Zawsze są gotowi do wypowiedzi, zawsze mają plany, ale nie chcą zrozumieć, jakie skutki przynosi milczenie na temat problemu konfliktu technologii ze społeczeństwem. Dziękuję za uwagę!
Dziękujemy za pobyt z nami. Podobają Ci się nasze artykuły? Chcesz zobaczyć więcej ciekawych treści? Wesprzyj nas składając zamówienie lub polecając znajomym, 30% zniżki dla użytkowników Habr na unikalny odpowiednik serwerów klasy podstawowej, który został przez nas wymyślony dla Ciebie: (dostępne z RAID1 i RAID10, do 24 rdzeni i do 40 GB DDR4).
Dell R730xd 2 razy tańszy? Tylko tutaj w Holandii! Dell R420 — 2x E5-2430 2.2 GHz 6C 128 GB DDR3 2x960 GB SSD 1 Gb/s 100 TB — od 99 USD! Czytać o
Źródło: www.habr.com