Wiele osób, które mnie znają, może potwierdzić, że do wielu kwestii podchodzę dość krytycznie, a w pewnym sensie przejawiam nawet sporą dozę maksymalizmu. Trudno mnie zadowolić. Zwłaszcza jeśli chodzi o książki. Często krytykuję fanów science fiction, religii, kryminałów i wielu innych bzdur. Myślę, że najwyższy czas zająć się naprawdę ważnymi sprawami i przestać żyć w iluzji nieśmiertelności.
Podczas jednej z rozmów z jednym z moich dobrych znajomych, po kolejnym oburzeniu, że wmawiano mi ciągle różne bzdury (to samo science fiction), poradził mi, abym przestudiował książkę „Życie 3.0. Być człowiekiem…". Wstyd się przyznać, że pobrałem go dawno temu i nawet tego nie zauważyłem, wraz ze wspaniałym wyborem Dynasty Foundation. Bardzo trudno jest mi zadowolić, bo... Przerobiłem, delikatnie mówiąc, sporo książek. Ale ta przypadła mi do gustu i postanowiłam nie tylko odpowiedzieć na jego pytanie, czy warto nad nią pracować, czy nie, ale także napisać własną, krytyczną recenzję, bo choć książka jest warta uwagi, to jednak coś nad czym można popracować.
Chciałbym wierzyć, że moja recenzja nie utonie jak zawsze w natłoku powodzi i spamu, a dotrze nie tylko do czytelników, ale także do autorów, którzy uwzględnią niedociągnięcia w kolejnych pracach. Oczywiście poniżej jest tylko moja subiektywna opinia, ale postaram się ją jak najbardziej uzasadnić. Pomimo tego, że jak zawsze katastrofalnie, na wszystko nie ma czasu i tak naprawdę jestem przeciętnym żebraczym niewolnikiem; jednak napisanie tej recenzji uważam za swój obywatelski obowiązek jako kosmopolity, ponieważ… Interesuję się tym i wieloma innymi tematami pokrewnymi od dawna. Wierzę, że znaczna część z tego, co zostało opisane poniżej, to podstawowe zadania postawione zarówno ludzkości jako całości, jak i jej poszczególnym jednostkom. Nieważne, jak pretensjonalnie to zabrzmi. Więc…
Życie 3.0. Być człowiekiem
Krytyka
Wpadki zaczynają się dosłownie od pierwszych stron książki. Cytuję:
„Jak wiadomo, od dawna nie ma zgody w kwestii tego, co uważa się za życie. Zaproponowano ogromną liczbę alternatywnych definicji, a niektóre z nich zawierają dość rygorystyczne ograniczenia: na przykład obecność struktury komórkowej, która prawdopodobnie wykluczyłaby przyszłe myślące maszyny i niektóre cywilizacje pozaziemskie z listy żywych istot. Ponieważ nie chcemy ograniczać naszego myślenia o przyszłości życia do gatunków, które już znamy, przyjmijmy jego szerszą definicję, obejmującą każdy inny proces, o ile ma on złożoność i zdolność do samoreprodukcji. Nie jest aż tak ważne to, co dokładnie jest odtwarzane (składa się z atomów), ważna jest informacja (składa się z bitów), o której decyduje względne położenie atomów względem siebie. Kiedy bakteria kopiuje swoje DNA, nie powstają żadne nowe atomy, lecz istniejące atomy układają się w łańcuch dokładnie powtarzający pierwotny, więc kopiowana jest tylko informacja. Innymi słowy, za żywy można uznać każdy samoreprodukujący się system zdolny do przetwarzania informacji, którego własna informacja („oprogramowanie”) determinuje zarówno jego zachowanie, jak i strukturę („twardą”)”.
Nie ma porozumienia, ale w tej chwili są jaśniejsze poglądy na temat życia. Dobrze byłoby się z nimi zapoznać.
W przeciwnym razie, jeśli uprościmy to w ten sposób i podejdziemy do tego z tej pozycji, życie można przypisać wzrostowi złożonych kryształów, które odtwarzają swoją strukturę z podłoża. A może niektóre procesy powstawania oleju i próchnicy, w których znajduje się również ziarno, prowadzą do pojawienia się cząsteczek tego samego nasiona. Są to niejako przodkowie enzymów, ale we współczesnej nauce nie uważa się ich za pełne życia, ponieważ nie są zdolne do rozwoju i mutacji. Jeśli nie ma zmienności, to nie jest życie. Dlatego proponuję nieco zawęzić pojęcie życia i ponownie rozważyć, jakie inne cechy może ono posiadać. Polecam również mój artykuł: „Klasyfikacja potencjału życiowego”.
Następny cytat:
„Podążając za samym Wszechświatem, życie staje się coraz bardziej złożone i interesujące 4 i, jak teraz wyjaśnię, wydaje mi się przydatne wprowadzenie klasyfikacji form życia według ich zgodności z trzema stopniami złożoności: Życie 1.0, 2.0 i 3.0. To, jak te trzy formy różnią się od siebie, można wyraźnie zobaczyć ogólnie na ryc. 1.1….
Trzy etapy życia: ewolucja biologiczna, ewolucja kulturowa i ewolucja technologiczna. Życie 1.0 nie może w trakcie swojego istnienia wpływać ani na „twarde”, ani na „miękkie”.
pojedynczy organizm: oba są określone przez jego DNA, które może zmieniać się z pokolenia na pokolenie w ciągu długiego okresu ewolucji.
Tutaj, o ile rozumiem, jest rażący błąd. Widać, że autor nie jest zaznajomiony ze współczesnymi badaniami nad mikroorganizmami. Mogą zmieniać zarówno sprzęt, jak i oprogramowanie. Te. życie 1 faktycznie może zrobić to samo, co życie 3. Mikroorganizmy potrafią nawet lepiej niż ludzie wychwytywać fragmenty DNA. Robią to na różne sposoby. Albo bezpośrednio, ze środowiska (jeśli znajdą DNA jakiejś zniszczonej komórki), albo za pomocą bakteriofagów i plazmidów, albo przez rozmnażanie płciowe, tworząc u bakterii tzw. Koniugację płciową pil – Wikipedia. Potrafią także z niezwykłą precyzją wycinać niepotrzebne obszary. Na przykład dzięki CRISPR. Dlatego nawet Życie 1.0 może zmienić zarówno swój sprzęt, jak i oprogramowanie. To dla nas, którzy boimy się GMO i zapomnieliśmy, że LUCA w pewnym stopniu żyje, wydaje się czymś innowacyjnym i niespotykanym. Straciliśmy tę umiejętność i dla „inteligentnych” naczelnych wymiana dysku twardego stała się całkowitym tabu. Dlatego nie jest to nowe, jest dobrze zapomniane. Porównanie tego parametru nie ma sensu. Stopień złożoności to jedno, ale samozmiana (na różnych poziomach złożoności) to drugie. Musisz umieć oddzielić muchy od kotletów. Klasyfikacja wymaga istotnej zmiany.
Ale to wciąż kwiaty. Nie miałam wtedy możliwości zrobienia zakładek. Pomimo tego, że książka w odpowiedni sposób porusza tematy niezwykle ważne i globalne, autor jest bardzo erudycyjny, jednak najwyraźniej czegoś mu brakowało, aby dokonać kompetentnej interpolacji i mimo to dojść do rozsądnych hipotez roboczych i przynajmniej wstępnych wniosków.
Przykładowo w jednym z odcinków interpoluje prymitywne, łobuzerskie podejście ludzi do AI, obawiając się i rozważając możliwość oszukania ludzi przez AI. Tak, możliwe, że jeśli jest to po prostu silna sztuczna inteligencja, to takie oszustwo może mieć miejsce. Jeśli jednak jest to supersztuczna inteligencja (AI), jest mało prawdopodobne, aby takie oszustwo było potrzebne. Tyle, że taka inteligencja, bez kłamstw i przebiegłości, będzie w stanie zaproponować wielu ludziom dokładnie taką ofertę, której nie będą mogli odmówić. Nie mam tutaj możliwości opisywania wszystkiego, ale żeby zrozumieć, dlaczego jest większe prawdopodobieństwo, że AI nie będzie skłonna do oszukiwania, polecam przestudiować chociażby książki Matta Ridleya. „Pochodzenie altruizmu i cnoty”, a przede wszystkim „Ewolucja wszystkiego”. Analizując te prace, można stwierdzić, że im wyższy rozwój, tym większa tendencja do altruizmu, współpracy i gier o sumie niezerowej, a nie rywalizacji. Zatem im mądrzejszy intelekt, tym większe prawdopodobieństwo, że będzie bardziej ludzki i uczciwy. Te. inteligencja sama w sobie jest potężnym źródłem zrozumienia i wykorzystania ludzi nie jako oszukanych konkurentów, ale jako sojuszników. Znajdź mocne i słabe strony ludzi, zrekompensuj te pierwsze i wykorzystaj te drugie. Jeśli nie ma potrzeby współpracy z ludźmi, jest mało prawdopodobne, aby istniała potrzeba rywalizacji, ponieważ W okolicy jest mnóstwo darmowych zasobów. Nasze oceany są nadal puste. Dużo pustej przestrzeni pod Ziemią, już milczę dla innych planet. Dlatego zaawansowana technologicznie sztuczna inteligencja, zlokalizowana na bardziej wydajnym nośniku niż te tworzone w wyniku ślepej selekcji z form biologicznych, będzie miała przestrzeń do wędrowania bez jakiejkolwiek rywalizacji z ludźmi. Po prostu zajmie wiele z tych nisz, do których ludzie nadal sięgają i być może nigdy nie będą mogli zająć. I nikogo nie oszuka. Już teraz nie tylko sztuczna inteligencja, ale nawet zwykli, piśmienni ludzie praktykują inne podejście. Nie oszustwo i tajemnica, ale maksymalna otwartość, szczerość i współpraca. Ludzie o skostniałej, archaicznej, złodziejskiej mentalności nie są w stanie tego zrozumieć. Najprawdopodobniej kod AI po prostu nie będzie open source. Podobnie jak kod wielu wolnych programów. Hakerzy nie będą karani i tłumieni, ale będą zachęcani do zgłaszania luk w tym kodzie. To samo dotyczy morderstwa jako kary i więzienia. To wszystko się nie stanie, to jest dzikość. Istnieją dwie drogi dla osób zmarginalizowanych: najpierw należy je szczegółowo przestudiować, a następnie albo wziąć pod uwagę i wysłuchać, idąc z nimi na kompromis, ponieważ może to być niezwykle ważna opinia, bądź reedukacja, leczenie, a nie karanie.
Generalnie jestem kategorycznie przeciwny tym wszystkim obawom i nastrojom luddystycznym; ludzkość musi włożyć wszystkie swoje wysiłki w tworzenie inteligencji, ponieważ w rzeczywistości nasza naturalna inteligencja nie jest zbyt mądra. Po prostu wiele naczelnych, nie da się ich inaczej nazwać, nie zauważajcie tego. Wracając do interpolacji, chciałbym podsumować tę część i kontynuować. Jak widzimy, z jednej strony Tegmark nie powinien wyciągać analogii i przenosić ludzkich kompleksów z chorej ludzkiej głowy na zdrową cyfrową głowę: przebiegłość, oszustwo itp. itd., a z drugiej strony w niektórych fragmentach nie może decydować, mając globalne zrozumienie sensu życia. Jest to również bardzo przygnębiające i pokazuje, że niewiele pracował nad ewolucją. Gdyby pracował więcej, nie miałby dylematu, jakie cele lub, powiedziałbym nawet, filozofię i wyznaczanie celów należy stawiać AI. Ponieważ Analizując otaczający nas świat, możemy stwierdzić, że praktycznie wszystko, co żyje, a może i nie żyje, dąży do ekspansji. Wiele kompleksowo rozwiniętych form życia dąży do jeszcze większego rozwoju, samodoskonalenia, poszerzania swoich wpływów i interakcji z innymi żywymi i nieożywionymi obiektami. Dlatego najprawdopodobniej AI albo sama dojdzie do podobnych wniosków, albo takie zasady zostaną w niej osadzone. W rezultacie będzie nadal, jak wszystkie żywe istoty, rozwijać, ulepszać i podbijać nowe terytoria, przekształcając Świat nie tylko dla siebie, ale także dla swojego otoczenia.
Zgadzam się
Jeśli przewracasz oczami, gdy słyszysz o zbrojnym przejęciu całego świata przez robotyczne Terminatory, to Twoja reakcja jest trafna: taki scenariusz wcale nie jest realistyczny. Te
Roboty z Hollywood nie mogą być od nas mądrzejsze ani nawet mądrzejsze. Moim zdaniem niebezpieczeństwo w historii Terminatora nie jest tym, co może się wydarzyć.
coś podobnego, ale odwraca naszą uwagę od realnych zagrożeń i niebezpieczeństw związanych ze sztuczną inteligencją. Przejście od obecnego świata do świata, w którym
przewaga, którą naprawdę zdobywa uniwersalna sztuczna inteligencja, wymaga trzech logicznych kroków:
- Krok 1. Stwórz uniwersalną sztuczną inteligencję (AGI) na poziomie człowieka.
- Krok 2. Użyj tego AGI do stworzenia superinteligencji.
- Krok 3. Wykorzystaj superinteligencję do przejęcia władzy nad światem lub daj mu możliwość zrobienia tego samodzielnie.
Szukaj po tekście, podobna historia z mediami, które piszą o wojnie robotów itp.
Moje sugestie.
Nie będę się męczył powtarzaniem, teraz każdy musi włożyć całą swoją moc w tworzenie umysłu, to umysł, a nie piękno czy inna głupota, moim zdaniem, uratuje Świat. I nie należy oddzielać tego umysłu (intelektu) poprzez wyznaczanie granic - sztucznych, naturalnych. Na tym etapie sztuczna inteligencja jest jeszcze w powijakach, dlatego rola naturalnej inteligencji, wspieranej technologią, jest bardzo duża. Nie ma wyraźnej granicy pomiędzy sztucznym i naturalnym. Jeśli chcemy stworzyć normalną inteligencję, a nie tę prymitywną, która obecnie istnieje, musimy wykorzystać wszystkie możliwości, wykorzystać wszystkie technologie, bo... działają w rekurencyjnym tandemie: naturalna inteligencja tworzy sztuczną inteligencję, a sztuczna inteligencja, przynajmniej na początkowych etapach, będzie zainteresowana unowocześnieniem i rozszerzeniem możliwości naturalnej inteligencji.
Jaką przyszłość chciałbym dla siebie zobaczyć?
Warto od razu zaznaczyć, że jest to na tę chwilę moja najbardziej optymistyczna prognoza. Prawdę mówiąc, jest mało prawdopodobne, że w naszym archaicznym społeczeństwie będę w stanie temu sprostać. Ale chcę wierzyć. Po części chciałbym, żeby efekt końcowy był taki jak w filmie: „Pytania Wszechświata: Czy możemy żyć wiecznie?” z Adamem Savage'em z Discovery.
Możliwe problemy
Chciwi ludzie zdyskredytują sztuczną inteligencję. Zaczną wykorzystywać słabą, a nawet silną, ale nie przesadną sztuczną inteligencję do własnych, egoistycznych celów. I tu pojawia się problem, który, jeśli mnie pamięć nie myli, jest w książce słabo opisany.
Myślę, że czy nam się to podoba, czy nie, w przyszłości czekają nas ostre, okrutne, ale intelektualne bitwy, na poziomie kodów, memów, programów, przekonań itp. Najprawdopodobniej będą one pokazywane przede wszystkim na nośnikach cyfrowych w wirtualnej rzeczywistości, która będzie jeszcze bardziej realistyczna niż banalna. Nie będzie ofiar ani rozdartego mięsa z krwią. Wojna będzie toczona o nasze poglądy, opinie, osądy. Im szybciej zacznie się ta wojna, tym lepiej dla wszystkich. Nie ma się czego bać, już się zaczęło i jeśli nie chcemy pozostać outsiderami, musimy wziąć w tym udział. Nie pamiętam, gdzie przeczytałem, że jeśli jesteś offline, to pomyśl, że nigdy nie żyłeś. Brzmi to szalenie i obskurantyści (miłośnicy robaków, lasów i kupy) będą się ze mną kłócić. Ale jeśli depczą kupę w lasach i karmią komary. wtedy nie będziesz musiał się z nimi kłócić. Będziemy musieli kłócić się ze wprowadzonymi w błąd hipokrytami, którzy korzystając z technologii uważają ją za złą i wszystko jest złe, W JAKIŚ SPOSÓB nie zrezygnują z IT, które nas wszędzie otacza.
Linki i komunikacja
Autor na łamach książki nie raz sugerował kontakt z nim przez stronę internetową . Obydwoje jestem za takimi połączeniami. Myślę, że zarówno czytelnicy, jak i pisarze na tym skorzystają. Ale z jakiegoś powodu moja strona za pośrednictwem linku nie otworzyła się, ale przekierowała do niektórych . Być może, jeśli znajdę czas, spróbuję podać link do tej recenzji autorowi książki, mimo że mój artykuł jest w języku rosyjskim, a strona jest w języku angielskim. Na szczęście istnieją tłumacze elektroniczne. Będziesz musiał także zajrzeć, być może są tam już inne przydatne przemyślenia. A jeszcze lepiej tutaj jest ziminbookprojects.ru. Najprawdopodobniej jest to podobna wersja poprzedniej strony, ale w języku rosyjskim. Ale nie jestem pewien. W każdym razie uważam, że linki są godne uwagi, podobnie jak poruszane tematy.
Oto jeszcze kilka cytatów, które mi się spodobały:
Dla wierzących:
„Jeśli okaże się, że wszystkie podlegają prawom fizyki, wówczas dusza nie ma zatem wpływu na cząsteczki, z których się składasz, co oznacza, że twoja świadomość, twój umysł i jego zdolność do kontrolowania twoich ruchów nie mają nic wspólnego zrobić z duszą. Jeżeli natomiast okaże się, że cząstki z których się składasz nie podlegają znanym prawom fizyki, gdyż przeszkadza w tym wpływ Twojej duszy na nie, wówczas ten nowy byt musi być z definicji fizyczny, a wtedy będziemy mogli go badać, tak jak w przeszłości badaliśmy pola i cząstki.”
Bardzo przydatne dla tych, którzy oddzielają naukę od religii. Wierząc, że nauka nie powinna kolidować z religią, a religia z nauką. Jednak dla ślepych fanatyków religijnych jest to pusty frazes. Ale dla wątpiących ludzi, którzy potrafią logicznie myśleć, myślenie jest więcej niż przydatne.
Dla naukowców:
„genom bakterii Candidatus Carsonella ruddii przechowuje do 40 kilobajtów informacji, podczas gdy nasz ludzki genom przechowuje około 1,6 gigabajta”
Interesujący fakt. Próbuję je zbierać. Być może przyda się w pracy, lub po prostu przy omawianiu tematów z zakresu bioinformatyki.
Ogólnie rzecz biorąc, książkę można niemal całkowicie rozłożyć na cytaty i szczegółowo przeanalizować, ale niestety, jak zawsze, nie ma czasu. Swoją drogą znajomy, który polecił mi tę pracę, w ogóle nie rozumiał istoty i znaczenia, ponieważ… Słuchałem tej książki nie za pomocą syntezatora mowy, ale jako audiobooka. Dlatego część jego uwagi była poświęcona PIĘKNO głosu spikera, a nie jego znaczeniu. O niemożliwości cytowania i wielu innych rzeczach, których w audiobookach nie ma, już przemilczam. Cóż, to takie małe wołanie z serca dla zagorzałych miłośników audiobooków. Wszystko to szczegółowo opisałem w mojej książce „Księga 3.0. Słuchać!
Źródło: www.habr.com