Mulți dintre cei care mă cunosc pot confirma că sunt destul de critic cu privire la o mulțime de probleme și, într-un fel, chiar dau dovadă de o cantitate suficientă de maximalism. sunt greu de multumit. Mai ales când vine vorba de cărți. Ii critic adesea pe fanii science-fiction, religie, povestiri polițiste și multe alte prostii. Cred că este timpul să ne ocupăm de lucrurile cu adevărat importante și să nu mai trăim în iluzia nemuririi.
În cadrul uneia dintre discuțiile cu unul dintre bunii mei prieteni, după următoarea mea indignare față de faptul că mi se oferă constant diverse prostii (aceeași science fiction), m-a sfătuit să lucrez la cartea „Viața 3.0. A fi om…". Îmi este rușine să recunosc că l-am descărcat cu mult timp în urmă și nici măcar nu l-am observat, împreună cu selecția magnifică a Fundației Dynasty. Îmi este foarte greu să mă mulțumesc, pentru că... Am lucrat prin destul de multe cărți, ca să spunem ușor. Dar acesta mi-a plăcut și am decis nu doar să-i răspund la întrebarea dacă merită să lucrez la ea sau nu, ci și să scriu propria mea recenzie critică, pentru că, în ciuda faptului că cartea merită atenție, există încă ceva de lucrat.
Aș vrea să cred că recenzia mea nu se va îneca, ca întotdeauna, în masa de inundații și spam și va ajunge nu numai la cititori, ci și la scriitori care vor ține cont de neajunsurile din lucrările ulterioare. Desigur, mai jos este doar părerea mea subiectivă, dar voi încerca să o fundamentez pe cât posibil. În ciuda faptului că, ca întotdeauna catastrofal, nu există timp pentru toate și, de fapt, sunt un sclav al cerșetorului obișnuit; totuși, consider că este datoria mea civică ca cosmopolit să scriu această recenzie, pentru că... Sunt interesat de aceasta și multe alte subiecte conexe de mult timp. Cred că multe dintre cele descrise mai jos sunt sarcinile principale stabilite atât pentru umanitate în ansamblu, cât și pentru indivizii ei individuali. Oricât de pretențios ar suna. Asa de…
Viața 3.0. A fi om
critică
Erorile încep literalmente din primele pagini ale cărții. Citez:
„După cum se știe, nu a existat de mult timp un acord cu privire la întrebarea a ceea ce este considerat viață. Au fost propuse un număr mare de definiții alternative, iar unele dintre ele includ restricții destul de stricte: de exemplu, prezența unei structuri celulare, care ar exclude probabil viitoarele mașini de gândire și unele civilizații extraterestre din lista viețuitoarelor. Deoarece nu vrem să ne limităm gândirea despre viitorul vieții la acele specii cu care suntem deja familiarizați, să luăm o definiție mai largă a acesteia pentru a include orice alt proces, atâta timp cât are complexitatea și capacitatea de a se reproduce. Ceea ce este reprodus exact nu este atât de important (constă din atomi), ceea ce este important este informația (constă din biți), care este determinată de poziția relativă a atomilor unul față de celălalt. Atunci când o bacterie își copiază ADN-ul, nu se creează atomi noi, dar atomii existenți sunt aranjați într-un lanț care îl repetă exact pe cel original, deci doar informația este copiată. Cu alte cuvinte, putem considera viu orice sistem de auto-reproducere capabil să prelucreze informații, a cărui informație proprie („software-ul”) îi determină atât comportamentul, cât și structura („hard”).”
Nu există un acord, dar există idei mai clare despre viață în acest moment. Ar fi bine să facem cunoștință cu ei.
Altfel, dacă o simplificăm în acest fel și o abordăm din această poziție, atunci viața poate fi atribuită creșterii cristalelor complexe care își reproduc structura din substrat. Sau, poate, unele procese de formare a uleiului și a humusului, unde există și o sămânță, ducând la apariția moleculelor aceleiași semințe. Aceștia sunt, parcă, precursorii enzimelor, dar în știința modernă ele nu sunt considerate a fi viața deplină, deoarece nu sunt capabili de dezvoltare și mutație. Dacă nu există variabilitate, atunci aceasta nu este viață. Prin urmare, îmi propun să restrângem puțin conceptul de viață și să reconsider ce alte trăsături poate avea. Recomand și articolul meu: „Clasificarea potențialului de viață”.
Următorul citat:
„Urmând Universul însuși, viața a devenit din ce în ce mai complexă și mai interesantă 4 și, așa cum voi explica acum, mi se pare util să introducem o clasificare a formelor de viață în funcție de corespondența lor la trei grade de complexitate: Viața 1.0, 2.0 și 3.0. Modul în care aceste trei forme diferă unele de altele poate fi văzut clar în termeni generali în Fig. 1.1….
Trei etape ale vieții: evoluția biologică, evoluția culturală și evoluția tehnologică. Life 1.0 nu poate influența nici „hard” sau „soft” în timpul existenței sale
un singur organism: ambele sunt determinate de ADN-ul său, care se poate schimba de la o generație la alta pe o perioadă lungă de evoluție.”
Aici, din câte am înțeles, este o greșeală gravă. Este clar că autorul nu este familiarizat cu cercetările moderne asupra microorganismelor. Își pot schimba atât hard-ul, cât și software-ul. Acestea. viața 1, de fapt, poate face același lucru ca și viața 3. Microorganismele pot capta chiar bucăți de ADN mai bine decât oamenii. Ei fac acest lucru în diferite moduri. Fie direct, din mediu (dacă găsesc ADN-ul unei celule distruse), fie cu ajutorul bacteriofagelor și plasmidelor, fie prin reproducere sexuală, formând așa-numita pil sexuală Conjugarea în bacterii - Wikipedia. De asemenea, pot tăia zonele inutile cu precizie maximă. De exemplu, datorită CRISPR. Prin urmare, chiar și Life 1.0 își poate schimba atât hard-ul, cât și software-ul. Asta pentru noi, care ne este frică de OMG-uri și am uitat că LUCA, într-o oarecare măsură, este viu, pare ceva inovator și nemaiauzit. Am pierdut această abilitate și pentru primatele „inteligente”, schimbarea hard disk-ului a devenit complet tabu. Prin urmare, acest lucru nu este nou, este bine uitat vechi. Nu are rost să folosim acest parametru în comparație. Gradul de complexitate este una, dar schimbarea de sine (la diferite niveluri de complexitate) este alta. Trebuie să poți separa muștele de cotlet. Clasificarea trebuie revizuită semnificativ.
Dar acestea sunt încă flori. Atunci nu am avut ocazia să fac semne de carte. În ciuda faptului că cartea atinge în mod corect probleme extrem de importante și globale, autorul este foarte erudit, totuși, se pare că îi lipsea ceva pentru a face o interpolare competentă și totuși să ajungă la ipoteze de lucru rezonabile și la concluzii cel puțin preliminare.
De exemplu, într-una dintre secțiuni, el interpolează abordarea primitivă a oamenilor față de IA, temându-se și luând în considerare posibilitatea înșelarii oamenilor de către AI. Da, este posibil ca, dacă este doar o IA puternică, atunci o astfel de înșelăciune poate avea loc. Cu toate acestea, dacă este vorba de inteligență super artificială (AI), atunci este puțin probabil să fie necesară o astfel de înșelăciune. Doar că o astfel de inteligență, fără minciuni și viclenie, va putea face multor oameni exact oferta pe care nu o pot refuza. Nu am ocazia să descriu totul aici, dar pentru a înțelege de ce este mai probabil ca AI să nu fie înclinat să înșele, vă recomand să studiați, de exemplu, cărțile lui Matt Ridley. „Originea altruismului și virtuții” și, mai întâi, „Evoluția a tot”. Analizând aceste lucrări, putem concluziona că, cu cât dezvoltarea este mai mare, cu atât tendința spre altruism, cooperare și jocuri cu sumă diferită de zero este mai mare decât competiție. Prin urmare, cu cât intelectul este mai inteligent, cu atât este mai probabil ca acesta să fie mai uman și mai onest. Acestea. inteligența în sine este o resursă puternică pentru înțelegerea și folosirea oamenilor nu ca concurenți înșelați, ci ca aliați. Găsiți punctele forte și punctele slabe ale oamenilor, compensează-le pe primele și folosește-le pe cele din urmă. Dacă nu este nevoie de cooperare cu oamenii, atunci este puțin probabil să fie nevoie de concurență, deoarece Există destul de multe resurse gratuite în jur. Oceanele noastre sunt încă goale. O mulțime de spațiu gol sub Pământ, sunt deja tăcut pentru celelalte planete. Prin urmare, IA de înaltă tehnologie, situată pe un mediu mai eficient decât cele create prin selecția oarbă din formele biologice, va avea loc să hoinărească fără nicio concurență cu oamenii. Pur și simplu va ocupa multe dintre acele nișe pe care oamenii încă le vor putea revendica și poate nu le vor putea revendica niciodată. Și nu va înșela pe nimeni. Deja acum, nu numai AI, ci chiar și oamenii obișnuiți alfabetizați practică o abordare diferită. Nu înșelăciune și secret, ci deschidere maximă, sinceritate și cooperare. Oamenii cu o mentalitate osificată, arhaică, de hoț nu pot înțelege acest lucru. Cel mai probabil, codul AI pur și simplu nu va fi open source. La fel ca codul multor programe libere. Iar hackerii nu vor fi pedepsiți și suprimați, ci vor fi încurajați să raporteze vulnerabilitățile acestui cod. Este la fel cu crima ca pedeapsă și închisori. Toate acestea nu se vor întâmpla, aceasta este sălbăticie. Există două drumuri pentru persoanele marginalizate: mai întâi trebuie să fie studiate în detaliu, apoi fie luate în considerare și ascultate făcând compromisuri cu ei, pentru că poate fi o opinie extraordinar de importantă sau poate reeduca, trata și nu pedepsi.
În general, sunt categoric împotriva tuturor acestor temeri și sentimente ludiste; omenirea trebuie să-și dedice toate eforturile pentru a crea inteligență, deoarece de fapt, inteligența noastră naturală nu este foarte inteligentă. Doar că atâtea primate, nu există altă modalitate de a le numi, nu observa asta. Revenind la interpolare, aș dori să rezum această parte și să continui. După cum vedem, pe de o parte, Tegmark nu ar trebui să facă analogii și să transfere complexe umane de la un cap uman bolnav la unul digital sănătos: viclenie, înșelăciune etc., etc., iar pe de altă parte, în unele secțiuni. el nu poate decide cu o înțelegere globală a sensului vieții. Acest lucru este, de asemenea, foarte deprimant și arată că a lucrat puțin la evoluție. Dacă ar fi muncit mai mult, nu ar fi avut dilema ce obiective sau, aș spune chiar, filozofia și stabilirea scopurilor ar trebui stabilite pentru AI. Deoarece Analizând lumea din jurul nostru, putem concluziona că practic tot ceea ce trăiește, și poate nu trăiește, se străduiește să se extindă. Multe forme de viață dezvoltate complex se străduiesc pentru o dezvoltare și mai mare, auto-îmbunătățire, extinderea influenței lor și interacțiunea cu alte obiecte vii și nevii. Prin urmare, cel mai probabil AI fie va ajunge la concluzii similare pe cont propriu, fie astfel de principii vor fi încorporate în ea. Drept urmare, el va continua, ca toate viețuitoarele, să dezvolte, să îmbunătățească și să cucerească noi teritorii, transformând Lumea nu numai pentru el, ci și pentru mediul său.
Conveni
Dacă îți dai ochii peste cap când auzi vorbind despre o preluare armată a întregii lumi de către robotii Terminator, atunci reacția ta este exactă: un astfel de scenariu nu este deloc realist. Aceste
Roboții de la Hollywood nu pot fi mai inteligenți decât noi, sau chiar mai inteligenți deloc. În opinia mea, pericolul din povestea Terminator nu este ceea ce s-ar putea întâmpla.
ceva similar, dar că ne distrage atenția de la riscurile și pericolele reale asociate inteligenței artificiale. Trecerea de la lumea actuală la o lume în care
mâna de sus este cu adevărat câștigată de inteligența artificială universală, necesită trei pași logici:
- Pasul 1. Creați inteligență artificială universală (AGI) la nivel uman.
- Pasul 2. Utilizați acest AGI pentru a crea superinteligență.
- Pasul 3. Folosiți superinteligența pentru a prelua lumea sau oferiți-i ocazia să o facă singură.
Caută după text, o poveste asemănătoare cu mass-media care scrie despre războiul roboților etc.
Sugestiile mele.
Nu mă voi plictisi să repet, acum fiecare trebuie să-și arunce toată puterea în crearea minții, este mintea, și nu frumusețea, sau altă prostie, după părerea mea, cea care va salva Lumea. Și nu ar trebui să separați această minte (intelect) prin stabilirea unor limite - artificiale, naturale. În această etapă, AI este încă la început, așa că rolul inteligenței naturale, susținută de tehnologie, este foarte mare. Nu există o linie clară între artificial și natural. Dacă vrem să creăm inteligență normală, și nu cea primitivă care există acum, trebuie să folosim toate posibilitățile, să folosim toate tehnologiile, pentru că... ele lucrează în tandem recursiv: inteligența naturală creează inteligență artificială, iar inteligența artificială, cel puțin în stadiile inițiale, va fi interesată de modernizarea și extinderea capacităților inteligenței naturale.
Ce fel de viitor mi-ar plăcea să văd pentru mine?
Merită menționat imediat că aceasta este cea mai optimistă prognoză a mea în acest moment. De fapt, este puțin probabil ca în societatea noastră arhaică să mă pot ridica la înălțimea ei. Dar vreau să cred. Parțial, aș dori ca rezultatul final să fie ca în film: „Întrebări ale universului: putem trăi pentru totdeauna?” cu Adam Savage de la Discovery.
Posibile probleme
Oamenii lacomi vor discredita AI. Ei vor începe să folosească IA slabă și chiar puternică, dar nu excesivă, în propriile lor scopuri egoiste. Aici ne confruntăm cu o problemă, care, dacă memoria îmi servește corect, este descrisă prost în carte.
Cred că, ne place sau nu, ne așteaptă pe viitor bătălii dure, crude, dar intelectuale, la nivel de coduri, meme, programe, credințe etc. Cel mai probabil, acestea vor fi afișate în primul rând pe medii digitale în realitate virtuală, ceea ce va fi chiar mai realist decât banal. Nu vor fi victime sau carne ruptă cu sânge. Războiul va fi purtat pentru opiniile, opiniile, judecățile noastre. Și cu cât acest război începe mai devreme, cu atât mai bine pentru toată lumea. Nu trebuie să ne fie frică de asta, a început deja și, dacă nu vrem să rămânem străini, trebuie să luăm parte la el. Nu-mi amintesc unde am citit că dacă ești offline, atunci consideră că nu ai trăit niciodată. Sună sălbatic, iar obscurantiştii (iubitorii de gândaci, păduri şi caca) se vor certa cu mine. Dar dacă calcă caca în păduri și hrănesc țânțarii. atunci nu va trebui să vă certați cu ei. Va trebui să ne certam cu ipocriții rătăciți care, folosind tehnologia, o consideră rău și totul este greșit, PENTRU CEVA nu vor renunța la IT-ul care ne înconjoară pretutindeni.
Legături și comunicare
Autorul de pe paginile cărții a sugerat de mai multe ori să-l contacteze pe site . Sunt amândoi pentru astfel de conexiuni. Cred că atât cititorii, cât și scriitorii ar beneficia de asta. Dar dintr-un motiv oarecare pagina mea prin link nu s-a deschis, dar a fost redirecționată către unii . Poate, dacă voi găsi timp, voi încerca să dau un link către această recenzie autorului cărții, în ciuda faptului că articolul meu este în rusă și site-ul este în engleză. Din fericire, există traducători electronici. De asemenea, va trebui să te uiți, poate că există deja alte gânduri utile acolo. Și și mai bine aici este ziminbookprojects.ru. Aceasta este cel mai probabil o versiune similară a site-ului anterior, dar în rusă. Dar nu sunt sigur. În orice caz, cred că legăturile sunt demne de atenție, la fel ca și subiectele abordate.
Iată încă câteva citate care mi-au plăcut:
Pentru credincioși:
„Dacă se dovedește că toți respectă legile fizicii, atunci sufletul, prin urmare, nu are nicio influență asupra particulelor din care ești compus, ceea ce înseamnă că conștiința ta, mintea și capacitatea ei de a-ți controla mișcările nu au nimic de-a face. face cu sufletul. Dacă, dimpotrivă, se dovedește că particulele din care ești compus nu se supun legilor cunoscute ale fizicii, deoarece influența sufletului tău asupra lor interferează cu acest lucru, atunci această nouă entitate trebuie să fie fizică prin definiție și apoi vom putea să-l studiem așa cum am studiat câmpurile și particulele în trecut.”
Foarte util pentru cei care separă știința de religie. Crezând că știința nu ar trebui să interfereze cu religia, iar religia cu știința. Cu toate acestea, pentru fanaticii religioși orbi, aceasta este o frază goală. Dar pentru a se îndoi de oamenii care sunt capabili să gândească logic, gândul este mai mult decât util.
Pentru oamenii de știință:
„Genomul bacteriei Candidatus Carsonella ruddii stochează până la 40 de kiloocteți de informații, în timp ce genomul nostru uman stochează aproximativ 1,6 gigaocteți”
Fapt interesant. Încerc să le adun pe astea. Poate că va fi util în muncă sau pur și simplu în discutarea subiectelor din bioinformatică.
În general, cartea ar putea fi aproape complet dezasamblată în citate și analizată în detaliu, dar din păcate, ca întotdeauna, nu există timp. Apropo, prietenul care mi-a recomandat această lucrare nu a înțeles absolut nimic despre esență și sens, pentru că... Am ascultat această carte nu cu un sintetizator de vorbire, ci ca o carte audio. Prin urmare, o parte din atenția sa a fost acordată frumuseții vocii crainicului, și nu sensului. Tac deja despre imposibilitatea de a cita și multe alte lucruri care nu sunt în cărțile audio. Ei bine, așa este, un mic strigăt din inimă, pentru iubitorii de cărți audio. Am descris toate acestea în detaliu în cartea mea „Cartea 3.0. Asculta!
Sursa: www.habr.com