In protte dy't my kenne kinne befestigje dat ik frijwat kritysk bin oer in protte problemen, en op guon manieren lit ik sels in flinke maksimaalisme sjen. Ik bin dreech te behagen. Benammen as it om boeken giet. Ik bekritisearje faak fans fan science fiction, religy, detektiveferhalen en in protte oare ûnsin. Ik tink dat it heech tiid is om echt wichtige dingen te fersoargjen en te stopjen mei libjen yn 'e yllúzje fan ûnstjerlikens.
By ien fan de petearen mei ien fan myn goede freonen, nei myn folgjende ferûntskuldiging oangeande it feit dat my hieltyd ferskate ûnsin oanbean waard (deselde science fiction), ried er my oan om it boek “Life 3.0. Minsklik wêze…". Ik skamje my ta te jaan dat ik it lang lyn ynladen haw en it net iens fernaam, tegearre mei de prachtige seleksje fan de Dynasty Foundation. It is my heul lestich om te behagen, om't ... Ik haw nochal wat boeken trochwurke, om it mar te sizzen. Mar dit fûn ik wol aardich, en ik besleat om net allinnich syn fraach te beantwurdzjen oft it de muoite wurdich wie om der oan te wurkjen of net, mar ek myn eigen krityske resinsje te skriuwen, want, nettsjinsteande it feit dat it boek de oandacht wurdich is, is der noch wat om oan te wurkjen.
Ik wol leauwe dat myn resinsje net, lykas altyd, sil ferdrinke yn 'e massa fan oerstreaming en spam, en sil net allinich lêzers berikke, mar ek skriuwers dy't rekken hâlde mei de tekoarten yn folgjende wurken. Hjirûnder stiet fansels mar myn subjektive miening, mar ik sil besykje it safolle mooglik te ûnderbouwen. Nettsjinsteande it feit dat, lykas altyd katastrofysk, der gjin tiid foar alles en yn feite, ik bin in trochsneed bidler slaaf; lykwols, ik beskôgje it myn boargerlike plicht as in kosmopolyt te skriuwen dizze resinsje, omdat ... Ik bin ynteressearre yn dit en in protte oare relatearre ûnderwerpen foar in lange tiid. Ik leau dat in protte fan wat hjirûnder beskreaun is de primêre taken binne dy't sawol foar de minskheid as gehiel as foar har yndividuele yndividuen binne. Hoe pretinsjeus it ek klinke kin. Sa…
Life 3.0. Minsklik wêze
Krityk
De bloopers begjinne letterlik fan de earste siden fan it boek. ik sitearje:
“Lykas bekend is der al lang gjin oerienkomst oer de fraach wat as libben beskôge wurdt. In grut oantal alternative definysjes binne foarsteld, en guon fan harren omfetsje frij strikte beheiningen: bygelyks de oanwêzigens fan in sellulêre struktuer, dy't wierskynlik takomstige tinkmasines en guon bûtenierdske beskavingen út 'e list fan libbene dingen soe útslute. Om't wy ús tinken oer de takomst fan it libben net wolle beheine ta dy soarten dêr't wy al mei binne, litte wy der in bredere definysje fan nimme om elk oar proses op te nimmen, salang't it de kompleksiteit en it fermogen hat om himsels te reprodusearjen. Wat krekt werjûn wurdt is net sa wichtich (bestaat út atomen), wat wichtich is is de ynformaasje (bestaat út bits), dy't bepaald wurdt troch de relative posysje fan de atomen relatyf oan elkoar. As in baktearje syn DNA kopiearret, wurde gjin nije atomen oanmakke, mar de besteande atomen wurde yn in keatling pleatst dy't de oarspronklike krekt werhellet, sadat allinich de ynformaasje kopiearre wurdt. Mei oare wurden, wy kinne elk sels-reprodusearjend systeem libben beskôgje dat yn steat is om ynformaasje te ferwurkjen, waans eigen ynformaasje (syn "software") sawol har gedrach as har struktuer bepaalt ("hurd").
Der is gjin oerienkomst, mar der binne mear dúdlike ideeën oer it libben op it stuit. It soe goed wêze om mei harren yn de kunde te kommen.
Oars, as wy it op dizze manier ferienfâldigje en it fan dizze posysje benaderje, dan kin it libben wurde taskreaun oan 'e groei fan komplekse kristallen dy't har struktuer reprodusearje fan it substraat. Of, miskien, guon prosessen fan 'e foarming fan oalje en humus, wêr't ek in sied is, dy't liede ta it ûntstean fan molekulen fan deselde sied. Dit binne as it wiene de foarâlden fan enzymen, mar yn moderne wittenskip wurde se net beskôge as folslein libben, om't se binne net by steat ta ûntwikkeling en mutaasje. As d'r gjin fariabiliteit is, dan is dit gjin libben. Dêrom stel ik foar om it begryp fan it libben in bytsje te beheinen, en opnij te besjen hokker oare funksjes it kin hawwe. Ik advisearje ek myn artikel: "Klassifikaasje fan libbenspotinsjeel."
Folgjende sitaat:
"Nei it Universum sels is it libben hieltyd komplekser en ynteressanter wurden 4, en, lykas ik no sil útlizze, liket it my nuttich om in klassifikaasje fan libbensfoarmen yn te fieren neffens har korrespondinsje mei trije graden fan kompleksiteit: Life 1.0, 2.0 en 3.0. Hoe't dizze trije foarmen fan elkoar ferskille kinne yn algemiene termen dúdlik sjoen wurde yn Fig. 1.1….
Trije stadia fan it libben: biologyske evolúsje, kulturele evolúsje en technologyske evolúsje. Life 1.0 kin gjin "hurd" of "sêft" beynfloedzje tidens syn bestean
ien organisme: beide wurde bepaald troch syn DNA, dat oer in lange evolúsjeperioade fan generaasje op generaasje feroarje kin."
Hjir is, foar safier't ik begryp, in grouwe flater. It is dúdlik dat de skriuwer net bekend is mei moderne ûndersyk nei mikroorganismen. Se kinne sawol har hurde as software feroarje. Dy. libben 1, yn feite, kin dwaan itselde as libben 3. Mikroorganismen kinne sels fange stikken fan DNA better as minsken. Se dogge dit op ferskate manieren. Oft direkt, út it miljeu (as se fine it DNA fan guon ferneatige sel), of mei help fan bacteriofagen en plasmids, of troch seksuele fuortplanting, it foarmjen fan de saneamde seksuele pil Konjugaasje yn baktearjes - Wikipedia. Se kinne ek ûnnedige gebieten mei pinpoint presys snije. Bygelyks, tank oan CRISPR. Dêrom kin sels Life 1.0 sawol har hurde as software feroarje. Dit is foar ús dy't bang binne foar GGO's en fergetten binne dat LUCA, yn guon mjitte, libbet, wat ynnovatyf en ûnheard liket. Wy hawwe dizze mooglikheid ferlern, en foar "tûke" primaten is it feroarjen fan har hurde skiif folslein taboe wurden. Dêrom is dit net nij, it is goed fergetten âld. D'r is gjin punt om dizze parameter yn ferliking te brûken. De graad fan kompleksiteit is ien ding, mar selsferoaring (op ferskate nivo's fan kompleksiteit) is in oar. Jo moatte yn steat wêze om miggen te skieden fan koteletten. De klassifikaasje moat flink feroare wurde.
Mar dit binne noch blommen. Doe hie ik gjin kâns om blêdwizers te meitsjen. Nettsjinsteande it feit dat it boek ekstreem wichtige en wrâldwide saken op 'e goede manier oanrekket, is de skriuwer tige erudit, lykwols hat him blykber wat ûntbrekt om in foechhawwende ynterpolaasje te meitsjen en dochs ta ridlike wurkhypoteses en op syn minst foarriedige konklúzjes te kommen.
Bygelyks, yn ien fan 'e seksjes ynterpolearret hy de primitive skelmige oanpak fan minsken foar AI, bang en beskôgje de mooglikheid fan ferrifeljen fan minsken troch AI. Ja, it is mooglik dat as it gewoan in sterke AI is, dan sa'n bedrog plakfine kin. As it lykwols super keunstmjittige yntelliginsje (AI) is, dan is sa'n bedrog wierskynlik net fereaske. It is gewoan dat sa'n yntelliginsje, sûnder leagen en list, in protte minsken krekt it oanbod kin meitsje dat se net kinne wegerje. Ik haw net de kâns om alles hjir te beskriuwen, mar om te begripen wêrom't it wierskynliker is dat de AI net oanstriid is om te ferrifeljen, ried ik oan om bygelyks Matt Ridley's boeken te studearjen. "De oarsprong fan altruïsme en deugd", en foar ien ding, "De evolúsje fan alles". Nei it analysearjen fan dizze wurken, kinne wy konkludearje dat hoe heger de ûntwikkeling, hoe grutter de oanstriid ta altruïsme, gearwurking en net-nul-som spultsjes, ynstee fan konkurrinsje. Dêrom, hoe tûker it yntellekt, hoe wierskynliker it is dat it minskliker en earliker sil wêze. Dy. yntelliginsje sels is in krêftige boarne foar it begripen en brûken fan minsken net as ferrifeljende konkurrinten, mar as bûnsmaten. Fyn sterke en swakke punten by minsken, kompensearje foar de earste en brûk de lêste. As der gjin ferlet is fan gearwurking mei minsken, dan is d'r net wierskynlik ferlet fan konkurrinsje, om't D'r binne nochal in protte fergese boarnen rûnom. Us oseanen binne noch leech. In soad lege romte ûnder de ierde, ik swij al foar de oare planeten. Dêrom sil high-tech AI, lizzend op in effisjinter medium dan dy makke troch bline seleksje út biologyske foarmen, romte hawwe om te romjen sûnder konkurrinsje mei minsken. It sil gewoan in protte fan dy nissen besette dy't minsken noch, en miskien nea kinne opeaskje. En hy sil gjinien ferrifelje. No al oefenje net allinnich AI, mar sels gewoane literate minsken in oare oanpak. Net bedrog en geheimhâlding, mar maksimale iepenheid, oprjochtens en gearwurking. Minsken mei in ferbeane, archaïske, diefjende mentaliteit kinne dit net begripe. Meast wierskynlik sil de AI-koade gewoan net iepen boarne wêze. Lykas de koade fan in protte frije software. En hackers sille net wurde bestraft en ûnderdrukt, mar wurde stimulearre foar it rapportearjen fan de kwetsberens fan dizze koade. It is itselde mei moard as straf en finzenissen. Dit alles sil net barre, dit is wyldens. D'r binne twa wegen foar de marginalisearre: earst moatte se yn detail bestudearre wurde, en dan óf yn rekken brocht en nei harke wurde troch kompromissen mei har, om't it kin in bûtengewoane wichtige miening wêze, of opnij opliede, behannelje, en net straffen.
Yn 't algemien bin ik kategoarysk tsjin al dizze eangsten en luddistyske gefoelens; it minskdom moat al har ynspanningen besteegje oan it kreëarjen fan yntelliginsje, om't yn feite, ús natuerlike yntelliginsje is net hiel tûk. It is gewoan dat in protte primaten, d'r is gjin oare manier om se te neamen, fernimme dit net. Werom nei ynterpolaasje wol ik dit diel gearfetsje en trochgean. Sa't wy sjogge, moat Tegmark oan 'e iene kant gjin analogyen tekenje en minsklike kompleksen oerdrage fan in sike minsklike holle nei in sûne digitale: slûchslimme, ferrifeljen, ensfh., ensfh., En oan 'e oare kant yn guon fan 'e seksjes hy kin net beslute mei in globaal begryp fan 'e sin fan it libben. Dit is ek heul deprimearjend, en lit sjen dat hy net folle wurk dien hat oer evolúsje. As er mear wurke hie, hie er net it dilemma hân fan hokker doelen, of, ik soe sels sizze, filosofy en doelstelling, foar AI steld wurde moatte. Omdat As wy de wrâld om ús hinne analysearje, kinne wy konkludearje dat praktysk alles dat libbet, en miskien net libbet, stribbet nei útwreiding. In protte kompleks ûntwikkele libbensfoarmen stribje nei noch gruttere ûntwikkeling, selsferbettering, útwreiding fan har ynfloed en ynteraksje mei oare libbene en net-libjende objekten. Dêrom, nei alle gedachten sil de AI ofwol op himsels ta ferlykbere konklúzjes komme, of sokke prinsipes sille deryn wurde ynbêde. As resultaat sil hy trochgean, lykas alle libbene dingen, nije gebieten te ûntwikkeljen, te ferbetterjen en te feroverjen, de wrâld net allinich foar himsels, mar ek foar syn omjouwing te transformearjen.
Ik bin iens
As jo de eagen rôlje as jo praat hearre fan in wapene oername fan 'e hiele wrâld troch robot Terminators, dan is jo reaksje krekt: sa'n senario is hielendal net realistysk. Dizze
Hollywood-robots kinne net slimmer wêze as ús, of sels tûker. Yn myn miening is it gefaar yn it Terminator-ferhaal net wat der kin barre.
wat ferlykber, mar dat it ús oandacht ôfliedt fan 'e echte risiko's en gefaren dy't ferbûn binne mei keunstmjittige yntelliginsje. De oergong fan de hjoeddeiske wrâld nei in wrâld wêryn
de oerhân wurdt wirklik wûn troch universele keunstmjittige yntelliginsje, fereasket trije logyske stappen:
- Stap 1. Meitsje universele keunstmjittige yntelliginsje (AGI) op minsklik nivo.
- Stap 2. Brûk dizze AGI om superintelliginsje te meitsjen.
- Stap 3. Brûk superyntelliginsje om de wrâld oer te nimmen of jou it de kâns om dat op himsels te dwaan.
Sykje op tekst, in ferlykber ferhaal mei de media dy't skriuwt oer de oarloch fan robots, ensfh.
Myn suggestjes.
Ik sil net wurch wêze fan it werheljen, no moat elk al har macht yn it skeppen fan de geast smite, it is de geast, en net de skientme, of oare dommens, neffens my, dy't de Wrâld rêde sil. En jo moatte dizze geast (yntellekt) net skiede troch grinzen te setten - keunstmjittich, natuerlik. Op dit stadium is AI noch yn 'e berneskuon, dus de rol fan natuerlike yntelliginsje, stipe troch technology, is heul grut. D'r is gjin dúdlike line tusken keunstmjittich en natuerlik. As wy normale yntelliginsje wolle meitsje, en net de primitive dy't no bestiet, moatte wy alle mooglikheden brûke, alle technologyen brûke, om't ... se wurkje yn rekursive tandem: natuerlike yntelliginsje skept keunstmjittige yntelliginsje, en keunstmjittige yntelliginsje, op syn minst yn 'e earste fazen, sil ynteressearre wêze yn it modernisearjen en útwreidzjen fan de mooglikheden fan natuerlike yntelliginsje.
Hokker soarte fan takomst soe ik graach sjen foar mysels?
It is de muoite wurdich om fuortdaliks te neamen dat dit op it stuit myn meast optimistyske foarsizzing is. Eins is it net wierskynlik dat ik der yn ús archaïske maatskippij nei wenjen sil. Mar ik wol leauwe. Foar in part soe ik graach wolle dat it einresultaat is lykas yn 'e film: "Fragen fan it universum: kinne wy foar altyd libje?" mei Adam Savage út Discovery.
Mooglike problemen
Gierige minsken sille AI diskreditearje. Se sille begjinne te brûken swak en sels sterke, mar net oermjittich, AI foar harren eigen egoïstysk doelen. Dit is wêr't wy in probleem tsjinkomme, dat, as myn ûnthâld my goed tsjinnet, yn it boek min beskreaun is.
Ik tink dat, of wy it wolle of net, hurde, wrede, mar yntellektuele fjildslaggen op ús wachtsje yn 'e takomst, op it nivo fan koades, memes, programma's, leauwen, ensfh. Meast wierskynlik sille se primêr te sjen wêze op digitale media yn firtuele realiteit, dy't noch realistysker wêze sil as triviale. Der sille gjin slachtoffers of skuord fleis mei bloed. De oarloch sil fochten wurde oer ús opfettings, mieningen, oardielen. En hoe earder dizze oarloch begjint, hoe better foar elkenien. Der hoecht net bang foar te wêzen, it is al begûn, en as wy gjin bûtensteander bliuwe wolle, dan moatte wy der oan meidwaan. Ik herinner my net wêr't ik lês dat as jo offline binne, tink dan dat jo noait libbe hawwe. It klinkt wyld, en obskurantisten (leafhawwers fan bugs, bosken en poep) sille mei my pleitsje. Mar as se poep yn 'e bosken fertrape en muggen fiede. dan hoege jo net mei har te pleitsjen. Wy sille moatte pleitsje mei de misguided hypocrites dy't, mei help fan technology, beskôgje it kwea en alles is ferkeard, FOAR SOMEHOW se sille net opjaan de IT dy't ús oeral omgiet.
Links en kommunikaasje
De skriuwer op 'e siden fan it boek suggerearre mear as ien kear kontakt mei him op' e webside . Ik bin beide foar sokke ferbinings. Ik tink dat sawol lêzers as skriuwers profitearje fan dit. Mar foar guon reden myn side fia de keppeling net iepene, mar it omlaat nei guon . Miskien, as ik tiid fyn, sil ik besykje in keppeling nei dizze resinsje te jaan oan de skriuwer fan it boek, nettsjinsteande it feit dat myn artikel yn it Russysk is en de side yn it Ingelsk is. Gelokkich binne der elektroanyske oersetters. Jo sille ek sjen moatte, miskien binne d'r al wat oare nuttige gedachten. En noch better hjir is ziminbookprojects.ru. Dit is nei alle gedachten in ferlykbere ferzje fan de foarige side, mar yn it Russysk. Mar, ik bin der net wis fan. Ik tink yn alle gefallen dat de keppelings de oandacht wurdich binne, lykas de ûnderwerpen dy't oansprutsen binne.
Hjir binne noch in pear sitaten dy't ik leuk fûn:
Foar leauwigen:
"As it bliken docht dat se allegear de wetten fan 'e natuerkunde folgje, dan hat de siel dus gjin ynfloed op' e dieltsjes wêrfan jo binne gearstald, wat betsjut dat jo bewustwêzen, jo geast en har fermogen om jo bewegingen te kontrolearjen neat hawwe dwaan mei de siel. As, krekt oarsom, bliken docht dat de dieltsjes dêr't jo binne gearstald net folgje de bekende wetten fan 'e natuerkunde, om't de ynfloed fan dyn siel op harren interferes mei dit, dan moat dizze nije entiteit fysyk wêze per definysje, en dan wy sille it kinne studearje lykas wy de fjilden en dieltsjes yn it ferline studearre."
Hiel nuttich foar dyjingen dy't wittenskip skiede fan religy. Leauwe dat wittenskip net moat bemuoie mei religy, en religy mei wittenskip. Foar bline religieuze fanatici is dit lykwols in lege fraze. Mar foar twifeljende minsken dy't yn steat binne om logysk te tinken, is gedachte mear as nuttich.
Foar wittenskippers:
"it genoom fan 'e baktearje Candidatus Carsonella ruddii bewarret maksimaal 40 kilobytes oan ynformaasje, wylst ús minsklik genoom sawat 1,6 gigabytes opslacht"
Ynteressant feit. Ik besykje dizze te sammeljen. Miskien sil it nuttich wêze yn wurk, of gewoan by it besprekken fan ûnderwerpen yn bioinformatika.
Yn it algemien koe it boek hast hielendal útinoar brocht wurde yn sitaten en yn detail analysearre, mar helaas, lykas altyd, is der gjin tiid. Trouwens, de freon dy't my dit wurk oanrikkemandearre, begriep hielendal neat fan 'e essinsje en betsjutting, om't ... Ik harke nei dit boek net mei in spraaksynthesizer, mar as in harkboek. Dêrom, in part fan syn oandacht waard betelle oan 'e BEAUTY fan' e stim fan 'e omrop, en net oan' e betsjutting. Ik swij al oer de ûnmooglikheid om te sitearjen en in protte oare dingen dy't net yn harkboeken steane. No, dit is sa, in bytsje gjalp út it hert, foar leafhawwers fan die-hurde harkboeken. Ik beskreau dit alles yn detail yn myn boek "Boek 3.0. Harkje!
Boarne: www.habr.com