Mange som kjenner meg kan bekrefte at jeg er ganske kritisk til mange saker, og på noen måter viser jeg til og med en god del maksimalisme. Jeg er vanskelig å tilfredsstille. Spesielt når det kommer til bøker. Jeg kritiserer ofte fans av science fiction, religion, detektivhistorier og mye annet tull. Jeg tror det er på høy tid å ta vare på virkelig viktige ting og slutte å leve i illusjonen av udødelighet.
Under en av diskusjonene med en av mine gode venner, etter min neste indignasjon angående det faktum at jeg stadig ble tilbudt diverse tull (den samme science fiction), rådet han meg til å jobbe gjennom boken «Livet 3.0. Å være menneskelig…". Jeg skammer meg over å innrømme at jeg lastet ned det for lenge siden og ikke engang la merke til det, sammen med det fantastiske utvalget av Dynasty Foundation. Det er veldig vanskelig for meg å tilfredsstille, fordi... Jeg har jobbet igjennom en del bøker, for å si det mildt. Men jeg likte denne, og jeg bestemte meg for ikke bare å svare på spørsmålet hans om det var verdt å jobbe med det eller ikke, men også å skrive min egen kritiske anmeldelse, for til tross for at boken er verdig oppmerksomhet, er det fortsatt noe å jobbe med.
Jeg vil gjerne tro at anmeldelsen min ikke vil drukne, som alltid, i massen av flom og spam, og vil nå ikke bare lesere, men også forfattere som vil ta hensyn til manglene i påfølgende verk. Nedenfor er selvfølgelig bare min subjektive mening, men jeg skal prøve å underbygge den så mye som mulig. Til tross for at det, som alltid katastrofalt, ikke er tid til alt, og faktisk er jeg en gjennomsnittlig tiggerslave; Imidlertid anser jeg det som min borgerplikt som kosmopolitt å skrive denne anmeldelsen, fordi... Jeg har vært interessert i dette og mange andre relaterte emner i lang tid. Jeg tror at mye av det som er beskrevet nedenfor er de primære oppgavene som er satt både for menneskeheten som helhet og for dens individuelle individer. Uansett hvor pretensiøst det kan høres ut. Så…
Liv 3.0. Å være menneskelig
kritikk
Blooperne starter bokstavelig talt fra de første sidene i boken. Jeg siterer:
«Som kjent har det lenge ikke vært enighet om spørsmålet om hva som anses som liv. Et stort antall alternative definisjoner har blitt foreslått, og noen av dem inkluderer ganske strenge restriksjoner: for eksempel tilstedeværelsen av en cellulær struktur, som sannsynligvis vil ekskludere fremtidige tenkende maskiner og noen utenomjordiske sivilisasjoner fra listen over levende ting. Siden vi ikke ønsker å begrense vår tenkning om livets fremtid til de artene vi allerede er kjent med, la oss ta en bredere definisjon av den for å inkludere enhver annen prosess, så lenge den har kompleksiteten og evnen til å reprodusere seg selv. Nøyaktig hva som reproduseres er ikke så viktig (består av atomer), det som er viktig er informasjonen (består av biter), som bestemmes av atomenes relative posisjon i forhold til hverandre. Når en bakterie kopierer sitt DNA, skapes det ingen nye atomer, men de eksisterende atomene er ordnet i en kjede som nøyaktig gjentar den opprinnelige, så bare informasjonen kopieres. Med andre ord kan vi betrakte ethvert selvreproduserende system i live som er i stand til å behandle informasjon, hvis egen informasjon (dets "programvare") bestemmer både dets oppførsel og dets struktur ("hardt")."
Det er ingen enighet, men det er mer klare tanker om livet for øyeblikket. Det hadde vært greit å bli kjent med dem.
Ellers, hvis vi forenkler det på denne måten og nærmer oss det fra denne posisjonen, kan livet tilskrives veksten av komplekse krystaller som reproduserer strukturen deres fra underlaget. Eller kanskje noen prosesser for dannelse av olje og humus, der det også er et frø, som fører til fremveksten av molekyler av samme frø. Dette er som det var forfedre til enzymer, men i moderne vitenskap anses de ikke for å være fullt liv, fordi de er ikke i stand til utvikling og mutasjon. Hvis det ikke er noen variasjon, så er ikke dette livet. Derfor foreslår jeg å snevre inn livsbegrepet litt, og revurdere hvilke andre funksjoner det kan ha. Jeg anbefaler også artikkelen min: "Klassifisering av livspotensial."
Neste sitat:
«Etter selve universet har livet blitt mer og mer komplekst og interessant 4, og, som jeg nå skal forklare, synes jeg det er nyttig å introdusere en klassifisering av livsformer i henhold til deres korrespondanse til tre grader av kompleksitet: Life 1.0, 2.0 og 3.0. Hvordan disse tre formene skiller seg fra hverandre kan tydelig sees i generelle termer i fig. 1.1….
Tre stadier av livet: biologisk evolusjon, kulturell evolusjon og teknologisk evolusjon. Life 1.0 kan ikke påvirke verken "hard" eller "myk" mens den eksisterer
en enkelt organisme: begge bestemmes av dens DNA, som kan endres fra generasjon til generasjon over en lang evolusjonsperiode.»
Her er det så vidt jeg forstår en grov feil. Det er tydelig at forfatteren ikke er kjent med moderne forskning på mikroorganismer. De kan endre både hard- og programvare. De. liv 1 kan faktisk gjøre det samme som liv 3. Mikroorganismer kan til og med fange opp biter av DNA bedre enn mennesker. Dette gjør de på forskjellige måter. Enten direkte, fra miljøet (hvis de finner DNA fra en ødelagt celle), eller ved hjelp av bakteriofager og plasmider, eller ved seksuell reproduksjon, danner den såkalte seksuelle pil-konjugasjonen i bakterier - Wikipedia. De kan også kutte ut unødvendige områder med nøyaktig presisjon. For eksempel takket være CRISPR. Derfor kan til og med Life 1.0 endre både hard- og programvare. Dette er for oss som er redde for GMO og har glemt at LUCA til en viss grad er i live, virker noe nyskapende og uhørt. Vi har mistet denne evnen, og for "smarte" primater har det blitt fullstendig tabu å bytte harddisk. Derfor er ikke dette nytt, det er godt glemt gammelt. Det er ingen vits i å bruke denne parameteren i sammenligning. Graden av kompleksitet er én ting, men selvendring (på ulike nivåer av kompleksitet) er en annen. Du må kunne skille fluer fra koteletter. Klassifiseringen må revideres betydelig.
Men disse er fortsatt blomster. Da hadde jeg ingen mulighet til å lage bokmerker. Til tross for at boken berører ekstremt viktige og globale problemstillinger på riktig måte, er forfatteren svært lærd, men tilsynelatende manglet han noe for å kunne foreta en kompetent interpolasjon og likevel komme til fornuftige arbeidshypoteser og i det minste foreløpige konklusjoner.
For eksempel, i en av seksjonene interpolerer han den primitive useriøse tilnærmingen til mennesker til AI, frykter og vurderer muligheten for bedrag av mennesker av AI. Ja, det er mulig at hvis det bare er en sterk AI, så kan slikt bedrag finne sted. Men hvis det er superkunstig intelligens (AI), er det neppe nødvendig med slikt bedrag. Det er bare at slik intelligens, uten løgner og list, vil kunne gi mange mennesker akkurat det tilbudet de ikke kan avslå. Jeg har ikke muligheten til å beskrive alt her, men for å forstå hvorfor det er mer sannsynlig at AI ikke vil være tilbøyelig til å lure, anbefaler jeg å studere for eksempel Matt Ridleys bøker. "Opprinnelsen til altruisme og dyd", og for en ting, "Evolusjonen av alt". Etter å ha analysert disse verkene, kan vi konkludere med at jo høyere utvikling, desto større er tendensen til altruisme, samarbeid og ikke-nullsum-spill, i stedet for konkurranse. Derfor, jo smartere intellektet er, jo mer sannsynlig er det at det blir mer humant og ærlig. De. intelligens i seg selv er en kraftig ressurs for å forstå og bruke mennesker, ikke som lurte konkurrenter, men som allierte. Finn styrker og svakheter hos mennesker, kompenser for førstnevnte og bruk sistnevnte. Hvis det ikke er behov for samarbeid med mennesker, så er det neppe behov for konkurranse, fordi Det er ganske mange gratis ressurser rundt omkring. Havene våre er fortsatt tomme. Mye tomt rom under jorden, jeg er allerede stille for de andre planetene. Derfor vil høyteknologisk AI, plassert på et mer effektivt medium enn de som skapes av blind seleksjon fra biologiske former, ha rom til å streife rundt uten konkurranse med mennesker. Det vil rett og slett oppta mange av de nisjene som folk fortsatt, og kanskje aldri vil kunne gjøre krav på. Og han vil ikke lure noen. Allerede nå praktiserer ikke bare AI, men til og med vanlige literate mennesker en annen tilnærming. Ikke bedrag og hemmelighold, men maksimal åpenhet, oppriktighet og samarbeid. Mennesker med en forbenet, arkaisk, tyvende mentalitet kan ikke forstå dette. Mest sannsynlig vil AI-koden ganske enkelt ikke være åpen kildekode. Som koden til mye gratis programvare. Og hackere vil ikke bli straffet og undertrykt, men vil bli oppmuntret til å rapportere sårbarhetene til denne koden. Det er det samme med drap som straff og fengsler. Alt dette vil ikke skje, dette er villskap. Det er to veier for marginaliserte mennesker: først må de studeres i detalj, og deretter enten tas i betraktning og lyttes til ved å gå på akkord med dem, fordi det kan være en ekstraordinær viktig mening, eller omskolere, behandle og ikke straffe.
Generelt er jeg kategorisk mot all denne frykten og luddistiske følelsene; menneskeheten må vie alle sine anstrengelser til å skape intelligens, fordi faktisk er vår naturlige intelligens ikke særlig smart. Det er bare at mange primater, det er ingen annen måte å kalle dem, legger ikke merke til dette. For å gå tilbake til interpolering, vil jeg gjerne oppsummere denne delen og fortsette. Som vi ser skal Tegmark på den ene siden ikke trekke analogier og overføre menneskelige komplekser fra et sykt menneskehode til et sunt digitalt: list, bedrag osv. osv., og på den andre siden i noen av avsnittene han kan ikke bestemme seg med en global forståelse av meningen med livet. Dette er også veldig deprimerende, og viser at han arbeidet lite med evolusjon. Hvis han hadde jobbet mer, ville han ikke hatt dilemmaet om hvilke mål, eller, jeg vil til og med si, filosofi og målsetting, som bør settes for AI. Fordi Ved å analysere verden rundt oss kan vi konkludere med at praktisk talt alt levende, og kanskje ikke levende, streber etter ekspansjon. Mange komplekst utviklede livsformer streber etter enda større utvikling, selvforbedring, utvidelse av deres innflytelse og interaksjon med andre levende og ikke-levende objekter. Derfor vil mest sannsynlig AI enten komme til lignende konklusjoner på egen hånd, eller slike prinsipper vil være innebygd i den. Som et resultat vil han fortsette, som alle levende ting, å utvikle, forbedre og erobre nye territorier, og forvandle verden ikke bare for seg selv, men også for sitt miljø.
Enig
Hvis du himler med øynene når du hører snakk om en væpnet overtakelse av hele verden av roboten Terminators, så er reaksjonen din nøyaktig: et slikt scenario er slett ikke realistisk. Disse
Hollywood-roboter kan ikke være smartere enn oss, eller enda smartere i det hele tatt. Etter min mening er ikke faren i Terminator-historien det som kan skje.
noe lignende, men at det distraherer vår oppmerksomhet fra de reelle risikoene og farene forbundet med kunstig intelligens. Overgangen fra den nåværende verden til en verden der
overtaket er virkelig vunnet av universell kunstig intelligens, krever tre logiske trinn:
- Trinn 1. Lag universell kunstig intelligens (AGI) på menneskelig nivå.
- Steg 2. Bruk denne AGI til å lage superintelligens.
- Trinn 3. Bruk superintelligens til å ta over verden eller gi den muligheten til å gjøre det på egen hånd.
Søk på tekst, en lignende historie med media som skriver om robotkrigen osv.
Mine forslag.
Jeg blir ikke lei av å gjenta, nå må alle kaste all sin kraft på å skape sinnet, det er sinnet, og ikke skjønnhet, eller annen dumhet, etter min mening, som vil redde verden. Og du bør ikke skille dette sinnet (intellektet) ved å sette grenser - kunstig, naturlig. På dette stadiet er AI fortsatt i sin spede begynnelse, så rollen som naturlig intelligens, støttet av teknologi, er veldig stor. Det er ingen klar grense mellom kunstig og naturlig. Hvis vi ønsker å skape normal intelligens, og ikke den primitive som nå eksisterer, må vi bruke alle muligheter, bruke alle teknologier, fordi... de jobber i rekursiv tandem: naturlig intelligens skaper kunstig intelligens, og kunstig intelligens, i det minste i de innledende stadiene, vil være interessert i å modernisere og utvide evnene til naturlig intelligens.
Hva slags fremtid vil jeg se for meg selv?
Det er verdt å nevne med en gang at dette er min mest optimistiske prognose for øyeblikket. Det er faktisk lite sannsynlig at jeg i vårt arkaiske samfunn vil klare å leve opp til det. Men jeg vil tro. Delvis vil jeg at sluttresultatet skal være som i filmen: «Spørsmål om universet: Kan vi leve for alltid?» med Adam Savage fra Discovery.
Mulige problemer
Grådige mennesker vil diskreditere AI. De vil begynne å bruke svak og til og med sterk, men ikke overdreven, AI for sine egne egoistiske formål. Det er her vi støter på et problem, som, hvis hukommelsen min tjener meg riktig, er dårlig beskrevet i boken.
Jeg tror at, enten vi liker det eller ikke, venter harde, grusomme, men intellektuelle kamper oss i fremtiden, på nivå med koder, memer, programmer, tro osv. Mest sannsynlig vil de først og fremst vises på digitale medier i virtuell virkelighet, som vil være enda mer realistisk enn trivielt. Det vil ikke være noen ofre eller revet kjøtt med blod. Krigen vil bli utkjempet om våre synspunkter, meninger, vurderinger. Og jo før denne krigen starter, jo bedre for alle. Det er ingen grunn til å være redd for det, det har allerede begynt, og hvis vi ikke vil forbli utenforstående, må vi ta del i det. Jeg husker ikke hvor jeg leste at hvis du er offline, så tenk på at du aldri har levd. Det høres vilt ut, og obskurantister (elskere av insekter, skog og bæsj) vil krangle med meg. Men hvis de tråkker akterdekk i skogene og mater mygg. da trenger du ikke å krangle med dem. Vi blir nødt til å argumentere med de villledede hyklerne som ved hjelp av teknologi anser det som ondt og alt er galt, FOR PÅ EN MÅTTE vil de ikke gi opp IT-en som omgir oss overalt.
Lenker og kommunikasjon
Forfatteren på sidene i boken foreslo mer enn en gang å kontakte ham på nettstedet . Jeg er begge for slike forbindelser. Jeg tror både lesere og forfattere vil ha nytte av dette. Men av en eller annen grunn åpnet ikke siden min via lenken, men den ble omdirigert til noen . Kanskje, hvis jeg finner tid, vil jeg prøve å gi en lenke til denne anmeldelsen til forfatteren av boken, til tross for at artikkelen min er på russisk og nettstedet er på engelsk. Heldigvis finnes det elektroniske oversettere. Du må også se, kanskje er det allerede noen andre nyttige tanker der. Og enda bedre her er ziminbookprojects.ru. Dette er mest sannsynlig en lignende versjon av det forrige nettstedet, men på russisk. Men jeg er ikke sikker. Uansett synes jeg lenkene er verdt oppmerksomhet, det samme er temaene som tas opp.
Her er et par flere sitater jeg likte:
For troende:
"Hvis det viser seg at de alle adlyder fysikkens lover, så har derfor sjelen ingen innflytelse på partiklene du er sammensatt av, noe som betyr at din bevissthet, ditt sinn og dens evne til å kontrollere bevegelsene dine ikke har noe å gjøre. gjøre med sjelen. Hvis det tvert imot viser seg at partiklene du er sammensatt av ikke adlyder fysikkens kjente lover, fordi sjelens innflytelse på dem forstyrrer dette, så må denne nye enheten være fysisk per definisjon, og da vi vil være i stand til å studere det slik vi studerte feltene og partiklene tidligere."
Veldig nyttig for de som skiller vitenskap fra religion. Å tro at vitenskap ikke skal blande seg inn i religion, og religion med vitenskap. Men for blinde religiøse fanatikere er dette en tom frase. Men for tvilende mennesker som er i stand til å tenke logisk, er tanken mer enn nyttig.
For forskere:
"genomet til bakterien Candidatus Carsonella ruddii lagrer opptil 40 kilobyte med informasjon, mens vårt menneskelige genom lagrer omtrent 1,6 gigabyte"
Interessant fakta. Jeg prøver å samle disse. Kanskje vil det være nyttig i arbeid, eller rett og slett i å diskutere temaer innen bioinformatikk.
Generelt kunne boken nesten demonteres i sitater og analyseres i detalj, men dessverre er det ikke tid. Forresten, vennen som anbefalte dette verket til meg forsto ikke noe i det hele tatt om essensen og meningen, fordi... Jeg hørte ikke på denne boken med en talesyntese, men som en lydbok. Derfor ble en del av oppmerksomheten hans rettet mot Skjønnheten til kunngjørerens stemme, og ikke meningen. Jeg er allerede stille om umuligheten av å sitere og mange andre ting som ikke er i lydbøker. Vel, dette er så, et lite gråt fra hjertet, for innbitte lydbokelskere. Jeg beskrev alt dette i detalj i boken min "Book 3.0. Lytte!
Kilde: www.habr.com