Mange, der kender mig, kan bekræfte, at jeg er ret kritisk over for mange problemstillinger, og på nogle måder udviser jeg endda en del maksimalisme. Jeg er svær at behage. Især når det kommer til bøger. Jeg kritiserer ofte fans af science fiction, religion, detektivhistorier og meget andet nonsens. Jeg synes, det er på høje tid at tage sig af virkelig vigtige ting og holde op med at leve i illusionen om udødelighed.
Under en af diskussionerne med en af mine gode venner, efter min næste forargelse over, at jeg hele tiden blev tilbudt diverse sludder (den samme science fiction), rådede han mig til at gennemarbejde bogen “Life 3.0. Være menneske…". Jeg skammer mig over at indrømme, at jeg downloadede det for længe siden og ikke engang bemærkede det, sammen med det storslåede udvalg af Dynasty Foundation. Det er meget svært for mig at behage, fordi... Jeg har gennemarbejdet en del bøger, for at sige det mildt. Men jeg kunne godt lide denne, og jeg besluttede ikke kun at svare på hans spørgsmål, om det var værd at arbejde på det eller ej, men også at skrive min egen kritiske anmeldelse, for på trods af at bogen er værd at være opmærksom på, er der stadig noget at arbejde på.
Jeg vil gerne tro, at min anmeldelse ikke som altid vil drukne i massen af oversvømmelser og spam og ikke kun vil nå ud til læsere, men også forfattere, der vil tage hensyn til manglerne i efterfølgende værker. Nedenstående er selvfølgelig kun min subjektive mening, men jeg vil forsøge at underbygge det så meget som muligt. På trods af det faktum, at der, som altid katastrofalt, ikke er tid til alt, og faktisk er jeg en gennemsnitlig tiggerslave; jeg betragter det dog som min borgerpligt som kosmopolit at skrive denne anmeldelse, fordi... Jeg har været interesseret i dette og mange andre relaterede emner i lang tid. Jeg mener, at meget af det, der beskrives nedenfor, er de primære opgaver, der stilles både for menneskeheden som helhed og for dens individuelle individer. Uanset hvor prætentiøst det kan lyde. Så…
Liv 3.0. Være menneske
kritik
Blooperne starter bogstaveligt talt fra de første sider af bogen. jeg citerer:
”Der har som bekendt længe ikke været enighed om spørgsmålet om, hvad der betragtes som liv. Et stort antal alternative definitioner er blevet foreslået, og nogle af dem inkluderer ganske strenge begrænsninger: for eksempel tilstedeværelsen af en cellulær struktur, som sandsynligvis ville udelukke fremtidige tænkende maskiner og nogle udenjordiske civilisationer fra listen over levende ting. Da vi ikke ønsker at begrænse vores tankegang om livets fremtid til de arter, som vi allerede er fortrolige med, lad os tage en bredere definition af det til at inkludere enhver anden proces, så længe den har kompleksiteten og evnen til at reproducere sig selv. Hvad der præcist gengives er ikke så vigtigt (består af atomer), det vigtige er informationen (består af bits), som er bestemt af atomernes relative position i forhold til hinanden. Når en bakterie kopierer sit DNA, skabes der ingen nye atomer, men de eksisterende atomer er arrangeret i en kæde, der præcist gentager den oprindelige, så kun informationen kopieres. Med andre ord kan vi betragte ethvert selvreproducerende system i live, der er i stand til at behandle information, hvis egen information (dets "software") bestemmer både dets adfærd og dets struktur ("hårde")."
Der er ingen aftale, men der er mere klare ideer om livet i øjeblikket. Det ville være godt at stifte bekendtskab med dem.
Ellers, hvis vi forenkler det på denne måde og nærmer os det fra denne position, så kan livet tilskrives væksten af komplekse krystaller, der gengiver deres struktur fra substratet. Eller måske nogle processer til dannelse af olie og humus, hvor der også er et frø, hvilket fører til fremkomsten af molekyler af det samme frø. Disse er så at sige stamfædre til enzymer, men i moderne videnskab anses de ikke for at være fuldt liv, fordi de er ikke i stand til udvikling og mutation. Hvis der ikke er nogen variation, så er dette ikke livet. Derfor foreslår jeg at indsnævre begrebet liv lidt, og genoverveje, hvilke andre funktioner det kan have. Jeg anbefaler også min artikel: "Klassificering af livspotentiale."
Næste citat:
"Efter selve universet er livet blevet mere og mere komplekst og interessant 4, og som jeg nu vil forklare, forekommer det mig nyttigt at indføre en klassificering af livsformer i henhold til deres korrespondance til tre grader af kompleksitet: Life 1.0, 2.0 og 3.0. Hvordan disse tre former adskiller sig fra hinanden, kan tydeligt ses i generelle vendinger i fig. 1.1….
Tre stadier af livet: biologisk evolution, kulturel evolution og teknologisk evolution. Life 1.0 kan ikke påvirke hverken "hårdt" eller "blødt" under dets eksistens
en enkelt organisme: begge er bestemt af dens DNA, som kan ændre sig fra generation til generation over en lang periode med evolution."
Her er der, så vidt jeg forstår, en grov fejl. Det er tydeligt, at forfatteren ikke er bekendt med moderne forskning i mikroorganismer. De kan ændre både deres hårde og software. De der. liv 1 kan faktisk det samme som liv 3. Mikroorganismer kan endda fange stykker af DNA bedre end mennesker. Det gør de på forskellige måder. Enten direkte, fra miljøet (hvis de finder DNA fra en ødelagt celle), eller ved hjælp af bakteriofager og plasmider, eller ved seksuel reproduktion, der danner den såkaldte seksuelle pil Konjugation i bakterier - Wikipedia. De kan også skære unødvendige områder ud med stor præcision. For eksempel takket være CRISPR. Derfor kan selv Life 1.0 ændre både hård og software. Dette er for os, der er bange for GMO'er og har glemt, at LUCA til en vis grad er i live, virker noget innovativt og uhørt. Vi har mistet denne evne, og for "smarte" primater er det blevet fuldstændig tabu at skifte harddisk. Derfor er dette ikke nyt, det er godt glemt gammelt. Det nytter ikke at bruge denne parameter til sammenligning. Graden af kompleksitet er én ting, men selvforandring (på forskellige niveauer af kompleksitet) er en anden. Du skal kunne adskille fluer fra koteletter. Klassifikationen skal revideres væsentligt.
Men det er stadig blomster. Så havde jeg ingen mulighed for at lave bogmærker. På trods af at bogen berører ekstremt vigtige og globale problemstillinger på den rigtige måde, er forfatteren meget lærd, dog manglede han tilsyneladende noget for at kunne lave en kompetent interpolation og stadig nå frem til fornuftige arbejdshypoteser og i hvert fald foreløbige konklusioner.
For eksempel interpolerer han i et af afsnittene folks primitive useriøse tilgang til AI, idet han frygter og overvejer muligheden for bedrag af mennesker ved AI. Ja, det er muligt, at hvis det bare er en stærk AI, så kan et sådant bedrag finde sted. Men hvis det er super kunstig intelligens (AI), så er et sådant bedrag næppe nødvendigt. Det er bare, at en sådan intelligens, uden nogen løgne og list, vil være i stand til at give mange mennesker præcis det tilbud, som de ikke kan afslå. Jeg har ikke mulighed for at beskrive alt her, men for at forstå, hvorfor det er mere sandsynligt, at AI'en ikke vil være tilbøjelig til at bedrage, anbefaler jeg at studere for eksempel Matt Ridleys bøger. "Oprindelsen af altruisme og dyd", og for det første, "Evolutionen af alt". Efter at have analyseret disse værker kan vi konkludere, at jo højere udviklingen er, desto større er tendensen til altruisme, samarbejde og ikke-nulsumsspil snarere end konkurrence. Derfor, jo smartere intellektet er, jo mere sandsynligt er det, at det bliver mere humant og ærligt. De der. intelligens i sig selv er en stærk ressource til at forstå og bruge mennesker ikke som bedragede konkurrenter, men som allierede. Find styrker og svagheder hos mennesker, kompenser for førstnævnte og brug sidstnævnte. Hvis der ikke er behov for samarbejde med mennesker, så er der næppe behov for konkurrence, fordi Der er ret mange gratis ressourcer rundt omkring. Vores oceaner er stadig tomme. En masse tomt rum under Jorden, jeg er allerede tavs for de andre planeter. Derfor vil højteknologisk AI, placeret på et mere effektivt medium end dem, der skabes ved blind udvælgelse fra biologiske former, have plads til at strejfe uden nogen konkurrence med mennesker. Det vil simpelthen optage mange af de nicher, som folk stadig, og måske aldrig vil være i stand til at gøre krav på. Og han vil ikke bedrage nogen. Allerede nu praktiserer ikke kun AI, men selv almindelige læsekyndige mennesker en anden tilgang. Ikke bedrag og hemmelighedskræmmeri, men maksimal åbenhed, oprigtighed og samarbejde. Mennesker med en forbenet, arkaisk, tyvekkende mentalitet kan ikke forstå dette. Mest sandsynligt vil AI-koden simpelthen ikke være open source. Ligesom koden til en masse gratis software. Og hackere vil ikke blive straffet og undertrykt, men vil blive opmuntret til at rapportere sårbarhederne i denne kode. Det er det samme med mord som straf og fængsler. Alt dette vil ikke ske, det er vildskab. Der er to veje for marginaliserede mennesker: Først skal de studeres i detaljer og derefter enten tages i betragtning og lyttes til ved at gå på kompromis med dem, fordi det kan være en ekstraordinær vigtig mening, eller genopdrage, behandle og ikke straffe.
Generelt er jeg kategorisk imod al denne frygt og luddistiske følelser; menneskeheden må bruge alle sine bestræbelser på at skabe intelligens, fordi faktisk er vores naturlige intelligens ikke særlig smart. Det er bare, at mange primater, der er ingen anden måde at kalde dem på, lægger ikke mærke til dette. For at vende tilbage til interpolation vil jeg gerne opsummere denne del og fortsætte. Som vi ser, skal Tegmark på den ene side ikke tegne analogier og overføre menneskelige komplekser fra et sygt menneskehoved til et sundt digitalt: list, bedrag osv. osv., og på den anden side i nogle af afsnittene han kan ikke beslutte sig med en global forståelse af meningen med livet. Dette er også meget deprimerende og viser, at han ikke arbejdede meget med evolution. Hvis han havde arbejdet mere, ville han ikke have haft dilemmaet om, hvilke mål, eller jeg vil endda sige, filosofi og målsætning, der skulle sættes for AI. Fordi Ved at analysere verden omkring os kan vi konkludere, at praktisk talt alt levende, og måske ikke levende, stræber efter ekspansion. Mange komplekst udviklede livsformer stræber efter endnu større udvikling, selvforbedring, udvidelse af deres indflydelse og interaktion med andre levende og ikke-levende objekter. Derfor vil AI højst sandsynligt enten komme til lignende konklusioner alene, eller sådanne principper vil blive indlejret i den. Som et resultat vil han fortsætte, som alle levende ting, med at udvikle, forbedre og erobre nye territorier og transformere verden ikke kun for sig selv, men også for sit miljø.
Enig
Hvis du ruller med øjnene, når du hører tale om en væbnet overtagelse af hele verden af robotten Terminators, så er din reaktion nøjagtig: et sådant scenarie er slet ikke realistisk. Disse
Hollywood-robotter kan ikke være klogere end os, eller endda klogere overhovedet. Efter min mening er faren i Terminator-historien ikke, hvad der kan ske.
noget lignende, men at det afleder vores opmærksomhed fra de reelle risici og farer forbundet med kunstig intelligens. Overgangen fra den nuværende verden til en verden, hvori
overtaget er virkelig vundet af universel kunstig intelligens, kræver tre logiske trin:
- Trin 1. Skab universel kunstig intelligens (AGI) på det menneskelige niveau.
- Trin 2. Brug denne AGI til at skabe superintelligens.
- Trin 3. Brug superintelligens til at overtage verden eller giv den mulighed for at gøre det på egen hånd.
Søg på tekst, en lignende historie med medierne, der skriver om robotternes krig osv.
Mine forslag.
Jeg bliver ikke træt af at gentage, nu må alle kaste al deres kraft ind i at skabe sindet, det er sindet, og ikke skønhed, eller anden dumhed, efter min mening, der vil redde verden. Og du bør ikke adskille dette sind (intellekt) ved at sætte grænser – kunstige, naturlige. På dette stadium er AI stadig i sin vorden, så rollen som naturlig intelligens, understøttet af teknologi, er meget stor. Der er ingen klar grænse mellem kunstigt og naturligt. Hvis vi vil skabe normal intelligens, og ikke den primitive, der findes nu, er vi nødt til at bruge alle muligheder, bruge alle teknologier, fordi... de arbejder i rekursiv tandem: Naturlig intelligens skaber kunstig intelligens, og kunstig intelligens vil i det mindste i de indledende faser være interesseret i at modernisere og udvide den naturlige intelligenss muligheder.
Hvilken slags fremtid vil jeg gerne se for mig selv?
Det er værd at nævne med det samme, at dette er min mest optimistiske prognose i øjeblikket. Faktisk er det usandsynligt, at jeg i vores arkaiske samfund vil kunne leve op til det. Men jeg vil gerne tro. Dels ville jeg gerne have, at slutresultatet blev som i filmen: "Universets spørgsmål: Kan vi leve for evigt?" med Adam Savage fra Discovery.
Mulige problemer
Grådige mennesker vil miskreditere AI. De vil begynde at bruge svag og endda stærk, men ikke overdreven, AI til deres egne egoistiske formål. Det er her, vi støder på et problem, som, hvis min hukommelse tjener mig rigtigt, er dårligt beskrevet i bogen.
Jeg tror, at uanset om vi kan lide det eller ej, venter barske, grusomme, men intellektuelle kampe os i fremtiden, på niveau med koder, memer, programmer, overbevisninger osv. Mest sandsynligt vil de primært blive vist på digitale medier i virtual reality, hvilket vil være endnu mere realistisk end trivielt. Der vil ikke være nogen ofre eller revet kød med blod. Krigen vil blive udkæmpet om vores synspunkter, meninger, domme. Og jo før denne krig starter, jo bedre for alle. Der er ingen grund til at være bange for det, det er allerede begyndt, og hvis vi ikke vil forblive outsidere, skal vi tage del i det. Jeg kan ikke huske, hvor jeg læste, at hvis du er offline, så overvej, at du aldrig har levet. Det lyder vildt, og obskurantister (elskere af insekter, skove og afføring) vil skændes med mig. Men hvis de tramper afføring i skovene og fodrer myg. så behøver du ikke skændes med dem. Vi bliver nødt til at argumentere med de vildledte hyklere, som ved hjælp af teknologi betragter det som ondt, og alt er galt, FOR PÅ EN MÅDE vil de ikke opgive den IT, der omgiver os overalt.
Links og kommunikation
Forfatteren på bogens sider foreslog mere end én gang at kontakte ham på hjemmesiden . Jeg er begge til sådanne forbindelser. Jeg tror, at både læsere og forfattere ville have gavn af dette. Men af en eller anden grund åbnede min side via linket ikke, men den blev omdirigeret til nogle . Måske, hvis jeg finder tid, vil jeg prøve at give et link til denne anmeldelse til forfatteren af bogen, på trods af at min artikel er på russisk og webstedet er på engelsk. Heldigvis findes der elektroniske oversættere. Du skal også kigge, måske er der allerede nogle andre nyttige tanker der. Og endnu bedre her er ziminbookprojects.ru. Dette er højst sandsynligt en lignende version af det tidligere websted, men på russisk. Men jeg er ikke sikker. Jeg synes i hvert fald, at linkene er værd at være opmærksomme på, og det samme er de emner, der tages op.
Her er et par flere citater, jeg kunne lide:
For troende:
"Hvis det viser sig, at de alle adlyder fysikkens love, så har sjælen derfor ingen indflydelse på de partikler, du er sammensat af, hvilket betyder, at din bevidsthed, dit sind og dets evne til at kontrollere dine bevægelser ikke har noget at gøre med. gøre med sjælen. Hvis det tværtimod viser sig, at de partikler, du er sammensat af, ikke adlyder fysikkens kendte love, fordi din sjæls indflydelse på dem forstyrrer dette, så skal denne nye enhed være fysisk pr. definition, og så vi vil være i stand til at studere det, som vi studerede felterne og partiklerne i fortiden."
Meget nyttig for dem, der adskiller videnskab fra religion. At tro, at videnskab ikke skal blande sig med religion, og religion med videnskab. Men for blinde religiøse fanatikere er dette en tom sætning. Men for tvivlende mennesker, der er i stand til at tænke logisk, er tanken mere end nyttig.
For videnskabsmænd:
"genomet af bakterien Candidatus Carsonella ruddii gemmer op til 40 kilobyte information, mens vores menneskelige genom lagrer omkring 1,6 gigabyte"
Interessant fakta. Jeg prøver at samle disse. Måske vil det være nyttigt i arbejdet eller blot til at diskutere emner inden for bioinformatik.
Generelt kunne bogen næsten skilles helt ad i citater og analyseres i detaljer, men desværre er der som altid ikke tid. Vennen, der anbefalede mig dette arbejde, forstod i øvrigt ikke noget som helst om essensen og meningen, fordi... Jeg lyttede ikke til denne bog med en talesynthesizer, men som en lydbog. Derfor blev en del af hans opmærksomhed rettet mod SKØNHED af talerens stemme, og ikke på betydningen. Jeg er allerede tavs om umuligheden af at citere og mange andre ting, der ikke er i lydbøger. Nå, det er så, et lille råb fra hjertet, for inderlige lydbogselskere. Alt dette beskrev jeg i detaljer i min bog "Bog 3.0. Hør efter!
Kilde: www.habr.com