Critique du livre : « La vie 3.0. Être humain à l'ère de l'intelligence artificielle"

Beaucoup de ceux qui me connaissent peuvent confirmer que je suis assez critique sur de nombreux sujets et, d’une certaine manière, je fais même preuve d’un certain maximalisme. Je suis difficile à satisfaire. Surtout quand il s'agit de livres. Je critique souvent les fans de science-fiction, de religion, de romans policiers et bien d’autres absurdités. Je pense qu’il est grand temps de s’occuper des choses vraiment importantes et d’arrêter de vivre dans l’illusion de l’immortalité.

Lors d'une des discussions avec un de mes bons amis, après ma prochaine indignation face au fait qu'on me proposait constamment diverses absurdités (la même science-fiction), il m'a conseillé de travailler sur le livre « Life 3.0. Être humain…". J'ai honte d'admettre que je l'ai téléchargé il y a longtemps et que je ne l'ai même pas remarqué, ainsi que la magnifique sélection de la Dynasty Foundation. C'est très difficile pour moi de plaire, parce que... J'ai travaillé sur pas mal de livres, c'est un euphémisme. Mais celui-ci m'a plu et j'ai décidé non seulement de répondre à sa question de savoir si cela valait la peine d'y travailler ou non, mais aussi d'écrire ma propre critique, car, malgré le fait que le livre mérite l'attention, il y a encore quelque chose sur lequel travailler.

J'aimerais croire que ma critique ne se noiera pas, comme toujours, dans la masse des inondations et des spams, et atteindra non seulement les lecteurs, mais aussi les écrivains qui prendront en compte les lacunes des travaux ultérieurs. Bien sûr, vous ne trouverez ci-dessous que mon opinion subjective, mais je vais essayer de la justifier autant que possible. Malgré le fait que, comme toujours catastrophique, il n'y a pas de temps pour tout et en fait, je suis un esclave mendiant moyen ; cependant, je considère qu'il est de mon devoir civique en tant que cosmopolite d'écrire cette critique, car... Cela fait longtemps que je m'intéresse à ce sujet et à bien d'autres sujets connexes. Je crois qu'une grande partie de ce qui est décrit ci-dessous constitue les tâches principales assignées à la fois à l'humanité dans son ensemble et à ses individus. Aussi prétentieux que cela puisse paraître. Donc…

La vie 3.0. Être humain

Critique

Les bêtises commencent littéralement dès les premières pages du livre. Je cite:

« Comme on le sait, il n’y a pas eu d’accord depuis longtemps sur la question de savoir ce qu’est la vie. Un grand nombre de définitions alternatives ont été proposées, et certaines d'entre elles incluent des restrictions assez strictes : par exemple, la présence d'une structure cellulaire, qui exclurait probablement les futures machines pensantes et certaines civilisations extraterrestres de la liste des êtres vivants. Puisque nous ne voulons pas limiter notre réflexion sur l'avenir de la vie aux espèces que nous connaissons déjà, prenons une définition plus large pour inclure tout autre processus, à condition qu'il ait la complexité et la capacité de se reproduire. Ce qui est exactement reproduit n'est pas si important (se compose d'atomes), ce qui est important, c'est l'information (se compose de bits), qui est déterminée par la position relative des atomes les uns par rapport aux autres. Lorsqu’une bactérie copie son ADN, aucun nouvel atome n’est créé, mais les atomes existants sont disposés dans une chaîne qui répète exactement celle d’origine, de sorte que seules les informations sont copiées. En d’autres termes, on peut considérer comme vivant tout système autoreproducteur capable de traiter de l’information, dont la propre information (son « logiciel ») détermine à la fois son comportement et sa structure (« dur »).

Il n’y a pas d’accord, mais il y a actuellement des idées plus claires sur la vie. Ce serait bien de faire leur connaissance.

Sinon, si nous le simplifions de cette manière et l'abordons depuis cette position, alors la vie peut être attribuée à la croissance de cristaux complexes qui reproduisent leur structure à partir du substrat. Ou, peut-être, certains processus de formation d'huile et d'humus, où se trouve également une graine, conduisant à l'émergence de molécules de la même graine. Ce sont pour ainsi dire les ancêtres des enzymes, mais dans la science moderne, ils ne sont pas considérés comme une vie à part entière, car ils ne sont pas capables de développement et de mutation. S’il n’y a pas de variabilité, alors ce n’est pas la vie. Par conséquent, je propose de restreindre un peu le concept de vie et de reconsidérer les autres caractéristiques qu'il peut avoir. Je vous recommande également mon article : « Classification du potentiel de vie ».

Citation suivante :

« À la suite de l'Univers lui-même, la vie est devenue de plus en plus complexe et intéressante 4, et, comme je vais maintenant l'expliquer, il me semble utile d'introduire une classification des formes de vie selon leur correspondance à trois degrés de complexité : Vie 1.0, 2.0 et 3.0. La façon dont ces trois formes diffèrent les unes des autres peut être clairement vue en termes généraux sur la figure. 1.1….
Trois étapes de la vie : évolution biologique, évolution culturelle et évolution technologique. La vie 1.0 ne peut influencer ni le « dur » ni le « doux » au cours de son existence
un seul organisme : tous deux sont déterminés par son ADN, qui peut changer de génération en génération au cours d’une longue période d’évolution.

Ici, d'après ce que je comprends, il y a une grossière erreur. Il est clair que l’auteur n’est pas familier avec la recherche moderne sur les micro-organismes. Ils peuvent changer à la fois leur matériel et leurs logiciels. Ceux. la vie 1, en fait, peut faire la même chose que la vie 3. Les micro-organismes peuvent même mieux capturer des morceaux d’ADN que les humains. Ils le font de différentes manières. Soit directement, à partir de l'environnement (s'ils trouvent l'ADN d'une cellule détruite), soit à l'aide de bactériophages et de plasmides, soit par reproduction sexuée, formant ce qu'on appelle la conjugaison sexuelle chez les bactéries - Wikipédia. Ils peuvent également découper les zones inutiles avec une précision extrême. Par exemple, grâce à CRISPR. Par conséquent, même Life 1.0 peut modifier à la fois son matériel et ses logiciels. C'est pour nous qui avons peur des OGM et avons oublié que LUCA, dans une certaine mesure, est vivant, cela semble quelque chose d'innovant et d'inouï. Nous avons perdu cette capacité, et pour les primates « intelligents », changer de disque dur est devenu complètement tabou. Ce n’est donc pas nouveau, c’est du vieux bien oublié. Cela ne sert à rien d’utiliser ce paramètre en comparaison. Le degré de complexité est une chose, mais le changement personnel (à différents niveaux de complexité) en est une autre. Vous devez être capable de séparer les mouches des côtelettes. La classification doit être considérablement révisée.

Mais ce sont quand même des fleurs. Ensuite, je n'ai pas eu la possibilité de créer des signets. Malgré le fait que le livre aborde de la bonne manière des questions extrêmement importantes et mondiales, l'auteur est très érudit, cependant, apparemment, il lui manquait quelque chose pour faire une interpolation compétente et néanmoins parvenir à des hypothèses de travail raisonnables et au moins à des conclusions préliminaires.

Par exemple, dans l’une des sections, il interpole l’approche primitive et espiègle des gens envers l’IA, craignant et envisageant la possibilité de tromperie des gens par l’IA. Oui, il est possible que s’il s’agit simplement d’une IA puissante, une telle tromperie puisse avoir lieu. Cependant, s’il s’agit d’une super intelligence artificielle (IA), il est peu probable qu’une telle tromperie soit nécessaire. C’est juste qu’une telle intelligence, sans aucun mensonge ni ruse, sera capable de faire à beaucoup de gens exactement une offre qu’ils ne peuvent refuser. Je n'ai pas l'occasion de tout décrire ici, mais afin de comprendre pourquoi il est plus probable que l'IA ne soit pas encline à tromper, je recommande d'étudier, par exemple, les livres de Matt Ridley. « L'origine de l'altruisme et de la vertu », et d'une part, « L'évolution de tout ». Après avoir analysé ces travaux, nous pouvons conclure que plus le développement est élevé, plus la tendance à l’altruisme, à la coopération et aux jeux à somme non nulle est forte plutôt qu’à la compétition. Par conséquent, plus l’intellect est intelligent, plus il est probable qu’il soit plus humain et honnête. Ceux. L’intelligence elle-même est une ressource puissante pour comprendre et utiliser les gens non pas comme des concurrents trompés, mais comme des alliés. Trouvez les forces et les faiblesses des gens, compensez les premières et utilisez les secondes. S’il n’y a pas besoin de coopération avec les gens, alors il est peu probable que la concurrence soit nécessaire, car Il existe de nombreuses ressources gratuites. Nos océans sont toujours vides. Beaucoup d’espace vide sous la Terre, je suis déjà silencieux pour les autres planètes. Par conséquent, l’IA de haute technologie, située sur un support plus efficace que ceux créés par sélection aveugle à partir de formes biologiques, aura de la place pour se déplacer sans aucune concurrence avec les humains. Il occupera simplement une grande partie de ces niches que les gens occupent encore et ne pourront peut-être jamais revendiquer. Et il ne trompera personne. Déjà maintenant, non seulement l’IA, mais même les gens alphabétisés ordinaires pratiquent une approche différente. Pas de tromperie et de secret, mais un maximum d'ouverture, de sincérité et de coopération. Les personnes ayant une mentalité de voleur ossifiée, archaïque ne peuvent pas comprendre cela. Très probablement, le code de l'IA ne sera tout simplement pas open source. Comme le code de nombreux logiciels libres. Et les pirates ne seront pas punis ni réprimés, mais seront encouragés à signaler les vulnérabilités de ce code. C’est la même chose avec le meurtre comme punition et avec les prisons. Tout cela n’arrivera pas, c’est de la folie. Il existe deux voies pour les personnes marginalisées : d'abord les étudier en détail, puis soit les prendre en compte et les écouter en faisant des compromis avec elles, car il peut s'agir d'une opinion extraordinairement importante, ou de rééducation, de traitement et non de punition.

D'une manière générale, je suis catégoriquement contre toutes ces peurs et sentiments luddistes ; l'humanité doit consacrer tous ses efforts à créer de l'intelligence, car en fait, notre intelligence naturelle n’est pas très intelligente. C’est juste que beaucoup de primates, il n’y a pas d’autre moyen de les appeler, ne le remarquent pas. Revenant à l'interpolation, je voudrais résumer cette partie et continuer. Comme on le voit, d'une part, Tegmark ne devrait pas faire d'analogies et transférer les complexes humains d'une tête humaine malade à une tête numérique saine : ruse, tromperie, etc., etc., et d'autre part, dans certaines sections il ne peut pas décider avec une compréhension globale du sens de la vie. C'est également très déprimant et montre qu'il a peu travaillé sur l'évolution. S'il avait travaillé davantage, il n'aurait pas eu le dilemme de savoir quels objectifs, ou, je dirais même, quelle philosophie et quelle définition d'objectifs, devraient être fixés pour l'IA. Parce que En analysant le monde qui nous entoure, nous pouvons conclure que pratiquement tout ce qui vit, et peut-être non vivant, aspire à l'expansion. De nombreuses formes de vie développées de manière complexe s'efforcent de se développer, de s'améliorer, d'étendre leur influence et d'interagir encore plus avec d'autres objets vivants et non vivants. Par conséquent, il est fort probable que l'IA parviendra d'elle-même à des conclusions similaires ou que de tels principes y seront intégrés. De ce fait, il continuera, comme tout être vivant, à développer, améliorer et conquérir de nouveaux territoires, transformant le Monde non seulement pour lui-même, mais aussi pour son environnement.

Je suis d'accord

Si vous levez les yeux au ciel lorsque vous entendez parler d’une prise de contrôle armée du monde entier par des robots Terminators, alors votre réaction est exacte : un tel scénario n’est pas du tout réaliste. Ces
Les robots hollywoodiens ne peuvent pas être plus intelligents que nous, ni même plus intelligents que nous. À mon avis, le danger dans l’histoire de Terminator n’est pas celui qui pourrait arriver.
quelque chose de similaire, mais que cela détourne notre attention des risques et dangers réels associés à l’intelligence artificielle. La transition du monde actuel vers un monde dans lequel
Si l’intelligence artificielle universelle prend véritablement le dessus, cela nécessite trois étapes logiques :

• Étape 1. Créer une intelligence artificielle universelle (AGI) au niveau humain.
• Étape 2. Utilisez cette AGI pour créer une superintelligence.
• Étape 3. Utilisez la superintelligence pour conquérir le monde ou donnez-lui la possibilité de le faire par lui-même.

Recherche par texte, une histoire similaire avec les médias qui parlent de la guerre des robots, etc.
Mes suggestions.

Je ne me lasserai pas de le répéter, maintenant chacun doit mettre tout son pouvoir dans la création de l'esprit, c'est l'esprit, et non la beauté, ou autre bêtise, à mon avis, qui sauvera le Monde. Et vous ne devriez pas séparer cet esprit (intellect) en fixant des limites - artificielles, naturelles. À ce stade, l’IA en est encore à ses balbutiements, le rôle de l’intelligence naturelle, soutenu par la technologie, est donc très important. Il n’y a pas de frontière claire entre artificiel et naturel. Si nous voulons créer une intelligence normale, et non celle primitive qui existe actuellement, nous devons utiliser toutes les possibilités, utiliser toutes les technologies, parce que... ils travaillent en tandem récursif : l'intelligence naturelle crée l'intelligence artificielle, et l'intelligence artificielle, au moins dans les premiers stades, s'intéressera à la modernisation et à l'expansion des capacités de l'intelligence naturelle.

Quel genre d’avenir aimerais-je voir pour moi-même ?

Il convient de mentionner d’emblée que c’est ma prévision la plus optimiste pour le moment. En fait, il est peu probable que, dans notre société archaïque, je sois à la hauteur. Mais je veux y croire. En partie, j'aimerais que le résultat final soit comme dans le film : « Questions de l'Univers : Pouvons-nous vivre éternellement ? avec Adam Savage de Discovery.

Les problèmes possibles

Les cupides discréditeront l’IA. Ils commenceront à utiliser une IA faible, voire forte, mais sans excès, à leurs propres fins égoïstes. C’est là que nous rencontrons un problème qui, si ma mémoire est bonne, est mal décrit dans le livre.

Je pense que, que cela nous plaise ou non, des batailles dures, cruelles, mais intellectuelles nous attendent dans le futur, au niveau des codes, des mèmes, des programmes, des croyances, etc. Très probablement, ils seront diffusés principalement sur des supports numériques en réalité virtuelle, ce qui sera encore plus réaliste que trivial. Il n'y aura pas de victimes ni de viande déchirée avec du sang. La guerre se déroulera autour de nos points de vue, de nos opinions et de nos jugements. Et plus tôt cette guerre commencera, mieux ce sera pour tout le monde. Il ne faut pas avoir peur, cela a déjà commencé, et si nous ne voulons pas rester des outsiders, nous devons y participer. Je ne me souviens pas où j'ai lu que si vous êtes hors ligne, considérez que vous n'avez jamais vécu. Cela semble sauvage, et les obscurantistes (amoureux des insectes, des forêts et des crottes) discuteront avec moi. Mais s'ils piétinent les excréments dans les forêts et nourrissent les moustiques. alors vous n’aurez pas à discuter avec eux. Nous devrons discuter avec les hypocrites égarés qui, utilisant la technologie, la considèrent comme mauvaise et que tout va mal, POUR QUELQUE FAÇON, ils n'abandonneront pas l'informatique qui nous entoure partout.

Liens et communications

L'auteur sur les pages du livre a suggéré à plusieurs reprises de le contacter sur le site Internet AgeOfAi.org. Je suis tous les deux favorables à de telles connexions. Je pense que les lecteurs et les écrivains en bénéficieraient. Mais pour une raison quelconque, ma page via le lien ne s'est pas ouverte, mais elle a été redirigée vers certains futureoflife.org/superintelligence-survey. Peut-être que si je trouve le temps, j'essaierai de donner un lien vers cette critique à l'auteur du livre, malgré le fait que mon article soit en russe et le site en anglais. Heureusement, il existe des traducteurs électroniques. Vous devrez également regarder, il y a peut-être déjà d'autres réflexions utiles. Et encore mieux, voici ziminbookprojects.ru. Il s'agit probablement d'une version similaire du site précédent, mais en russe. Mais je ne suis pas sur. En tout cas, je pense que les liens méritent attention, tout comme les sujets abordés.

Voici quelques autres citations que j’ai aimées :

Pour les croyants :

« S’il s’avère qu’elles obéissent toutes aux lois de la physique, alors l’âme n’a donc aucune influence sur les particules qui vous composent, ce qui signifie que votre conscience, votre esprit et sa capacité à contrôler vos mouvements n’ont rien à voir. faire avec l'âme. Si, au contraire, il s'avère que les particules qui vous composent n'obéissent pas aux lois connues de la physique, car l'influence de votre âme sur elles interfère avec cela, alors cette nouvelle entité doit être physique par définition, et alors nous pourrons l’étudier comme nous avons étudié les champs et les particules dans le passé. »

Très utile pour ceux qui séparent la science de la religion. Croire que la science ne doit pas interférer avec la religion, et la religion avec la science. Cependant, pour les fanatiques religieux aveugles, c’est une phrase vide de sens. Mais pour les personnes sceptiques qui sont capables de penser logiquement, la pensée est plus qu'utile.
Pour les scientifiques :

"Le génome de la bactérie Candidatus Carsonella rudii stocke jusqu'à 40 kilo-octets d'informations, tandis que notre génome humain en stocke environ 1,6 gigaoctets"

Fait intéressant. J'essaie de les collectionner. Peut-être que cela sera utile au travail, ou simplement pour discuter de sujets en bioinformatique.

En général, le livre pourrait être presque entièrement démonté en citations et analysé en détail, mais hélas, comme toujours, le temps manque. D'ailleurs, l'ami qui m'a recommandé ce travail n'a rien compris du tout à l'essence et au sens, parce que... J'ai écouté ce livre non pas avec un synthétiseur vocal, mais sous forme de livre audio. Par conséquent, une partie de son attention était portée sur la BEAUTÉ de la voix de l'annonceur, et non sur le sens. Je reste déjà silencieux sur l'impossibilité de citer et bien d'autres choses qui ne figurent pas dans les livres audio. Eh bien, c'est vrai, un petit cri du cœur, pour les amateurs inconditionnels de livres audio. J'ai décrit tout cela en détail dans mon livre « Livre 3.0. Écouter!

Source: habr.com