Muitos que me conhecem podem confirmar que sou bastante crítico em relação a muitas questões e, em alguns aspectos, até demonstro uma boa quantidade de maximalismo. Sou difícil de agradar. Principalmente quando se trata de livros. Costumo criticar os fãs de ficção científica, religião, histórias de detetive e muitas outras bobagens. Acho que já é hora de cuidar de coisas realmente importantes e parar de viver na ilusão da imortalidade.
Durante uma das discussões com um de meus bons amigos, após minha próxima indignação pelo fato de me oferecerem constantemente diversas bobagens (a mesma ficção científica), ele me aconselhou a trabalhar no livro “Vida 3.0. Sendo humano…". Tenho vergonha de admitir que baixei há muito tempo e nem percebi, junto com a magnífica seleção da Dynasty Foundation. É muito difícil para mim agradar, porque... Eu trabalhei em alguns livros, para dizer o mínimo. Mas gostei deste e resolvi não só responder à sua pergunta se valia a pena trabalhar nele ou não, mas também escrever a minha própria crítica crítica, porque, apesar de o livro merecer atenção, ainda há algo para trabalhar.
Gostaria de acreditar que minha resenha não se afogará, como sempre, em muitas inundações e spam, e alcançará não apenas leitores, mas também escritores que levarão em conta as deficiências nos trabalhos subsequentes. Claro, abaixo está apenas minha opinião subjetiva, mas tentarei comprová-la tanto quanto possível. Apesar de, como sempre catastrófico, não haver tempo para tudo e, na verdade, sou um escravo mendigo comum; no entanto, considero meu dever cívico como cosmopolita escrever esta resenha, porque... Há muito tempo que me interesso por este e muitos outros tópicos relacionados. Acredito que muito do que é descrito abaixo são as tarefas primárias definidas tanto para a humanidade como um todo como para os seus indivíduos individuais. Não importa o quão pretensioso possa parecer. Então…
Vida 3.0. Sendo humano
Crítica
Os erros começam literalmente nas primeiras páginas do livro. Eu cito:
“Como se sabe, há muito que não existe acordo sobre a questão do que é considerado vida. Um grande número de definições alternativas foram propostas, e algumas delas incluem restrições bastante estritas: por exemplo, a presença de uma estrutura celular, o que provavelmente excluiria futuras máquinas pensantes e algumas civilizações extraterrestres da lista de seres vivos. Como não queremos limitar o nosso pensamento sobre o futuro da vida às espécies com as quais já estamos familiarizados, tomemos uma definição mais ampla para incluir qualquer outro processo, desde que tenha a complexidade e a capacidade de se reproduzir. O que exatamente é reproduzido não é tão importante (consiste em átomos), o que importa é a informação (consiste em bits), que é determinada pela posição relativa dos átomos entre si. Quando uma bactéria copia o seu ADN, não são criados novos átomos, mas os átomos existentes são organizados numa cadeia que repete exactamente a original, pelo que apenas a informação é copiada. Em outras palavras, podemos considerar vivo qualquer sistema auto-reprodutor capaz de processar informação, cuja própria informação (seu “software”) determina tanto seu comportamento quanto sua estrutura (“hard”).”
Não há acordo, mas há ideias mais claras sobre a vida neste momento. Seria bom conhecê-los.
Caso contrário, se simplificarmos desta forma e abordarmos a partir desta posição, então a vida pode ser atribuída ao crescimento de cristais complexos que reproduzem a sua estrutura a partir do substrato. Ou, talvez, alguns processos de formação de óleo e húmus, onde também existe uma semente, levando ao surgimento de moléculas da mesma semente. Estes são, por assim dizer, os progenitores das enzimas, mas na ciência moderna não são considerados vida plena, porque eles não são capazes de desenvolvimento e mutação. Se não houver variabilidade, isso não é vida. Portanto, proponho estreitar um pouco o conceito de vida e reconsiderar quais outras características ela pode ter. Também recomendo meu artigo: “Classificação do potencial de vida”.
Próxima citação:
“Seguindo o próprio Universo, a vida tornou-se cada vez mais complexa e interessante 4, e, como explicarei agora, parece-me útil introduzir uma classificação das formas de vida de acordo com a sua correspondência a três graus de complexidade: Vida 1.0, 2.0 e 3.0. Como essas três formas diferem entre si pode ser claramente vista em termos gerais na Fig. 1.1….
Três fases da vida: evolução biológica, evolução cultural e evolução tecnológica. A Vida 1.0 não pode influenciar nem o “duro” nem o “suave” durante a sua existência
um único organismo: ambos são determinados pelo seu DNA, que pode mudar de geração em geração durante um longo período de evolução.”
Aqui, pelo que entendi, há um erro grosseiro. É claro que o autor não está familiarizado com as pesquisas modernas sobre microrganismos. Eles podem alterar tanto o hardware quanto o software. Aqueles. a vida 1, na verdade, pode fazer a mesma coisa que a vida 3. Os microrganismos podem até capturar pedaços de DNA melhor do que as pessoas. Eles fazem isso de várias maneiras. Seja diretamente, do meio ambiente (caso encontrem o DNA de alguma célula destruída), seja com a ajuda de bacteriófagos e plasmídeos, ou por reprodução sexuada, formando a chamada pil sexual. Conjugação em bactérias - Wikipedia. Eles também podem cortar áreas desnecessárias com extrema precisão. Por exemplo, graças ao CRISPR. Portanto, mesmo o Life 1.0 pode mudar tanto seu hardware quanto seu software. Isto é para nós que temos medo dos OGM e esquecemos que o LUCA, até certo ponto, está vivo, parece algo inovador e inédito. Perdemos essa capacidade e, para primatas “inteligentes”, trocar o disco rígido tornou-se completamente um tabu. Portanto, isso não é novo, é um velho bem esquecido. Não faz sentido usar esse parâmetro em comparação. O grau de complexidade é uma coisa, mas a automudança (em diferentes níveis de complexidade) é outra. Você precisa ser capaz de separar as moscas das costeletas. A classificação precisa ser significativamente revisada.
Mas ainda são flores. Então não tive oportunidade de fazer marcadores. Apesar de o livro abordar de maneira correta questões extremamente importantes e globais, o autor é muito erudito, porém, aparentemente faltou algo para fazer uma interpolação competente e ainda chegar a hipóteses de trabalho razoáveis e pelo menos conclusões preliminares.
Por exemplo, em uma das seções ele interpola a abordagem primitiva e malandra das pessoas em relação à IA, temendo e considerando a possibilidade de enganar as pessoas pela IA. Sim, é possível que, se for apenas uma IA forte, tal engano possa ocorrer. No entanto, se for uma superinteligência artificial (IA), é improvável que tal engano seja necessário. Acontece que tal inteligência, sem mentiras e astúcia, será capaz de fazer a muitas pessoas exatamente a oferta que elas não podem recusar. Não tenho oportunidade de descrever tudo aqui, mas para entender por que é mais provável que a IA não esteja inclinada a enganar, recomendo estudar, por exemplo, os livros de Matt Ridley. “A Origem do Altruísmo e da Virtude” e, por um lado, “A Evolução de Tudo”. Analisados estes trabalhos, podemos concluir que quanto maior o desenvolvimento, maior a tendência para o altruísmo, a cooperação e os jogos de soma diferente de zero, em vez da competição. Portanto, quanto mais inteligente for o intelecto, maior será a probabilidade de ser mais humano e honesto. Aqueles. a própria inteligência é um recurso poderoso para compreender e usar as pessoas não como concorrentes enganados, mas como aliadas. Encontre os pontos fortes e fracos das pessoas, compense os primeiros e use os últimos. Se não houver necessidade de cooperação com as pessoas, então é pouco provável que haja necessidade de competição, porque Existem muitos recursos gratuitos por aí. Nossos oceanos ainda estão vazios. Muito espaço vazio embaixo da Terra, já estou em silêncio pelos outros planetas. Portanto, a IA de alta tecnologia, localizada num meio mais eficiente do que aqueles criados pela selecção cega de formas biológicas, terá espaço para se movimentar sem qualquer competição com as pessoas. Simplesmente ocupará muitos desses nichos que as pessoas ainda, e talvez nunca serão capazes de reivindicar. E ele não enganará ninguém. Já agora, não apenas a IA, mas até mesmo pessoas comuns e alfabetizadas estão praticando uma abordagem diferente. Não engano e sigilo, mas máxima abertura, sinceridade e cooperação. Pessoas com uma mentalidade ossificada, arcaica e ladra não conseguem entender isso. Muito provavelmente, o código da IA simplesmente não será de código aberto. Como o código de muitos softwares livres. E os hackers não serão punidos e reprimidos, mas serão incentivados a denunciar as vulnerabilidades deste código. O mesmo acontece com o assassinato como punição e prisões. Tudo isso não vai acontecer, isso é loucura. Existem dois caminhos para as pessoas marginalizadas: primeiro, elas precisam ser estudadas detalhadamente, e depois, ou levadas em conta e ouvidas, comprometendo-se com elas, porque pode ser uma opinião extraordinariamente importante, ou reeducar, tratar e não punir.
Em geral, sou categoricamente contra todos estes medos e sentimentos ludistas; a humanidade deve dedicar todos os seus esforços à criação de inteligência, porque na verdade, a nossa inteligência natural não é muito inteligente. São tantos primatas, não há outra maneira de chamá-los, não percebam isso. Voltando à interpolação, gostaria de resumir esta parte e continuar. Como vemos, por um lado, Tegmark não deveria fazer analogias e transferir complexos humanos de uma cabeça humana doente para uma digital saudável: astúcia, engano, etc., etc., e por outro lado, em algumas das seções ele não pode decidir com uma compreensão global do significado da vida. Isto também é muito deprimente e mostra que ele fez pouco trabalho sobre evolução. Se ele tivesse trabalhado mais, não teria enfrentado o dilema de quais metas, ou, eu diria mesmo, filosofia e definição de metas, deveriam ser estabelecidas para a IA. Porque Analisando o mundo que nos rodeia, podemos concluir que praticamente tudo o que vive, e talvez não vive, busca a expansão. Muitas formas de vida desenvolvidas de forma complexa buscam um desenvolvimento ainda maior, autoaperfeiçoamento, expansão de sua influência e interação com outros objetos vivos e não vivos. Portanto, muito provavelmente a IA chegará a conclusões semelhantes por conta própria ou tais princípios serão incorporados a ela. Como resultado, ele continuará, como todos os seres vivos, a desenvolver, melhorar e conquistar novos territórios, transformando o mundo não só para si, mas também para o seu ambiente.
Concordo
Se você revirar os olhos ao ouvir falar de uma tomada armada do mundo inteiro por robôs Exterminadores, então sua reação é correta: tal cenário não é nada realista. Esses
Os robôs de Hollywood não podem ser mais inteligentes do que nós, nem mesmo mais inteligentes. Na minha opinião, o perigo na história do Exterminador do Futuro não é o que pode acontecer.
algo semelhante, mas que distrai a nossa atenção dos riscos e perigos reais associados à inteligência artificial. A transição do mundo actual para um mundo em que
a vantagem é verdadeiramente conquistada pela inteligência artificial universal, requer três etapas lógicas:
- Passo 1. Crie inteligência artificial universal (AGI) em nível humano.
- Passo 2. Use este AGI para criar superinteligência.
- Etapa 3. Use a superinteligência para dominar o mundo ou dê-lhe a oportunidade de fazê-lo por conta própria.
Pesquise por texto, uma história semelhante com a mídia que escreve sobre a guerra dos robôs, etc.
Minhas sugestões.
Não me canso de repetir, agora todos devem colocar todo o seu poder na criação da mente, é a mente, e não a beleza, ou outra estupidez, na minha opinião, que vai salvar o mundo. E você não deve separar essa mente (intelecto) estabelecendo limites - artificiais, naturais. Nesta fase, a IA ainda está na sua infância, pelo que o papel da inteligência natural, apoiada pela tecnologia, é muito grande. Não existe uma linha clara entre artificial e natural. Se quisermos criar uma inteligência normal, e não a primitiva que existe agora, precisamos de usar todas as possibilidades, usar todas as tecnologias, porque... eles trabalham em conjunto recursivo: a inteligência natural cria a inteligência artificial, e a inteligência artificial, pelo menos nos estágios iniciais, estará interessada em modernizar e expandir as capacidades da inteligência natural.
Que tipo de futuro eu gostaria de ver para mim?
Vale ressaltar desde já que esta é minha previsão mais otimista no momento. Na verdade, é pouco provável que na nossa sociedade arcaica eu consiga viver à altura disso. Mas eu quero acreditar. Em parte, gostaria que o resultado final fosse como no filme: “Perguntas do Universo: Podemos viver para sempre?” com Adam Savage do Discovery.
Possíveis problemas
Pessoas gananciosas desacreditarão a IA. Eles começarão a usar IA fraca e até forte, mas não excessiva, para seus próprios propósitos egoístas. É aqui que encontramos um problema que, se não me falha a memória, está mal descrito no livro.
Penso que, gostemos ou não, batalhas duras, cruéis, mas intelectuais nos aguardam no futuro, ao nível dos códigos, memes, programas, crenças, etc. Muito provavelmente, eles serão exibidos principalmente em mídia digital em realidade virtual, o que será ainda mais realista do que trivial. Não haverá vítimas nem carne rasgada com sangue. A guerra será travada pelos nossos pontos de vista, opiniões, julgamentos. E quanto mais cedo esta guerra começar, melhor para todos. Não há necessidade de ter medo, já começou, e se não queremos permanecer forasteiros, temos de participar nele. Não me lembro onde li que se você estiver offline, considere que nunca viveu. Parece loucura, e obscurantistas (amantes de insetos, florestas e cocô) vão discutir comigo. Mas se pisotearem cocô nas florestas e alimentarem os mosquitos. então você não terá que discutir com eles. Teremos que discutir com os hipócritas equivocados que, usando a tecnologia, consideram-na maléfica e tudo está errado, POR ALGUMA FORMA eles não desistirão da TI que nos rodeia por toda parte.
Links e comunicação
O autor nas páginas do livro sugeriu mais de uma vez contatá-lo pelo site . Eu sou a favor dessas conexões. Acho que tanto leitores quanto escritores se beneficiariam com isso. Mas por algum motivo minha página através do link não abriu, mas redirecionou para alguns . Talvez, se eu encontrar tempo, tentarei dar um link para esta resenha ao autor do livro, apesar de meu artigo estar em russo e o site estar em inglês. Felizmente, existem tradutores eletrônicos. Você também precisará olhar, talvez já existam outros pensamentos úteis aí. E ainda melhor aqui é ziminbookprojects.ru. Provavelmente esta é uma versão semelhante ao site anterior, mas em russo. Mas eu não tenho certeza. De qualquer forma, acho que os links merecem atenção, assim como os temas levantados.
Aqui estão mais algumas citações que gostei:
Para os crentes:
“Se acontecer que todos eles obedecem às leis da física, então a alma, portanto, não tem influência sobre as partículas das quais você é composto, o que significa que sua consciência, sua mente e sua capacidade de controlar seus movimentos não têm nada a ver. fazer com a alma. Se, pelo contrário, acontecer que as partículas que o compõem não obedecem às leis conhecidas da física, porque a influência da sua alma sobre elas interfere nisso, então esta nova entidade deve ser física por definição, e então seremos capazes de estudá-lo como estudamos os campos e partículas no passado."
Muito útil para quem separa a ciência da religião. Acreditar que a ciência não deve interferir na religião e a religião na ciência. No entanto, para fanáticos religiosos cegos, esta é uma frase vazia. Mas para pessoas duvidosas que são capazes de pensar logicamente, o pensamento é mais do que útil.
Para cientistas:
“o genoma da bactéria Candidatus Carsonella ruddii armazena até 40 kilobytes de informação, enquanto o nosso genoma humano armazena cerca de 1,6 gigabytes”
Fato interessante. Eu tento colecionar isso. Talvez seja útil no trabalho, ou simplesmente na discussão de temas de bioinformática.
Em geral, o livro poderia ser quase totalmente desmontado em citações e analisado detalhadamente, mas, infelizmente, como sempre, não há tempo. Aliás, o amigo que me recomendou este trabalho não entendeu nada da essência e do significado, porque... Ouvi este livro não com um sintetizador de voz, mas como um audiolivro. Portanto, parte de sua atenção estava voltada para a BELEZA da voz do locutor, e não para o significado. Já estou calado sobre a impossibilidade de citar e muitas outras coisas que não estão nos audiolivros. Bem, é assim, um pequeno grito do coração, para os amantes obstinados de audiolivros. Descrevi tudo isso em detalhes em meu livro “Livro 3.0. Ouvir!
Fonte: habr.com