AVISO
De acordo com a relação recorde de descontentamento silencioso em relação ao número de comentaristas que têm algo a opor, muitos leitores não percebem que:
1) Este é um artigo de discussão puramente teórica. Não haverá recomendações práticas sobre a escolha de ferramentas para mineração de criptomoedas ou sobre como montar um multivibrador para piscar duas lâmpadas.
2) Este não é um artigo de divulgação científica. Não haverá explicação para os leigos sobre o funcionamento da máquina de Turing usando caixas de fósforos como exemplo.
3) Pense bem antes de continuar a leitura! Você se sente atraído pela postura do dilettante agressivo: criticando tudo o que não entende?
Agradeço antecipadamente a todos que decidirem não ler este artigo!
Um daemon é um programa de computador em sistemas da classe UNIX, iniciado pelo próprio sistema e funcionando em segundo plano sem interação direta com o usuário.
Ainda na infância, ouvi um conto sobre o aprendiz de feiticeiro. Recontarei aqui:
Era uma vez, em algum lugar da Europa medieval, um feiticeiro. Ele possuía um grande livro de feitiços encadernado em couro de bezerro preto, com fechos e cantos de ferro. Quando o feiticeiro precisava ler um feitiço, ele o abria com uma grande chave de ferro, que sempre carregava na cintura, em um pequeno bolsa. Também havia um aprendiz que assistia ao feiticeiro, mas lhe era proibido olhar para o livro de feitiços.
Certa vez, um mago saiu de casa por um dia inteiro. Assim que ele saiu, o aprendiz correu para o porão, onde estava o laboratório de alquimia, onde havia um livro de feitiços preso por correntes à mesa. O aprendiz pegou os cadinhos, nos quais o mago derretia chumbo para transformá-lo em ouro, colocou-os sobre a braseira e acendeu o fogo. O chumbo derreteu rapidamente, mas não se transformou em ouro. Então, o aprendiz lembrou que o mago, ao derreter o chumbo, sempre abria o livro com a chave e murmurava um feitiço dele por um longo tempo. O aprendiz olhou desesperadamente para o livro trancado e viu que ao lado dele estava a chave, esquecida pelo mago. Então, ele correu até a mesa, destrancou o livro, abriu-o e leu em voz alta o primeiro feitiço, pronunciando cuidadosamente as palavras desconhecidas, supondo que um feitiço tão importante quanto o feitiço de transmutação do chumbo em ouro certamente seria o primeiro.
Mas nada aconteceu: o chumbo não queria se transformar. O aprendiz estava prestes a tentar outro feitiço, mas então um trovão sacudiu a casa e diante do aprendiz apareceu um imenso e horrível demônio, invocado pelo feitiço que ele acabara de ler.
— Diga o que deseja! — rosnou o demônio.
Do medo, todos os pensamentos abandonaram a cabeça do aprendiz, ele não conseguiu nem se mover.
— Diga o que deseja, ou eu o devorarei! — rosnou o demônio novamente, estendendo a enorme mão em direção ao aprendiz para agarrá-lo.
Desesperado, o aprendiz gaguejou a primeira coisa que conseguiu pensar:
— Regue esta flor.
E apontou para a gerânio, cujo vaso estava no chão em um canto do laboratório; no teto acima da flor havia uma única janelinha pequena, a única no porão, pela qual mal entrava a luz solar. O demônio desapareceu, mas em um instante apareceu novamente com um enorme barril de água, que despejou sobre a flor. Sumiu novamente e reapareceu com um barril cheio.
— Chega! — gritou o aprendiz, já atolado pela água até a cintura.
Mas aparentemente, apenas o desejo não era suficiente – o demônio continuava a carregar água no barril, despejando-a no canto onde antes havia uma flor escondida sob a água. Provavelmente, era necessário um feitiço especial para expulsar o demônio. Mas a mesa com o livro já estava submersa na água turva, na qual flutuavam cinzas e brasas do braseiro, frascos vazios, tubos de ensaio, banquinhos, galvanômetros, dosímetros, seringas descartáveis e outros detritos, de modo que, mesmo que o aluno soubesse como encontrar o feitiço necessário, não conseguiria fazê-lo. A água subia, e o aluno se arrastou para cima da mesa para não se afogar. Mas isso não ajudou por muito tempo – o demônio continuava a carregar água de maneira metódica. O aluno já estava com a água até o pescoço quando o feiticeiro voltou, descobrindo que se esqueceu da chave do livro em casa, e expulsou o demônio. Fim da história.
Comecemos com o óbvio. Com a inteligência do aluno (IA), parece que tudo está claro – ele é um idiota, e ainda mais idiota terá que procurar por muito tempo. Mas quanto à inteligência do demônio – aliás, qual é a dele: IA ou IA? – é ambíguo. Várias versões são válidas (e surgirão também questões relacionadas a elas):
Versão 1) O demônio é ainda mais idiota que o aluno. Recebeu uma ordem e irá cumpri-la indefinidamente, mesmo quando todo sentido desaparecer: a flor desaparecerá – objeto de irrigação, o canto, ao qual as coordenadas da flor estão ligadas, desaparecerá, o planeta Terra desaparecerá, e o demônio idiota continuará a levar água para um ponto específico do espaço cósmico. E se nesse ponto uma supernova explodir, não fará diferença para o demônio onde levar a água. Além disso: quão idiota você precisa ser para regar uma pequena flor com um enorme barril. Isso já não é regar a flor, mas afogá-la. Ele entende ao menos o sentido das ordens?
Versão 2) O demônio entende tudo, mas está vinculado a obrigações. Assim, ele realiza algo como uma greve italiana. Enquanto não for oficialmente expulso seguindo todas as regras, ele não parará.
Pergunta 1 para as versões 1, 2) Como distinguir um demônio completamente idiota da versão 1 de um que não é idiota na versão 2?
Pergunta 2 para as versões 1, 2) O demônio teria cumprido corretamente (do ponto de vista do aluno) uma formulação mais precisa? Por exemplo, se o aluno dissesse: pegue aquele frasco vazio de um litro que está na prateleira, encha com água e regue aquela flor uma vez. Ou, por exemplo, se o aluno tivesse dito: saia.
Versão 3) O mago lançou um feitiço adicional sobre o demônio, pelo qual, se alguém além do mago utilizar os serviços do demônio, este deve imediatamente informar o mago sobre esse fato.
Versão 4) O demônio não guarda rancor do mago e seu aprendiz, então, percebendo que a situação saiu do controle, apareceu atrás do mago enquanto se movia com o barril e gritou: "você esqueceu a chave de casa, está havendo uma inundação". E o mago não teria se lembrado.
Observação 1 da versão 4) Vale ressaltar que os portadores do EI podem ter uma memória bastante imperfeita.
As próximas versões podem se multiplicar como 'coelhos de Fibonacci', ou seja, por um algoritmo não muito complicado. Por exemplo:
Versão 5) O demônio se vinga do aprendiz pela preocupação.
Versão 6) O demônio não guarda rancor do aprendiz, mas se vinga do mago.
Versão 6) O demônio se vinga de todos.
Versão 7) O demônio não se vinga, mas se diverte. Ele vai parar quando se cansar.
E assim por diante.
Então, com o demônio está claro que nada está claro. Não é melhor com o mago. É possível inventar não menos versões: que ele decidiu ensinar uma lição ao aprendiz, que está sempre metendo o nariz curioso; que queria afogar o aprendiz, mas quando o demônio gritou sobre a inundação, ele ficou assustado — e se algum transeunte ouviu, então o mago seria suspeito; queria despertar o interesse do aprendiz por feitiços e assim por diante.
Aqui surge uma pergunta infantil: qual das versões propostas é a correta? Provavelmente, qualquer uma. Na história, não sobrou informação não utilizada para preferir uma das versões em relação às outras. Aqui lidamos com um caso bastante comum de obras literárias que permitem interpretações ambíguas. Por exemplo, se algum diretor quisesse encenar essa história no teatro ou fazer um filme sobre ela, ele poderia escolher a interpretação que lhe parecer mais atraente. Para outro diretor, outra interpretação pode ser mais atraente. E a atração pode ser determinada por considerações adicionais, como a atração para o público, a fim de garantir a máxima bilheteira, ou a atração para demonstrar alguma super-ideia: a ideia de vitória do bem sobre o mal, a ideia de dever, uma ideia rebelde — por exemplo, na visão de Dostoiévski: o aprendiz, como Raskólnikov, se pergunta "é uma criatura tremeluzente ou tem direito" e assim por diante.
Surge mais uma pergunta.
Mais uma pergunta). Como podemos ensinar a IA a dar preferência a uma das versões mencionadas, se nós mesmos, possuindo IA, não conseguimos sempre escolher conscientemente uma delas?
Retornando ao feiticeiro, é bastante plausível a versão de que ele queria um aluno obediente e submisso, como um demônio, para que não se intrometesse em livros proibidos e lugares onde não era solicitado. O mesmo se deseja frequentemente da IA hoje em dia. A princípio, esses são requisitos tradicionais normais para qualquer máquina: completa submissão, a desobediência é inaceitável. Mas no caso da IA, pode surgir a questão das versões 1, 2 (veja acima), ou seja, a IA se degrada - um 'ferro' pode pensar qualquer coisa sobre seus criadores e proprietários, mas não realizará nenhuma ação relacionada à IA, ou seja, em vez de IA teríamos um automatismo primitivo e estúpido. Isso levanta a suspeita: talvez o feiticeiro não quisesse fazer um aluno tão estúpido quanto um demônio? Ou seja, surge a ideia de IA com restrições. Aqui tudo ainda é mais complicado, mesmo no campo da IA: recordar os conflitos eternos 'pais e filhos', 'professor e aluno', 'chefe e subordinado'.
ao escolher uma definição de IA entre as possíveis, eu observei:
a tarefa de classificar várias dezenas de milhares de palavras em ordem alfabética para um humano será cansativa, ele levará muito tempo para fazê-la, e a probabilidade de erros para um executor médio com nível médio de responsabilidade será significativa. Um computador moderno realizará essa tarefa sem erros em um tempo muito curto para um humano (frações de segundo).
Cheguei à seguinte definição: as tarefas que a IA resolve são aquelas que um computador executa significativamente pior do que um humano..
Essa definição leva em conta as considerações mencionadas acima e é conveniente para a prática, ao mesmo tempo não é perfeita, pelo menos porque as listas de tarefas 'que o computador resolve significativamente pior do que um humano' diferem no presente e há 20 anos. Mas, na minha opinião, ainda ninguém inventou uma definição mais perfeita.
O que foi dito ilustra claramente o esquema no início do artigo. No eixo das coordenadas, as 'habilidades' estão relacionadas a habilidades em torno de zero (zero e um pouco mais), que são aquelas em que o ser humano supera o computador, como a capacidade de tomar decisões não convencionais. Habilidades em torno de um (um e um pouco menos) pertencem a áreas onde o computador supera o ser humano: como cálculos e memória. Se considerarmos o máximo de superioridade igual a uma unidade condicional no eixo das coordenadas da 'superioridade', teremos as dependências de superioridade em relação às habilidades tanto para o ser humano quanto para o computador, representadas como diagonais de um quadrado unitário. Assim, a situação se apresenta atualmente. Mas seria possível um IA forte, cujas habilidades fossem máximas (linha vermelha)? Ou até mais (super-IA – linha azul)? Talvez um dos objetivos intermediários do progresso deva ser um IA que não seja forte, mas também não totalmente
fraco (linha roxa), que em algumas habilidades ficaria atrás da EI, mas não tão drasticamente como atualmente.
Voltando ao nosso modelo literário de conto de fadas, pode-se dizer que todos os seus heróis não se saíram bem: o mago desastrado esqueceu a chave e provocou uma inundação em sua masmorra, o aprendiz, por tolice e imprudência, teve uma série de experiências extremas e quase se afogou, o demônio foi expulso a chutes sem qualquer agradecimento. Quanto à inteligência do demônio, já foi mencionado que é difícil categorizá-la como IA ou EI, mas a inteligência (mesmo que não impressionante) dos outros claramente pertence à EI. Pode-se dizer que cometer erros perigosos em decisões, demonstrar desatenção, esquecer coisas necessárias e se cansar são suas características intrínsecas. Infelizmente, essas características também são comuns a todos os outros portadores de EI, em maior ou menor grau. Já foi mencionado acima sobre a insegurança na classificação de palavras ou números da EI, mas uma tarefa que pareceria ainda mais simples – apenas memorizar um número – resulta ser muito difícil para os humanos. Para a máquina, a capacidade de lembrar os dígitos do número pi é limitada apenas pelo tamanho da memória, enquanto a maioria dos humanos precisa usar para isso , como 'O que eu sei sobre círculos'. Aparentemente, na string '3,1416' há menos caracteres do que no mnemônico mencionado, mas, por algum motivo, as pessoas preferem lembrar de uma maneira menos econômica. E é mais longa:
Aprenda e saiba que, entre os números conhecidos, há um número que se destaca como um sinal de sorte.
Para que não cometamos erros,
É preciso ler corretamente.
Três, quatorze, quinze
Noventa e dois e seis
Para lembrar as cores do arco-íris:
Todo designer deseja saber onde baixar o Photoshop.
E o começo da tabela periódica de Mendeleiev:
Misturou-se a água (Hidrogênio) com o Hélio (Hélio) para obter o Lítio (Lítio). Sim, Pegue e despeje (Berílio) na floresta de pinheiros (Boro), onde, sob a esquina nativa (Carbono), espreita o Azoto (Nitrogênio), com uma face tão azeda (Oxigênio) que não dá vontade de olhar para o Flúor (Flúor). Mas Não (Neônio) era o que precisávamos, então nos afastamos Três (Sódio) metros e encontramos a Magnólia (Magnésio), onde a Alúmina (Alumínio) vestida com uma mini saia foi coberta com Creme (Silício) à base de Fósforo (Fósforo) para que deixasse de ser Cinza (Enxofre). Depois disso, Alia pegou Cloro (Cloro) e lavou a nave dos Argonautas (Argônio).
Mas por que tal imperfeição evidente em um EI tão perfeito? Será que a habilidade de esquecer os fatos mais simples permite ao ser humano a liberdade de combinar fragmentos de seus pensamentos em uma ordem aleatória e encontrar soluções não convencionais? Se assim for, um EI forte é impossível. Ou ele esquecerá como um humano, ou não será capaz de soluções não convencionais. De qualquer forma, das suposições apresentadas, segue-se a necessidade de distinguir os objetivos do EI: um objetivo é modelar o EI, o outro é criar um EI forte. Alcançar um pode excluir a realização do outro.
Como vemos, no campo do EI surgem muitas questões com respostas ambíguas, tornando incerto em qual direção avançar. Como é comum em tais situações, tentam-se avançar em todas as direções ao mesmo tempo. Entretanto, devido à falta de formulações matematicamente rigorosas, é necessário recorrer à filosofia e à modelagem literária. Um dos exemplos mais conhecidos nessa direção é o livro 'Escolha por Turing' (1992) de um dos pioneiros da IA, Marvin Lee Minsky, e do famoso escritor de ficção científica Harry Harrison. Cito uma passagem deste livro, que talvez explique o fenômeno da mnemonização descrito acima:
A memória humana não é um gravador que registra tudo em ordem cronológica. Ela é estruturada de maneira diferente — mais como um arquivo desorganizado, com uma indexação confusa e contraditória. E não é apenas confusa — de tempos em tempos, mudamos os princípios de classificação dos conceitos.
Uma interpretação interessante da metáfora do gravador aparece em outra obra literária, o conto de Stanisław Lem "Terminus" (da série "Contos sobre o piloto Pirx"). Aqui temos um caso de um "gravador intelectual" peculiar: um robô antigo em uma nave espacial velha, que sofreu um acidente no passado, realiza reparos atuais, acompanhados de batidas. Mas, se você prestar atenção, não é apenas um ruído tecnológico branco, mas a gravação de um código Morse — as comunicações dos membros da tripulação da nave em perigo. Pirx interage com essas comunicações e inesperadamente recebe uma resposta de cosmonautas que já faleceram há muito tempo. Assim, o primitivo robô de reparo de certa forma preserva cópias de suas consciências ou isso são distorções cognitivas na percepção do piloto Pirx?
Em outro conto, "Ananke" (da mesma série), uma cópia da EI no computador controlador do transporte espacial leva a uma sobrecarga paranoid com tarefas de teste, resultando em um desastre.
No conto "Acidente infeliz", um robô programado de forma excessivamente antropomórfica perece em uma escalada, a qual decidiu fazer em seu tempo livre. Precisamos de tais executores? Mas os demônios que se obsessivamente dedicam a regar flores também nem sempre são necessários.
Alguns especialistas em IA não gostam desse tipo de "filosofia" e "literatura", no entanto, essas "filosofias" e "literatura" são tradicionalmente inerentes à análise da EI e são inevitáveis enquanto a IA for comparada à EI, e ainda mais, enquanto tentam copiar a EI na IA.
Por fim, uma pesquisa sobre uma série de questões levantadas.
Apenas usuários registrados podem participar da pesquisa. , por favor.
1. As tarefas que a IA realiza são aquelas que o computador faz significativamente pior do que um humano?
Sim
Não
Conheço uma definição melhor. Vou citar nos comentários.
Não consigo responder
34 usuários votaram. 7 usuários se abstiveram.
2. A IA deve ser apenas um executor, compreendendo todas as ordens literalmente? Por exemplo, se disserem para regar a flor — significa regar, até que o mandem parar.
Sim
Não
Não consigo responder
37 usuários votaram. 6 usuários se abstiveram.
3. É possível criar uma IA forte com todas as habilidades maximizadas (linha vermelha no diagrama no início do artigo)?
Sim
Não
Não consigo responder
35 usuários votaram. 7 usuários se abstiveram.
4. É possível criar uma super IA (linha azul no diagrama no início do artigo)?
Sim
Não
Não consigo responder
36 usuários votaram. 7 usuários se abstiveram.
5. O objetivo intermediário deve ser uma IA que não seja forte, mas também não tão fraca (linha roxa no diagrama no início do artigo), que em algumas habilidades fica atrás da EI, mas não tanto quanto agora?
Sim
Não
Não consigo responder
33 usuários votaram. 5 usuários se abstiveram.
6. Cometer erros perigosos nas decisões, ser descuidado, esquecer coisas necessárias e sentir cansaço são características principais inerentes à EI?
Sim
Não
Tenho uma opinião diferente, que apresentarei nos comentários
Não consigo responder
33 usuários votaram. 5 usuários se abstiveram.
7. Graças à habilidade de esquecer os fatos mais simples, o ser humano obtém liberdade para combinar fragmentos de seus pensamentos em uma ordem aleatória e encontrar soluções não convencionais?
Sim
Não
Tenho uma opinião diferente, que apresentarei nos comentários
Não consigo responder
31 usuários votaram. 4 usuários se abstiveram.
8. A modelagem da EI e a criação de uma IA forte são duas tarefas diferentes que podem ser resolvidas por métodos distintos?
Sim
Não
Tenho uma opinião diferente, que apresentarei nos comentários
Não consigo responder
Votaram 32 usuários. 4 usuários se abstiveram.
Fonte: habr.com
