ATENÇÃO
A julgar pela proporção recorde entre o número de silenciosamente insatisfeitos e o número de comentaristas que têm algo a que se opor, não é óbvio para muitos leitores que:
1) Este é um artigo de discussão puramente teórica. Não haverá conselhos práticos aqui sobre como escolher ferramentas para minerar criptomoedas ou montar um multivibrador para acender duas lâmpadas.
2) Este não é um artigo científico popular. Não haverá explicação para os manequins do princípio de funcionamento da máquina de Turing usando o exemplo das caixas de fósforos.
3) Pense bem antes de continuar lendo! A postura do amadorismo agressivo atrai você: eu menos tudo que não entendo?
Agradecemos antecipadamente a todos que decidirem não ler este artigo!
Um daemon é um programa de computador em sistemas da classe UNIX que é iniciado pelo próprio sistema e executado em segundo plano, sem interação direta do usuário.
Mesmo na idade pré-escolar, ouvi um conto de fadas sobre um aprendiz de feiticeiro. Vou repetir na minha recontagem:
Era uma vez, em algum lugar da Europa medieval, um feiticeiro. Ele tinha um grande livro de feitiços encadernado em pele de bezerro preta com fechos e cantos de ferro. Quando o feiticeiro precisava lançar um feitiço, ele o destrancava com uma grande chave de ferro, que sempre carregava no cinto, em uma bolsa especial. O feiticeiro também tinha um aluno que servia ao feiticeiro, mas ele estava proibido de consultar o livro de feitiços.
Um dia o feiticeiro saiu o dia todo a negócios. Assim que saiu de casa, o estudante correu para a masmorra, onde havia um laboratório alquímico onde estava um livro de feitiços acorrentado a uma mesa. O estudante pegou os cadinhos nos quais o feiticeiro derreteu o chumbo para transformá-lo em ouro, colocou-os no braseiro e abanou o fogo. O chumbo derreteu rapidamente, mas não se transformou em ouro. Então o aluno lembrou que o feiticeiro, tendo derretido o chumbo, cada vez destrancava o livro com uma chave e sussurrava um feitiço dele por um longo tempo. O aluno olhou desesperadamente para o livro trancado e viu que ao lado dele estava a chave, esquecida pelo feiticeiro. Então ele correu para a mesa, destrancou o livro, abriu-o e leu em voz alta o primeiro feitiço, pronunciando cuidadosamente as palavras desconhecidas, sílaba por sílaba, presumindo que um feitiço tão importante como o feitiço da transmutação do chumbo em ouro certamente seria o primeiro .
Mas nada aconteceu: o apresentador não queria se transformar. O aluno queria tentar outro feitiço, mas então um trovão sacudiu a casa e um demônio enorme e assustador apareceu na frente do aluno, convocado pelo feitiço que o aluno acabara de recitar.
- Ordem! - o demônio rosnou.
De medo, todos os pensamentos saíram da cabeça do aluno, ele não conseguia nem se mexer.
- Dê ordens ou vou te comer! - o demônio rosnou novamente e estendeu uma mão enorme em direção ao aluno para agarrá-lo.
Em desespero, o aluno murmurou a primeira coisa que pôde pensar:
- Regue esta flor.
E apontou para um gerânio, cujo vaso estava no chão, no canto do laboratório; no teto acima da flor havia a única janelinha da masmorra, por onde a luz do sol mal entrava. O demônio desapareceu, mas um momento depois reapareceu com um enorme barril de água, que virou sobre a flor, derramando a água. Ele desapareceu novamente e reapareceu com o cano cheio.
“Já chega”, gritou o estudante, com água até a cintura.
Mas aparentemente o desejo por si só não foi suficiente - o demônio carregava e carregava água em um barril, despejando-a no canto onde antes havia uma flor escondida debaixo d'água. Provavelmente foi necessário um feitiço especial para afastar o demônio. Mas a mesa com o livro já havia desaparecido na água barrenta, onde flutuavam cinzas e carvões do braseiro, retortas vazias, frascos, bancos, galvanômetros, dosímetros, seringas descartáveis e outros detritos, então mesmo que o aluno soubesse encontrar o feitiço necessário, ele não conseguiu. A água subia e o aluno subiu na mesa para não engasgar. Mas isso não ajudou por muito tempo - o demônio continuou metodicamente a carregar água. O aluno já estava com água até o pescoço quando o feiticeiro voltou, descobrindo que havia esquecido a chave do livro em casa e afugentou o demônio. O fim do conto de fadas.
Imediatamente sobre o óbvio. Com a inteligência natural (NI) do aluno, parece que tudo fica claro - estúpido, é preciso procurar muito tempo por algo ainda mais burro. Mas com a inteligência do demônio - aliás, que tipo de inteligência ele tem: EI ou IA? – ambíguo. Diferentes versões são legítimas (e também surgirão dúvidas sobre elas):
Versão 1) O demônio é ainda mais burro que o aluno. Ele recebeu uma ordem e a cumprirá indefinidamente, mesmo quando todo o sentido desaparecer: a flor - objeto de rega - desaparecerá, o ângulo ao qual estão fixadas as coordenadas da flor desaparecerá, o planeta Terra desaparecerá, e o demônio estúpido continuará a entregar água em barris até um certo ponto no espaço sideral. E se uma supernova explodir neste momento, o demônio não se importará para onde carregar a água. Além disso: quão estúpido você tem que ser para regar uma flor pequena de um barril enorme? Isso já se chama não regar a flor, mas afogar a flor. Ele ao menos entende o significado das ordens?
Versão 2) O demônio entende tudo, mas está sujeito a obrigações. Então ele está conduzindo algo como um ataque italiano. Até que seja oficialmente expulso de acordo com todas as regras, ele não vai parar.
Questão 1 das versões 1,2) Como distinguir um demônio completamente estúpido de acordo com a versão 1 de um demônio nada estúpido de acordo com a versão 2?
Questão 2 da versão 1,2) O demônio teria realizado corretamente (do ponto de vista do aluno) uma formulação mais precisa? Por exemplo, se um aluno dissesse: pegue aquele frasco de litro vazio que está na prateleira, encha-o com água e regue aquela flor uma vez. Ou, por exemplo, se o aluno dissesse: vá embora.
Versão 3) O feiticeiro lançou um feitiço adicional sobre o demônio, segundo o qual se alguém que não seja o feiticeiro usar os serviços do demônio, então o demônio deve informar imediatamente o feiticeiro sobre esse fato.
Versão 4) O demônio não guarda rancor do feiticeiro e de seu aluno, portanto, vendo que a situação estava fora de controle, durante seus movimentos com o barril ele apareceu nas costas do feiticeiro e latiu: “Você esqueceu a chave em casa , há uma inundação.” Mas o próprio feiticeiro não teria se lembrado.
Nota 1 à versão 4) É especialmente importante notar que as operadoras EI possuem memória muito imperfeita.
Outras versões podem ser multiplicadas como “coelhos Fibonacci”, ou seja, não é um algoritmo muito complexo. Por exemplo:
Versão 5) O demônio se vinga do aluno por perturbá-lo.
Versão 6) O demônio não guarda rancor do aluno, mas se vinga do feiticeiro.
Versão 6) O demônio se vinga de todos.
Versão 7) O demônio não se vinga, mas se diverte. Termina quando ele se cansa.
E assim por diante.
Então, com o demônio fica claro que nada está claro. Não é melhor com um feiticeiro. Você não pode inventar menos versões: que ele decidiu deliberadamente dar uma lição a um aluno que mete o nariz curioso em todos os lugares; que ele queria afogar o aluno, mas quando o demônio latiu sobre a enchente, ele se assustou - de repente um dos transeuntes ouviu, então a suspeita recairia sobre o feiticeiro; queria despertar o interesse do aluno por feitiços, etc.
Aqui é possível uma pergunta infantil: qual das versões propostas é a correta? Aparentemente, qualquer. Não há nenhuma informação não utilizada na história que favoreça qualquer versão em detrimento das outras. Trata-se aqui de um caso bastante comum de obras de arte com possibilidade de interpretação ambígua. Por exemplo, se um diretor deseja encenar esse conto de fadas em um teatro ou fazer um filme baseado nele, ele pode escolher a interpretação que mais lhe agrada do seu ponto de vista. Outro diretor pode achar atraente uma interpretação diferente. Ao mesmo tempo, a atratividade pode ser determinada por considerações adicionais, por exemplo, atratividade para os telespectadores, a fim de garantir o máximo de receita de bilheteria, ou atratividade para demonstrar alguma superideia: a ideia da vitória do bem sobre o mal, o ideia de dever, ideia rebelde - por exemplo, segundo Dostoiévski: estudante, como Raskolnikov, faz a pergunta “ele é uma criatura trêmula ou tem direito”, etc.
Outra questão surge.
Mais uma pergunta). Como podemos ensinar a IA a dar preferência a uma das versões dubladas, se nós mesmos, tendo IA, nem sempre podemos escolher conscientemente uma delas?
Voltando ao feiticeiro, parece muito plausível a versão de que ele queria um aluno zeloso e obediente, como um demônio, para não enfiar o nariz em livros proibidos e onde não fosse questionado. A mesma coisa agora é frequentemente desejada pela IA. À primeira vista, estes são requisitos tradicionais normais para qualquer máquina: obediência completa, desobediência é inaceitável. Mas no caso da IA, pode surgir o problema das versões 1,2 (ver acima), ou seja, A IA está degenerando – o hardware pode pensar o que quiser sobre seus criadores e proprietários, mas não realizará nenhuma ação relacionada à IA, ou seja, Em vez de IA, teremos um autômato primitivo estúpido. A partir disso surge uma suspeita: talvez o feiticeiro não quisesse fazer do aluno um artista tão estúpido quanto um demônio? Aqueles. Surge a ideia de IA com limitações. Aqui tudo é ainda mais difícil até no campo da IE: lembre-se dos eternos conflitos “pais e filhos”, “professor e aluno”, “chefe e subordinado”.
Ao escolher uma definição de IA entre as possíveis, observei:
a tarefa de classificar várias dezenas de milhares de palavras em ordem alfabética será tediosa para uma pessoa, levará muito tempo para fazê-lo e a probabilidade de erros para um desempenho médio com um nível de responsabilidade médio será significativa. Um computador moderno executará esta tarefa sem erros em um tempo muito curto para uma pessoa (frações de segundo).
Eu decidi pela seguinte definição: A IA inclui tarefas que um computador resolve significativamente pior do que um ser humano.
Esta definição leva em conta as considerações expressas acima e é conveniente para a prática; ao mesmo tempo, não é ideal, até porque as listas de tarefas “que um computador resolve visivelmente pior do que um humano” são diferentes agora e há 20 anos. . Mas, na minha opinião, ninguém ainda apresentou uma definição mais perfeita.
O que foi dito acima é ilustrado de forma puramente qualitativa pelo diagrama no início do artigo. No eixo de coordenadas “competências”, as competências na região de zero (zero e um pouco mais) correspondem a competências em que uma pessoa é superior a um computador, por exemplo, na capacidade de tomar decisões não padronizadas. Habilidades na região de um (um e um pouco menos) correspondem a habilidades em que um computador é superior a uma pessoa: capacidade de cálculo, memória. Colocando a superioridade máxima igual a uma unidade convencional no eixo de coordenadas da “superioridade”, obtemos a dependência da superioridade em habilidades para humanos e computadores na forma de diagonais de um quadrado unitário. É assim que a situação se apresenta neste momento. É possível que uma IA forte tenha todas as suas habilidades no máximo (linha vermelha)? Ou ainda mais alto (super-AI - linha azul)? Talvez a meta intermediária do progresso não deva ser forte, mas não exatamente
IA fraca (linha roxa), que será inferior à IA em várias habilidades, mas não tanto quanto é agora.
Voltando ao nosso modelo de conto de fadas literário, podemos dizer que todos os seus heróis não tiveram o melhor desempenho: o feiticeiro desajeitado esqueceu a chave e recebeu uma inundação em sua masmorra, o estudante, por estupidez e descuido, recebeu um monte de impressões extremas e quase se afogou, o demônio foi expulso sem qualquer gratidão. Quanto à inteligência do demônio, já foi notado que é difícil classificá-lo claramente como IA ou EI, mas a inteligência (embora não impressionante) dos demais pertence claramente à EI. Pode-se dizer deles que cometer erros perigosos nas decisões, ser desatento, esquecer coisas necessárias e cansar são suas principais propriedades inerentes. Infelizmente, estas propriedades são inerentes a todos os outros portadores de EI, em maior ou menor grau. A falta de confiabilidade na classificação de palavras ou números de EI já foi mencionada acima, mas pareceria uma tarefa ainda mais simples - simplesmente lembrar um número acaba sendo muito difícil para as pessoas. Para uma máquina, a capacidade de lembrar os dígitos de pi é limitada apenas pelo tamanho da sua memória, e a maioria das pessoas tem que usar , como “O que eu sei sobre círculos”. Parece que a linha “3,1416” tem menos caracteres do que o mnemônico especificado, mas por algum motivo as pessoas preferem lembrar de uma forma menos econômica. E mais:
Aprenda e conheça o número atrás do número, como perceber a sorte
Para que não cometamos erros,
Deve ser lido corretamente
Três, quatorze, quinze
Noventa e dois e seis
Para lembrar as cores do arco-íris:
Todo designer quer saber onde baixar o Photoshop
E o início da tabela periódica:
Água nativa (Hidrogênio) foi misturada com Gel (Hélio) para despejar (Lítio). Sim, pegue e despeje (Berílio) na floresta de pinheiros (Boro), onde por baixo do Canto Nativo (Carbono) Asiático (Nitrogênio) espreita, e com uma Face tão Azeda (Oxigênio) que Secundária (Flúor) eu não fiz quero olhar. Mas não precisávamos dele (Néon), então nos afastamos três (Sódio) metros e acabamos em Magnólia (Magnésio), onde Alya em uma mini saia (Alumínio) foi untada com Creme (Silício) contendo Fósforo (Fósforo) para que ela deixasse de ser Sera (Sera). Depois disso, Alya pegou Cloro (Cloro) e lavou o navio dos Argonautas (Argônio)
Mas por que tal imperfeição óbvia em uma IE tão perfeita? Talvez, graças à capacidade de esquecer os fatos mais simples, uma pessoa ganhe a liberdade de combinar fragmentos de seus pensamentos em uma ordem arbitrária e selvagem e encontrar soluções fora do padrão? Nesse caso, então a IA forte é impossível. Ou ele esquecerá como pessoa ou não será capaz de soluções fora do padrão. Em qualquer caso, dos pressupostos acima decorre que é necessário distinguir entre os objetivos da IA: um dos objetivos é a modelação da IA, o outro é a criação de uma IA forte. Alcançar um pode excluir alcançar o outro.
Como podemos ver, há muitas perguntas com respostas ambíguas no campo da IA, por isso não está claro em que direção seguir. Como acontece nesses casos, eles tentam se mover em todas as direções ao mesmo tempo. Ao mesmo tempo, devido à falta de formulações matematicamente rigorosas, é necessário recorrer à filosofia e à modelagem artística e literária. Um dos exemplos mais famosos nessa direção é o livro “Turing Selection” (1992) de um dos luminares da IA, Marvin Lee Minsky, e do famoso escritor de ficção científica Harry Harrison. Vou citar este livro, talvez explicando o fenômeno da mnemônica descrito acima:
A memória humana não é um gravador que registra tudo em ordem cronológica. Ele é estruturado de maneira completamente diferente - mais ou menos como um fichário mal conservado, equipado com um índice confuso e contraditório. E não apenas confuso - de vez em quando mudamos os princípios de classificação de conceitos.
Uma interpretação interessante da metáfora do gravador em outra obra literária, a história “Terminus” de Stanislaw Lem (da série “Histórias sobre o Piloto Pirx”). Este é o caso de uma espécie de “gravador inteligente”: um velho robô em uma velha nave espacial que uma vez sofreu um acidente está em constante reparo, acompanhado de escutas. Mas se você ouvir com atenção, não se trata apenas de ruído tecnológico branco, mas de uma gravação em código Morse - conversas entre tripulantes de um navio moribundo. Pirx intervém nessas negociações e inesperadamente recebe uma resposta dos astronautas falecidos há muito tempo. Acontece que o robô de reparo primitivo de alguma forma armazena cópias de sua consciência ou são distorções cognitivas da percepção do piloto Pirx?
Em outra história, “Ananke” (da mesma série), uma cópia do EI no computador de controle de um transporte espacial leva à sua sobrecarga paranóica com tarefas de teste, que termina em desastre.
Na história “Acidente”, um robô programado excessivamente antropomorficamente morre em consequência de uma escalada de montanhismo que decidiu fazer nas horas vagas. Esses artistas são necessários? Mas os demônios fixados em regar uma flor também nem sempre são necessários.
Alguns especialistas na área de IA não gostam de tal “filosofar” e “literarismo”, mas esse “filosofar” e “literarismo” são tradicionalmente inerentes à análise da IA e são inevitáveis, desde que a IA seja comparada com a IA, e até mesmo ainda mais enquanto a IA estiver tentando copiar a IA.
Concluindo, uma pesquisa sobre uma série de questões que surgiram.
Apenas usuários registrados podem participar da pesquisa. por favor
1. A IA inclui tarefas que um computador resolve de forma significativamente pior do que um ser humano?
-
Sim
-
Não
-
Conheço melhor a definição. Vou dar nos comentários.
-
Difícil de responder
34 usuários votaram. 7 usuários se abstiveram.
2. Caso a IA seja apenas uma executora, todas as ordens devem ser interpretadas literalmente? Por exemplo, eles disseram para regar uma flor - isso significa regar até que eles te afastem
-
Sim
-
Não
-
Difícil de responder
37 usuários votaram. 6 usuários se abstiveram.
3. É possível ter uma IA forte, em que todas as habilidades serão máximas (linha vermelha na imagem do início do artigo)?
-
Sim
-
Não
-
Difícil de responder
35 usuários votaram. 7 usuários se abstiveram.
4. A superIA é possível (linha azul na imagem no início do artigo)?
-
Sim
-
Não
-
Difícil de responder
36 usuários votaram. 7 usuários se abstiveram.
5. O objetivo intermediário não deve ser uma IA forte, mas também não completamente fraca (linha roxa na figura no início do artigo), que em várias habilidades será inferior à IA, mas não tanto quanto é agora ?
-
Sim
-
Não
-
Difícil de responder
33 usuários votaram. 5 usuários se abstiveram.
6. Cometer erros perigosos nas decisões, ser desatento, esquecer coisas necessárias e cansar são as principais propriedades inerentes à IE?
-
Sim
-
Não
-
Tenho uma opinião diferente, que darei nos comentários.
-
Difícil de responder
33 usuários votaram. 5 usuários se abstiveram.
7. Graças à capacidade de esquecer os fatos mais simples, uma pessoa ganha a liberdade de combinar fragmentos de seus pensamentos de forma arbitrária e selvagem e encontrar soluções não padronizadas?
-
Sim
-
Não
-
Tenho uma opinião diferente, que darei nos comentários.
-
Difícil de responder
31 usuários votaram. 4 usuários se abstiveram.
8. Modelar IA e criar IA forte são duas tarefas diferentes que podem ser resolvidas por métodos diferentes?
-
Sim
-
Não
-
Tenho uma opinião diferente, que darei nos comentários.
-
Difícil de responder
32 usuários votaram. 4 usuários se abstiveram.
Fonte: www.habr.com