Este texto não é o resultado de uma pesquisa científica, mas uma das muitas opiniões sobre nosso próximo desenvolvimento tecnológico. E, ao mesmo tempo, um convite ao debate.
Gary Marcus, professor da Universidade de Nova York, acredita que o aprendizado profundo desempenha um papel importante no desenvolvimento da IA. Mas ele também considera que uma obsessão excessiva por essa metodologia pode levar à sua descredibilização.
Em seu livro Rebooting AI: Building artificial intelligence we can trust Marcus, formado em neurologia e que construiu sua carreira em pesquisas de ponta na área de IA, aborda os aspectos técnicos e éticos. Do ponto de vista tecnológico, o aprendizado profundo pode imitar com sucesso a resolução de problemas de percepção que nosso cérebro realiza: por exemplo, reconhecimento de imagens ou fala. No entanto, para resolver outras tarefas, como entender conversas ou definir relações de causa e efeito, o aprendizado profundo não é adequado. Para criar máquinas inteligentes mais avançadas, capazes de resolver uma gama mais ampla de problemas — frequentemente chamadas de inteligência artificial geral — é necessário combinar o aprendizado profundo com outras metodologias.
Se um sistema de IA realmente não entende suas tarefas ou o mundo ao seu redor, isso pode ter consequências perigosas. Até mesmo mudanças inesperadas no ambiente do sistema podem levar a comportamentos inadequados. Já houve muitos exemplos disso: detectores de linguagem imprópria que são facilmente enganados; sistemas de busca de emprego que discriminam constantemente; veículos autônomos que se envolvem em acidentes e às vezes matam motoristas ou pedestres. A criação de uma inteligência artificial geral não é apenas um problema de pesquisa interessante, mas tem inúmeras aplicações práticas.
Em seu livro, Marcus e seu coautor Ernest Davis defendem um caminho diferente. Eles acreditam que ainda estamos longe de criar uma IA geral, mas têm a certeza de que, mais cedo ou mais tarde, isso será alcançado.
Por que precisamos de uma IA geral? Versões especializadas já foram criadas e trazem muitos benefícios.
Correto, e ainda haverá mais benefícios. Mas há muitas tarefas que uma IA especializada simplesmente não consegue resolver. Por exemplo, entender a fala cotidiana, ou ajudar de forma geral no mundo virtual, ou um robô que ajude na limpeza e no preparo de alimentos. Tais tarefas estão além das capacidades da IA especializada. Outra questão prática interessante: é possível criar um carro autônomo seguro com a ajuda de IA especializada? A experiência mostra que essa IA ainda enfrenta muitos problemas de comportamento em situações anômalas, mesmo em direção, o que torna a situação bastante complicada.
Acho que todos nós gostaríamos de ter uma IA que pudesse nos ajudar a fazer novas descobertas em grande escala na medicina. Não está claro se as tecnologias atuais são adequadas para isso, pois a biologia é um campo complexo. É necessário estar preparado para ler muitos livros. Os cientistas compreendem as relações causais na interação de redes e moléculas, podem desenvolver teorias sobre planetas e assim por diante. No entanto, com a IA especializada, não conseguimos criar máquinas capazes de tais descobertas. Com a IA geral, poderíamos revolucionar a ciência, tecnologia e medicina. Na minha opinião, é muito importante continuar o trabalho na criação de IA geral.
Parece que por "geral" você entende IA forte?
Quando digo "geral", quero dizer que a IA poderá pensar em tempo real e resolver novas tarefas de forma independente. Ao contrário, por exemplo, do Go, onde o problema não muda há 2000 anos.
A IA geral deve ser capaz de tomar decisões tanto na política quanto na medicina. É análoga à capacidade humana; qualquer pessoa com senso comum pode fazer muitas coisas. Você pega estudantes inexperientes e, em poucos dias, os faz trabalhar em praticamente qualquer coisa, desde tarefas jurídicas até médicas. Isso se deve ao fato de que eles têm uma compreensão geral do mundo e sabem ler, e, portanto, podem contribuir para uma ampla variedade de atividades.
A relação entre esse tipo de inteligência e a forte é que a inteligência não forte provavelmente não conseguirá resolver tarefas gerais. Para criar algo suficientemente confiável, capaz de trabalhar em um mundo em constante mudança, pode ser necessário, pelo menos, aproximar-se da inteligência geral.
Mas agora estamos muito longe disso. O AlphaGo pode jogar muito bem em um tabuleiro 19×19, mas precisa ser re-treinado para jogar em um tabuleiro retangular. Ou considere um sistema médio de aprendizado profundo: ele é capaz de reconhecer um elefante se estiver bem iluminado e a textura de sua pele for visível. Mas se só o contorno do elefante estiver visível, o sistema provavelmente não conseguirá reconhecê-lo.
Em seu livro, você menciona que o aprendizado profundo não pode alcançar as capacidades da inteligência geral, pois não consegue fazer uma compreensão profunda.
Na cognitivismo, fala-se sobre a formação de diferentes modelos cognitivos. Estou sentado em um quarto de hotel e percebo que ali está um armário, ali está uma cama, ali está uma televisão, que está pendurada de maneira incomum. Eu conheço todos esses objetos, não estou apenas os identificando. Também entendo como eles se relacionam entre si. Tenho ideias sobre o funcionamento do mundo ao meu redor. Elas não são perfeitas. Podem estar erradas, mas são bastante boas. E com base nelas, faço muitas deduções que se tornam uma orientação para minhas ações cotidianas.
A outra extrema é algo como um sistema de jogos da Atari, criado pela DeepMind, onde ele se lembrava do que precisava fazer quando via pixels em certos lugares da tela. Se você obtiver dados suficientes, pode parecer que tem compreensão, mas na verdade é muito superficial. A prova disso é que se você mover os objetos por três pixels, a IA joga muito pior. As mudanças o confundem. Isso é o oposto de uma compreensão profunda.
Para resolver esse problema, você sugere voltar à IA clássica. Quais são suas vantagens que devemos tentar aproveitar?
São várias as vantagens.
Primeiramente, a IA clássica é na verdade uma estrutura para a criação de modelos cognitivos do mundo, a partir dos quais se pode fazer deduções posteriormente.
Em segundo lugar, a IA clássica é perfeitamente compatível com regras. Atualmente, no campo do aprendizado profundo, há uma tendência estranha, onde os especialistas tentam evitar regras. Eles querem fazer tudo usando redes neurais e não querem fazer nada que se pareça com programação clássica. Mas existem tarefas que foram calmamente resolvidas dessa maneira e ninguém prestou atenção. Por exemplo, traçar rotas no Google Maps.
Na verdade, precisamos de ambas as abordagens. O aprendizado de máquina permite aprender bem com os dados, mas ajuda muito pouco na representação da abstração que um programa de computador representa. A IA clássica funciona bem com abstrações, mas precisa ser programada manualmente, e há um acúmulo de conhecimento no mundo que é impossível programar todo. É evidente que precisamos combinar ambas as abordagens.
Isso está relacionado ao capítulo em que você fala sobre o que podemos aprender com a mente humana. E em primeiro lugar sobre a concepção que se baseia na ideia mencionada acima, de que nossa consciência é composta de vários sistemas diferentes que funcionam de maneiras distintas.
Acho que há uma forma diferente de explicar isso: cada sistema cognitivo que temos realmente resolve diferentes tipos de problemas. Partes análogas da IA devem ser projetadas para resolver tarefas diferentes, que têm características distintas.
Atualmente, estamos tentando usar certas tecnologias tudo-em-um para resolver problemas que são radicalmente diferentes entre si. Compreender uma frase não é o mesmo que reconhecer um objeto. No entanto, as pessoas estão tentando usar aprendizado profundo em ambos os casos. Do ponto de vista cognitivo, essas são tarefas qualitativamente diferentes. Estou simplesmente surpreso com o quão pouco a comunidade de aprendizado profundo valoriza a IA clássica. Por que esperar pela aparição da bala de prata? Ela é inatingível, e buscas infrutíferas não permitem entender toda a complexidade da tarefa de criar IA.
Você também menciona que sistemas de IA são necessários para entender relações de causa e efeito. Você acredita que isso será facilitado pelo aprendizado profundo, pela IA clássica ou por algo completamente novo?
Essa é outra área para a qual o aprendizado profundo não é muito adequado. Ele não explica as causas de certos eventos, mas calcula a probabilidade de um evento sob determinadas condições.
Sobre o que estamos falando? Você observa certos cenários, e entende por que isso acontece e o que pode ocorrer se certas circunstâncias mudarem. Posso olhar para o suporte em que a televisão está e imaginar que, se eu cortar uma de suas pernas, o suporte irá tombar e a televisão cairá. Essa é uma relação de causa e efeito.
A IA clássica nos oferece algumas ferramentas para isso. Ela pode, por exemplo, representar o que é suporte e o que é queda. Mas não vou exagerar. O problema é que a IA clássica depende principalmente da completude da informação sobre o que está acontecendo, e eu cheguei a essa conclusão apenas olhando para o suporte. De alguma forma, posso generalizar, representando partes do suporte que não vejo. Atualmente, não temos ferramentas para implementar essa propriedade.
Você também menciona que os humanos têm um conhecimento inato. Como isso pode ser implementado na IA?
No momento do nascimento, nosso cérebro já é um sistema muito bem pensado. Ele não é fixo; a natureza criou um primeiro esboço rudimentar. Em seguida, o aprendizado nos ajuda a revisar esse esboço ao longo de toda a nossa vida.
O esboço rudimentar do cérebro já possui certas capacidades. Um cabrito montês recém-nascido já consegue descer a ladeira da montanha com precisão algumas horas após o nascimento. É evidente que ele já tem compreensão do espaço tridimensional, de seu corpo e das relações entre eles. Uma sistema bastante complexo.
Parcialmente, por isso eu acredito que precisamos de híbridos. É difícil imaginar como podemos criar um robô que funcione bem no mundo sem conhecimentos semelhantes, começando do zero e aprendendo com uma longa e vasta experiência.
No que diz respeito aos humanos, nosso conhecimento inato se origina de nosso genoma, que evoluiu ao longo do tempo. E com os sistemas de IA, teremos que seguir um caminho diferente. Parte disso pode ser as regras de construção de nossos algoritmos. Parte pode ser as regras para a criação de estruturas de dados manipuladas por esses algoritmos. E parte pode ser o conhecimento que inserimos diretamente nas máquinas.
É interessante que no seu livro você leva à ideia de confiança e construção de sistemas confiáveis. Por que você escolheu esse critério?
Eu acredito que tudo isso hoje parece um jogo de bola. Sinto que estamos vivendo um momento estranho da história, confiando em software que não merece confiança. Acredito que as preocupações que temos hoje não serão eternas. Daqui a cem anos, a IA justificará nossa confiança, ou talvez até antes.
Mas hoje a IA é perigosa. Não no sentido que Elon Musk teme, mas no fato de que os sistemas de entrevistas de emprego discriminam mulheres, independentemente do que os programadores façam, pois suas ferramentas são simples demais.
Eu gostaria que tivéssemos uma IA de melhor qualidade. Não quero que comece um "inverno da inteligência artificial", quando as pessoas perceberem que a IA não funciona e é simplesmente perigosa, e não queiram corrigi-la.
De certa forma, seu livro realmente parece muito otimista. Você sugere que é possível construir uma IA confiável. Apenas precisamos olhar em outra direção.
Certo, o livro é muito pessimista a curto prazo e muito otimista a longo prazo. Acreditamos que todos os problemas que descrevemos podem ser resolvidos se olharmos mais amplamente sobre quais seriam as respostas corretas. E achamos que, se isso acontecer, o mundo ficará melhor.
Fonte: habr.com
