<\/a><\/noindex>Em seu livro, Marcus e seu coautor Ernest Davis defendem um caminho diferente. Eles acreditam que ainda estamos longe de criar uma IA geral, mas t\u00eam a certeza de que, mais cedo ou mais tarde, isso ser\u00e1 alcan\u00e7ado.<\/p>\n
Por que precisamos de uma IA geral? Vers\u00f5es especializadas j\u00e1 foram criadas e trazem muitos benef\u00edcios.<\/b><\/p>\n
Correto, e ainda haver\u00e1 mais benef\u00edcios. Mas h\u00e1 muitas tarefas que uma IA especializada simplesmente n\u00e3o consegue resolver. Por exemplo, entender a fala cotidiana, ou ajudar de forma geral no mundo virtual, ou um rob\u00f4 que ajude na limpeza e no preparo de alimentos. Tais tarefas est\u00e3o al\u00e9m das capacidades da IA especializada. Outra quest\u00e3o pr\u00e1tica interessante: \u00e9 poss\u00edvel criar um carro aut\u00f4nomo seguro com a ajuda de IA especializada? A experi\u00eancia mostra que essa IA ainda enfrenta muitos problemas de comportamento em situa\u00e7\u00f5es an\u00f4malas, mesmo em dire\u00e7\u00e3o, o que torna a situa\u00e7\u00e3o bastante complicada.<\/p>\n
Acho que todos n\u00f3s gostar\u00edamos de ter uma IA que pudesse nos ajudar a fazer novas descobertas em grande escala na medicina. N\u00e3o est\u00e1 claro se as tecnologias atuais s\u00e3o adequadas para isso, pois a biologia \u00e9 um campo complexo. \u00c9 necess\u00e1rio estar preparado para ler muitos livros. Os cientistas compreendem as rela\u00e7\u00f5es causais na intera\u00e7\u00e3o de redes e mol\u00e9culas, podem desenvolver teorias sobre planetas e assim por diante. No entanto, com a IA especializada, n\u00e3o conseguimos criar m\u00e1quinas capazes de tais descobertas. Com a IA geral, poder\u00edamos revolucionar a ci\u00eancia, tecnologia e medicina. Na minha opini\u00e3o, \u00e9 muito importante continuar o trabalho na cria\u00e7\u00e3o de IA geral.<\/p>\n
Parece que por \"geral\" voc\u00ea entende IA forte?<\/b><\/p>\n
Quando digo \"geral\", quero dizer que a IA poder\u00e1 pensar em tempo real e resolver novas tarefas de forma independente. Ao contr\u00e1rio, por exemplo, do Go, onde o problema n\u00e3o muda h\u00e1 2000 anos.<\/p>\n
A IA geral deve ser capaz de tomar decis\u00f5es tanto na pol\u00edtica quanto na medicina. \u00c9 an\u00e1loga \u00e0 capacidade humana; qualquer pessoa com senso comum pode fazer muitas coisas. Voc\u00ea pega estudantes inexperientes e, em poucos dias, os faz trabalhar em praticamente qualquer coisa, desde tarefas jur\u00eddicas at\u00e9 m\u00e9dicas. Isso se deve ao fato de que eles t\u00eam uma compreens\u00e3o geral do mundo e sabem ler, e, portanto, podem contribuir para uma ampla variedade de atividades.<\/p>\n
A rela\u00e7\u00e3o entre esse tipo de intelig\u00eancia e a forte \u00e9 que a intelig\u00eancia n\u00e3o forte provavelmente n\u00e3o conseguir\u00e1 resolver tarefas gerais. Para criar algo suficientemente confi\u00e1vel, capaz de trabalhar em um mundo em constante mudan\u00e7a, pode ser necess\u00e1rio, pelo menos, aproximar-se da intelig\u00eancia geral.<\/p>\n
Mas agora estamos muito longe disso. O AlphaGo joga perfeitamente em um tabuleiro de 19×19, mas precisa ser re-treinado para jogar em um tabuleiro retangular. Ou pegue um sistema m\u00e9dio de aprendizado profundo: ele pode reconhecer um elefante se estiver bem iluminado e a textura da pele for vis\u00edvel. Mas se apenas o contorno do elefante for vis\u00edvel, o sistema n\u00e3o conseguir\u00e1 reconhec\u00ea-lo.<\/p>\n
Em seu livro, voc\u00ea menciona que o aprendizado profundo n\u00e3o pode alcan\u00e7ar as capacidades da intelig\u00eancia geral, pois n\u00e3o consegue fazer uma compreens\u00e3o profunda.<\/b><\/p>\n
Na cognitivismo, fala-se sobre a forma\u00e7\u00e3o de diferentes modelos cognitivos. Estou sentado em um quarto de hotel e percebo que ali est\u00e1 um arm\u00e1rio, ali est\u00e1 uma cama, ali est\u00e1 uma televis\u00e3o, que est\u00e1 pendurada de maneira incomum. Eu conhe\u00e7o todos esses objetos, n\u00e3o estou apenas os identificando. Tamb\u00e9m entendo como eles se relacionam entre si. Tenho ideias sobre o funcionamento do mundo ao meu redor. Elas n\u00e3o s\u00e3o perfeitas. Podem estar erradas, mas s\u00e3o bastante boas. E com base nelas, fa\u00e7o muitas dedu\u00e7\u00f5es que se tornam uma orienta\u00e7\u00e3o para minhas a\u00e7\u00f5es cotidianas.<\/p>\n
A outra extrema \u00e9 algo como um sistema de jogos da Atari, criado pela DeepMind, onde ele se lembrava do que precisava fazer quando via pixels em certos lugares da tela. Se voc\u00ea obtiver dados suficientes, pode parecer que tem compreens\u00e3o, mas na verdade \u00e9 muito superficial. A prova disso \u00e9 que se voc\u00ea mover os objetos por tr\u00eas pixels, a IA joga muito pior. As mudan\u00e7as o confundem. Isso \u00e9 o oposto de uma compreens\u00e3o profunda.<\/p>\n
Para resolver esse problema, voc\u00ea sugere voltar \u00e0 IA cl\u00e1ssica. Quais s\u00e3o suas vantagens que devemos tentar aproveitar?<\/b><\/p>\n
S\u00e3o v\u00e1rias as vantagens. <\/p>\n
Primeiramente, a IA cl\u00e1ssica \u00e9 na verdade uma estrutura para a cria\u00e7\u00e3o de modelos cognitivos do mundo, a partir dos quais se pode fazer dedu\u00e7\u00f5es posteriormente.<\/p>\n
Em segundo lugar, a IA cl\u00e1ssica \u00e9 perfeitamente compat\u00edvel com regras. Atualmente, no campo do aprendizado profundo, h\u00e1 uma tend\u00eancia estranha, onde os especialistas tentam evitar regras. Eles querem fazer tudo usando redes neurais e n\u00e3o querem fazer nada que se pare\u00e7a com programa\u00e7\u00e3o cl\u00e1ssica. Mas existem tarefas que foram calmamente resolvidas dessa maneira e ningu\u00e9m prestou aten\u00e7\u00e3o. Por exemplo, tra\u00e7ar rotas no Google Maps.<\/p>\n
Na verdade, precisamos de ambas as abordagens. O aprendizado de m\u00e1quina permite aprender bem com os dados, mas ajuda muito pouco na representa\u00e7\u00e3o da abstra\u00e7\u00e3o que um programa de computador representa. A IA cl\u00e1ssica funciona bem com abstra\u00e7\u00f5es, mas precisa ser programada manualmente, e h\u00e1 um ac\u00famulo de conhecimento no mundo que \u00e9 imposs\u00edvel programar todo. \u00c9 evidente que precisamos combinar ambas as abordagens.<\/p>\n
Isso est\u00e1 relacionado ao cap\u00edtulo em que voc\u00ea fala sobre o que podemos aprender com a mente humana. E em primeiro lugar sobre a concep\u00e7\u00e3o que se baseia na ideia mencionada acima, de que nossa consci\u00eancia \u00e9 composta de v\u00e1rios sistemas diferentes que funcionam de maneiras distintas.<\/b><\/p>\n
Acho que h\u00e1 uma forma diferente de explicar isso: cada sistema cognitivo que temos realmente resolve diferentes tipos de problemas. Partes an\u00e1logas da IA devem ser projetadas para resolver tarefas diferentes, que t\u00eam caracter\u00edsticas distintas.<\/p>\n
Atualmente, estamos tentando usar certas tecnologias tudo-em-um para resolver problemas que s\u00e3o radicalmente diferentes entre si. Compreender uma frase n\u00e3o \u00e9 o mesmo que reconhecer um objeto. No entanto, as pessoas est\u00e3o tentando usar aprendizado profundo em ambos os casos. Do ponto de vista cognitivo, essas s\u00e3o tarefas qualitativamente diferentes. Estou simplesmente surpreso com o qu\u00e3o pouco a comunidade de aprendizado profundo valoriza a IA cl\u00e1ssica. Por que esperar pela apari\u00e7\u00e3o da bala de prata? Ela \u00e9 inating\u00edvel, e buscas infrut\u00edferas n\u00e3o permitem entender toda a complexidade da tarefa de criar IA.<\/p>\n
Voc\u00ea tamb\u00e9m menciona que sistemas de IA s\u00e3o necess\u00e1rios para entender rela\u00e7\u00f5es de causa e efeito. Voc\u00ea acredita que isso ser\u00e1 facilitado pelo aprendizado profundo, pela IA cl\u00e1ssica ou por algo completamente novo?<\/b><\/p>\n
Essa \u00e9 outra \u00e1rea para a qual o aprendizado profundo n\u00e3o \u00e9 muito adequado. Ele n\u00e3o explica as causas de certos eventos, mas calcula a probabilidade de um evento sob determinadas condi\u00e7\u00f5es.<\/p>\n
Sobre o que estamos falando? Voc\u00ea observa certos cen\u00e1rios, e entende por que isso acontece e o que pode ocorrer se certas circunst\u00e2ncias mudarem. Posso olhar para o suporte em que a televis\u00e3o est\u00e1 e imaginar que, se eu cortar uma de suas pernas, o suporte ir\u00e1 tombar e a televis\u00e3o cair\u00e1. Essa \u00e9 uma rela\u00e7\u00e3o de causa e efeito.<\/p>\n
A IA cl\u00e1ssica nos oferece algumas ferramentas para isso. Ela pode, por exemplo, representar o que \u00e9 suporte e o que \u00e9 queda. Mas n\u00e3o vou exagerar. O problema \u00e9 que a IA cl\u00e1ssica depende principalmente da completude da informa\u00e7\u00e3o sobre o que est\u00e1 acontecendo, e eu cheguei a essa conclus\u00e3o apenas olhando para o suporte. De alguma forma, posso generalizar, representando partes do suporte que n\u00e3o vejo. Atualmente, n\u00e3o temos ferramentas para implementar essa propriedade.<\/p>\n
Voc\u00ea tamb\u00e9m menciona que os humanos t\u00eam um conhecimento inato. Como isso pode ser implementado na IA?<\/b><\/p>\n
No momento do nascimento, nosso c\u00e9rebro j\u00e1 \u00e9 um sistema muito bem pensado. Ele n\u00e3o \u00e9 fixo; a natureza criou um primeiro esbo\u00e7o rudimentar. Em seguida, o aprendizado nos ajuda a revisar esse esbo\u00e7o ao longo de toda a nossa vida.<\/p>\n
O esbo\u00e7o rudimentar do c\u00e9rebro j\u00e1 possui certas capacidades. Um cabrito mont\u00eas rec\u00e9m-nascido j\u00e1 consegue descer a ladeira da montanha com precis\u00e3o algumas horas ap\u00f3s o nascimento. \u00c9 evidente que ele j\u00e1 tem compreens\u00e3o do espa\u00e7o tridimensional, de seu corpo e das rela\u00e7\u00f5es entre eles. Uma sistema bastante complexo.<\/p>\n
Parcialmente, por isso eu acredito que precisamos de h\u00edbridos. \u00c9 dif\u00edcil imaginar como podemos criar um rob\u00f4 que funcione bem no mundo sem conhecimentos semelhantes, come\u00e7ando do zero e aprendendo com uma longa e vasta experi\u00eancia.<\/p>\n
No que diz respeito aos humanos, nosso conhecimento inato se origina de nosso genoma, que evoluiu ao longo do tempo. E com os sistemas de IA, teremos que seguir um caminho diferente. Parte disso pode ser as regras de constru\u00e7\u00e3o de nossos algoritmos. Parte pode ser as regras para a cria\u00e7\u00e3o de estruturas de dados manipuladas por esses algoritmos. E parte pode ser o conhecimento que inserimos diretamente nas m\u00e1quinas.<\/p>\n
\u00c9 interessante que no seu livro voc\u00ea leva \u00e0 ideia de confian\u00e7a e constru\u00e7\u00e3o de sistemas confi\u00e1veis. Por que voc\u00ea escolheu esse crit\u00e9rio?<\/b><\/p>\n
Eu acredito que tudo isso hoje parece um jogo de bola. Sinto que estamos vivendo um momento estranho da hist\u00f3ria, confiando em software que n\u00e3o merece confian\u00e7a. Acredito que as preocupa\u00e7\u00f5es que temos hoje n\u00e3o ser\u00e3o eternas. Daqui a cem anos, a IA justificar\u00e1 nossa confian\u00e7a, ou talvez at\u00e9 antes.<\/p>\n
Mas hoje a IA \u00e9 perigosa. N\u00e3o no sentido que Elon Musk teme, mas no fato de que os sistemas de entrevistas de emprego discriminam mulheres, independentemente do que os programadores fa\u00e7am, pois suas ferramentas s\u00e3o simples demais.<\/p>\n
Eu gostaria que tiv\u00e9ssemos uma IA de melhor qualidade. N\u00e3o quero que comece um \"inverno da intelig\u00eancia artificial\", quando as pessoas perceberem que a IA n\u00e3o funciona e \u00e9 simplesmente perigosa, e n\u00e3o queiram corrigi-la.<\/p>\n
De certa forma, seu livro realmente parece muito otimista. Voc\u00ea sugere que \u00e9 poss\u00edvel construir uma IA confi\u00e1vel. Apenas precisamos olhar em outra dire\u00e7\u00e3o.<\/b><\/p>\n
Certo, o livro \u00e9 muito pessimista a curto prazo e muito otimista a longo prazo. Acreditamos que todos os problemas que descrevemos podem ser resolvidos se olharmos mais amplamente sobre quais seriam as respostas corretas. E achamos que, se isso acontecer, o mundo ficar\u00e1 melhor.habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"\u042d\u0442\u043e\u0442 \u0442\u0435\u043a\u0441\u0442 \u2014 \u043d\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430\u0443\u0447\u043d\u043e\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f, \u0430 \u043e\u0434\u043d\u043e \u0438\u0437 \u043c\u043d\u043e\u0433\u0438\u0445 \u043c\u043d\u0435\u043d\u0438\u0439 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u0448\u0435\u0433\u043e \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0435\u0433\u043e \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f. \u0418 \u0437\u0430\u043e\u0434\u043d\u043e \u043f\u0440\u0438\u0433\u043b\u0430\u0448\u0435\u043d\u0438\u0435 \u043a \u0434\u0438\u0441\u043a\u0443\u0441\u0441\u0438\u0438. \u0413\u0430\u0440\u0438 \u041c\u0430\u0440\u043a\u0443\u0441, \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u043e\u0440 \u041d\u044c\u044e-\u0419\u043e\u0440\u043a\u0441\u043a\u043e\u0433\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u0430, \u0443\u0432\u0435\u0440\u0435\u043d, \u0447\u0442\u043e \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0433\u0440\u0430\u0435\u0442 \u0432\u0430\u0436\u043d\u0443\u044e \u0440\u043e\u043b\u044c \u0432 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0438 \u0418\u0418. \u041d\u043e \u043e\u043d \u0442\u0430\u043a\u0436\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442, \u0447\u0442\u043e \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0435 \u0443\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u044d\u0442\u043e\u0439 \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 \u043a \u0435\u0451 \u0434\u0438\u0441\u043a\u0440\u0435\u0434\u0438\u0442\u0430\u0446\u0438\u0438. \u0412 \u0441\u0432\u043e\u0435\u0439 \u043a\u043d\u0438\u0433\u0435 Rebooting […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29302,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-39055","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"N\u00e3o](\"\/wp-content\/uploads\/2019\/10\/dccacd1c137f2ec973edd6dc5d4c42f3.png\")