Penso que o problema não é que as máquinas substituam os humanos nos seus locais de trabalho, incluindo na esfera intelectual, e não que os computadores pareçam ter pegado em armas contra pessoas com ensino superior e contas no Twitter. A implementação da IA não está a acontecer rapidamente, pelo contrário, é demasiado lenta. Por que? Porque este é um ciclo normal de desenvolvimento humano e simplesmente não percebemos que a destruição que vemos significa a introdução de novas tecnologias que, antes de criar novos empregos, destroem os antigos.
As tecnologias destroem indústrias obsoletas e criam novas, este é o processo de criação, este é o ciclo de desenvolvimento. Se você tentar prolongar a agonia inserindo tecnologias antigas no processo ou criando algumas vantagens para tecnologias ultrapassadas, você simplesmente desacelerará o processo e o tornará mais doloroso. Isso acontecerá de qualquer maneira, mas o problema é que estamos regulando o processo criando regras que o retardam deliberadamente. Penso que este é um problema maior do que aqueles de que temos mais consciência. Este é mais um problema psicológico em que as pessoas fazem a pergunta: “como você pode se sentir seguro enquanto dirige um carro autônomo?”
Pesquisei a história e descobri que há cem anos um dos sindicatos mais poderosos de Nova York era o sindicato dos elevadores, que reunia 17 mil trabalhadores. Aliás, naquela época já existia uma tecnologia onde bastava apertar um botão e pronto, mas as pessoas não confiavam nela! É horrível ter que apertar o botão para chamar o elevador! Você sabe por que esse sindicato “morreu” e as próprias pessoas começaram a usar os botões? Porque um dia os ascensoristas decidiram entrar em greve. Eles entraram em greve e então as pessoas que tiveram que subir ao topo do Empire State Building arriscaram apertar os botões com as próprias mãos.
Lembre-se do que diziam há 20-30 anos sobre filhos ou netos quando se sentavam ao volante de um carro: “isto é terrível, basta olhar as estatísticas, porque os carros são uma das principais causas da mortalidade humana, como podem arriscar a vida deles?"
Então, tudo isso é pura psicologia. Prestamos pouca atenção ao número de pessoas que morrem em acidentes de carro, mas quando uma pessoa é morta por um carro que dirige sozinho, o evento fica fora de proporção. Qualquer falha, qualquer erro nas tecnologias de inteligência artificial é imediatamente coberto nas primeiras páginas dos jornais. Mas observem as estatísticas, observem o número de incidentes e verão que representa uma pequena percentagem do número total de acidentes. Portanto, a comunidade humana só vencerá se puder avançar sem ficar paralisada por tais medos.
Outra questão surge quando falamos de notícias falsas ou de cibersegurança, são temas muito politizados e recebo muitas chamadas a perguntar como lido com os que odeiam a IA. Por exemplo, escrevo um blog regular, e meu novo post, que será publicado em alguns dias, fala sobre o ódio e o fato de que a salvação do ódio está no conhecimento, no aprendizado. Só temos que compreender que este problema já existia muito antes de todas estas coisas serem inventadas, só que a sua importância aumentou agora graças à Internet, que atinge milhões e milhares de milhões de pessoas.
Acho que é realmente uma coisa boa quando alguém tenta impedir o progresso tentando proibir a IA, e você sabe que isso não vai funcionar porque temos Putin e outros bandidos, onde quer que estejam, que usam contra nós as nossas próprias tecnologias criadas em o mundo livre. Então acho que deveríamos aceitar isso como um dado adquirido.
A essência do problema reside apenas dentro de nós, e as respostas às perguntas estão dentro de nós, na nossa própria força e na nossa própria confiança. Defendo que as máquinas inteligentes não podem tornar-nos “obsoletos”. No entanto, deve ser lembrado que existem certas restrições relativas à cooperação humano-computador e, em grande medida, estas são apenas rumores que já existiam antes. Como sempre, estas são simplesmente novas oportunidades que destroem o velho mundo e criam um novo, e quanto mais avançarmos, melhor será para nós.
Hoje em dia, assemelha-se mais a uma entrada no mundo da ficção científica. O paradoxo é que se olharmos 50-60 anos para trás, veremos que naqueles tempos a ficção científica era absolutamente positiva, era uma utopia completa. Porém, houve então uma transição gradual da utopia para a distopia, de tal forma que não queremos mais ouvir nada sobre o futuro da humanidade.
Isso não aconteceu da noite para o dia. Houve um tempo em que as pessoas decidiram que a exploração espacial era muito arriscada. Este é realmente um grande risco, mas imagine que em 1969, quando os americanos pousaram na Lua, todo o poder computacional da NASA fosse menor do que o poder de qualquer dispositivo computacional moderno que cabe no seu bolso. Este dispositivo é mil vezes mais poderoso que o supercomputador que existia há 40 anos. Imagine o poder de computação que você tem no bolso! Porém, não tenho certeza se o Apple iPhone 7 tem o mesmo poder computacional que o Apollo 7 tinha, ou seja, é capaz de produzir o mesmo efeito.
No entanto, as máquinas proporcionaram-nos grandes avanços na exploração espacial ou oceânica, e devemos compreender que os computadores nos proporcionam a capacidade de assumir grandes riscos.
Gostaria de terminar a minha intervenção com uma nota positiva. Este slide não mostra imagens positivas? A foto no canto inferior direito não é photoshopada, na verdade conheci o Exterminador do Futuro em 2003.
Ele também adorava xadrez desde criança, mas não o estudava especificamente, então perdeu muito rapidamente. Fiquei muito surpreso quando, 6 meses depois, ele concorreu ao governo da Califórnia e venceu!
Por que chamo essas fotos de positivas? Porque embora em todos os episódios excepto no primeiro o velho Arnold esteja sempre ao lado dos vencedores e não se canse de lutar contra novas máquinas, é no primeiro episódio que vemos a combinação de que falava - é quando um pessoa mais uma máquina antiga mais uma interface perfeita derrotam o carro mais novo.
Você pode dizer: “sim, as máquinas são mais fortes que as pessoas porque podem calcular absolutamente tudo!” No entanto, a questão não é que eles possam calcular tudo. Por exemplo, no xadrez podemos falar tecnicamente sobre o infinito matemático do número de movimentos possíveis, igual a 1045, que não são difíceis de calcular para qualquer computador moderno. Porém, o que importa no jogo não são os cálculos, mas sim o fato do computador estar à frente da pessoa, pois é sempre guiado pelas regras. E você conhece o efeito dessas regras e sabe por que o computador escolhe o melhor movimento entre uma enorme variedade de movimentos possíveis.
Mas se nos voltarmos para a vida real, não tenho certeza de que um computador possa sempre ser útil. Vejamos a situação mais típica - você tem um computador que monitora seu orçamento, está em uma loja e está prestes a comprar um presente caro. O computador avalia a compra e diz: “não, você não pode comprar este item porque está acima do orçamento”. A máquina calculou tudo, mas há uma pequena nuance - seu filho está ao seu lado e este presente é para o aniversário dele. Você vê como isso muda as condições do problema? Isso muda tudo porque a criança está esperando por esse presente.
Posso começar a adicionar essas pequenas coisas que mudam tudo, mas não acho que possam ser incluídas na definição do problema e obter a solução certa. Temos muitas regras, mas ainda temos que fazer perguntas porque as coisas mudam. Isso é o que pode ser chamado de situação comum, mas se você olhar esses filmes, pode dizer que a situação aqui mostrada é mais dramática e extraordinária. Este slide mostra uma foto do Episódio V de Star Wars: O Império Contra-Ataca.
Han Solo pilota a nave diretamente através de um campo de asteróides, e C-3PO entra em pânico, relatando que a chance de sobreviver no campo é de 1: 3122. Han Solo diz a ele: "Nunca me diga quais são nossas chances!" Aqui surge a pergunta: quem está mais certo nesta situação?
A tecnologia representada pelo C-3PO está absolutamente certa, pois a chance de sobrevivência tende a zero. É possível que, do ponto de vista de um robô, ser capturado pelas forças imperiais seja uma escolha melhor que um humano nem sequer consideraria do que morrer num campo de asteróides. Mas se o computador decidir que render-se ao império é a melhor opção, então podemos assumir que a pessoa não tem nenhuma opção. O mais importante é que em ambos os casos, ordinário e extraordinário, tenhamos a oportunidade de tomar a decisão final, e tomar tal decisão ainda requer liderança humana.
Às vezes, isso significa que você precisa ir contra as recomendações do computador. O objetivo da liderança humana não é conhecer as probabilidades, mas sim fazer as perguntas que realmente importam, não apenas hoje ou amanhã, mas no futuro distante. Este processo pode ser denominado “orientação humana” ou “intervenção humana”, influenciando sem a ajuda de máquinas inteligentes. Este é o nosso rumo neste século.
As pessoas às vezes ficam surpresas com meu otimismo em relação às máquinas inteligentes, dada a minha experiência com elas, mas sou realmente um otimista. E tenho certeza de que todos vocês estão igualmente otimistas quanto ao futuro da IA. Mas devemos lembrar que as nossas tecnologias são agnósticas. Não é bom nem mau, mas pode ser usado tanto para o bem como para o mal. As máquinas devem tornar-se mais inteligentes e mais capazes. E nós, humanos, devemos fazer o que só os humanos podem fazer – sonhar, sonhar ao máximo, e então seremos capazes de extrair todos os benefícios que essas novas ferramentas incríveis trazem.
Conforme planejado, ainda temos 10 minutos para responder perguntas.
Pergunta: Você acha que seria possível criar um sistema de aprendizado de máquina que pudesse determinar quais movimentos são mais consistentes com o estilo de jogo humano?
Kasparov: Em primeiro lugar, não esperamos que o computador nos diga o primeiro movimento e os restantes 17505 movimentos. Acho que devemos confiar na máquina para fornecer as melhores recomendações para movimentos únicos. Aliás, jogadores de primeira linha usam os computadores como guia, ajudando-os a assumir a posição mais adequada no jogo. Repito mais uma vez: em 9 entre 10 casos, a avaliação da situação pelo computador é muito superior à avaliação que uma pessoa pode fazer.
Pergunta: Você concorda que a verdadeira inteligência requer liberdade de escolha, liberdade para tomar decisões que somente uma pessoa pode tomar? Afinal, o software Deep Blue e outros programas de computador são escritos por pessoas, e quando você perde para o Deep Blue, você perde não para o computador, mas para os programadores que escreveram o programa. A minha pergunta é: existe algum perigo de qualquer tipo de inteligência mecânica enquanto os computadores tiverem liberdade de escolha?
Kasparov: aqui devo passar da ciência para a filosofia. Tudo está claro sobre o Deep Blue - é o resultado de uma enorme quantidade de trabalho humano. Na maioria dos casos, mesmo no caso do AlphaGo de Demis Hassabis, todos estes são produtos da inteligência humana. Não sei se as máquinas podem ter liberdade de escolha, mas acredito que tudo o que fizermos, se soubermos como fazê-lo, as máquinas farão melhor. Porém, quando fazemos a maioria das coisas, não sabemos como fazê-las da melhor maneira, por isso muitas vezes não conseguimos entender o que teremos sucesso. Simplificando, temos um objetivo, mas não sabemos qual é, e o papel da máquina é ajudar-nos a concretizar esse objetivo. Portanto, se falamos de livre escolha de computadores, então isso deveria ajudar a nos vincular a esse objetivo. Acho que este é um futuro muito distante para os computadores.
Pergunta: O que você acha das características humanas, como coragem e moralidade, e das decisões que a inteligência artificial pode tomar com base nelas? Por exemplo, o que um carro autônomo deveria fazer - atropelar uma criança ou evitar atropelá-la, batendo em uma pedra e matando seu passageiro?
Kasparov: Isto é o que as pessoas chamam de “sentimentos”, não são quantificáveis porque são um monte de características humanas diferentes. Se falamos de coragem, essa característica sempre vai contra as chances de escolha da melhor opção. A bravura, como outras emoções humanas, é, por definição, contrária ao cálculo preciso.
Pergunta: Sr. Kasparov, minha pergunta não diz respeito a computadores: o que há em seu frasco e posso tentar?
Kasparov: o que você quer dizer?
Apresentador: Ele pergunta o que tem no seu bolso!
Kasparov: no meu bolso? "Stolichnaya"! Isso não é uma propaganda, se você percebeu, eu joguei fora.
Pergunta: Quem você acha que será o próximo campeão mundial de xadrez e o jovem enxadrista chinês Wei Yi terá a chance de destronar Carelsen como o rei do xadrez?
Kasparov: Karelsen é o jogador número 1, não é campeão mundial, mas simplesmente o melhor enxadrista do mundo segundo a classificação. Ele completa 27 anos este ano, então ainda é jovem, mas não muito jovem para os padrões atuais. Acho que Wei Yi tem 18 ou 19 anos agora. Magnus está à frente de jovens jogadores como os americanos Wesley So e Fabiano Kerouana, e Wei Yi pode ser seu adversário. Porém, para ser campeão mundial é preciso talento, não é preciso ser jovem e enérgico, basta ter um pouco de sorte. Então, para responder à pergunta, posso dizer: sim, ele tem chance de vencer Magnus Carelsen.
Pergunta: Quando você falou sobre algoritmos determinísticos e aprendizado de máquina, você mencionou a possibilidade de usar máquinas como ferramentas para complementar nossa inteligência. E quanto à possibilidade de maximizar recursos antes de criar uma IA poderosa, ou mesmo de colocar um cérebro humano num computador?
Kasparov: Não tenho vergonha de admitir a minha ignorância quando não tenho a certeza de não ser capaz de responder corretamente a uma pergunta. Estou tentando ao máximo entender o que é o cérebro humano, se o considerarmos separadamente do corpo humano, quais funções ele desempenha. Porque é difícil imaginar como o cérebro se comportará separadamente do corpo. Talvez tal experiência possa ser feita no futuro, mas estou confiante de que a combinação do cérebro humano, dos sentimentos e emoções humanas com um computador formará uma “mente” que será muito mais eficaz do que um cérebro extraído e congelado, usado como um dispositivo cheio de neurônios.
Pergunta: Existe uma abordagem básica universal para o problema da substituição de empregos humanos por computadores?
Kasparov: Penso que esta é uma questão muito importante, porque é claro que nos aproximamos do ponto em que muitas pessoas poderão estar desempregadas. Este é o paradoxo do progresso tecnológico: por um lado, temos as tecnologias mais recentes que proporcionam enormes vantagens competitivas à geração mais jovem que lida com estes dispositivos e tecnologias. Por outro lado, temos avanços na medicina e na alimentação saudável, que prolongam a vida humana e dão à pessoa a capacidade de trabalhar por muitos anos. Neste sentido, a geração dos anos 50, 60 ou mesmo dos 40 não pode competir com a juventude de hoje. Temos de encontrar uma solução para esta situação paradoxal em que o fosso entre gerações é tão grande. A experiência histórica diz que tal lacuna sempre leva a uma grande explosão. Refiro-me à lacuna entre a infra-estrutura social existente na sociedade e o progresso tecnológico.
Esta é uma questão que os políticos preferem adiar até às próximas eleições. Ninguém quer falar sobre isso porque é um assunto delicado. É muito fácil imprimir dinheiro e esperar que alguém pague por isso algum dia no futuro. Portanto, existem muitos paradoxos nesta área, por exemplo, a acumulação de dívidas para fornecer garantias sociais à geração mais velha, na expectativa de que o fardo do pagamento dessas dívidas recaia sobre os ombros da geração mais jovem. Há muitas perguntas para as quais não tenho respostas e muitas perguntas que eu poderia fazer e espero que a IA possa me ajudar.
É muito mau que durante décadas os políticos tenham tentado ignorar os problemas que acabámos de discutir. Estão sempre prontos a fazer declarações, têm sempre planos, mas não querem compreender a contraprodutividade de manter silêncio sobre o problema do conflito entre tecnologia e sociedade. Obrigado pela sua atenção!
Obrigado por ficar com a gente. Gostou dos nossos artigos? Quer ver mais conteúdos interessantes? Apoie-nos fazendo um pedido ou recomendando a amigos, 30% de desconto para usuários do Habr em um análogo exclusivo de servidores básicos, que foi inventado por nós para você: (disponível com RAID1 e RAID10, até 24 núcleos e até 40 GB DDR4).
Dell R730xd 2 vezes mais barato? Só aqui na Holanda! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - a partir de US$ 99! Ler sobre
Fonte: habr.com