Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1

Estou honrado por estar aqui, mas por favor não me hackeie. Os computadores já me odeiam, então preciso fazer amizade com o maior número possível de pessoas nesta sala. Gostaria de trazer à tona uma pequena coisinha da minha biografia que é interessante para o público americano. Nasci e cresci no extremo sul do país, bem próximo à Geórgia. Isso é realmente verdade. Espere um segundo, eu disse que os computadores me odeiam!

Um slide foi perdido, mas este é realmente o extremo sul da URSS, onde nasci em uma república que ficava bem ao lado da República da Geórgia (nota do tradutor: o nome do estado da Geórgia e da República da Geórgia soa igual em inglês).

Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1

Falando da minha terra natal, o engraçado é que meu último livro, Deep Thinking, foi escrito sobre inteligência artificial, sobre minhas próprias experiências lutando contra computadores, e o livro escrito dois anos antes se chamava Winter is Coming. Não era uma sinopse de Game of Thrones, era sobre Vladimir Putin e a luta pelo mundo livre, mas quando fiz o tour do livro, todos queriam me perguntar sobre xadrez e o computador IBM Deep Blue. Agora, quando apresento o livro “Pensamento Profundo”, todos querem me perguntar sobre Putin. Mas estou tentando permanecer no assunto e tenho certeza de que haverá algumas perguntas após esta apresentação que terei prazer em responder. Não sou político, então não tenho medo de responder perguntas.

Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1

Pode parecer estranho que o jogo de xadrez, que surgiu há milhares de anos, sabe Deus quando, seja uma analogia perfeita para a inteligência artificial, porque quando falamos de IA, devemos lembrar que a letra I significa inteligência, e existe nada que demonstre que seja melhor que o xadrez.

Muitas pessoas acreditam que o xadrez nada mais é do que um passatempo que as pessoas praticam nos cafés. Se você observar as criações de Hollywood, verá que todo mundo joga xadrez - alienígenas, X-men, bruxos, vampiros. Meu filme favorito, “Casablanca”, com Humphrey Bogart, também é sobre xadrez, e quando assisto esse filme, sempre tenho vontade de ficar em posição de olhar dentro da tela e ver o tabuleiro de Bogart. Ele joga na defesa francesa, muito popular no início dos anos 40. Acho que Bogart era um jogador de xadrez bastante decente.

Gostaria de mencionar que Alfred Binet, um dos co-inventores do teste de QI no final do século XIX, admirava a inteligência dos jogadores de xadrez e estudou-a durante muitos anos. Portanto, não é de surpreender que o jogo de xadrez tenha atraído aqueles que queriam criar máquinas inteligentes. No entanto, muitas vezes acontece que máquinas inteligentes como o "Turk" de von Kempelen são simplesmente uma grande farsa. Mas no final do século XVIII, esta máquina de xadrez foi um grande milagre, percorreu a Europa e a América e lutou com jogadores fortes e fracos como Franklin e Napoleão, mas claro que era tudo uma farsa. “Turk” não era uma máquina real, era um sistema mecânico original de painéis deslizantes e espelhos, dentro do qual se escondia um jogador forte - um homem.

O interessante é que cem ou duzentos anos depois, durante os últimos vinte anos, tem-se observado a situação oposta - vemos nos torneios que jogadores humanos tentam esconder dispositivos de computador nos bolsos. Então agora temos que procurar um computador escondido no corpo humano.

Contudo, histórias envolvendo dispositivos mecânicos são relativamente desconhecidas. O primeiro dispositivo mecânico para jogar xadrez surgiu em 1912, jogava com uma peça mecânica, podia transformar o xeque-mate em torre, mas não poderia ser chamado de protótipo do primeiro computador.

Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1

Curiosamente, os pioneiros do design de computadores, como Alan Turing e Claude Shannon, tinham um grande interesse pelo xadrez. Eles acreditavam que jogar xadrez poderia revelar os segredos da inteligência artificial. E se um dia um computador vencer um jogador de xadrez comum ou um campeão mundial de xadrez, isso será uma manifestação da evolução da IA.

Se você se lembra, Alan Turing criou o primeiro programa de computador para jogar xadrez em 1952, e isso foi uma grande conquista, mas ainda mais significativo foi o fato de que não existiam computadores naquela época. Era simplesmente um algoritmo que ele usava para jogar xadrez e funcionava como um processador de computador humano. É importante lembrar que os pais fundadores dos computadores determinaram o caminho ao longo do qual a IA se desenvolveria, seguindo os processos do pensamento humano. O caminho oposto é o que chamamos de ataque de força bruta, ou uma busca rápida de movimentos possíveis.

Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1

Eu não tinha ouvido nada sobre competir contra computadores em 1985, mas nesta foto você pode ver 32 tabuleiros e, embora eu estivesse jogando contra pessoas, era na verdade um verdadeiro jogo contra computadores. Naquela época havia 4 fabricantes líderes de computadores de xadrez, que acabaram de apresentá-los ao mundo. Talvez alguns de vocês ainda tenham esses computadores; agora eles são verdadeiras raridades. Cada fabricante tinha 8 módulos de computador, então na realidade joguei com 32 adversários e ganhei todos os jogos.

O mais importante é que não foi uma surpresa, mas sim um resultado natural, e cada vez que olho para esta foto da minha vitória, lembro-me desta época como a época de ouro das máquinas de xadrez, quando elas eram fracas e meus cabelos - grossos .

Então era junho de 1985 e 12 anos depois eu só havia jogado contra um computador. Houve uma revanche em 1997 porque ganhei a primeira partida, que aconteceu em 1996, na Filadélfia. Perdi essa revanche, mas para ser justo, a virada no xadrez computacional não aconteceu em 1997, mas em 1996, quando ganhei a partida, mas perdi a primeira partida. Depois ganhei 3 jogos e o placar ficou 4:2 a meu favor.

Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1

Na verdade, o importante aqui é que o computador daquela época era capaz de se tornar o campeão mundial de xadrez se jogasse num torneio regular de xadrez. Eu não esperava que a IBM fosse capaz de realizar um trabalho técnico tão sério para fortalecer seu computador em um ano. Mas o meu maior erro, com excepção do forte aumento do preço das acções da IBM, que saltou de alguns pontos para mil milhões de dólares duas semanas após a partida, foi a incapacidade de ler as letras miúdas. Porque um dos problemas que tive em 2 com o computador Deep Blue foi que ele era uma caixa preta para mim. Eu não sabia nada sobre o meu adversário, como ele pensa, que táticas ele usa. Normalmente, quando você se prepara para um jogo, você estuda seu oponente, seja uma partida de xadrez ou de futebol, e observando a maneira de jogar, você estuda sua estratégia. Mas não houve informações sobre o “estilo de jogo” do Deep Blue.

Tentei ser esperto e afirmei que na próxima partida deveria ter acesso aos jogos do Deep Blue. Eles responderam: “Claro!”, mas acrescentaram em letras pequenas:

“...apenas durante competições oficiais.”

E isso apesar do Deep Blue não ter jogado um único jogo fora dos muros do laboratório. Então em 1997 joguei contra a caixa preta e tudo aconteceu ao contrário do que aconteceu em 1996 - ganhei o primeiro jogo, mas perdi a partida.

A propósito, onde estavam vocês, hackers, há 20 anos, quando eu precisava tanto deles? É verdade que, quando corro o olhar pelas fileiras dos presentes, entendo que muitos de vocês provavelmente ainda não nasceram.

Meu maior erro foi tratar a partida do Deep Blue como um grande experimento científico e social. Achei que ele seria ótimo porque realmente encontraria aquela área onde a intuição humana poderia ser comparada à “força bruta” dos cálculos computacionais. No entanto, o Deep Blue, com a sua velocidade computacional fenomenal de cerca de 2 milhões de posições de xadrez por segundo, o que não era nada mau para 1997, era tudo menos inteligência artificial. Seu desempenho não contribuiu em nada para desvendar o mistério da inteligência humana.

Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1

Não era mais inteligente do que um despertador comum, mas não me sinto melhor em perder para um despertador de US$ 10 milhões.

Lembro-me da conferência de imprensa durante a cerimónia de abertura do jogo, quando o líder do projecto IBM disse que isso marcaria o fim da experimentação científica e a vitória da ciência. Como tivemos uma vitória e uma derrota, quis jogar uma terceira partida para descobrir quem era mais forte, mas desmontaram o computador, aparentemente para retirar a única testemunha imparcial. Tentei descobrir o que aconteceu com o Deep Blue, mas não consegui. Mais tarde, soube que ele havia iniciado uma nova carreira e agora preparava sushi em um dos terminais do Aeroporto Kennedy.

Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1

Adoro sushi, mas não preciso de computador lá. Então, foi aqui que minha história com o xadrez de computador terminou rapidamente. Mas aqueles de vocês que também jogam xadrez ou outros jogos sabem o quão vulneráveis ​​somos em comparação aos computadores porque não somos tão estáveis, imparciais e cometemos erros. Mesmo os jogadores de mais alto nível cometem erros, por exemplo, durante uma partida de campeonato onde há 50 ou 45 jogadas, pelo menos um pequeno erro é inevitável. Se tem gente real jogando não importa muito, mas se você errar ao jogar com uma máquina, então você pode não perder, mas também não vai ganhar, porque a máquina conseguirá evitar a derrota.

A certa altura percebi que era apenas uma questão de tempo, porque não podemos atingir o mesmo nível de vigilância e precisão que é necessário para derrotar um computador, porque a máquina é invulgarmente estável nas suas ações. Anos depois, vimos máquinas ganhando partidas o tempo todo. Repito mais uma vez - tudo isso se aplica apenas ao jogo de xadrez, que é muito vulnerável ao método de jogo de força bruta, quando o computador passa por muitas opções de movimentos em grande velocidade e escolhe a mais ideal. Não é inteligência artificial, então as pessoas cometem um erro quando dizem que um jogador de xadrez humano foi derrotado pela inteligência artificial.

Mais tarde, joguei várias outras partidas contra computadores. Certa vez, analisei esses jogos usando motores de xadrez modernos e foi uma experiência bastante dolorosa. Foi uma viagem no tempo e fui forçado a admitir o quão mal tive meu desempenho nessas partidas porque a culpa era minha. Porém, naquela época o “demônio” do computador não era tão forte, você pode não acreditar, mas o aplicativo de xadrez gratuito no seu dispositivo móvel é hoje mais forte do que o Deep Blue. Claro, se você tiver um mecanismo de xadrez como asmFish ou Comodo e o laptop mais recente, esse sistema será ainda mais poderoso.
Quando joguei contra o Deep Blue, acho que era o jogo 5, o computador fazia um check perpétuo no final do jogo, e todos começaram a dizer que era uma grande vitória e que o computador mostrava uma qualidade de jogo fenomenal. Mas hoje, com um computador moderno, parece simplesmente ridículo. Toda a nossa partida pode ser disputada em 30 segundos, no máximo um minuto dependendo do desempenho do seu laptop. No começo cometi um erro, depois tentei salvar o jogo, o Deep Blue fez vários contra-ataques e venceu. Estas são as regras do jogo e não há nada de errado com isso.

Em 2003 joguei mais 2 partidas contra o computador X3D Frintz, ambas terminaram empatadas. Os organizadores me obrigaram a usar óculos 3D porque o computador tinha uma interface tridimensional.

Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1

Mas de qualquer forma, a história acabou e eu estava pensando no futuro. Veja esta foto, tirada no início deste século.

Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1

Se você olhar para essas crianças, verá que elas estão jogando em computadores raros. Hoje meus filhos nem vão entender o que é. Alguns teclados complexos são mostrados aqui, mas agora eles apenas deslizam os dedos pela tela sensível ao toque.

O que importa é que máquinas mais inteligentes facilitam muito as nossas tarefas. Provavelmente estou errado ao dizer isso porque você sabe disso melhor do que ninguém. Assim, com a ajuda da Peppa Pig e de desafios técnicos, o caminho está aberto para a verdadeira criatividade.

Pensei em como você pode combinar o poder de um computador e de uma pessoa? Podemos tomar o xadrez como exemplo, porque no xadrez existe uma solução. Você sabe perfeitamente em quais áreas um computador é forte e em que é inferior a uma pessoa. E então um conceito me veio à mente, que chamei de “xadrez avançado”.

Seguindo o provérbio russo: “se você não pode vencer, participe!”, chamei de xadrez avançado um jogo em que uma pessoa com um computador luta contra outra pessoa com um computador.

Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1

Em 1998, joguei com um membro da elite do xadrez da Bulgária, e o interessante é que ambos não conseguíamos jogar bem porque não conseguíamos maximizar o efeito do trabalho conjunto com o computador. Eu me perguntei por que dois grandes jogadores não poderiam se beneficiar das colaborações de IA. A resposta veio mais tarde com a introdução do chamado freestyle com um número limitado de prompts do computador. Você pode jogar conectando-se a um supercomputador via Internet ou pode usar seu próprio computador ou vários computadores. Quero observar que um par humano-computador sempre superará qualquer supercomputador. A razão é muito simples: o computador compensa a nossa distração e estamos numa boa posição para mudar para o computador porque elimina a vulnerabilidade de outro computador que se aproveita da nossa fraqueza humana.
Mas não há nada de sensacional nisso. A sensação foi que os vencedores da competição não eram jogadores de primeira linha, mas sim enxadristas relativamente fracos com computadores comuns, mas que conseguiram criar um processo de interação aprimorado. Isto é difícil de articular porque parece paradoxal: um jogador fraco mais um computador normal mais um processo melhorado supera um jogador forte com um computador poderoso mas um processo de interacção fraco. A interface é tudo!

O interessante é que você não precisa de um jogador forte, não precisa de Garry Kasparov, para estar do lado da máquina para encontrar a melhor jogada, e há uma resposta simples para isso. Se hoje considerarmos os pontos fortes relativos dos humanos e dos computadores, podemos ir além do xadrez, mas comecemos por eles, porque o xadrez tem números. Portanto, minha pontuação de todos os tempos no xadrez era 2851 até perder para Magnus Carlsen, e no final da minha carreira no xadrez era 2812. Hoje Magnus Carlsen lidera o ranking com mais de 2800 pontos. Aproximadamente 50 jogadores têm classificações entre 2700 e 2800 pontos. Esta é a elite do mundo do xadrez. Hoje em dia, a potência de um computador está na faixa de 3200 pontos e, com software especializado, sua classificação pode chegar a 3300-3400 pontos.

Agora você entende por que não precisa de um jogador forte? Porque um jogador do meu nível tentará forçar o computador a agir em uma direção ou outra, ao invés de ser um simples operador com ele. Portanto, um jogador de xadrez mais fraco, que não tenha tanta “arrogância” e presunção como o campeão mundial de xadrez, interagirá com o computador de forma muito mais eficaz e formará uma combinação “humano-computador” mais produtiva.

Acho que esta é uma descoberta muito importante não só para o xadrez, mas também, por exemplo, para a medicina. Como se sabe, em muitos casos os computadores são capazes de fazer um diagnóstico mais preciso do que os melhores médicos. Então, o que você gostaria mais: um bom médico representado por um computador ou uma boa enfermeira que simplesmente seguiria as instruções e escreveria um pequeno manual baseado nas recomendações da máquina?

Não sei os números exatos, digamos que 60-65% das pessoas vão escolher o médico e 85% vão para o computador, mas psicologicamente, se você for um bom médico, não vai conseguir aceitar isso. Se você olhar para o progresso tecnológico de hoje, podemos dizer que os computadores fazem um diagnóstico verdadeiro em 80 - 85 - 90% dos casos, mas ainda restam 10% para as pessoas! E isso pode fazer uma enorme diferença, porque quando uma bala é desviada apenas 1 grau quando disparada, ela pode voar várias centenas de metros para longe do alvo. A questão diz respeito a saber se podemos canalizar todo o poder da computação.
Portanto, ainda acredito que todos os receios de que as máquinas irão em breve substituir-nos a todos, e este será o fim do mundo, o Armagedom, são apenas rumores. Porque, como eu disse, trata-se de criatividade humana, e o que há de único na inteligência computacional é que ela simplesmente aumenta a nossa criatividade, libera-a e nos diz como usá-la da melhor maneira possível.

Às vezes, para encontrar a resposta a uma pergunta, vale a pena afastar-se do mundo da ciência e mergulhar no mundo da arte. Certa vez encontrei um grande paradoxo afirmado pelo grande artista Pablo Picasso: “Os computadores são inúteis. A única coisa que podem fazer é dar respostas.” Penso que há grande sabedoria nisto e estas palavras parecem encorajadoras porque as máquinas fornecem respostas, e estas respostas são abrangentes!

Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1

No entanto, Picasso não ficou satisfeito com respostas abrangentes porque era um artista. Isso se deve ao constante repensar da arte, é exatamente isso que fazemos constantemente - fazer perguntas. Os computadores podem fazer perguntas?

Certa vez, visitei o fundo de hedge Bridgewater Associates para conversar com Dave Ferrucci, um dos desenvolvedores do supercomputador Watson da IBM. Estávamos conversando sobre se as máquinas poderiam fazer perguntas, e Dave disse: “Sim, os computadores podem fazer perguntas, mas não sabem quais perguntas realmente importam”. Essa é a questão. Portanto, ainda estamos no jogo e temos a oportunidade de seguir em frente porque o jogo entre o homem e o computador ainda não acabou.

Neste slide você vê diversas fotografias de possíveis áreas de utilização de computadores autônomos, máquinas que podem se programar, ou seja, têm capacidade de aprender.

Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 1

Uma das fotografias mostra Demis Hassabis com sua rede neural de autoaprendizagem AlphaGo. Na verdade, esta é provavelmente a primeira máquina que pode ser chamada de protótipo de inteligência artificial.

Como já disse, Deep Blue é um exagero de força bruta, Watson talvez seja um elo de transição, mas ainda não é IA. AlphaGo é um programa de aprendizado profundo que se aprimora ao encontrar padrões relevantes ao jogar milhões e milhões de jogos.

Posso dizer que com AlphaGo estamos lidando pela primeira vez com uma verdadeira caixa preta. Porque, por exemplo, se passarmos cem anos estudando milhares de quilômetros de registros de jogos do Deep Blue, eventualmente chegaremos à ideia original de por que uma decisão específica foi tomada e um movimento específico foi feito. Quanto ao AlphaGo, tenho a certeza que nem o próprio Demis Hassabis saberá dizer porque é que a versão 6 é melhor que a versão 9, ou vice-versa, tendo em conta a decisão tomada por esta máquina.

Por um lado, é uma grande conquista, mas por outro lado, pode ser um problema porque se a máquina cometer um erro, você não conseguirá saber. No entanto, em qualquer caso, este é um movimento no sentido da criação de uma IA real.

Certa vez, falei na sede do Google e eles me mostraram o Google X. Isso foi muito interessante porque esta empresa está avançando com confiança na direção da criação de IA, resolvendo os problemas de criação de um carro autônomo ou drones autônomos que entregam de forma independente bens. No entanto, não menos problemático do que o suporte técnico da IA ​​é o problema de regulação das suas atividades. As pessoas estão falando sobre como a IA poderia substituí-los completamente e colocá-los fora do trabalho. No entanto, vamos pedir ajuda à história da civilização humana - isso tem acontecido há centenas e milhares de anos!

24:35 min

Conferência DEFCON 25. Garry Kasparov. "A última batalha do cérebro." Parte 2

Obrigado por ficar com a gente. Gostou dos nossos artigos? Quer ver mais conteúdos interessantes? Apoie-nos fazendo um pedido ou recomendando a amigos, 30% de desconto para usuários do Habr em um análogo exclusivo de servidores básicos, que foi inventado por nós para você: Toda a verdade sobre VPS (KVM) E5-2650 v4 (6 núcleos) 10 GB DDR4 240 GB SSD 1 Gbps a partir de $ 20 ou como compartilhar um servidor? (disponível com RAID1 e RAID10, até 24 núcleos e até 40 GB DDR4).

Dell R730xd 2 vezes mais barato? Só aqui 2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TV a partir de US$ 199 na Holanda! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - a partir de US$ 99! Ler sobre Como construir uma empresa de infraestrutura. classe com o uso de servidores Dell R730xd E5-2650 v4 no valor de 9000 euros por um centavo?

Fonte: habr.com

Adicionar um comentário