A empresa DeepMind, conhecida pelos seus desenvolvimentos na área da inteligência artificial e da construção de redes neurais capazes de jogar jogos de computador e de tabuleiro a nível humano, apresentou o projecto AlphaCode, que está a desenvolver um sistema de aprendizagem automática para geração de código que pode participar em competições de programação na plataforma Codeforces e demonstram resultado mediano. Uma característica fundamental do desenvolvimento é a capacidade de gerar código em Python ou C++, tomando como entrada um texto com uma declaração do problema em inglês.
Para testar o sistema, foram selecionadas 10 novas competições do Codeforces com mais de 5000 mil participantes, realizadas após a conclusão do treinamento do modelo de aprendizado de máquina. Os resultados da conclusão das tarefas permitiram ao sistema AlphaCode entrar aproximadamente no meio da classificação destas competições (54.3%). A avaliação geral prevista do AlphaСode foi de 1238 pontos, o que garante a entrada no Top 28% entre todos os participantes do Codeforces que participaram de competições pelo menos uma vez nos últimos 6 meses. Ressalta-se que o projeto ainda está em fase inicial de desenvolvimento e futuramente está previsto melhorar a qualidade do código gerado, bem como desenvolver o AlphaCode para sistemas que auxiliam na escrita de código, ou ferramentas de desenvolvimento de aplicações que possam ser usado por pessoas sem habilidades de programação.
O projeto usa a arquitetura de rede neural Transformer em combinação com técnicas de amostragem e filtragem para gerar diversas variantes de código imprevisíveis que correspondem ao texto em linguagem natural. Após filtragem, agrupamento e classificação, o código de trabalho ideal é eliminado do fluxo de opções gerado, que é então verificado para garantir que o resultado correto seja obtido (cada tarefa de competição indica um exemplo de dados de entrada e o resultado correspondente a este exemplo , que deve ser obtido após a execução do programa).
Para treinar aproximadamente o sistema de aprendizado de máquina, usamos uma base de código disponível em repositórios públicos do GitHub. Após a preparação do modelo inicial, foi realizada uma fase de otimização, baseada numa recolha de código com exemplos de problemas e soluções propostas pelos participantes das competições Codeforces, CodeChef, HackerEarth, AtCoder e Aizu. No total, foram utilizados para treinamento 715 GB de código do GitHub e mais de um milhão de exemplos de soluções para problemas típicos de competição. Antes de passar para a geração do código, o texto da tarefa passou por uma fase de normalização, durante a qual tudo o que era desnecessário foi eliminado e restaram apenas partes significativas.
Fonte: opennet.ru