Pesquisadores das divisões Google Project Zero e Google DeepMind publicaram um relatório sobre o desenvolvimento do sistema de IA Big Sleep, construído com base no grande modelo de linguagem Gemini 1.5 Pro, destinado a identificar vulnerabilidades no código fonte. Uma das conquistas do projeto foi a descoberta, usando o Big Sleep, da primeira vulnerabilidade explorável e anteriormente desconhecida em um projeto existente. A vulnerabilidade foi identificada como resultado da análise da base de código do banco de dados SQLite pelo sistema de IA e resulta em um estouro de buffer (buffer underflow). O problema foi detectado em um código recém-adotado e corrigido antes de seu lançamento na versão final do SQLite 3.47.0.
O modelo pode ser usado como uma ferramenta auxiliar em áreas que exigem uma revisão manual trabalhosa, além de organizar uma verificação automática de novos códigos para identificar vulnerabilidades nas fases iniciais de desenvolvimento (antes que o código problemático chegue às versões finais). Espera-se que o modelo de IA em desenvolvimento permita identificar problemas de segurança no código que são difíceis de determinar através de testes de fuzzing.
Adicionalmente, vale ressaltar a declaração do CEO do Google de que atualmente mais de um quarto (25%) de todo o código criado na empresa é gerado utilizando grandes modelos de linguagem Gemini, após o que esse código é revisado e aceito pelos engenheiros. Observa-se que o uso de IA dessa forma acelerou substancialmente o processo de desenvolvimento de produtos.
Fonte: opennet.ru
