Investigadores de las divisiones Google Project Zero y Google DeepMind han publicado un informe sobre el desarrollo del sistema de IA Big Sleep, basado en el modelo de lenguaje grande Gemini 1.5 Pro y destinado a identificar vulnerabilidades en el código fuente. Un logro del proyecto fue la identificación, utilizando Big Sleep, de la primera vulnerabilidad utilizable y previamente desconocida en un proyecto existente. La vulnerabilidad fue detectada a través del análisis de la base de código del sistema de gestión de bases de datos SQLite, lo que lleva a un desbordamiento por debajo del límite de bufere (buffer underflow). El problema se encontró en un código recién aceptado y se solucionó antes de ser incluido en la versión final SQLite 3.47.0.
El modelo puede usarse como una herramienta auxiliar en áreas donde se requiere una revisión manual laboriosa, así como para organizar verificaciones automáticas de nuevo código con el fin de detectar vulnerabilidades en las primeras etapas del desarrollo (antes de que el código problemático llegue a las versiones finales). Se espera que el modelo de IA en desarrollo permita identificar problemas de seguridad en el código que son difíciles de detectar mediante pruebas de fuzzing.
Además, se puede señalar la declaración del CEO de Google de que actualmente más de una cuarta parte (25%) de todo el código que se crea en la empresa se genera utilizando grandes modelos de lenguaje Gemini, después de lo cual este código es revisado y aceptado por los ingenieros. Se destaca que dicho uso de la IA ha acelerado significativamente el proceso de desarrollo de productos.
Fuente: opennet.ru
