Investigadores de Google Project Zero y Google DeepMind han publicado un informe sobre el desarrollo del sistema Big Sleep AI, construido sobre la base del gran modelo de lenguaje Gemini 1.5 Pro y diseñado para identificar vulnerabilidades en el código fuente. El logro del proyecto fue la identificación, utilizando Big Sleep, de la primera vulnerabilidad explotable y previamente desconocida en un proyecto existente. La vulnerabilidad se identificó como resultado de que un sistema de inteligencia artificial verificara el código base SQLite DBMS y provocara un desbordamiento insuficiente del búfer que desborda el límite inferior del búfer en la pila. El problema se descubrió en un código confirmado recientemente y se solucionó antes de que llegara a la versión final de SQLite 3.47.0.
El modelo se puede utilizar como herramienta auxiliar en áreas que requieren una revisión manual que requiere mucho tiempo, así como para organizar la verificación automática de código nuevo para identificar vulnerabilidades en las primeras etapas de desarrollo (antes de que el código problemático llegue a las versiones finales). . Se espera que el modelo de IA desarrollado nos permita identificar problemas relacionados con la seguridad en el código que son difíciles de determinar mediante pruebas de fuzzing.
Además, el director ejecutivo de Google afirmó que más de una cuarta parte (25%) de todo el código generado en la empresa se genera ahora utilizando grandes modelos de lenguaje Gemini, que luego es revisado y aceptado por los ingenieros. Cabe señalar que este uso de la IA ha acelerado significativamente el proceso de desarrollo de productos.
Fuente: opennet.ru
