Des chercheurs des divisions Google Project Zero et Google DeepMind ont publié un rapport sur le développement du système d'IA Big Sleep, basé sur le modèle de langage large Gemini 1.5 Pro, destiné à identifier les vulnérabilités dans le code source. L'un des accomplissements du projet a été la détection, grâce à Big Sleep, d'une vulnérabilité précédemment inconnue et exploitable dans un projet existant. Cette vulnérabilité a été identifiée à la suite d'une analyse de la base de code de la base de données SQLite par le système d'IA, entraînant un sous-débordement de tampon dans la pile (buffer underflow). Le problème a été repéré dans un code récemment adopté et corrigé avant sa publication dans la version finale de SQLite 3.47.0.
Le modèle peut être utilisé comme un outil d'assistance dans les domaines nécessitant une révision manuelle laborieuse, ainsi que pour organiser des vérifications automatiques du nouveau code afin d'identifier les vulnérabilités à un stade précoce du développement (avant que le code problématique n'atteigne les versions finales). Il est prévu que le modèle d'IA en développement permettra d'identifier les problèmes de sécurité dans le code qui sont difficiles à détecter par des tests de fuzzing.
De plus, il convient de noter la déclaration du directeur général de Google selon laquelle plus d'un quart (25 %) de tout le code créé dans l'entreprise est généré à l'aide des grands modèles de langage Gemini, après quoi ce code est révisé et accepté par les ingénieurs. Il est souligné que l'utilisation de l'IA a permis d'accélérer considérablement le processus de développement des produits.
Source : opennet.ru
