Onderzoekers van Google Project Zero en Google DeepMind hebben een rapport gepubliceerd over de ontwikkeling van het AI-systeem Big Sleep, dat is gebouwd op het grote taalmodel Gemini 1.5 Pro en bedoeld is voor het identificeren van kwetsbaarheden in de broncode. Een prestatie van het project was het ontdekken met behulp van Big Sleep van de eerste exploitabele en eerder onbekende kwetsbaarheid in een bestaand project. De kwetsbaarheid werd ontdekt tijdens de controle van de AI-systeem over de codebasis van de databaseserver SQLite en leidt tot een buffer underflow. Het probleem werd aangetroffen in onlangs aangenomen code en verholpen voordat het in de definitieve release van SQLite 3.47.0 kwam.
Het model kan worden gebruikt als een hulpmiddel in gebieden waar arbeidsintensieve handmatige beoordeling vereist is, evenals voor het organiseren van automatische controle van nieuwe code om kwetsbaarheden in een vroeg stadium van de ontwikkeling te identificeren (voordat problematische code in de definitieve releases komt). Het is de bedoeling dat het ontwikkelde AI-model in staat zal zijn om beveiligingsgerelateerde problemen in de code te identificeren die moeilijk te detecteren zijn door fuzzing-testen.
Daarnaast kan worden opgemerkt dat de CEO van Google heeft verklaard dat momenteel meer dan een kwart (25%) van de code die in het bedrijf wordt gemaakt, wordt gegenereerd met behulp van grote taalmodellen van Gemini, waarna deze code wordt beoordeeld en goedgekeurd door ingenieurs. Het wordt opgemerkt dat het gebruik van AI op deze manier het productontwikkelingsproces aanzienlijk heeft versneld.
Bron: opennet.ru
