Google använde en stor språkmodell för att identifiera en sårbarhet i SQLite

Forskare från Google Project Zero och Google DeepMind har publicerat en rapport om utvecklingen av AI-systemet Big Sleep, som bygger på den stora språkliga modellen Gemini 1.5 Pro och är avsedd för att identifiera sårbarheter i källkoden. Ett genombrott för projektet var att Big Sleep lyckades upptäcka en tidigare okänd och exploaterbar sårbarhet i ett befintligt projekt. Sårbarheten upptäcktes genom att AI-systemet granskade kodbasen för databashanteraren SQLite och leder till en buffert-underflow i stacken. Problemen upptäcktes i nyligen godkänd kod och åtgärdades innan det nådde den slutliga releasen av SQLite 3.47.0.

Modellen kan användas som ett stödverktyg inom områden där arbetskrävande manuell granskning krävs, samt för att organisera automatisk granskning av ny kod för att identifiera sårbarheter i de tidiga utvecklingsstadierna (före problematisk kod når de slutliga releaserna). Det förväntas att den utvecklade AI-modellen kommer att möjliggöra upptäckten av säkerhetsrelaterade problem i koden, som är svåra att identifiera genom fuzzing-testning.

Ytterligare kan det nämnas att Googles verkställande direktör har uttalat att mer än en fjärdedel (25%) av all kod som skapas inom företaget genereras med hjälp av stora språkmodeller som Gemini, varefter denna kod granskas och godkänns av ingenjörer. Det noteras att denna typ av AI-tillämpning har möjliggjort en avsevärt snabbare produktutvecklingsprocess.

Källa: opennet.ru