Google kasutas suurt keelemudelit SQLite’i haavatavuste tuvastamiseks

Google Project Zero ja Google DeepMind'i teadlased avaldasid raporti AI-süsteemi Big Sleep arendamisest, mis põhineb suurel keelemudelil Gemini 1.5 Pro ja mille eesmärk on haavatavuste tuvastamine lähtekoodis. Projekti saavutuseks on Big Sleep abil tuvastatud esmakordne, kasutamiseks sobiv ja varasemalt tundmatu haavatavus olemasolevas projektis. Haavatavus avastati AI-süsteemi kontrolli all olevas SQLite andmebaasi koodibaasis ja põhjustab päringute puhveralapi ülekatte (buffer underflow). Probleem avastati hiljuti aktsepteeritud koodis ja kõrvaldatakse enne selle jõudmist SQLite 3.47.0 lõppversiooni.

Mudelit saab kasutada abitehnoloogiana valdkondades, kus on vajalik kulukas käsitsi arvustamine, samuti uue koodi automaatseks kontrollimiseks haavatavuste tuvastamiseks arenduse varases staadiumis (enne probleemsest koodist lõplikesse versioonidesse jõudmist). Eeldatakse, et arendatav AI-mudel suudab tuvastada koodiga seotud turbeprobleeme, mis on fuzzing-testi meetoditega vaevatud.

Lisaks on märgitud Google'i juhataja avaldus, et praegu genereeritakse rohkem kui veerand (25%) kogu ettevõttes loodud koodist kasutades suuri keelemudeleid Gemini, mille järel see kood üle vaadatakse ja inseneride poolt aktsepteeritakse. Märgitakse, et selline AI rakendamine on oluliselt kiirendanud toote arendamise protsessi.

Allikas: opennet.ru