A Google Project Zero és a Google DeepMind kutatói közzétették a Big Sleep AI-rendszer fejlesztéséről szóló jelentésüket, amely a Gemini 1.5 Pro nagy nyelvi modell alapjaira épül, és a forráskód sebezhetőségének azonosítására szolgál. A projekt eredményeként a Big Sleep segítségével első ízben felfedeztek egy, a létező projektekben korábban ismeretlen, üzemeltetésre alkalmas sebezhetőséget. A sebezhetőséget az SQLite adatbázis-kezelő rendszer kódjának AI-rendszer általi ellenőrzése során azonosították, és a verem alulcsordulásához (buffer underflow) vezetett. A problémát a nemrégiben elfogadott kódban észlelték, és eltávolították, mielőtt az véglegesen beépült volna az SQLite 3.47.0 verzióba.
A modell támogató eszközként használható olyan területeken, ahol időigényes kézi felülvizsgálatra van szükség, valamint az új kód automatikus ellenőrzésére a sebezhetőségek korai azonosítása érdekében (mielőtt a problémás kód végleges kiadásokba kerülne). Feltételezik, hogy a fejlesztett AI-modell lehetővé teszi a biztonsági problémák azonosítását a kódban, amelyeket nehezen lehet meghatározni fuzzing-teszteléssel.
Továbbá érdemes megemlíteni a Google vezérigazgatójának nyilatkozatát, miszerint jelenleg a cég által létrehozott kód több mint egynegyede (25%) nagy nyelvi modellek, mint a Gemini, felhasználásával készül, majd ezt a kódot a mérnökök felülvizsgálják és elfogadják. Megjegyzik, hogy az AI ilyen alkalmazása jelentősen felgyorsította a termékfejlesztési folyamatot.
Forrás: opennet.ru
