Vedci z oddelení Google Project Zero a Google DeepMind zverejnili správu o vývoji AI systému Big Sleep, ktorý je postavený na veľkom jazykovom modeli Gemini 1.5 Pro a je určený na identifikáciu zraniteľností v zdrojovom kóde. Dosiahnutým míľnikom projektu je pomocou Big Sleep identifikovanie prvej prevádzkyschopnej a predtým neznámej zraniteľnosti v existujúcom projekte. Zraniteľnosť bola identifikovaná tokom kontroly kódovej základne DBMS SQLite AI systémom a vedie k pretečeniu dolnej hranice bufferu na zásobníku (buffer underflow). Problém bol zistený v nedávno prijatom kóde a bol odstránený pred jeho zaradením do konečného vydania SQLite 3.47.0.
Model môže byť používaný ako pomocný nástroj v oblastiach, kde je potrebné vykonávať prácne manuálne recenzovanie, ako aj na organizáciu automatickej kontroly nového kódu na identifikáciu zraniteľností v ranných fázach vývoja (predtým, ako problematický kód prejde do konečných vydaní). Predpokladá sa, že vyvíjaný AI model umožní identifikovať bezpečnostné problémy v kóde, ktoré je problematické určiť prostredníctvom fuzzing testovania.
Dodatkovo možno poznamenať vyhlásenie generálneho riaditeľa Google, podľa ktorého v súčasnosti viac ako štvrtina (25 %) celého kódu vytváraného v spoločnosti sa generuje pomocou veľkých jazykových modelov Gemini, po čom je tento kód recenzovaný a prijímaný inžiniermi. Uvádza sa, že takéto využitie AI výrazne urýchlilo proces vývoja produktov.
Zdroj: opennet.ru
