Zaměstnanci divizí Google Project Zero a Google DeepMind zveřejnili zprávu o vývoji AI systému Big Sleep, postaveném na velkém jazykovém modelu Gemini 1.5 Pro, který je určen k identifikaci zranitelností v zdrojovém kódu. Úspěchem projektu bylo odhalení první exploitatelné, dříve neznámé zranitelnosti v existujícím projektu pomocí Big Sleep. Zranitelnost byla odhalena při kontrole kódové základny databázového systému SQLite a vede k přetečení spodní hranice zásobníku (buffer underflow). Problém byl odhalen v nedávno přijatém kódu a odstraněn před jeho zařazením do konečné verze SQLite 3.47.0.
Model může být použit jako pomocný nástroj v oblastech, kde je vyžadováno náročné ruční posuzování, stejně jako pro organizaci automatického testování nového kódu za účelem odhalení zranitelností v raných fázích vývoje (před zařazením problematického kódu do konečných verzí). Předpokládá se, že vyvíjený AI model umožní identifikaci bezpečnostních problémů v kódu, které je problematické identifikovat prostřednictvím fuzzingového testování.
Dále lze zmínit prohlášení generálního ředitele Google, že v současnosti více než čtvrtina (25%) veškerého kódu vytvářeného ve společnosti je generována s využitím velkých jazykových modelů Gemini, po čemž je tento kód recenzován a schválen inženýry. Bylo zdůrazněno, že takové využívání AI významně urychlilo proces vývoje produktů.
Zdroj: opennet.ru
