Изследователи от подразделения Google Project Zero и Google DeepMind публикуваха доклад за развитието на AI системата Big Sleep, създадена на базата на голям езиков модел Gemini 1.5 Pro и предназначена за откритие на уязвимости в изходния код. Постигнатото постижение на проекта е откритие на първата експлоатируема и досега неизвестна уязвимост в съществуващ проект, използвайки Big Sleep. Уязвимостта е установена в резултат на проверка от AI системата на кодовата база на СУБД SQLite и води до подхлъзване на буфера в стека (buffer underflow). Проблемът е открит в наскоро приет код и е отстранен преди да бъде включен в финалния релиз на SQLite 3.47.0.
Моделът може да се използва като помощен инструмент в области, в които е необходимо провеждането на трудоемки ръчни ревизии, както и за организиране на автоматична проверка на новия код с цел откритие на уязвимости на ранни етапи от разработката (преди проблемният код да влезе в финалните релизи). Очаква се, че развиваната AI модел ще позволи да се откриват проблеми, свързани с безопасността на кода, които е трудно да бъдат идентифицирани чрез fuzzing тестове.
Допълнително може да се отбележи изказването на генералния директор на Google, че в момента над една четвърт (25%) от целия код, създаван в компанията, се генерира с помощта на големи езикови модели Gemini, след което този код се ревизира и одобрява от инженерите. Отбелязва се, че подобно приложение на AI е позволило значително ускоряване на процеса на разработка на продукти.
Източник: opennet.ru
