Google използва голям езиков модел за откриване на уязвимости в SQLite

Изследователи от екипите на Google Project Zero и Google DeepMind публикуваха доклад относно развитието на AI системата Big Sleep, изградена на базата на голямата езикова модела Gemini 1.5 Pro и предназначена за откриване на уязвимости в изходния код. Постижението на проекта е откритие с помощта на Big Sleep на първата пригодна за експлоатация и преди неизвестна уязвимост в съществуващ проект. Уязвимостта е установена в резултат на проверка на AI системата в кодовата база на СУБД SQLite и води до подводно препълване на буфера в стека (buffer underflow). Проблемът е открит в наскоро приет код и е отстранен преди да достигне финалната версия на SQLite 3.47.0.

Моделът може да се използва като помощен инструмент в области, в които е необходимо извършването на трудоемки ръчно рецензии, а също така и за организация на автоматична проверка на нов код с цел откриване на уязвимости на ранните стадии на разработка (преди проблемният код да достигне финалните версии). Предполага се, че разработваният AI модел ще позволи откриването на свързани с безопасността проблеми в кода, които е трудно да се определят чрез fuzzing тестиране.

Допълнително може да се отбележи изявлението на главния изпълнителен директор на Google, че в момента повече от четвърт (25%) от целия код, създаван в компанията, се генерира с помощта на големи езикови модели Gemini, след което този код се рецензира и приема от инженерите. Изтъква се, че подобно приложение на AI е позволило значително да се ускори процесът на разработка на продукти.

Източник: opennet.ru