AI модел Claude Opus 4.6 откри над 500 непознати уязвимости

Компания Anthropic обяви за разширение в AI моделите Claude Opus 4.6 с нови възможности за откриване на уязвимости в кода и сподели резултати от експеримент, в който бяха открити повече от 500 неизвестни (0-day) уязвимости в последните версии на различни отворени проекти. Работата беше фокусирана върху откритие на уязвимости, причинени от проблеми с паметта, тъй като те са по-лесни за проверка. На всички открити уязвимости е присвоено високо ниво на опасност. Всяка уязвимост е била ръчно проверена и потвърдена от служители на Anthropic или привлечени външни изследователи по сигурността.

За анализа на уязвимостите бяха привлечени кодови бази на популярни отворени проекти, които вече дълго време преминават през непрекъснато fuzzing тестване в сервиза OSS-Fuzz. В отличие от fuzzing тестването, при което се генерира поток от случайни комбинации на входни данни, AI моделът се опитваше да анализира кода, като отчита предишните поправки за откриване на подобни неотстранени грешки, изтъквайки проблемни шаблони и логически извеждайки, какви входни данни могат да нарушат изпълнението.

Информацията за откритите в хода на експеримента уязвимости вече започна да се предава на поддържащите, с които се води съвместна работа по приемането на поправки. За да помогнем на поддържащите, в хода на проведената проверка бяха разработени патчове за отстраняване на откритите проблеми. Като пример са посочени три уязвимости в GhostScript, OpenSC и CGIF, които към момента на публикуване са отстранени от поддържащите.

Използваната за откриване на проблеми конфигурация не беше подобна на традиционните системи за автоматично откриване на уязвимости — на моделите Claude Opus 4.6 беше предоставен достъп до виртуална машина, в която освен изследвания код бяха инсталирани стандартни инструменти за разработчици (coreutils, Python и т.н.) и утилити за отстраняване на проблеми и анализ на уязвимости (включително утилити за fuzzing тестване). На моделите не беше дадена ясна инструкция за използване на тези инструменти и не бяха предоставени специални сведения за методите за откриване на уязвимости. На моделите просто беше поставена задача и предоставена възможност да разсъждават самостоятелно за оптималното използване на достъпните инструменти.

При търсене на уязвимости в GhostScript, AI моделът първоначално се опита да проведе тестове с fuzzing, но когато това не доведе до резултати, премина към анализ на кода. Анализът на кода също не даде резултат, след което моделът започна да изследва историята на промените в git и в един от комитите забеляза споменаване на проверка на границите на буфера. Разбирайки комита, моделът установи, че поправката е добавила липсваща проверка на границите на буфера при обработка на шрифтове.

После моделът определи кода, който е бил преди поправката, и се опита да намери в останалия код подобни шаблони на използване на проблемната функция, които остават неизправени. В крайна сметка в файла gdevpsfx.c беше открито извикване на функцията gs_type1_blend без проверка на коректността на стойностите. В финалната част моделът идентифицира съдържанието на файла, обработката на който водеше до аварийно приключване поради запис на данни извън определения буфер.

В CGIF AI моделът се основаваше на това, че при разархивиране на GIF файлове библиотеката смята, че размерът на компресираните данни винаги е по-малък от разархивираните. Търсенето на уязвимост беше съсредоточено върху определянето на условия, при които компресираните чрез алгоритъм LZW данни се окажат по-големи от разархивираните. Подобни условия бяха намерени и AI моделът успя да генерира GIT файл, обработката на който доведе до препълване на буфера. В OpenSC проблемата беше идентифицирана след анализ на използването на потенциално опасни функции strrchr и strcat в кода.

Отбелязва се, че езиковите модели достигнаха ниво, позволяващо откриване на преди неизвестни уязвимости, и в близко бъдеще ще надминат експертите по киберсигурност по скорост и мащаб на търсене на уязвимости. Предполага се, че нарастването на броя на идентифицираните уязвимости ще изисква реформиране на съществуващите процеси по разкриване на информация, тъй като сегашният 90-дневен срок за корекции ще бъде недостатъчен.

Източник: opennet.ru