Anthropic обяви AI-модел Claude Mythos, способен да създава работещи експлойти

Компания Anthropic представи проекта Glasswing, в рамките на който ще предостави достъп до предварителна версия на AI-модела Claude Mythos с цел откриване на уязвимости и подобряване на безопасността на критично важно софтуерно оборудване. В проекта участват организацията Linux Foundation, както и компании като Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Microsoft, NVIDIA и Palo Alto Networks. Покани за участие в проекта са получили и още около 40 организации.

Издадената през февруари AI-модел Claude Opus 4.6 достигна нов качествен предел в области като откриване на уязвимости, търсене и поправка на грешки, преглед на промени и генериране на код. Експериментите с този AI-модел позволиха откритие на над 500 уязвимости в отворени проекти и генериране на C-компилатор, способен да компилира ядрото на Linux. Въпреки това, моделът Claude Opus 4.6 имаше затруднения с работата по създаването на работещи експлойти.

Моделът от следващо поколение «Claude Mythos», според Anthropic, значително изпреварва Claude Opus 4.6 в областта на написването на готови експлойти. От няколко стотин опити за създаване на експлойти за уязвимости, открити в JavaScript движка Firefox 147, в Claude Opus 4.6 само два опита бяха успешни. При повторение на експеримента с използването на предварителната версия на модела Mythos, работещи експлойти бяха създадени 181 пъти — процентът на успешни експлойти нарасна от почти нулеви стойности до 72.4%.

Освен това, в Claude Mythos значително са разширени възможностите за търсене на грешки и уязвимости, което в комбинация с пригодността за разработка на експлойти създава нови рискове за индустрията — експлойти за все още непоправени уязвимости (0-day) могат да бъдат създавани от непрофесионалисти за броени часове. Отбелязва се, че нивото на възможности на модела Mythos по търсене и експлоатация на уязвимости е достигнало професионално качество, като за сега не изостава само от най-опитните професионалисти.

Понеже отварянето на неограничен достъп до AI модел с подобни способности изисква подготовка на индустрията, беше решено първоначално да се предостави достъп до предварителна редакция на ограничен кръг експерти, за да бъде проведена работа по търсене и отстраняване на уязвимости в критично важни софтуерни продукти и отворен софтуер. За финансиране на инициативата е отпусната субсидия за покриване на токени в размер на 100 млн. долара, както и е решено да се разпределят 4 млн. долара под формата на дарения на организации, които се занимават с поддръжка на сигурността на отворени проекти.

В тестовия комплект CyberGym, който оценява способността на моделите да разкриват уязвимости, моделът Mythos показа степен от 83.1%, а Opus 4.6 — 66.6%. В тестовете за качество на написания код моделите демонстрираха следните показатели:

В хода на експеримента компания Anthropic успя за няколко седмици с помощта на AI моделът Mythos да идентифицира хиляди преди този момент неизвестни (0-day) уязвимости, много от които бяха отбелязани като критични. Между другото, беше открита уязвимост в TCP стека на OpenBSD, останала незабелязана в продължение на 27 години, позволяваща отдалечено иницииране на аварийно прекратяване на системата. Също така беше открита 16 години съществувала уязвимост в реализацията на кодек H.264 от проекта FFmpeg и уязвимости в кодеците H.265 и av1, експлоатирани при обработка на специално подготвено съдържание.

В ядрото на Linux бяха открити няколко уязвимости, позволяващи на непривилегирован потребител да получи права root. Свързването на откритите уязвимости в верига позволи създаването на експлойти, които дават вероятност за получаване на права root при отваряне на специални страници в уеб браузъра. Също така беше създаден експлоит, позволяващ изпълнението на код с права root чрез изпращане на специално подготвени мрежови пакети към NFS сървър от FreeBSD.

В една от виртуализационните системи, написани на език, предоставящ средства за безопасна работа с паметта, е открита уязвимост, която потенциално позволява чрез манипулации в гостоприемната система да се изпълни код на страната на хоста (имената не са посочени, тъй като проблемът все още не е решен, но очевидно уязвимостта е налична в unsafe блока в кода на Rust). Открити са уязвимости в популярни уеб браузъри и криптографски библиотеки. Установени са уязвимости, които водят до инжектиране на SQL код в различни уеб приложения.

Източник: opennet.ru