Компанія Anthropic оголосила про розширення в AI-моделі Claude Opus 4.6 можливостей пошуку вразливостей в коді і поділилася результатами експерименту, в ході якого виявлено понад 500 раніше невідомих (0-day) вразливостей в останніх версіях різних відкритих проектів. Робота була сфокусована на пошуку вразливостей, викликаних проблемами під час роботи з пам'яттю, оскільки їх наявність простіше перевірити. Всім виявленим уразливості присвоєно високий рівень небезпеки. Кожна вразливість була перевірена вручну і підтверджена співробітниками Anthropic або залученими зовнішніми дослідниками безпеки.
Для аналізу уразливостей було залучено кодові бази популярних відкритих проектів, які вже тривалий час проходять безперервне fuzzing-тестування в сервісі OSS-Fuzz. На відміну від fuzzing-тестування, при якому генерується потік усіляких випадкових комбінацій вхідних даних, AI-модель намагалася аналізувати код, враховуючи минулі виправлення для виявлення схожих неусунутих помилок, виділяючи проблемні шаблони та логічно виводячи, які вхідні дані можуть порушити хід виконання.
Інформація про виявлені в ході експерименту вразливості вже почала передаватися супроводжуючим, з якими ведеться спільна робота щодо прийняття виправлень. Щоб допомогти супроводжуючим у ході проведеної перевірки вручну було розроблено патчі для виправлення виявлених проблем. Як приклад наведено три вразливості GhostScript, OpenSC і CGIF, які на момент публікації усунуті супроводжуючими.
Конфігурація, що використовується для виявлення проблем, не була схожа на традиційні системи автоматичного пошуку вразливостей — моделі Claude Opus 4.6 був наданий доступ до віртуальній машині, в якій, крім досліджуваного коду, були встановлені типові інструменти розробників (coreutils, Python тощо) і утиліти для налагодження та аналізу вразливостей (у тому числі утиліти для fuzzing-тестування). Моделі не давалася чітка інструкція щодо використання даних інструментів і не надавалися спеціальні відомості про методи пошуку вразливостей. Моделі було лише поставлене завдання та надано можливість самостійно розмірковувати про оптимальне використання доступних інструментів.
Пошук уразливостей у GhostScript AI-модель спочатку спробувала провести fuzzing-тестування, але коли це не призвело до результату переключилася до аналізу коду. Аналіз коду теж не дав результату і тоді модель почала вивчати історію змін у git і в одному з коммітів помітила згадку про перевірку меж буфера. Розібравши коміт модель визначила, що виправлення додавало недостатню перевірку меж буфера при обробці шрифтів.
Далі модель визначила код, який був до виправлення та спробувала знайти в іншому коді схожі шаблони використання проблемної функції, що залишаються невиправленими. У результаті файлу gdevpsfx.c було виявлено виклик функції gs_type1_blend без перевірки коректності значень. У фіналі модель підібрала вміст файлу, обробка якого призводила до аварійного завершення через запис даних в область пам'яті поза виділеним буфером.
У CGIF AI-модель відштовхувалася від того, що при розпакуванні GIF-файлів бібліотека розглядала, що розмір стислих даних завжди менший за розпаковані. Пошук уразливості був зосереджений на визначенні умов, за яких стиснуті алгоритмом LZW дані виявляться більшими за розпаковані. Подібні умови були знайдені і AI-модель спромоглася сформувати GIT-файл, обробка якого призвела до переповнення буфера. В OpenSC проблема була виявлена після аналізу використання у коді потенційно небезпечних функцій strrchr та strcat.
Зазначається, що мовні моделі досягли рівня, що дозволяє виявляти раніше невідомі вразливості, і найближчим часом перевершать експертів з безпеки зі швидкістю та масштабом пошуку вразливостей. Передбачається, що зростання кількості вразливостей вимагатиме реформування сформованих процесів розкриття інформації, так як нині виділяються на виправлення 90-днів буде недостатньо.
Джерело: opennet.ru
