Společnost Anthropic oznámila rozšíření AI modelu Claude Opus 4.6 o možnosti vyhledávání zranitelností v kódu a sdílela výsledky experimentu, během něhož bylo identifikováno více než 500 dosud neznámých (0-day) zranitelností v posledních verzích různých otevřených projektů. Práce se zaměřila na vyhledávání zranitelností způsobených problémy s pamětí, protože jejich přítomnost je snazší ověřit. Všem identifikovaným zranitelnostem byl přiřazen vysoký stupeň nebezpečí. Každá zranitelnost byla manuálně ověřena a potvrzena zaměstnanci společnosti Anthropic nebo externími bezpečnostními odborníky.
Pro analýzu zranitelností byly využity kódové základny populárních otevřených projektů, které již delší dobu procházejí nepřetržitým fuzzingovým testováním v službě OSS-Fuzz. Na rozdíl od fuzzingového testování, při němž se generuje proud různých náhodných kombinací vstupních dat, se AI model snažil analyzovat kód zohledněním předchozích oprav za účelem identifikace podobných nevyřešených chyb, identifikoval problematické vzory a logicky vyvodil, jaká vstupní data mohou narušit průběh vykonávání.
Informace o zranitelnostech identifikovaných během experimentu již začala být zasílána správcům, se kterými probíhá spolupráce na přijetí oprav. Aby se správcům pomohlo během provedené kontroly, byly manuálně vyvinuty záplaty pro opravu identifikovaných problémů. Jako příklad byly uvedeny tři zranitelnosti v GhostScript, OpenSC a CGIF, které byly v době publikace odstraněny správci.
Použitá konfigurace pro identifikaci problémů nebyla podobná tradičním systémům automatického vyhledávání zranitelností — modelu Claude Opus 4.6 byl poskytnut přístup k virtuálním stroji, ve které byly kromě zkoumaného kódu nainstalovány standardní nástroje pro vývojáře (coreutils, Python atd.) a utility pro ladění a analýzu zranitelností (včetně nástrojů pro fuzzingové testování). Modelu nebyly dány jasné pokyny k používání těchto nástrojů a nebyly poskytnuty specifické informace o metodách vyhledávání zranitelností. Modelu byla pouze položena úloha a poskytnuta příležitost samostatně uvažovat o optimálním využití dostupných nástrojů.
Při hledání zranitelností v GhostScript se AI model na začátku pokusil o fuzzing testování, ale když to nepřineslo výsledky, přešel k analýze kódu. Analýza kódu také nevedla k výsledkům, a tak se model začal zabývat historií změn v gitu a v jednom z commitů si všiml zmínky o kontrole hranic bufferu. Po rozboru commitu model určil, že oprava obsahovala chybějící kontrolu hranic bufferu při zpracování písem.
Poté model určil kód, který byl před opravou, a pokusil se najít v ostatním kódu podobné vzory používání problematické funkce, které zůstaly neopravované. V konečném důsledku byl ve souboru gdevpsfx.c odhalen výskyt funkce gs_type1_blend bez kontroly správnosti hodnot. Na závěr model sestavil obsah souboru, jehož zpracování vedlo k havárii kvůli zápisu dat do paměti mimo vyhrazený buffer.
V CGIF se AI model opíral o to, že při dekompresi GIF souborů knihovna považovala velikost komprimovaných dat za vždy menší než dekomprimovaná. Hledání zranitelností bylo soustředěno na určení podmínek, za kterých by komprimovaná data pomocí algoritmu LZW byla větší než dekomprimovaná. Takové podmínky byly nalezeny a AI model byl schopen vytvořit GIT soubor, jehož zpracování vedlo k přetečení bufferu. V OpenSC byla problém identifikován po analýze používání v kódu potenciálně nebezpečných funkcí strrchr a strcat.
Je pozorováno, že jazykové modely dosáhly úrovně, která umožňuje odhalovat dříve neznámé zranitelnosti, a v blízké budoucnosti překonají odborníky na bezpečnost rychlostí a rozsahem hledání zranitelností. Předpokládá se, že nárůst počtu odhalených zranitelností si vyžádá reformu zavedených procesů zveřejňování informací, protože současně vyhrazených 90 dní pro opravy nebude stačit.
Zdroj: opennet.ru
