Spoločnosť Anthropic oznámila rozšírenie schopností AI modelu Claude Opus 4.6 na vyhľadávanie zraniteľností v kóde a zdieľala výsledky experimentu, počas ktorého bolo identifikovaných viac ako 500 predtým neznámych (0-day) zraniteľností v posledných verziach rôznych otvorených projektov. Práca bola zameraná na vyhľadávanie zraniteľností spôsobených problémami pri práci s pamäťou, pretože ich existencia sa ľahšie overuje. Všetkým identifikovaným zraniteľnostiam bol pridelený vysoký úroveň nebezpečenstva. Každá zraniteľnosť bola ručne skontrolovaná a potvrdená zamestnancami spoločnosti Anthropic alebo zapojenými externými bezpečnostnými výskumníkmi.
Na analýzu zraniteľností boli využité kódové základy populárnych otvorených projektov, ktoré už dlhodobo prechádzajú kontinuálnym fuzzing testovaním v službe OSS-Fuzz. Na rozdiel od fuzzing testovania, pri ktorom sa generuje prúd rôznych náhodných kombinácií vstupných údajov, AI model sa snažil analyzovať kód s ohľadom na predchádzajúce opravy, aby odhalil podobné neopravované chyby, vyčleňujúc problematické vzory a logicky vyviedol, aké vstupné údaje môžu narušiť priebeh vykonávania.
Informácie o identifikovaných zraniteľnostiach počas experimentu už začali byť predávané správcov, s ktorými sa vykonáva spoločná práca na prijímaní opráv. Aby sme pomohli správcov počas vykonanej kontroly, boli manuálne vyvinuté patche na opravu identifikovaných problémov. Ako príklad sú uvedené tri zraniteľnosti v GhostScript, OpenSC a CGIF, ktoré boli v čase publikácie odstránené správcami.
Použitá konfigurácia na identifikáciu problémov sa nelíši od tradičných systémov automatického vyhľadávania zraniteľností — model Claude Opus 4.6 dostal prístup k virtuálnom stroji, v ktorom okrem skúmaného kódu boli nainštalované typické nástroje pre vývojárov (coreutils, Python a pod.) a utility na ladenie a analýzu zraniteľností (vrátane utilít na fuzzing testovanie). Modelu neboli poskytnuté jasné pokyny na používanie týchto nástrojov a neboli poskytnuté špeciálne informácie o metódach vyhľadávania zraniteľností. Modelu bola iba stanovená úloha a bola mu poskytnutá príležitosť samostatne premýšľať o optimálnom využití dostupných nástrojov.
Pri hľadaní zraniteľností v GhostScript model AI spočiatku vyskúšal fuzzingové testovanie, ale keď to neprinieslo výsledky, prešiel k analýze kódu. Analýza kódu tiež nedala výsledky a potom sa model začal zaoberať históriou zmien v git a v jednom z commitov si všimol zmienku o kontrole hraníc buffera. Rozborem commitu model zistil, že oprava pridala chýbajúcu kontrolu hraníc buffera pri spracovaní písiem.
Následne model identifikoval kód, ktorý bol pred opravou a snažil sa nájsť v zvyšku kódu podobné vzory používania problematickej funkcie, ktoré ostali neopravné. Nakoniec v súbore gdevpsfx.c bolo identifikované volanie funkcie gs_type1_blend bez kontroly správnosti hodnôt. Na konci model zvolil obsah súboru, ktorého spracovanie viedlo k havárii z dôvodu zapisovania údajov do oblasti pamäte mimo prideleného buffera.
Pri CGIF sa model AI odvíjal od toho, že pri dekompresii GIF súborov knižnica považovala, že veľkosť komprimovaných údajov je vždy menšia ako dekomprimovaných. Hľadanie zraniteľnosti bolo sústredené na určenie podmienok, za ktorých budú skomprimované údaje algoritmom LZW väčšie ako dekomprimované. Podobné podmienky boli nájdené a model AI dokázal zostaviť GIT súbor, ktorého spracovanie viedlo k pretečeniu buffera. V OpenSC bola problém identifikovaná po analýze použitia v kóde potenciálne nebezpečných funkcií strrchr a strcat.
Observuje sa, že jazykové modely dosiahli úroveň, ktorá umožňuje odhaľovať predtým neznáme zraniteľnosti a čoskoro prekonajú odborníkov na bezpečnosť v rýchlosti a rozsahu hľadania zraniteľností. Predpokladá sa, že rast počtu odhalených zraniteľností si bude vyžadovať reformovanie existujúcich procesov zverejňovania informácií, pretože aktuálne pridelených 90 dní na opravu bude nedostačujúce.
Zdroj: opennet.ru
