Anthropic je najavio proširene mogućnosti otkrivanja ranjivosti u svom Claude Opus 4.6 AI modelu i podijelio rezultate eksperimenta koji je identificirao preko 500 prethodno nepoznatih (0-day) ranjivosti u najnovijim verzijama različitih projekata otvorenog koda. Studija se fokusirala na identificiranje ranjivosti uzrokovanih problemima s memorijom, jer je njihovo prisustvo lakše provjeriti. Svim identificiranim ranjivostima dodijeljen je visok nivo ozbiljnosti. Svaku ranjivost ručno su pregledali i potvrdili zaposlenici Anthropica ili vanjski sigurnosni istraživači.
Za analizu ranjivosti korištene su kodne baze popularnih open-source projekata, koji već dugo vremena prolaze kroz kontinuirano fuzzing testiranje koristeći OSS-Fuzz servis. Za razliku od fuzzing testiranja, koje generira niz svih mogućih slučajnih kombinacija ulaznih podataka, AI model je pokušao analizirati kod, uzimajući u obzir prethodne ispravke kako bi identificirao slične neriješene greške, ističući problematične obrasce i logički zaključivši koji ulazni podaci mogu poremetiti izvršavanje.
Informacije o ranjivostima identifikovanim tokom eksperimenta već su počele da se dijele sa održavateljima, sa kojima sarađujemo na odobravanju zakrpa. Kako bismo pomogli održavateljima tokom ručnog pregleda, razvijene su zakrpe za rješavanje identifikovanih problema. Kao primjer, navedene su tri ranjivosti u GhostScriptu, OpenSC-u i CGIF-u, koje su održavatelji ispravili u trenutku objavljivanja.
Konfiguracija korištena za identifikaciju problema nije bila slična tradicionalnim automatiziranim sistemima za skeniranje ranjivosti - modelu Claude Opus 4.6 je dat pristup virtuelna mašina, koji je, pored analiziranog koda, uključivao standardne alate za razvojne programere (coreutils, Python, itd.) i uslužne programe za otklanjanje grešaka i analizu ranjivosti (uključujući uslužne programe za fuzzing). Modelu nisu date jasne upute o tome kako koristiti ove alate niti bilo kakve specifične informacije o metodama otkrivanja ranjivosti. Modelu je jednostavno dat zadatak i dozvoljeno mu je da samostalno rasuđuje o optimalnoj upotrebi dostupnih alata.
Prilikom traženja ranjivosti u GhostScriptu, AI model je u početku pokušao fuzzing testiranje, ali kada to nije uspjelo, prešao je na analizu koda. Analiza koda također nije uspjela, pa je model zatim počeo ispitivati historiju Git commitova i primijetio spominjanje provjere granica bafera u jednom od commitova. Nakon analize commita, model je utvrdio da je ispravka dodala provjeru granica bafera koja nedostaje prilikom obrade fontova.
Model je zatim identificirao kod koji je postojao prije ispravke i pokušao pronaći slične obrasce korištenja problematične funkcije u preostalom kodu koji je ostao neispravljen. Na kraju je u datoteci gdevpsfx.c otkriven poziv funkcije gs_type1_blend bez provjere validacije vrijednosti. Konačno, model je identificirao sadržaj datoteke čija je obrada rezultirala rušenjem zbog upisivanja podataka u memorijsko područje izvan alociranog bafera.
U CGIF-u, AI model se oslanjao na činjenicu da je prilikom dekompresije GIF datoteka, biblioteka pretpostavljala da je veličina komprimiranih podataka uvijek manja od dekomprimiranih podataka. Pretraga ranjivosti fokusirala se na identifikaciju uslova pod kojima bi LZW-komprimirani podaci bili veći od dekomprimiranih podataka. Takvi uslovi su pronađeni i AI model je uspio generirati GIT datoteku čija je obrada rezultirala prekoračenjem bafera. U OpenSC-u, problem je identifikovan nakon analize korištenja potencijalno opasnih funkcija strrchr i strcat u kodu.
Napominje se da su jezički modeli dostigli nivo sposoban za identifikaciju prethodno nepoznatih ranjivosti i da će uskoro nadmašiti stručnjake za sigurnost u brzini i obimu pretraživanja ranjivosti. Očekuje se da će rastući broj identifikovanih ranjivosti zahtijevati reformu postojećih procesa otkrivanja, jer trenutni rok od 90 dana za ispravku neće biti dovoljan.
izvor: opennet.ru
