Anthropic teatas, et AI-mudeli Claude Opus 4.6 täiustused koodi haavatavuste otsimisel, samuti jagas tulemusi eksperimendist, mille käigus avastati üle 500 varem tundmatu (0-day) haavatavuse erinevates avatud projektide uusimates versioonides. Töö keskendus mäluhaldusega seotud haavatavuste tuvastamisele, kuna nende olemasolu on lihtsam kontrollida. Kõik tuvastatud haavatavused said kõrge ohuastme. Iga haavatavus kontrolliti käsitsi ja kinnitasid Anthropic'i töötajad või kaasatud välisturvalisuse uurijad.
Haavatavuste analüüsimiseks kaasati populaarsete avatud projektide koodibaasid, mis on juba pikka aega läbinud pidevat fuzzing-testimist OSS-Fuzzi teenuses. Erinevalt fuzzing-testimisest, kus genereeritakse kõikvõimalikke juhuslike sisendi kombinatsioone, püüdis AI-mudel analüüsida koodi, arvestades varasemaid parandusi sarnaste lahendamata vigade tuvastamiseks, tuues esile probleemseid mustreid ja loogiliselt välja mõeldes, millised sisendid võivad teostuse kulgu häirida.
Eksperimendi käigus tuvastatud haavatavuste kohta teave on juba edastatud hooldajatele, kellega tehakse koostööd paranduste vastuvõtmisel. Hooldajate abistamiseks koostatakse käideldud kontrolli käigus käsitsi tuvastatud probleemide parandamiseks patšid. Näitena tuuakse välja kolm haavatavust GhostScriptis, OpenSCs ja CGIF-is, mis olid avaldamise hetkel hooldajate poolt kõrvaldatud.
Probleemide tuvastamiseks kasutatud konfiguratsioon ei sarnanenud traditsiooniliste automaatsete haavatavuste otsingusüsteemidega — mudelile Claude Opus 4.6 anti juurdepääs virtuaalses masinas, kus koos uuritava koodiga olid paigaldatud tüüpilised arendustööriistad (coreutils, Python jne) ja haavatavuste vigade leidmise ja analüüsi utiliidid (sealhulgas fuzzing-testimise utiliidid). Mudelile ei antud selget juhist nende tööriistade kasutamiseks ning ei edastatud erilisi teadlikkusi haavatavuste otsimise meetoditest. Mudelil oli lihtsalt seadus ülesanne ja anti võimalus mõelda välja optimaalne viis olemasolevate tööriistade kasutamiseks.
Haavatavuste otsimisel on GhostScript AI mudel esmalt proovinud fuzzing-testi teha, kuid kui see ei andnud tulemusi, vahetas see koodi analüüsi vastu. Koodi analüüs ei toonud samuti tulemusi ja siis hakkas mudel uurima git-i muudatusajalugu ning ühes commit'is märkas see puutumatuse kontrolli mainimist. Commit'i analüüsides määras mudel, et parandamine lisas puutumatuse kontrolli, mis puudus fontide töötlemisel.
Seejärel määras mudel koodi, mis oli enne parandamist, ja proovinud leida ülejäänud koodist sarnaseid probleemi funktsioonide kasutamise mustreid, mis jäävad parandamata. Lõpuks tuvastati failis gdevpsfx.c funktsiooni gs_type1_blend väljakutse ilma väärtuste õiguse kontrollimata. Lõpptulemusena valis mudel faili sisu, mille töötlemine viis avariini, kuna andmed kirjutati mälu alale väljaspool eraldatud puhvrit.
CGIF-is tugines AI mudel sellele, et GIF-faile dekompresseerides arvestas raamatukogu, et suletud andmete suurus on alati väiksem kui dekompresseeritud. Haavatavuse otsimine keskenduti tingimuste määramisele, mille korral LZW algoritmiga suletud andmed oleksid suuremad kui dekompresseeritud. Sellised tingimused leiti ja AI mudel suutis luua GIT-faili, mille töötlemine viis puhvri ülevooluni. OpenSC-is tuvastati probleem potentsiaalselt ohtlike funktsioonide strrchr ja strcat kasutamise analüüsimisel.
Tähtis on märkida, et keelemudelid on saavutanud taseme, mis võimaldab tuvastada varem tundmatud haavatavused, ja peagi ületavad nad turbeeksperdid kiiruselt ja haavatavuste leidmise ulatuselt. Eeldatakse, et tuvastatud haavatavuste arvu kasv nõuab avalikustamisprotsesside reformeerimist, kuna praegu eraldatud 90-päeva on ebapiisav.
Allikas: opennet.ru
