F\u00f6retaget Anthropic har meddelat att de har ut\u00f6kat AI-modellen Claude Opus 4.6:s m\u00f6jligheter att hitta s\u00e5rbarheter i kod och delat med sig av resultaten fr\u00e5n ett experiment d\u00e4r \u00f6ver 500 tidigare ok\u00e4nda (0-dagars) s\u00e5rbarheter i de senaste versionerna av olika \u00f6ppna projekt har identifierats. Arbetet fokuserades p\u00e5 att s\u00f6ka efter s\u00e5rbarheter orsakade av minnesrelaterade problem, eftersom deras f\u00f6rekomst \u00e4r l\u00e4ttare att verifiera. Samtliga identifierade s\u00e5rbarheter har tilldelats en h\u00f6g riskniv\u00e5. Varje s\u00e5rbarhet har manuellt kontrollerats och bekr\u00e4ftats av Anthropic-anst\u00e4llda eller externa s\u00e4kerhetsforskare. <\/p>\n
F\u00f6r att analysera s\u00e5rbarheterna anv\u00e4ndes kodbaser fr\u00e5n popul\u00e4ra \u00f6ppna projekt, som l\u00e4nge har genomg\u00e5tt kontinuerlig fuzzing-testning i tj\u00e4nsten OSS-Fuzz. Till skillnad fr\u00e5n fuzzing-testning, d\u00e4r en str\u00f6m av olika slumpm\u00e4ssiga kombinationer av indata genereras, f\u00f6rs\u00f6kte AI-modellen analysera koden med h\u00e4nsyn till tidigare r\u00e4ttningar f\u00f6r att identifiera liknande ol\u00f6sta fel, framh\u00e4va problematiska m\u00f6nster och logiskt resonera om vilka indata som kan st\u00f6ra k\u00f6rningen. <\/p>\n
Information om de s\u00e5rbarheter som identifierades under experimentet har redan b\u00f6rjat \u00f6verf\u00f6ras till de som underh\u00e5ller projekten, med vilka samarbete bedrivs f\u00f6r att implementera korrigeringar. F\u00f6r att hj\u00e4lpa underh\u00e5llarna har manuellt utvecklade patchar skapats f\u00f6r att \u00e5tg\u00e4rda de identifierade problemen under den genomf\u00f6rda granskningen. Som exempel ges tre s\u00e5rbarheter i GhostScript, OpenSC och CGIF, som vid tidpunkten f\u00f6r publiceringen har \u00e5tg\u00e4rdats av underh\u00e5llarna. <\/p>\n
\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u0430\u044f \u0434\u043b\u044f \u0432\u044b\u044f\u0432\u043b\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f \u043d\u0435 \u0431\u044b\u043b\u0430 \u043f\u043e\u0445\u043e\u0436\u0430 \u043d\u0430 \u0442\u0440\u0430\u0434\u0438\u0446\u0438\u043e\u043d\u043d\u044b\u0435 \u0441\u0438\u0441\u0442\u0435\u043c\u044b \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043f\u043e\u0438\u0441\u043a\u0430 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u0435\u0439 — \u043c\u043e\u0434\u0435\u043b\u0438 Claude Opus 4.6 \u0431\u044b\u043b \u043f\u0440\u0435\u0434\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d \u0434\u043e\u0441\u0442\u0443\u043f \u043a en virtuell maskin<\/a>, d\u00e4r f\u00f6rutom den unders\u00f6kta koden typiska utvecklarverktyg (coreutils, Python och s\u00e5 vidare) och verktyg f\u00f6r fels\u00f6kning och analys av s\u00e5rbarheter (inklusive verktyg f\u00f6r fuzzing-testning) installerades. Modellen fick ingen tydlig instruktion om hur dessa verktyg skulle anv\u00e4ndas och ingen speciell information om s\u00e5rbarhetss\u00f6kningsmetoder. Modellen fick endast i uppdrag att sj\u00e4lvst\u00e4ndigt resonera kring den optimala anv\u00e4ndningen av tillg\u00e4ngliga verktyg. <\/p>\n I s\u00f6kandet efter s\u00e5rbarheter i GhostScript f\u00f6rs\u00f6kte AI-modellen f\u00f6rst genomf\u00f6ra fuzzing-testning, men n\u00e4r detta inte gav resultat, bytte den till kodanalys. Kodanalysen gav ocks\u00e5 inget resultat, och d\u00e5 b\u00f6rjade modellen studera historiken f\u00f6r \u00e4ndringar i git och i ett av commitarna noterade den n\u00e4mningen av gr\u00e4nskontroll. Efter att ha granskat committen fastst\u00e4llde modellen att r\u00e4ttningen tillade en saknad gr\u00e4nskontroll vid hantering av typsnitt. <\/p>\n D\u00e4refter fastst\u00e4llde modellen koden som fanns f\u00f6re r\u00e4ttningen och f\u00f6rs\u00f6kte hitta andra st\u00e4llen i koden d\u00e4r den problematiska funktionen anv\u00e4ndes, utan att ha blivit r\u00e4ttad. Till slut identifierades ett anrop till funktionen gs_type1_blend utan validering av v\u00e4rdena i filen gdevpsfx.c. I slut\u00e4ndan valde modellen inneh\u00e5llet i en fil vars hantering ledde till ett krasch p\u00e5 grund av att data skrivits utanf\u00f6r det allokerade minnet. <\/p>\n I CGIF utgick AI-modellen fr\u00e5n det faktum att biblioteket vid uppackning av GIF-filer betraktade att storleken p\u00e5 de komprimerade data alltid var mindre \u00e4n de uppackade. S\u00f6kningen efter s\u00e5rbarhet fokuserades p\u00e5 att best\u00e4mma villkor under vilka de LZW-komprimerade data skulle visa sig vara st\u00f6rre \u00e4n de uppackade. Liknande villkor hittades, och AI-modellen lyckades skapa en GIT-fil vars hantering ledde till en buffert\u00f6verfl\u00f6d. I OpenSC identifierades problemet efter analys av anv\u00e4ndningen av potentiellt farliga funktioner som strrchr och strcat. <\/p>\n