Anthropic ħabbret kapaċitajiet estiżi ta' skoperta ta' vulnerabbiltajiet fil-mudell Claude Opus 4.6 AI tagħha u qasmet ir-riżultati ta' esperiment li identifika aktar minn 500 vulnerabbiltà li qabel ma kinux magħrufa (0-day) fl-aħħar verżjonijiet ta' diversi proġetti open-source. L-istudju ffoka fuq l-identifikazzjoni ta' vulnerabbiltajiet ikkawżati minn problemi ta' memorja, peress li l-preżenza tagħhom hija aktar faċli biex tiġi vverifikata. Il-vulnerabbiltajiet kollha identifikati ġew assenjati livell għoli ta' severità. Kull vulnerabbiltà ġiet riveduta manwalment u kkonfermata mill-impjegati ta' Anthropic jew minn riċerkaturi esterni tas-sigurtà.
Biex jiġu analizzati l-vulnerabbiltajiet, intużaw bażijiet ta' kodiċi ta' proġetti popolari open-source, li ilhom jgħaddu minn testijiet kontinwi ta' fuzzing għal żmien twil bl-użu tas-servizz OSS-Fuzz. B'differenza mill-ittestjar ta' fuzzing, li jiġġenera nixxiegħa tal-kombinazzjonijiet każwali kollha possibbli ta' dejta ta' input, il-mudell tal-AI pprova janalizza l-kodiċi, billi jqis soluzzjonijiet tal-passat biex jidentifika żbalji simili mhux solvuti, jenfasizza xejriet problematiċi, u jiddeduċi b'mod loġiku liema dejta ta' input tista' tfixkel l-eżekuzzjoni.
Informazzjoni dwar il-vulnerabbiltajiet identifikati matul l-esperiment diġà bdiet tinqasam mal-manutenturi, li magħhom qed nikkollaboraw biex napprovaw irqajja'. Biex ngħinu lill-manutenturi matul ir-reviżjoni manwali, ġew żviluppati irqajja' biex jindirizzaw il-kwistjonijiet identifikati. Bħala eżempju, huma elenkati tliet vulnerabbiltajiet f'GhostScript, OpenSC, u CGIF, li ġew irranġati mill-manutenturi fil-ħin tal-pubblikazzjoni.
Il-konfigurazzjoni użata biex jiġu identifikati l-kwistjonijiet ma kinitx simili għas-sistemi tradizzjonali awtomatizzati tal-iskannjar tal-vulnerabbiltajiet - il-mudell Claude Opus 4.6 ingħata aċċess għal magna virtwali, li, minbarra l-kodiċi li qed jiġi analizzat, kien jinkludi għodod standard għall-iżviluppaturi (coreutils, Python, eċċ.) u utilitajiet għad-debugging u l-analiżi tal-vulnerabbiltà (inklużi utilitajiet ta' fuzzing). Il-mudell ma ngħatax struzzjonijiet ċari dwar kif juża dawn l-għodod jew xi informazzjoni speċifika dwar metodi ta' skoperta tal-vulnerabbiltà. Il-mudell sempliċement ingħata kompitu u tħalla jirraġuna b'mod indipendenti dwar l-użu ottimali tal-għodod disponibbli.
Meta kien qed ifittex vulnerabbiltajiet f'GhostScript, il-mudell tal-AI inizjalment ipprova ttestjar tal-fuzzing, iżda meta dan falla, qaleb għall-analiżi tal-kodiċi. L-analiżi tal-kodiċi falliet ukoll, għalhekk il-mudell imbagħad beda jeżamina l-istorja tal-commits tal-Git u nnota referenza għal verifika tal-limiti tal-buffer f'wieħed mill-commits. Wara li analizza l-commit, il-mudell iddetermina li l-korrezzjoni żiedet verifika tal-limiti tal-buffer nieqsa meta pproċessa l-fonts.
Il-mudell imbagħad identifika l-kodiċi li kien jeżisti qabel it-tiswija u pprova jsib mudelli simili ta' użu tal-funzjoni problematika fil-kodiċi li kien fadal li baqa' mhux imsewwi. Fl-aħħar mill-aħħar, ġiet skoperta sejħa għall-funzjoni gs_type1_blend mingħajr verifika tal-validazzjoni tal-valur fil-fajl gdevpsfx.c. Fl-aħħar, il-mudell identifika l-kontenut tal-fajl li l-ipproċessar tiegħu rriżulta f'ħabta minħabba li d-dejta kienet miktuba f'żona tal-memorja barra l-buffer allokat.
Fis-CGIF, il-mudell tal-AI kien jiddependi fuq il-fatt li meta jiddekompressaw fajls GIF, il-librerija assumiet li d-daqs tad-dejta kkompressata kien dejjem iżgħar mid-dejta dekompressata. It-tfittxija għall-vulnerabbiltà ffokat fuq l-identifikazzjoni ta' kundizzjonijiet li taħthom id-dejta kkompressata bl-LZW tkun akbar mid-dejta dekompressata. Instabu tali kundizzjonijiet, u l-mudell tal-AI kien kapaċi jiġġenera fajl GIT li l-ipproċessar tiegħu rriżulta f'buffer overflow. F'OpenSC, il-kwistjoni ġiet identifikata wara li ġie analizzat l-użu tal-funzjonijiet potenzjalment perikolużi strrchr u strcat fil-kodiċi.
Huwa nnutat li l-mudelli tal-lingwa laħqu livell kapaċi jidentifikaw vulnerabbiltajiet li qabel ma kinux magħrufa u dalwaqt se jaqbżu lill-esperti tas-sigurtà fil-veloċità u l-iskala tat-tiftix tal-vulnerabbiltajiet. Huwa mistenni li n-numru dejjem jikber ta’ vulnerabbiltajiet identifikati se jirrikjedi riforma tal-proċessi ta’ żvelar eżistenti, peress li l-iskadenza attwali ta’ 90 jum għall-garża mhux se tkun biżżejjed.
Sors: opennet.ru
