L'azienda Anthropic ha annunciato l'espansione delle capacità del modello AI Claude Opus 4.6 nella ricerca di vulnerabilità nel codice e ha condiviso i risultati di un esperimento, nel quale sono state identificate oltre 500 vulnerabilità (0-day) precedentemente sconosciute nelle ultime versioni di vari progetti open source. Il lavoro si è concentrato sulla ricerca di vulnerabilità causate da problemi di gestione della memoria, essendo più facile verificarne la presenza. A tutte le vulnerabilità identificate è stato attribuito un alto livello di pericolo. Ogni vulnerabilità è stata verificata manualmente e confermata da dipendenti di Anthropic o da ricercatori di sicurezza esterni coinvolti.
Per l'analisi delle vulnerabilità sono state utilizzate le basi di codice di progetti open source popolari, che da tempo subiscono test di fuzzing continuo tramite il servizio OSS-Fuzz. A differenza del test di fuzzing, nel quale si genera un flusso di combinazioni casuali di dati di input, il modello AI ha cercato di analizzare il codice tenendo conto delle correzioni passate per identificare simili errori non risolti, evidenziando schemi problematici e deducendo logicamente quali dati di input potessero interrompere il normale svolgimento.
Le informazioni sulle vulnerabilità identificate durante l'esperimento sono già state iniziate a trasmettere ai curatori, con cui è in corso una collaborazione per l'implementazione delle correzioni. Per assistere i curatori, sono stati sviluppati manualmente dei patch per correggere i problemi identificati. Come esempio, sono state segnalate tre vulnerabilità in GhostScript, OpenSC e CGIF, che al momento della pubblicazione sono state risolte dai curatori.
La configurazione utilizzata per identificare i problemi non era simile ai tradizionali sistemi di rilevamento automatico delle vulnerabilità: al modello Claude Opus 4.6 è stato fornito accesso a macchina virtuale, all'interno del quale oltre al codice in esame erano stati installati strumenti tipici per sviluppatori (coreutils, Python, ecc.) e utilità per il debug e l'analisi delle vulnerabilità (compresi strumenti per il fuzzing). Al modello non è stata fornita una chiara istruzione per l'uso di questi strumenti e non sono state fornite informazioni specifiche sui metodi di ricerca delle vulnerabilità. Al modello è stato semplicemente assegnato un compito e gli è stata data la possibilità di ragionare autonomamente sull'uso ottimale degli strumenti disponibili.
Nella ricerca di vulnerabilità in GhostScript, il modello AI ha inizialmente tentato di eseguire un test di fuzzing, ma quando questo non ha portato a risultati, ha cambiato approccio passando all'analisi del codice. Anche l'analisi del codice non ha dato risultati, e quindi il modello ha iniziato a studiare la cronologia delle modifiche in git, notando in uno dei commit menzioni a controlli sui limiti del buffer. Analizzando il commit, il modello ha determinato che la correzione aggiungeva un controllo mancante sui limiti del buffer durante l'elaborazione dei font.
Successivamente, il modello ha identificato il codice che era presente prima della correzione e ha cercato di trovare nel resto del codice modelli simili nell'utilizzo della funzione problematica, rimasti non corretti. Alla fine, nel file gdevpsfx.c è stata rilevata una chiamata alla funzione gs_type1_blend senza un controllo sulla validità dei valori. Infine, il modello ha selezionato il contenuto del file la cui elaborazione causava l'arresto anomalo a causa della scrittura di dati nell'area di memoria al di fuori del buffer allocato.
Nel CGIF, il modello AI si è basato sul fatto che durante il decompressaggio dei file GIF, la libreria assumeva che la dimensione dei dati compressi fosse sempre inferiore a quella dei dati decompressi. La ricerca di vulnerabilità si è concentrata sulla determinazione delle condizioni in cui i dati compressi con l'algoritmo LZW risultassero maggiori dei dati decompressi. Queste condizioni sono state trovate e il modello AI è riuscito a generare un file GIT, il cui trattamento ha portato a un overflow del buffer. In OpenSC, il problema è stato identificato dopo aver analizzato l'uso nel codice di funzioni potenzialmente pericolose come strrchr e strcat.
Si segnala che i modelli linguistici hanno raggiunto un livello tale da poter rilevare vulnerabilità precedentemente sconosciute, e nei prossimi tempi supereranno gli esperti di sicurezza in termini di velocità e ampiezza nella ricerca di vulnerabilità. Si prevede che l'aumento del numero di vulnerabilità identificate richiederà una riforma dei processi di divulgazione, poiché i 90 giorni attualmente concessi per le correzioni saranno insufficienti.
Fonte: opennet.ru
