L'azienda Anthropic ha presentato il progetto Glasswing, attraverso il quale offrirà accesso a una versione preliminare del modello AI Claude Mythos per identificare vulnerabilità e migliorare la sicurezza del software critico. Tra i partecipanti al progetto ci sono l'organizzazione Linux Foundation e le aziende Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Microsoft, NVIDIA e Palo Alto Networks. Circa 40 ulteriori organizzazioni sono state invitate a partecipare al progetto.
Il modello AI Claude Opus 4.6, rilasciato a febbraio, ha raggiunto un nuovo livello qualitativo in settori come l'identificazione delle vulnerabilità, la ricerca e la correzione di errori, la revisione delle modifiche e la generazione di codice. Gli esperimenti con questo modello AI hanno consentito l'identificazione di oltre 500 vulnerabilità in progetti open source e la generazione di un compilatore C in grado di assemblare il kernel di Linux. Tuttavia, il modello Claude Opus 4.6 ha avuto difficoltà nella creazione di exploit funzionanti.
Il modello di nuova generazione «Claude Mythos», secondo quanto dichiarato da Anthropic, supera radicalmente Claude Opus 4.6 nella generazione di exploit pronti. Di centinaia di tentativi di creazione di exploit per vulnerabilità scoperte nel motore JavaScript di Firefox 147, in Claude Opus 4.6 solo due tentativi hanno avuto successo. Ripetendo l'esperimento con una versione preliminare del modello Mythos, sono stati creati exploit funzionanti 181 volte — la percentuale di successo nella creazione degli exploit è aumentata da valori quasi nulli al 72,4%.
Inoltre, in Claude Mythos sono state notevolmente ampliate le capacità di ricerca di errori e vulnerabilità, il che, combinato con la sua idoneità per lo sviluppo di exploit, crea nuovi rischi per l'industria: exploit per vulnerabilità ancora non risolte (0-day) possono essere creati da non professionisti in poche ore. Si segnala che il livello delle capacità del modello Mythos nella ricerca e sfruttamento delle vulnerabilità ha raggiunto uno standard professionale e attualmente non arriva solo ai professionisti più esperti.
Poiché l'apertura dell'accesso illimitato a un modello AI con tali capacità richiede una preparazione del settore, è stato deciso di iniziare aprendo l'accesso a una versione preliminare a un gruppo ristretto di esperti per condurre lavori di ricerca e risoluzione delle vulnerabilità nei software critici e nel software open source. Per finanziare l'iniziativa, è stata stanziata una sovvenzione per il pagamento di token ammontante a 100 milioni di dollari e si è deciso di distribuire 4 milioni di dollari come donazioni a organizzazioni che si occupano della sicurezza dei progetti open source.
Nel set di test di CyberGym, che valuta la capacità dei modelli di rilevare vulnerabilità, il modello Mythos ha mostrato un livello del 83.1%, mentre Opus 4.6 ha raggiunto il 66.6%. Nei test sulla qualità del codice, i modelli hanno dimostrato i seguenti risultati:
Durante l'esperimento, la società Anthropic è riuscita, in poche settimane, a identificare tramite il modello AI Mythos diverse migliaia di vulnerabilità precedentemente sconosciute (0-day), molte delle quali classificate come critiche. Tra l'altro, è stata trovata una vulnerabilità nel TCP stack di OpenBSD, rimasta inosservata per 27 anni, che consente di avviare un'interruzione di sistema da remoto. È stata inoltre identificata una vulnerabilità esistente da 16 anni nella codifica H.264 del progetto FFmpeg, oltre a vulnerabilità nei codec H.265 e av1, sfruttabili durante l'elaborazione di contenuti appositamente progettati.
Sono state scoperte diverse vulnerabilità nel kernel Linux, che consentono a un utente non privilegiato di ottenere diritti di root. L'unione delle vulnerabilità identificate in una catena ha permesso la creazione di exploit in grado di ottenere diritti di root aprendo pagine web specifiche in un browser. È stato anche creato un exploit che ha permesso l'esecuzione di codice con diritti di root inviando pacchetti di rete opportunamente formattati a un server NFS di FreeBSD.
In un sistema di virtualizzazione scritto in un linguaggio che fornisce strumenti per lavorare in modo sicuro con la memoria, è stata identificata una vulnerabilità che potrebbe consentire, tramite manipolazioni nel sistema ospite, di eseguire codice sul lato host (il nome non è fornito poiché il problema non è ancora stato risolto, ma a quanto pare la vulnerabilità si trova in un blocco unsafe nel codice Rust). Sono state trovate vulnerabilità in tutti i principali browser web e nelle librerie crittografiche. Identificate vulnerabilità che portano all'inserimento di codice SQL in varie applicazioni web.
Fonte: opennet.ru
