La società Anthropic ha presentato il progetto Glasswing, attraverso il quale offrirà accesso a una versione preliminare del modello AI Claude Mythos per identificare vulnerabilità e migliorare la sicurezza di software critici. Tra i partecipanti al progetto ci sono l'organizzazione Linux Foundation e aziende come Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Microsoft, NVIDIA e Palo Alto Networks. Circa 40 altre organizzazioni hanno anche ricevuto inviti a partecipare al progetto.
Rilasciato a febbraio, il modello AI Claude Opus 4.6 ha raggiunto un nuovo livello qualitativo in ambiti come l'identificazione di vulnerabilità, la ricerca e la correzione di errori, la revisione delle modifiche e la generazione di codice. Gli esperimenti con questo modello AI hanno permesso di scoprire oltre 500 vulnerabilità in progetti open source e di generare un compilatore C in grado di assemblare il kernel di Linux. Tuttavia, il modello Claude Opus 4.6 ha avuto difficoltà nella creazione di exploit funzionanti.
Il modello di nuova generazione "Claude Mythos", secondo quanto dichiarato da Anthropic, supera drasticamente il Claude Opus 4.6 nella scrittura di exploit funzionanti. Di centinaia di tentativi di creazione di exploit per vulnerabilità identificate nel motore JavaScript di Firefox 147, solo due tentativi con Claude Opus 4.6 hanno avuto successo. Ripetendo l'esperimento con la versione preliminare del modello Mythos, si sono riusciti a creare exploit funzionanti 181 volte, con un tasso di successo passato da quasi zero al 72,4%.
Inoltre, Claude Mythos ha notevolmente ampliato le sue capacità nella ricerca di bug e vulnerabilità, creando nuovi rischi per l'industria in combinazione con la sua attitudine a sviluppare exploit: exploit per vulnerabilità ancora non corrette (0-day) possono essere creati da non professionisti in poche ore. Si osserva che le capacità del modello Mythos nella ricerca e nell'exploitation di vulnerabilità hanno raggiunto uno standard professionale e attualmente non si avvicinano solo ai professionisti più esperti.
Poiché l'apertura di un accesso illimitato al modello AI con tali possibilità richiede la preparazione dell'industria, è stato deciso di iniziare aprendo l'accesso a una versione preliminare a un gruppo ristretto di esperti per condurre lavori di ricerca e risoluzione di vulnerabilità nei prodotti software critici e nel software open source. Per finanziare questa iniziativa è stata stanziata una sovvenzione di 100 milioni di dollari per il pagamento dei token, e si è inoltre deciso di destinare 4 milioni di dollari come donazioni a organizzazioni che si occupano della sicurezza dei progetti open source.
Nel set di test di CyberGym, che valuta la capacità dei modelli di identificare vulnerabilità, il modello Mythos ha mostrato un livello del 83,1%, mentre Opus 4.6 ha riportato un 66,6%. Nei test sulla qualità del codice, i modelli hanno dimostrato i seguenti risultati:
Durante l'esperimento, l'azienda Anthropic è riuscita, grazie al modello AI Mythos, a identificare diverse migliaia di vulnerabilità precedentemente sconosciute (0-day), molte delle quali classificate come critiche. Tra le altre cose, è stata trovata una vulnerabilità nel TCP stack di OpenBSD, rimasta inosservata per 27 anni, che consente di avviare un crash remoto del sistema. È stata inoltre trovata una vulnerabilità esistente da 16 anni nell'implementazione del codec H.264 del progetto FFmpeg e vulnerabilità nei codec H.265 e av1, sfruttate durante l'elaborazione di contenuti appositamente formattati.
Nel kernel di Linux sono state individuate diverse vulnerabilità che consentono a un utente non privilegiato di ottenere diritti di root. La concatenazione delle vulnerabilità rilevate ha permesso di creare exploit in grado di ottenere diritti di root aprendo pagine speciali nel web browser. È stato inoltre creato un exploit che ha consentito di eseguire codice con diritti di root inviando pacchetti di rete appositamente formattati a un server NFS nel contesto di FreeBSD.
In uno dei sistemi di virtualizzazione, scritto in un linguaggio che offre strumenti per un uso sicuro della memoria, è stata scoperta una vulnerabilità che potrebbe consentire, tramite manomissioni nel sistema ospite, l'esecuzione di codice sul lato host (il nome non viene rivelato poiché il problema non è ancora stato corretto, ma sembra che la vulnerabilità sia presente nel blocco unsafe del codice in Rust). Sono state trovate vulnerabilità in tutti i browser web popolari e nelle librerie crittografiche. Sono state identificate vulnerabilità che portano all'inserimento di codice SQL in diverse applicazioni web.
Fonte: opennet.ru
