I ricercatori delle divisioni Google Project Zero e Google DeepMind hanno pubblicato un rapporto sui progressi del sistema AI Big Sleep, basato sul grande modello linguistico Gemini 1.5 Pro, progettato per identificare vulnerabilità nel codice sorgente. Un traguardo del progetto è stata l'identificazione, utilizzando Big Sleep, di una vulnerabilità sfruttabile e precedentemente sconosciuta in un progetto esistente. La vulnerabilità è stata individuata grazie alla verifica effettuata dal sistema AI sulla base di codice del database SQLite e provoca un underflow del buffer nello stack. Il problema è stato scoperto in codice recentemente accettato e corretto prima della sua inclusione nella versione finale di SQLite 3.47.0.
Il modello può essere utilizzato come strumento di supporto in ambiti in cui è necessaria una revisione manuale laboriosa, nonché per organizzare un controllo automatico del nuovo codice al fine di identificare vulnerabilità nelle fasi iniziali di sviluppo (prima che il codice problematico venga incluso nelle versioni finali). Si prevede che il modello AI in fase di sviluppo permetterà di identificare problemi legati alla sicurezza nel codice, che sono problematici da rilevare tramite fuzzing testing.
Inoltre, è degno di nota il commento dell'amministratore delegato di Google, secondo il quale attualmente oltre un quarto (25%) di tutto il codice creato in azienda viene generato utilizzando grandi modelli linguistici Gemini, dopo di che questo codice viene revisionato e accettato dagli ingegneri. Si osserva che un uso simile dell'AI ha permesso di accelerare notevolmente il processo di sviluppo dei prodotti.
Fonte: opennet.ru
