I ricercatori dei team Google Project Zero e Google DeepMind hanno pubblicato un rapporto sullo sviluppo del sistema AI Big Sleep, basato sul modello linguistico di grandi dimensioni Gemini 1.5 Pro, progettato per identificare vulnerabilità nel codice sorgente. Il traguardo del progetto è stata la scoperta, grazie a Big Sleep, di una vulnerabilità sconosciuta e sfruttabile in un progetto esistente. La vulnerabilità è stata identificata attraverso il controllo da parte del sistema AI della base di codice del DBMS SQLite e porta a un overflow della parte inferiore del buffer nello stack (buffer underflow). Il problema è stato scoperto nel codice recentemente adottato ed è stato risolto prima della sua inclusione nella versione finale SQLite 3.47.0.
Il modello può essere utilizzato come strumento ausiliario in settori che richiedono una revisione manuale laboriosa, nonché per organizzare il controllo automatico del nuovo codice al fine di identificare vulnerabilità nelle prime fasi di sviluppo (prima che il codice problematico arrivi nelle versioni finali). Si prevede che il modello AI in fase di sviluppo possa identificare problemi di sicurezza nel codice che è difficile rilevare tramite test di fuzzing.
Inoltre, si può notare la dichiarazione del CEO di Google secondo cui attualmente oltre un quarto (25%) di tutto il codice prodotto in azienda è generato utilizzando grandi modelli linguistici Gemini, dopo di che tale codice viene revisionato e approvato dagli ingegneri. Si osserva che tale uso dell'AI ha notevolmente accelerato il processo di sviluppo dei prodotti.
Fonte: opennet.ru
