Forskere fra Google Project Zero og Google DeepMind har offentliggjort en rapport om udviklingen af AI-systemet Big Sleep, der er bygget på den store sprogmodel Gemini 1.5 Pro og er designet til at identificere sårbarheder i kildekode. En af projektets præstationer er at have brugt Big Sleep til første gang at opdage en udnyttelig, hidtil ukendt sårbarhed i et eksisterende projekt. Sårbarheden blev identificeret i forbindelse med AI-systemets kontrol af kodebasen for databasesystemet SQLite og fører til buffer underflow. Problemet blev opdaget i nyligt accepteret kode og blev rettet, inden det kom i den endelige version af SQLite 3.47.0.
Modellen kan anvendes som et hjælpepunk i områder, hvor der er behov for tidskrævende manuel gennemgang, samt til at organisere automatisk kontrol af ny kode for at opdage sårbarheder tidligt i udviklingsprocessen (før problematisk kode når de endelige versioner). Det antages, at den udviklede AI-model vil kunne identificere sikkerhedsrelaterede problemer i koden, som er vanskelige at opdage gennem fuzzing-testning.
Derudover kan det nævnes, at Googles administrerende direktør har udtalt, at mere end en fjerdedel (25%) af al kode, der i øjeblikket skabes i virksomheden, genereres ved hjælp af store sprogmodeller fra Gemini, hvorefter denne kode gennemgås og godkendes af ingeniører. Det bemærkes, at en sådan anvendelse af AI har betydeligt fremskyndet produktudviklingsprocessen.
Kilde: opennet.ru
