Forscher von Google Project Zero und Google DeepMind haben einen Bericht über die Entwicklung des KI-Systems Big Sleep veröffentlicht, das auf dem großen Sprachmodell Gemini 1.5 Pro basiert und zur Identifizierung von Sicherheitsanfälligkeiten im Quellcode dient. Ein bedeutender Erfolg des Projekts war die Entdeckung einer bisher unbekannten, ausnutzbaren Sicherheitsanfälligkeit in einem bestehenden Projekt. Die Schwachstelle wurde durch die Überprüfung der Codebasis des SQLite-Datenbanksystems mittels des KI-Systems Big Sleep identifiziert und führt zu einem Buffer Underflow-Problem. Die Fehlerursache wurde im neu implementierten Code entdeckt und behoben, bevor dieser in die finale Version 3.47.0 von SQLite aufgenommen werden konnte.
Das Modell kann als unterstützendes Werkzeug in Bereichen eingesetzt werden, in denen aufwändige manuelle Überprüfungen erforderlich sind. Zudem dient es zur automatischen Überprüfung neuen Codes, um Sicherheitsanfälligkeiten bereits in den frühen Entwicklungsphasen zu identifizieren, bevor problematischer Code in die finalen Releases gelangt. Es wird angenommen, dass das entwickelte KI-Modell dazu in der Lage ist, sicherheitsrelevante Probleme im Code zu erkennen, die durch Fuzzing-Tests schwer zu identifizieren sind.
Zusätzlich kann auf die Aussage des CEO von Google hingewiesen werden, dass derzeit mehr als ein Viertel (25%) des gesamten Codes, der im Unternehmen erstellt wird, unter Verwendung großer Sprachmodelle wie Gemini generiert wird. Dieser Code wird anschließend von Ingenieuren überprüft und akzeptiert. Es wird festgestellt, dass der Einsatz von KI in dieser Weise den Entwicklungsprozess erheblich beschleunigt hat.
Quelle: opennet.ru
