Forscher aus den Abteilungen Google Project Zero und Google DeepMind haben einen Bericht über die Entwicklung des KI-Systems Big Sleep veröffentlicht, das auf dem großen Sprachmodell Gemini 1.5 Pro basiert und zur Erkennung von Schwachstellen im Quellcode dient. Ein Erfolg des Projekts war die Entdeckung einer zuvor unbekannten, ausnutzbaren Schwachstelle in einem bestehenden Projekt mit Hilfe von Big Sleep. Die Schwachstelle wurde durch die Überprüfung der Codebasis der SQLite-Datenbank durch das KI-System identifiziert und führt zu einem Pufferunterlauf im Stack. Das Problem wurde im kürzlich akzeptierten Code festgestellt und behoben, bevor es in die endgültige Version von SQLite 3.47.0 aufgenommen wurde.
Das Modell kann als unterstützendes Werkzeug in Bereichen eingesetzt werden, in denen aufwendige manuelle Überprüfungen erforderlich sind, sowie zur Organisation automatisierter Prüfungen neuen Codes mit dem Ziel, Schwachstellen in frühen Entwicklungsphasen zu identifizieren (bevor problematischer Code in die endgültigen Versionen gelangt). Es wird davon ausgegangen, dass das entwickelte KI-Modell es ermöglichen wird, sicherheitsrelevante Probleme im Code zu erkennen, die durch Fuzzing-Tests schwer zu identifizieren sind.
Zusätzlich ist das Statement des CEO von Google zu erwähnen, dass derzeit mehr als ein Viertel (25%) des gesamten Unternehmenscodes mit Hilfe der großen Sprachmodelle Gemini generiert wird, nach dem dieser Code von Ingenieuren überprüft und angenommen wird. Es wird angemerkt, dass die Anwendung von KI auf diese Weise den Entwicklungsprozess erheblich beschleunigt hat.
Quelle: opennet.ru
