Das Unternehmen Anthropic hat die Fähigkeiten des AI-Modells Claude Opus 4.6 zur Suche nach Schwachstellen im Code erweitert und die Ergebnisse eines Experiments geteilt, bei dem mehr als 500 zuvor unbekannte (0-day) Schwachstellen in den neuesten Versionen verschiedener Open-Source-Projekte identifiziert wurden. Der Fokus lag auf der Suche nach Schwachstellen, die durch Speicherprobleme verursacht wurden, da sich deren Vorhandensein einfacher überprüfen lässt. Alle identifizierten Schwachstellen wurden als hochgefährlich eingestuft. Jede Schwachstelle wurde manuell überprüft und von Mitarbeitern von Anthropic oder von externen Sicherheitsexperten bestätigt.
Für die Analyse der Schwachstellen wurden Codebasen von beliebten Open-Source-Projekten herangezogen, die bereits seit längerer Zeit kontinuierlich im OSS-Fuzz-Service gefuzztestet werden. Im Gegensatz zu Fuzzing-Tests, bei denen eine Vielzahl zufälliger Kombinationen von Eingabedaten generiert wird, versuchte das AI-Modell, den Code zu analysieren, indem es frühere Korrekturen berücksichtigte, um ähnliche ungelöste Fehler zu identifizieren, problematische Muster hervorzuheben und logisch abzuleiten, welche Eingabedaten den Ablauf stören könnten.
Informationen über die während des Experiments entdeckten Schwachstellen wurden bereits an die Betreuer weitergeleitet, mit denen gemeinsam an der Annahme von Korrekturen gearbeitet wird. Um den Betreuern während der durchgeführten Überprüfung zu helfen, wurden manuell Patches zur Behebung der entdeckten Probleme entwickelt. Als Beispiel sind drei Schwachstellen in GhostScript, OpenSC und CGIF aufgeführt, die zum Zeitpunkt der Veröffentlichung von den Betreuern behoben wurden.
Die zur Fehlererkennung verwendete Konfiguration ähnelt nicht traditionellen automatischen Schwachstellensuchsystemen — der Claude Opus 4.6 Modellen wurde Zugang gewährt zu virtuellen Maschine, in der neben dem untersuchten Code gängige Entwicklerwerkzeuge (coreutils, Python usw.) sowie Tools zur Fehlerbehebung und Analyse von Schwachstellen (einschließlich Tools für Fuzzing-Tests) installiert waren. Dem Modell wurde keine klare Anleitung zur Verwendung dieser Werkzeuge gegeben und es wurden keine speziellen Informationen zu den Methoden zur Entdeckung von Schwachstellen bereitgestellt. Das Modell erhielt lediglich die Aufgabe und die Möglichkeit, selbst über die optimale Nutzung der verfügbaren Werkzeuge nachzudenken.
Bei der Suche nach Schwachstellen in GhostScript hat das KI-Modell zunächst versucht, Fuzzing-Tests durchzuführen. Da dies jedoch keine Ergebnisse brachte, wechselte es zur Codeanalyse. Auch die Codeanalyse führte nicht zum Erfolg, weshalb das Modell begann, die Versionshistorie in Git zu untersuchen. In einem der Commits fand es einen Hinweis auf die Überprüfung von Puffergrenzen. Nach Untersuchung des Commits stellte das Modell fest, dass die Korrektur eine fehlende Überprüfung der Puffergrenzen bei der Verarbeitung von Schriftarten hinzufügte.
Daraufhin identifizierte das Modell den Code, der vor der Korrektur existierte, und versuchte, im restlichen Code ähnliche Nutzungsmuster der fehlerhaften Funktion zu finden, die nicht behoben waren. Schließlich wurde in der Datei gdevpsfx.c ein Aufruf der Funktion gs_type1_blend ohne Überprüfung der Werte gefunden. Am Ende stellte das Modell den Inhalt der Datei zusammen, deren Verarbeitung zu einem Absturz führte, da Daten in einen Bereich des Speichers außerhalb des zugewiesenen Puffers geschrieben wurden.
Bei CGIF basierte das KI-Modell auf der Annahme, dass beim Entpacken von GIF-Dateien die Größe der komprimierten Daten immer kleiner ist als die der entpackten. Die Suche nach Schwachstellen konzentrierte sich darauf, die Bedingungen zu bestimmen, unter denen die durch den LZW-Algorithmus komprimierten Daten größer sind als die entpackten. Solche Bedingungen wurden gefunden, und das KI-Modell konnte eine GIT-Datei erstellen, deren Verarbeitung zu einem Pufferüberlauf führte. Bei OpenSC wurde das Problem nach der Analyse der Verwendung potenziell gefährlicher Funktionen wie strrchr und strcat festgestellt.
Es wird festgestellt, dass Sprachmodelle ein Niveau erreicht haben, das es ihnen ermöglicht, zuvor unbekannte Schwachstellen zu identifizieren, und in naher Zukunft Experten im Bereich Sicherheit hinsichtlich Geschwindigkeit und Umfang der Schwachstellensuche übertreffen werden. Es wird angenommen, dass der Anstieg der identifizierten Schwachstellen eine Reform der bestehenden Offenlegungsprozesse erfordert, da die derzeit für die Behebung vorgesehenen 90 Tage nicht ausreichen werden.
Quelle: opennet.ru
