Die Firma Anthropic hat die Erweiterung der AI-Modelle Claude Opus 4.6 im Bereich der Erkennung von Schwachstellen im Code angekündigt und die Ergebnisse eines Experiments veröffentlicht, bei dem mehr als 500 zuvor unbekannte (0-Day) Schwachstellen in den neuesten Versionen verschiedener Open-Source-Projekte identifiziert wurden. Die Arbeit konzentrierte sich auf die Suche nach Schwachstellen, die durch Probleme im Umgang mit dem Speicher verursacht wurden, da deren Vorhandensein leichter überprüft werden kann. Allen identifizierten Schwachstellen wurde ein hohes Gefahrenniveau zugewiesen. Jede Schwachstelle wurde manuell von Mitarbeitern von Anthropic oder externen Sicherheitsexperten überprüft und bestätigt.
Zur Analyse von Schwachstellen wurden Quellcodes beliebter Open-Source-Projekte herangezogen, die bereits seit geraumer Zeit kontinuierlichem Fuzzing-Testing im Service OSS-Fuzz unterzogen werden. Im Gegensatz zum Fuzzing-Testing, bei dem ein Strom von zufälligen Kombinationen von Eingabedaten generiert wird, versuchte das KI-Modell, den Code zu analysieren, indem es frühere Korrekturen berücksichtigte, um ähnliche nicht behobene Fehler zu identifizieren, problematische Muster hervorzuheben und logisch abzuleiten, welche Eingabedaten den Ablauf stören können.
Die Informationen über die im Rahmen des Experiments identifizierten Schwachstellen wurden bereits den Betreuern übermittelt, mit denen zusammen an der Annahme von Korrekturen gearbeitet wird. Um den Betreuern während der durchgeführten Überprüfung zu helfen, wurden manuell Patches zum Beheben der identifizierten Probleme entwickelt. Als Beispiel wurden drei Schwachstellen in GhostScript, OpenSC und CGIF angeführt, die zum Zeitpunkt der Veröffentlichung von den Betreuern behoben wurden.
Die für die Identifikation von Problemen verwendete Konfiguration ähnelte nicht den traditionellen Systemen zur automatischen Schwachstellensuche – dem Modell Claude Opus 4.6 wurde Zugang zu virtuellen Maschine, gewährt, in dem neben dem zu untersuchenden Code auch gängige Entwicklerwerkzeuge (coreutils, Python usw.) und Tools zur Fehlerbehebung und Analyse von Schwachstellen (einschließlich Fuzzing-Test-Tools) installiert waren. Dem Modell wurde keine klare Anleitung zur Verwendung dieser Tools gegeben, und es wurden keine speziellen Informationen über die Methoden zur Suche nach Schwachstellen bereitgestellt. Dem Modell wurde lediglich die Aufgabe gestellt und die Möglichkeit gegeben, selbst über die optimale Nutzung der verfügbaren Werkzeuge nachzudenken.
Bei der Schwachstellensuche in GhostScript hat das KI-Modell zuerst versucht, Fuzzing-Tests durchzuführen. Als dies jedoch keine Ergebnisse brachte, wechselte es zur Codeanalyse. Auch die Codeanalyse ergab zuerst keine Resultate, und das Modell begann, die Änderungsverläufe in Git zu studieren. In einem der Commits bemerkte es einen Verweis auf die Überprüfung von Puffergrenzen. Nach der Analyse des Commits stellte das Modell fest, dass die Korrektur eine fehlende Überprüfung der Puffergrenzen bei der Verarbeitung von Schriftarten hinzugefügt hatte.
Daraufhin entschied das Modell, den Code vor der Korrektur zu bestimmen und versuchte, im restlichen Code ähnliche Muster der Nutzung der problematischen Funktion, die nicht behoben waren, zu finden. Schließlich wurde in der Datei gdevpsfx.c ein Aufruf der Funktion gs_type1_blend ohne die Überprüfung der Wertegrenzen entdeckt. Am Ende beschaffte das Modell den Inhalt einer Datei, deren Verarbeitung zu einem Absturz führte, weil Daten in einen Speicherbereich außerhalb des zugewiesenen Puffers geschrieben wurden.
Im CGIF berücksichtigte das KI-Modell, dass die Bibliothek beim Entpacken von GIF-Dateien annahm, dass die Größe der komprimierten Daten immer kleiner als die der entpackten war. Die Suche nach Schwachstellen konzentrierte sich darauf, Bedingungen zu bestimmen, unter denen die durch den LZW-Algorithmus komprimierten Daten größer als die entpackten wären. Solche Bedingungen wurden gefunden, und das KI-Modell konnte eine GIT-Datei erstellen, deren Verarbeitung zu einem Pufferüberlauf führte. In OpenSC wurde das Problem nach der Analyse der Verwendung der potenziell gefährlichen Funktionen strrchr und strcat festgestellt.
Es wird festgestellt, dass Sprachmodelle ein Niveau erreicht haben, das es ihnen ermöglicht, zuvor unbekannte Schwachstellen zu identifizieren, und dass sie in naher Zukunft Experten für Sicherheit in Bezug auf Geschwindigkeit und Umfang der Schwachstellensuche übertreffen werden. Es wird angenommen, dass das Wachstum der entdeckten Schwachstellen eine Reform der bestehenden Informationsoffenlegungsprozesse erfordern wird, da die derzeit für die Behebung bereitgestellten 90 Tage nicht ausreichen werden.
Quelle: opennet.ru
