Das Unternehmen Anthropic hat das Projekt Glasswing vorgestellt, das den Zugang zu einer Vorabversion des AI-Modells Claude Mythos bietet, um Schwachstellen zu identifizieren und die Sicherheit kritischer Software zu erhöhen. Zu den Teilnehmern des Projekts gehören die Linux Foundation sowie Unternehmen wie Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Microsoft, NVIDIA und Palo Alto Networks. Rund 40 weitere Organisationen haben ebenfalls Einladungen zur Teilnahme an dem Projekt erhalten.
Das im Februar veröffentlichte AI-Modell Claude Opus 4.6 hat ein neues Qualitätsniveau in Bereichen wie der Identifizierung von Schwachstellen, dem Finden und Beheben von Fehlern, dem Überprüfen von Änderungen und der Code-Generierung erreicht. Experimente mit diesem AI-Modell führten zur Identifizierung von über 500 Schwachstellen in Open-Source-Projekten und zu einem C-Compiler, der in der Lage ist, den Linux-Kernel zu kompilieren. Gleichzeitig hatte das Modell Claude Opus 4.6 Schwierigkeiten bei der Erstellung von funktionierenden Exploits.
Das nächste Generation Modell „Claude Mythos“, so Anthropic, übertrifft Claude Opus 4.6 erheblich in der Erstellung einsatzbereiter Exploits. Bei mehreren Hundert Versuchen, Exploits für die im JavaScript-Engine von Firefox 147 gefundenen Schwachstellen zu erstellen, hatten in Claude Opus 4.6 nur zwei Versuche Erfolg. Im wiederholten Experiment mit der Beta-Version des Modells Mythos konnten 181 funktionierende Exploits erstellt werden – der Erfolg bei der Erstellung von Exploits stieg von nahezu null auf 72,4%.
Darüber hinaus wurden die Möglichkeiten von Claude Mythos zur Fehlersuche und Schwachstellenerkennung erheblich erweitert, was zusammen mit der Eignung zur Entwicklung von Exploits neue Risiken für die Industrie schafft – Exploits für noch nicht behobene Schwachstellen (0-Day) können von Laien innerhalb weniger Stunden entwickelt werden. Es wird festgestellt, dass die Fähigkeiten des Mythos-Modells zur Suche und Ausnutzung von Schwachstellen ein professionelles Niveau erreicht haben und bis jetzt nur hinter den erfahrensten Fachleuten zurückbleiben.
Da die Einführung eines uneingeschränkten Zugangs zu einer KI-Modell mit solchen Fähigkeiten eine Vorbereitung der Branche erfordert, wurde beschlossen, zunächst den Zugang zur Vorabversion einer ausgewählten Gruppe von Experten zu eröffnen, um an der Identifizierung und Behebung von Schwachstellen in kritischen Softwareprodukten und Open-Source-Software zu arbeiten. Um die Durchführung der Initiative zu finanzieren, wurde ein Zuschuss von 100 Millionen Dollar für die Zahlung von Tokens bereitgestellt, und es wurde entschieden, 4 Millionen Dollar als Spenden an Organisationen zu verteilen, die die Sicherheit offener Projekte unterstützen.
Im Testset CyberGym, das die Fähigkeit der Modelle zur Identifizierung von Schwachstellen bewertet, erzielte das Modell Mythos 83,1%, während Opus 4.6 – 66,6%. In den Tests zur Codequalität zeigten die Modelle folgende Ergebnisse:
Im Rahmen eines Experiments konnte das Unternehmen Anthropic innerhalb weniger Wochen mit dem KI-Modell Mythos mehrere tausend zuvor unbekannte (0-Day) Sicherheitslücken identifizieren, von denen viele als kritisch eingestuft wurden. Unter anderem wurde eine 27 Jahre alte Sicherheitsanfälligkeit im TCP-Stack von OpenBSD gefunden, die es ermöglicht, das System aus der Ferne zum Absturz zu bringen. Außerdem wurde eine 16 Jahre alte Schwachstelle im H.264-Codec des Projekts FFmpeg entdeckt, sowie Sicherheitsanfälligkeiten in den Codecs H.265 und av1, die bei der Verarbeitung speziell gestalteter Inhalte ausgenutzt werden können.
Im Linux-Kernel wurden mehrere Schwachstellen entdeckt, die es einem nicht privilegierten Benutzer ermöglichen, Root-Rechte zu erlangen. Durch die Verknüpfung dieser Sicherheitsanfälligkeiten konnte eine Kette gebildet werden, die es ermöglicht, bei Öffnen spezieller Seiten im Webbrowser Root-Rechte zu erhalten. Zudem wurde ein Exploit entwickelt, der es ermöglicht, Code mit Root-Rechten auszuführen, indem speziell gestaltete Netzwerkpakete an den NFS-Server aus der FreeBSD-Distribution gesendet werden.
In einem der Virtualisierungssysteme, das mit einer Programmiersprache entwickelt wurde, die sichere Speicheroperationen ermöglicht, wurde eine Schwachstelle entdeckt, die potenziell das Ausführen von Code auf der Host-Seite über Manipulationen im Gastsystem ermöglicht (der Name wird nicht genannt, da das Problem noch nicht behoben ist, doch scheint die Schwachstelle im unsafe-Bereich des Rust-Codes vorhanden zu sein). Schwachstellen in allen gängigen Webbrowsern und kryptografischen Bibliotheken wurden gefunden. Zudem wurden Schwachstellen entdeckt, die zu SQL-Injection in verschiedenen Webanwendungen führen.
Quelle: opennet.ru
