Das Unternehmen Anthropic hat das Projekt Glasswing vorgestellt, im Rahmen dessen der Zugang zur Vorabversion des KI-Modells Claude Mythos bereitgestellt wird, um Schwachstellen zu identifizieren und die Sicherheit kritischer Software zu erhöhen. Zu den Projektteilnehmern gehört die Linux Foundation sowie Unternehmen wie Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Microsoft, NVIDIA und Palo Alto Networks. Zudem erhielten etwa 40 weitere Organisationen Einladungen zur Teilnahme am Projekt.
Das im Februar veröffentlichte KI-Modell Claude Opus 4.6 hat ein neues Qualitätsniveau in Bereichen wie der Identifizierung von Schwachstellen, der Fehlersuche und -behebung, der Überprüfung von Änderungen und der Codegenerierung erreicht. Experimente mit diesem KI-Modell ermöglichten die Identifizierung von über 500 Schwachstellen in Open-Source-Projekten und die Generierung eines C-Compilers, der in der Lage ist, den Linux-Kernel zu kompilieren. Gleichzeitig hatte das Modell Claude Opus 4.6 Schwierigkeiten, funktionale Exploits zu erstellen.
Das nächste Generation Modell „Claude Mythos“ übertrifft laut Anthropic Claude Opus 4.6 erheblich in der Erstellung funktionierender Exploits. Von mehreren Hundert Versuchen, Exploits für Schwachstellen im JavaScript-Engine Firefox 147 zu erstellen, waren bei Claude Opus 4.6 nur zwei Versuche erfolgreich. Bei der Wiederholung des Experiments mit der Vorabversion des Modells Mythos konnten in 181 Fällen funktionierende Exploits erstellt werden – die Erfolgsquote bei der Erstellung von Exploits stieg von nahezu null auf 72,4 % an.
Darüber hinaus wurden die Möglichkeiten zur Fehlersuche und Schwachstellenerkennung in Claude Mythos erheblich erweitert, was in Kombination mit der Eignung zur Exploit-Entwicklung neue Risiken für die Branche schafft – Exploits für noch nicht behobene Schwachstellen (0-Day) können von Laien in wenigen Stunden erstellt werden. Es wird festgestellt, dass die Fähigkeit des Modells Mythos zur Identifizierung und Ausnutzung von Schwachstellen mittlerweile professionellen Standards entspricht und nur hinter den erfahrensten Fachleuten zurückbleibt.
Da die Öffnung des unbeschränkten Zugangs zu einem KI-Modell mit solch ähnlichen Möglichkeiten eine Vorbereitung der Industrie erfordert, wurde beschlossen, zunächst den Zugang zur Vorabversion einem engen Kreis von Experten zu eröffnen. Diese sollen daran arbeiten, Sicherheitsanfälligkeiten in kritischen Softwareprodukten und in Open-Source-Software zu finden und zu beseitigen. Für die Finanzierung dieser Initiative wurde ein Zuschuss in Höhe von 100 Millionen Dollar bereitgestellt, außerdem wurde beschlossen, 4 Millionen Dollar als Spenden an Organisationen zu verteilen, die sich mit der Sicherheit offener Projekte befassen.
Im Testset CyberGym, das die Fähigkeit der Modelle zur Erkennung von Sicherheitsanfälligkeiten bewertet, hat das Modell Mythos 83,1 % erreicht, während Opus 4.6 - 66,6 % erzielt hat. In den Tests zur Codequalität haben die Modelle folgende Ergebnisse gezeigt:
Im Verlauf des Experiments konnte das Unternehmen Anthropic innerhalb von wenigen Wochen mithilfe des KI-Modells Mythos mehrere tausend zuvor unbekannte (0-Day) Sicherheitsanfälligkeiten identifizieren, von denen viele als kritisch eingestuft wurden. Unter anderem wurde eine 27 Jahre lang unentdeckte Schwachstelle im TCP-Stack von OpenBSD gefunden, die es ermöglicht, die Systemarbeit remote abzubrechen. Zudem wurde eine seit 16 Jahren bestehende Sicherheitsanfälligkeit in der H.264-Implementierung des Projekts FFmpeg sowie Schwachstellen in den Codecs H.265 und AV1 entdeckt, die bei der Verarbeitung speziell gestalteter Inhalte ausgenutzt werden können.
Im Linux-Kernel wurden mehrere Sicherheitsanfälligkeiten identifiziert, die es nicht privilegierten Benutzern ermöglichen, Root-Rechte zu erlangen. Das Verknüpfen der identifizierten Sicherheitsanfälligkeiten zu einer Kette ermöglichte die Erstellung von Exploits, die den Erwerb von Root-Rechten durch das Öffnen spezifischer Seiten im Webbrowser ermöglichen. Außerdem wurde ein Exploit erstellt, der es ermöglichte, Code mit Root-Rechten auszuführen, indem speziell gestaltete Netzwerkpakete an einen NFS-Server aus FreeBSD gesendet wurden.
In einem der Virtualisierungssysteme, das in einer Sprache geschrieben ist, die sichere Arbeit mit Speicher bereitstellt, wurde eine Schwachstelle gefunden, die potenziell durch Manipulationen im Gastsystem Code auf der Hostseite ausführen kann (der Name wird nicht genannt, da das Problem noch nicht behoben ist, aber anscheinend besteht die Schwachstelle im unsafe-Bereich im Rust-Code). Schwachstellen wurden in allen gängigen Webbrowsern und kryptografischen Bibliotheken gefunden. Es wurden Schwachstellen festgestellt, die zu SQL-Injection in verschiedenen Webanwendungen führen.
Quelle: opennet.ru
