Anthropic hat das Glasswing-Projekt angekündigt, das Zugang zu einer Vorabversion des KI-Modells Claude Mythos bieten wird, um Schwachstellen zu identifizieren und die Sicherheit kritischer Software zu verbessern. Zu den Projektteilnehmern gehört die Organisation Linux Die Foundation sowie Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Microsoft, NVIDIA und Palo Alto Networks. Rund 40 weitere Organisationen wurden ebenfalls zur Teilnahme an dem Projekt eingeladen.
Das im Februar veröffentlichte KI-Modell Claude Opus 4.6 erreichte neue Leistungsniveaus in Bereichen wie Schwachstellenerkennung, Fehlererkennung und -behebung, Änderungsprüfung und Codegenerierung. Experimente mit diesem KI-Modell ermöglichten die Identifizierung von über 500 Schwachstellen in Open-Source-Projekten und die Generierung eines C-Compilers, der den Kernel kompilieren kann. LinuxDas Claude Opus 4.6-Modell schnitt jedoch bei der Erstellung funktionierender Exploits schlecht ab.
Laut Anthropic übertrifft das Nachfolgemodell „Claude Mythos“ Claude Opus 4.6 bei der Generierung sofort einsatzbereiter Exploits deutlich. Von mehreren hundert Versuchen, Exploits für in der JavaScript-Engine von Firefox identifizierte Schwachstellen zu erstellen, waren mit Claude Opus 4.6 nur zwei erfolgreich. Bei Wiederholung des Experiments mit einer Vorabversion des Mythos-Modells wurden 181 funktionierende Exploits generiert – die Erfolgsquote stieg von nahezu null auf 72.4 %.
Darüber hinaus erweitert Claude Mythos seine Fähigkeiten zur Erkennung von Schwachstellen und Fehlern erheblich. Dies, kombiniert mit seiner Eignung für die Exploit-Entwicklung, birgt neue Risiken für die Branche: Exploits für ungepatchte Zero-Day-Schwachstellen können von Nicht-Experten innerhalb weniger Stunden erstellt werden. Die Fähigkeiten von Mythos zur Schwachstellenerkennung und -ausnutzung haben professionelles Niveau erreicht und sind derzeit nur für die erfahrensten Experten überdurchschnittlich.
Da die uneingeschränkte Bereitstellung eines KI-Modells mit solchen Fähigkeiten eine entsprechende Vorbereitung der Branche erfordert, wurde beschlossen, zunächst eine Vorabversion einer ausgewählten Expertengruppe zur Verfügung zu stellen. Diese soll Schwachstellen in kritischen Softwareprodukten und Open-Source-Software identifizieren und beheben. Zur Finanzierung der Initiative wurden 100 Millionen US-Dollar als symbolische Förderung bereitgestellt, und 4 Millionen US-Dollar werden an Organisationen gespendet, die die Sicherheit von Open-Source-Projekten unterstützen.
Im CyberGym-Benchmark, der die Fähigkeiten von Modellen zur Erkennung von Schwachstellen bewertet, erzielte das Mythos-Modell einen Wert von 83.1 %, während Opus 4.6 einen Wert von 66.6 % erreichte. In Codequalitätstests zeigten die Modelle folgende Leistung:
Im Rahmen des Experiments konnte Anthropic mithilfe des KI-Modells Mythos innerhalb weniger Wochen mehrere tausend bisher unbekannte (Zero-Day-)Schwachstellen identifizieren, von denen viele als kritisch eingestuft wurden. Darunter entdeckten sie eine 27 Jahre lang unentdeckte Schwachstelle im OpenBSD-TCP-Stack, die Systemabstürze aus der Ferne ermöglichte. Außerdem stießen sie auf eine 16 Jahre alte Schwachstelle in der FFmpeg-Implementierung des H.264-Codecs sowie auf Schwachstellen in den Codecs H.265 und av1, die bei der Verarbeitung speziell präparierter Inhalte ausgenutzt werden konnten.
Im Kern Linux Es wurden mehrere Sicherheitslücken identifiziert, die es einem Benutzer ohne Root-Rechte ermöglichen, Root-Rechte zu erlangen. Durch die Kombination dieser Sicherheitslücken konnten Exploits entwickelt werden, die durch das Öffnen spezieller Seiten in einem Webbrowser Root-Rechte erlangen können. Zudem wurde ein Exploit entwickelt, der die Ausführung von Code mit Root-Rechten ermöglicht, indem speziell präparierte Netzwerkpakete an einen FreeBSD-NFS-Server gesendet werden.
In einem Virtualisierungssystem, das in einer Sprache mit sicheren Speicherverwaltungswerkzeugen geschrieben ist, wurde eine Schwachstelle entdeckt. Diese ermöglicht potenziell die Ausführung von Code auf dem Hostsystem durch Manipulation des Gastsystems (die Schwachstelle wird nicht benannt, da sie noch nicht behoben ist; sie scheint jedoch in einem unsicheren Codeblock im Rust-Code vorhanden zu sein). In allen gängigen Webbrowsern und kryptografischen Bibliotheken wurden Schwachstellen gefunden. SQL-Injection-Schwachstellen wurden in verschiedenen Webanwendungen identifiziert.
Source: opennet.ru
