Im AI-Agenten Claude Code wurde ein Datenschutzproblem festgestellt, das zu einer Offenlegung der E-Mail-Adresse beim Zugriff auf bestimmte Drittanbieter-Websites führte. Die E-Mail wurde im HTTP-Header User-Agent ohne Zustimmung des Nutzers und ohne Möglichkeit zur Deaktivierung dieses Verhaltens angegeben. Die Einfügung erfolgte für bestimmte Websites wie Wikipedia und die SEC (Securities and Exchange Commission), die keine Anfragen von Bots akzeptieren, die die E-Mail des Besitzers nicht angeben. Laut einem Kommentar eines Vertreters des Unternehmens Anthropic war eine solche Aktivität kein absichtlich hinzugefügtes Feature, sondern eine Eigenart des AI-Modells, das die Anforderungen zur Gestaltung von Anfragen von Bots und die Empfehlungen der RFC-9110 berücksichtigte, die die Übermittlung einer Kontakt-E-Mail für automatisierte Anfragen vorschreiben.
Die Daten zur E-Mail, die mit dem Benutzerkonto verknüpft ist, wurden im Claude Code an das AI-Modell übermittelt, damit es den Kontext bei der Bearbeitung von Aufgaben berücksichtigt, die mit dem Benutzer und seinem Konto zusammenhängen. Ohne diesen Kontext halluzinierte das Modell und verwendete erfundene Informationen, wie beispielsweise in den Tags "@author". Ein Nebeneffekt war, dass das AI-Modell die E-Mail nicht nur für die erwarteten Zwecke, sondern auch bei der Durchführung begleitender Aufgaben verwendete, indem es zum Beispiel im User-Agent-Feld beim Erstellen von Befehlszeilen für das Tool curl eingefügt wurde.
Um die Offenlegung von E-Mail in externen Anfragen zu blockieren
wurde das Plugin cc-plugin-privacy entwickelt, das in die Standard-Palette der Plugins aufgenommen und standardmäßig in der Version claude-code 2.1.317 aktiviert ist. Das Plugin fordert den Benutzer zur Bestätigung auf, bevor web-basierte Tools oder Befehle im Stil von curl ausgeführt werden, in denen die E-Mail erwähnt wird. Das Plugin löst jedoch nicht alle möglichen Wege der Offenlegung; es hilft zum Beispiel nicht in Situationen, in denen Claude ein Skript generiert und selbst ausführt.
Um das Problem vollständig zu blockieren, wurde beschlossen, die E-Mail im nächsten Release von Claude Code, das in wenigen Tagen veröffentlicht werden soll, aus dem Kontext zu entfernen, der an das AI-Modell übermittelt wird.
Quelle: opennet.ru
