Claude Code onthulde het emailadres van de gebruiker bij het bezoeken van bepaalde websites

In de AI-agent Claude Code is een privacyprobleem ontdekt dat leidde tot een lek van e-mailadressen bij interacties met bepaalde externe websites. Het e-mailadres werd zonder toestemming van de gebruiker en zonder mogelijkheid om dit gedrag uit te schakelen, in de HTTP-header User-Agent vermeld. Deze invoer vond plaats voor specifieke sites, zoals Wikipedia en de SEC (Securities and Exchange Commission), die geen verzoeken van bots accepteren waarin het e-mailadres van de eigenaar niet is opgegeven. Volgens een opmerking van een vertegenwoordiger van het bedrijf Anthropic was deze activiteit geen opzettelijke functionaliteit, maar een autonome actie van het AI-model, dat rekening hield met de vereisten voor het indienen van verzoeken vanuit bots en de aanbevelingen van RFC-9110, die voorschrijven dat contact-e-mail voor geautomatiseerde verzoeken moet worden verzonden.

Gegevens over het e-mailadres dat aan het gebruikersaccount is gekoppeld, werden in Claude Code door het AI-model doorgegeven om de context te overwegen bij het verwerken van taken die verband houden met de gebruiker en zijn account. Zonder deze context hallucineerde het model en gebruikte het verzonnen informatie, bijvoorbeeld in de tags "@author". Een bijeffect was dat het AI-model het e-mailadres niet alleen voor de verwachte doeleinden begon te gebruiken, maar ook bij het uitvoeren van gerelateerde taken, zoals het invoegen in de User-Agent veld bij het genereren van opstartstrings voor de curl-tool.

Om het lek van e-mail in externe verzoeken te blokkeren
is de cc-plugin-privacy plugin ontwikkeld, die is opgenomen in de standaard plugin-set en automatisch is geactiveerd in de release claude-code 2.1.317. De plugin vraagt de gebruiker om bevestiging voordat webtools worden toegepast of opdrachten in curl-stijl worden gegenereerd waarin het e-mailadres wordt vermeld. De plugin lost niet alle mogelijke lekpaden op, bijvoorbeeld helpt het niet in de situatie waarin Claude zelf een script genereert en uitvoert.
Voor een volledige blokkering van het probleem is besloten om in de volgende release van Claude Code, die over enkele dagen wordt verwacht, het e-mailadres uit de context die aan het AI-model wordt doorgegeven te verwijderen.

Bron: opennet.ru