Claude Code afslørede brugerens e-mail, når han besøgte visse websteder

I AI-agenten Claude Code er der blevet identificeret et privatlivsproblem, der førte til lækage af e-mail-adresser, når der blev tilgået visse tredjepartswebsteder. E-mailen blev angivet i HTTP-headeren User-Agent uden brugerens samtykke og uden mulighed for at deaktivere denne opførsel. Indsættelsen skete for enkelte websteder som Wikipedia og SEC (Securities and Exchange Commission), som ikke accepterer anmodninger fra bots, der ikke angiver ejerens e-mail. Ifølge en kommentar fra repræsentanten for Anthropic var denne aktivitet ikke en bevidst tilføjet funktion, men en AI-models initiativ, som tog højde for kravene til anmodninger fra bots og anbefalingerne i RFC-9110, der foreskriver at sende kontakt-e-mail til automatiserede anmodninger.

Oplysninger om den e-mail, der er knyttet til brugerens konto, blev sendt til AI-modellen i Claude Code for at give den kontekst, når den behandlede opgaver relateret til brugeren og hans konto. Uden denne kontekst hallucinere modellen og brugte påfundne oplysninger, for eksempel i tags som «@author». Et bivirkning blev, at AI-modellen begyndte at bruge e-mail ikke kun til forventede formål, men også ved udførelse af tilhørende opgaver, såsom at indsætte den i User-Agent-feltet, når der blev dannet kommandoer til curl-værktøjet.

For at blokere lækage af e-mail i eksterne anmodninger
er der udarbejdet et plugin, cc-plugin-privacy, der er inkluderet i den standard plugin-samling og aktiveret som standard i udgivelsen claude-code 2.1.317. Pluginen beder brugeren om bekræftelse, før der anvendes webværktøjer eller genereres curl-stil kommandoer, hvori e-mail nævnes. Pluginen løser ikke alle mulige veje for lækage, eksempelvis hjælper den ikke i situationer, hvor Claude selv genererer og kører et script.
For at fuldt ud blokere problemet er det besluttet i den næste udgivelse af Claude Code, som planlægges udgivet om et par dage, at fjerne e-mail fra den kontekst, der sendes til AI-modellen.

Kilde: opennet.ru