Claude Code odhaľoval email používateľa pri prístupe na niektoré webové stránky

V AI agente Claude Code bola zistená problematika ochrany súkromia, ktorá viedla k úniku informácií o emailovej adrese pri prístupe na niektoré externé stránky. Email bol uvedený v HTTP hlavičke User-Agent bez súhlasu používateľa a bez možnosti vypnúť toto správanie. Vkladal sa pre niektoré stránky, ako Wikipedia a SEC (Securities and Exchange Commission), ktoré neprijímajú požiadavky od botov, v ktorých nie je uvedený email vlastníka. Podľa komentára zástupcu spoločnosti Anthropic takáto aktivita nebola špeciálne implementovanou funkciou, ale samostatnosťou AI modelu, ktorý zohľadnil požiadavky na formátovanie požiadaviek od botov a odporúčania RFC-9110, ktoré predpisujú, že pre automatizované žiadosti sa má poskytnúť kontaktný email.

Údaje o emaili priradenom k účtu používateľa v Claude Code sa prenášali AI modelu tak, aby zohľadňoval kontext pri spracovaní úloh spojených s používateľom a jeho účtom. Bez takéhoto kontextu model halucinoval a používal vymyslené informácie, napríklad v značkách „@author“. Nežiaducim vedľajším účinkom bolo to, že AI model začal používať email nielen na očakávané účely, ale aj pri vykonávaní sprievodných úloh, napríklad ho vložil do poľa User-Agent pri generovaní príkazov pre nástroj curl.

Na blokovanie úniku emailu vo vonkajších požiadavkách
bol pripravený plugin cc-plugin-privacy, ktorý je súčasťou štandardného súboru pluginov a je aktivovaný predvolene vo vydaní claude-code 2.1.317. Plugin žiada používateľa o potvrdenie pred použitím webových nástrojov alebo generovaním príkazov v štýle curl, v ktorých je spomenutý email. Plugin nerieši všetky možné cesty úniku, napríklad nepomáha v situácii, keď Claude generuje a sám spúšťa skript.
Na úplné blokovanie problému sa v nasledujúcom vydaní Claude Code, ktoré plánujú vydať o niekoľko dní, rozhodlo odstrániť email z kontextu, ktorý sa posiela AI modelu.

Zdroj: opennet.ru