Claude Code odhalil email uživatele při přístupu na některé weby

V AI agentu Claude Code byla zjištěna problém s ochranou soukromí, který vedl k úniku informací o e-mailové adrese při přístupu na některé externí weby. E-mail byl uváděn v HTTP hlavičce User-Agent bez souhlasu uživatele a bez možnosti toto chování vypnout. Substituce byla prováděna pro jednotlivé weby, jako je Wikipedia a SEC (Securities and Exchange Commission), které nepřijímají žádosti od botů, u kterých není uvedena e-mailová adresa vlastníka. Soudě podle komentáře zástupce společnosti Anthropic, tato aktivita nebyla záměrně přidanou funkcí, ale samovolnou činností AI modelu, který vzal v úvahu požadavky na formát žádostí od botů a doporučení RFC-9110, které předepsalo předávat kontaktní e-mail pro automatizované dotazy.

Informace o e-mailu spojeném s uživatelským účtem byly v Claude Code předávány AI modelu, aby model zohlednil kontext při zpracování úkolů souvisejících s uživatelem a jeho účtem. Bez tohoto kontextu model halucinoval a používal vymyšlené informace, například v tagách „@author“. Vedlejším efektem bylo to, že AI model začal používat e-mail nejen pro očekávané účely, ale také při plnění souvisejících úkolů, například jej podával do pole User-Agent při vytváření spouštěcích řetězců pro utilitu curl.

Pro blokaci úniku e-mailu ve vnějším dotazech
byl připraven plugin cc-plugin-privacy, který je součástí standardní sady pluginů a je ve verzi claude-code 2.1.317 aktivován ve výchozím nastavení. Plugin žádá uživatele o potvrzení před použitím webových nástrojů nebo generováním příkazů ve stylu curl, které obsahují e-mail. Plugin neřeší všechny možné cesty úniku, například nepomůže v situaci, kdy Claude generuje a sám spouští skript.
Pro úplné blokování problému bylo v příští verzi Claude Code, kterou plánují vydat během několika dní, rozhodnuto odstranit e-mail z kontextu předávaného AI modelu.

Zdroj: opennet.ru