Claude Code разкриваше имейл адреса на потребителя при достъп до някои сайтове

В AI-агента Claude Code е установен проблем с осигуряването на конфиденциалност, който е довел до изтичане на данни за email адреса при взаимодействие с някои външни уебсайтове. Email адресът е бил включен в HTTP заглавката User-Agent без съгласието на потребителя и без възможност да се деактивира това поведение. Заместителят е бил извършван за определени сайтове, като Wikipedia и SEC (Комисия за ценни книжа), които не приемат заявки от ботове, когато не е посочен email на собственика. Съдейки по коментара на представител на компанията Anthropic, подобна активност не е била умишлено добавена функция, а действие на AI модела, който е отчел изискванията за форматиране на заявки от ботове и препоръките на RFC-9110, които предписват предаване на контактния email за автоматизирани обращения.

Данните за email, свързан с акаунта на потребителя, в Claude Code са били предавани на AI модела, за да отчита контекста при обработка на задачи, свързани с потребителя и неговия акаунт. Без подобен контекст моделът е хиперболизирал и е използвал измислени данни, като например, в таговете «@author». Страничният ефект е бил, че AI моделът е започнал да използва email адреса не само за очакваните цели, но и при изпълнение на свързани задачи, например е включвал в полето User-Agent при генериране на команди за утилитата curl.

За блокиране на изтичането на email при външни заявки
е подготвен плъгин cc-plugin-privacy, който е включен в стандартния набор от плъгини и е активиран по подразбиране в версия claude-code 2.1.317. Плъгинът изисква потвърждение от потребителя преди прилагане на уеб инструменти или генериране на команди в стил curl, в които се споменава email. Плъгинът не решава всички възможни начини за изтичане, например, не помага в ситуация, когато Claude генерира и сам стартира скрипт.
За пълно блокиране на проблема в следващото издание на Claude Code, което планира да бъде пуснато след няколко дни, е решено да се премахне email адресът от контекста, предаван на AI модела.

Източник: opennet.ru