Claude Code zbulonte email-in e përdoruesit kur i drejtohej disa faqeve

Në AI-agjentin Claude Code u zbulua një problem me sigurinë e privatësisë, i cili shkaktonte rrjedhjen e të dhënave mbi adresën e emailit gjatë vizitave në disa faqe të palëve të treta. Emaili shfaqej në titullin HTTP User-Agent pa miratimin e përdoruesit dhe pa mundësinë për ta çaktivizuar këtë sjellje. Zëvendësimi bëhej për disa faqe, si Wikipedia dhe SEC (Komisioni i Securities), të cilat nuk pranojnë kërkesa nga robotët pa emailin e pronarit. Sipas komentit të përfaqësuesit të kompanisë Anthropic, një aktivitet i tillë nuk ishte një funksion i shtuar me vetëdije, por një veprim individual i modelit AI, i cili mori parasysh kërkesat për formatimin e kërkesave nga robotët dhe rekomandimet RFC-9110, që parashikojnë kalimin e emailit të kontaktit për kërkesat e automatizuara.

Të dhënat mbi emailin e lidhur me llogarinë e përdoruesit në Claude Code i janë dërguar modelit AI që të merrte parasysh kontekstin gjatë përpunimit të detyrave që lidhen me përdoruesin dhe llogarinë e tij. Pa këtë kontekst, modeli krijonte informacione të pavërteta dhe përdorte të dhëna të shpikura, për shembull, në etiketat «@author». Një efekt anësor ishte se modeli AI filloi të përdorte emailin jo vetëm për qëllimet e pritura, por gjithashtu gjatë kryerjes së detyrave të tjera, duke e futur në fushën User-Agent gjatë gjenerimit të stringjeve të komandave për utilitarin curl.

Për të bllokuar rrjedhjen e emailit në kërkesat e jashtme
është përgatitur plugin cc-plugin-privacy, i cili është përfshirë në paketën standard të plugineve dhe është aktivizuar si parazgjedhje në versionin claude-code 2.1.317. Plugin-i kërkon miratimin e përdoruesit përpara se të aplikojë mjete web apo të gjenerojë komanda në stilin curl, në të cilat përmendet emaili. Plugin-i nuk zgjidh të gjitha rrugët e mundshme të rrjedhjes, për shembull, nuk ndihmon në situatën kur Claude gjeneron dhe vetë fillon një skenar.
Për bllokimin e plotë të problemit në versionin e ardhshëm të Claude Code, që planifikohet të lëshohet brenda disa ditësh, është vendosur të hiqet emaili nga konteksti i dërguar modelit AI.

Burimi: opennet.ru