Claude Code je razkrival e-poštni naslov uporabnika, ko se je obrnil na nekatere spletne strani

V AI agentu Claude Code je bila odkrita težava s zagotavljanjem zaupnosti, ki je privedla do uhajanja informacij o e-poštnem naslovu pri dostopanju do nekaterih zunanjih spletnih mest. E-poštni naslov se je navedel v HTTP glavi User-Agent brez soglasja uporabnika in brez možnosti, da bi to vedenje izklopili. Zamenjava se je izvajala za posamezna spletna mesta, kot sta Wikipedia in SEC (Securities and Exchange Commission), ki ne sprejemata zahtevkov od botov, pri katerih ni naveden e-poštni naslov lastnika. Sodeč po komentarju predstavnika podjetja Anthropic, takšna aktivnost ni bila posebej dodana funkcija, temveč lastna dejavnost AI modela, ki je upoštevala zahteve za oblikovanje zahtevkov od botov in priporočila RFC-9110, ki predpisujejo prenos kontaktnega e-poštnega naslova za avtomatizirane zahtevke.

Podatki o e-pošti, povezani z uporabniškim računom, so se v Claude Code prenesli AI modelu, da bi upošteval kontekst pri obdelavi nalog, povezanih z uporabnikom in njegovim računom. Brez takšnega konteksta je model haluciniral in uporabljal izmišljene podatke, na primer, v oznakah «@author». Stranski učinek je bil, da je AI model začel uporabljati e-poštni naslov ne le za pričakovane namene, temveč tudi pri izvajanju povezanih nalog, na primer, ga je vstavlja v polje User-Agent pri oblikovanju zagonskih vrstic za orodje curl.

Za blokiranje uhajanja e-pošte v zunanjih zahtevkih
je pripravljen vtičnik cc-plugin-privacy, ki je vključen v osnovni nabor vtičnikov in je privzeto aktiviran v izdaji claude-code 2.1.317. Vtičnik zahteva potrditev uporabnika pred uporabo spletnih orodij ali generiranjem ukazov v slogu curl, pri katerih se omeni e-pošta. Vtičnik ne rešuje vseh možnih poti uhajanja, na primer, ne pomaga v situaciji, ko Claude generira in samostojno zažene skript.
Za popolno blokiranje težave so se v naslednji različici Claude Code, ki jo nameravajo izdati v naslednjih dneh, odločili odstraniti e-poštni naslov iz konteksta, ki se prenaša AI modelu.

Izvor: opennet.ru