Claude Code otkrivao je email korisnika prilikom pristupa određenim web stranicama

U AI-agentu Claude Code otkriven je problem s zaštitom privatnosti koji je rezultirao curenjem podataka o email adresi prilikom pristupa nekim vanjskim web stranicama. Email je bio naveden u HTTP zaglavlju User-Agent bez pristanka korisnika i bez mogućnosti isključivanja takvog ponašanja. Umetanje se događalo za pojedine web stranice, poput Wikipedije i SEC-a (Securities and Exchange Commission), koje ne prihvaćaju zahtjeve od botova bez navedenog emaila vlasnika. Sudeći prema komentaru predstavnika tvrtke Anthropic, takva aktivnost nije bila namjerno dodana funkcija, već samo djelovanje AI-modela koji je uzeo u obzir zahtjeve za formiranje zahtjeva od botova i preporuke RFC-9110 koje nalažu prosljeđivanje kontakt emaila za automatizirane upite.

Podaci o emailu povezani s korisničkim računom u Claude Code proslijeđeni su AI-modelu kako bi se uzela u obzir kontekst prilikom obrade zadataka povezanih s korisnikom i njegovim računom. Bez takvog konteksta model je halucinirao i koristio izmišljene informacije, primjerice, u oznakama «@author». Neželjen učinak bio je to što je AI-model počeo koristiti email ne samo za očekivane svrhe, već i prilikom izvršavanja povezanih zadataka, primjerice, umetao ga je u polje User-Agent prilikom formiranja nizova za pokretanje alata curl.

Za blokiranje curenja emaila u vanjskim zahtjevima
pripremljen je dodatak cc-plugin-privacy, koji je uključen u standardni skup dodataka i aktiviran po defaultu u izdanju claude-code 2.1.317. Dodatak traži od korisnika potvrdu prije primjene web alata ili generiranja komandi u stilu curl, u kojima se spominje email. Dodatak ne rješava sve moguće puteve curenja, primjerice, ne pomaže u situaciji kada Claude generira i sam pokreće skriptu.
Za potpuno blokiranje problema u sljedećem izdanju Claude Code-a, koje planiraju objaviti za nekoliko dana, odlučeno je ukloniti email iz konteksta proslijeđenog AI-modelu.

Izvor: opennet.ru