Dezvoltatorii depozitului de pachete Python PyPI (Python Package Index) au anunțat că au introdus o interdicție privind utilizarea adreselor de email @inbox.ru la înregistrarea de proiecte noi și la atașarea de emailuri suplimentare la proiectele existente. Cauza invocată este o avalanșă de spam, în urma căreia au fost create peste 250 de conturi și au fost generate peste 1500 de proiecte, care induc utilizatorii în eroare și reprezintă potențial o amenințare la adresa securității.
Proiectele create au fost folosite pentru rezervarea numelui unor biblioteci in existente, care sunt în mod eronat recomandate de mari modele lingvistice (sloopquoting) sau care seamănă cu numele unor proiecte populare. Înainte de interdicția impusă de administratorii PyPI, proiectele nu conțineau cod, dar se presupune că în viitor ar fi putut fi folosite pentru atacuri asupra utilizatorilor care urmează orbește recomandările chatbot-urilor sau care greșesc când scriu numele pachetelor.
De exemplu, s-au înregistrat pachete cu numele unor utilitare de linie de comandă pentru atacuri asupra proiectelor, numele bibliotecilor și utilitarelor în care se deosebesc. O cercetare anterioară a arătat eficiența ridicată a metodei — ChatGPT a recomandat să se descarce un model din Huggingface, sugerând o bibliotecă inexistentă, denumită „huggingface-cli” și a propus, pentru instalare, să se lanseze comanda „pip install huggingface-cli”. Cercetătorul a creat în PyPI o mască a proiectului cu acest nume și, în decurs de trei luni, a fost descărcată de peste 30 de mii de ori.
Sursa: opennet.ro
