{"id":113971,"date":"2024-02-29T18:25:41","date_gmt":"2024-02-29T16:25:42","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod"},"modified":"2024-02-29T18:25:41","modified_gmt":"2024-02-29T16:25:42","slug":"v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","status":"publish","type":"post","link":"https:\/\/prohoster.info\/hu\/blog\/news\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","title":{"rendered":"A Hugging Face t\u00e1rol\u00f3j\u00e1ban k\u00e1rtev\u0151 AI modellek ker\u00fcltek el\u0151, amelyek k\u00f3dot futtatnak.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
A JFrog kutat\u00f3i felfedezt\u00e9k, hogy a Hugging Face adatt\u00e1r\u00e1ban rosszindulat\u00fa g\u00e9pi tanul\u00e1si modellek tal\u00e1lhat\u00f3k, melyek telep\u00edt\u00e9se a t\u00e1mad\u00f3 k\u00f3dj\u00e1nak v\u00e9grehajt\u00e1s\u00e1hoz vezethet a felhaszn\u00e1l\u00f3i rendszer feletti ellen\u0151rz\u00e9s \u00e9rdek\u00e9ben. A probl\u00e9ma abb\u00f3l ad\u00f3dik, hogy egyes modellek terjeszt\u00e9si form\u00e1tumai lehet\u0151v\u00e9 teszik a v\u00e9grehajthat\u00f3 k\u00f3d be\u00e1gyaz\u00e1s\u00e1t, p\u00e9ld\u00e1ul a «pickle» form\u00e1tumot haszn\u00e1l\u00f3 modellek tartalmazhatnak Python nyelven sorozatba rendezett objektumokat, valamint k\u00f3dot, amely a f\u00e1jl bet\u00f6lt\u00e9sekor fut le, m\u00edg a Tensorflow Keras modellek k\u00f3dot futtathatnak a Lambda Layer-en kereszt\u00fcl. <\/p>\n
A Hugging Face v\u00e9delme \u00e9rdek\u00e9ben a k\u00e1rtev\u0151 modellek elterjed\u00e9s\u00e9nek megakad\u00e1lyoz\u00e1s\u00e1ra ellen\u0151rzi a be\u00e1gyazott szerializ\u00e1lt k\u00f3dot, de a felfedezett k\u00e1rtev\u0151 modellek azt mutatj\u00e1k, hogy a megl\u00e9v\u0151 ellen\u0151rz\u00e9sek megker\u00fclhet\u0151k. Ezen k\u00edv\u00fcl a Hugging Face a legt\u00f6bb esetben csak megjel\u00f6li a modelleket vesz\u00e9lyesnek, an\u00e9lk\u00fcl, hogy blokkoln\u00e1 a hozz\u00e1f\u00e9r\u00e9st. \u00d6sszesen k\u00f6r\u00fclbel\u00fcl 100 potenci\u00e1lisan k\u00e1rtev\u0151 modellt azonos\u00edtottak, amelyb\u0151l a modellek 95%-a a PyTorch keretrendszerhez k\u00e9sz\u00fclt, m\u00edg 5%-a a Tensorflowhoz. A leggyakoribb k\u00e1rtev\u0151 m\u00f3dos\u00edt\u00e1sok k\u00f6z\u00f6tt szerepel az objektum elfog\u00e1sa, a ford\u00edtott shell l\u00e9trehoz\u00e1sa, alkalmaz\u00e1sok ind\u00edt\u00e1sa \u00e9s f\u00e1jlba \u00edr\u00e1s.
<\/center> <\/p>\n
Megjegyzend\u0151, hogy a v\u00e9grehajtott tev\u00e9kenys\u00e9gek alapj\u00e1n a legt\u00f6bb megtal\u00e1lt k\u00e1rtev\u0151 modellt biztons\u00e1gi kutat\u00f3k hozt\u00e1k l\u00e9tre, akik jutalmat pr\u00f3b\u00e1lnak szerezni a Hugging Face sebezhet\u0151s\u00e9geinek \u00e9s a v\u00e9delem megker\u00fcl\u00e9s\u00e9nek felfedez\u00e9s\u00e9\u00e9rt (p\u00e9ld\u00e1ul a val\u00f3di t\u00e1mad\u00e1s helyett ezek a modellek megpr\u00f3b\u00e1lnak kalkul\u00e1tort ind\u00edtani vagy h\u00e1l\u00f3zati k\u00e9r\u00e9st k\u00fcldeni a t\u00e1mad\u00e1s siker\u00e9r\u0151l). Ezen k\u00edv\u00fcl el\u0151fordulnak olyan p\u00e9ld\u00e1nyok is, amelyek ford\u00edtott shellet ind\u00edtanak a t\u00e1mad\u00f3 rendszerhez val\u00f3 csatlakoz\u00e1s \u00e9rdek\u00e9ben. <\/p>\n
P\u00e9ld\u00e1ul a «baller423\/goober2» \u00e9s «star23\/baller13» modellek c\u00e9lja, hogy t\u00e1mad\u00e1st ind\u00edtsanak azok ellen a rendszerek ellen, amelyek a PyTorch keretrendszerben a torch.load() funkci\u00f3val t\u00f6ltik be a modelf\u00e1jlt. A k\u00f3d v\u00e9grehajt\u00e1s\u00e1nak megszervez\u00e9s\u00e9re a pickle modul «__reduce__» nev\u0171 met\u00f3dus\u00e1t haszn\u00e1lj\u00e1k, amely lehet\u0151v\u00e9 teszi tetsz\u0151leges Python-k\u00f3d beilleszt\u00e9s\u00e9t a deszerializ\u00e1l\u00e1s sor\u00e1n, amely a modell bet\u00f6lt\u00e9sekor t\u00f6rt\u00e9nik. \n Forr\u00e1s: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
![\"A](\"\/wp-content\/uploads\/2024\/02\/41044e0439dc5ab9dafa74966309f7e7.png\")
<\/center> <\/p>\n