{"id":113971,"date":"2024-02-29T18:25:41","date_gmt":"2024-02-29T16:25:42","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod"},"modified":"2024-02-29T18:25:41","modified_gmt":"2024-02-29T16:25:42","slug":"v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sv\/blog\/news\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","title":{"rendered":"Malicious AI-modeller som k\u00f6r kod har identifierats i Hugging Face-repositoriet","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Forskare fr\u00e5n JFrog har uppt\u00e4ckt skadliga maskininl\u00e4rningsmodeller i Hugging Face-repositoriet, vars installation kan leda till att angriparens kod k\u00f6rs f\u00f6r att f\u00e5 kontroll \u00f6ver anv\u00e4ndarens system. Problemet beror p\u00e5 att vissa format f\u00f6r distribution av modeller till\u00e5ter inb\u00e4ddning av exekverbar kod, till exempel kan modeller som anv\u00e4nder formatet \u00abpickle\u00bb inkludera serialiserade objekt p\u00e5 Python-spr\u00e5ket samt kod som k\u00f6rs n\u00e4r filen laddas, medan Tensorflow Keras-modeller kan exekvera kod via Lambda Layer. <\/p>\n
F\u00f6r att f\u00f6rhindra spridning av s\u00e5dana skadliga modeller anv\u00e4nds skanning f\u00f6r att uppt\u00e4cka inb\u00e4ddad serialiserad kod i Hugging Face, men de uppt\u00e4ckta skadliga modellerna visar att de befintliga kontrollerna kan kringg\u00e5s. Dessutom markerar Hugging Face i de flesta fall bara modeller som farliga utan att blockera \u00e5tkomst till dem. Totalt har cirka 100 potentiellt skadliga modeller identifierats, varav 95 % \u00e4r avsedda f\u00f6r anv\u00e4ndning med PyTorch-ramverket och 5 % med Tensorflow. De vanligaste skadliga \u00e4ndringarna inkluderar objektkapning, organisation av inloggning fr\u00e5n en extern plats (reverse shell), k\u00f6rning av program och filskrivning.
<\/center> <\/p>\n
Det noteras att, baserat p\u00e5 de vidtagna \u00e5tg\u00e4rderna, har de flesta uppt\u00e4ckta skadliga modeller skapats av s\u00e4kerhetsforskare som f\u00f6rs\u00f6ker f\u00e5 bel\u00f6ning f\u00f6r att uppt\u00e4cka s\u00e5rbarheter och metoder f\u00f6r att kringg\u00e5 skyddet hos Hugging Face (till exempel, ist\u00e4llet f\u00f6r en verklig attack f\u00f6rs\u00f6ker s\u00e5dana modeller starta kalkylatorn eller skicka ett n\u00e4tverksanrop med information om attackens framg\u00e5ng). Det f\u00f6rekommer \u00e4ven instanser som k\u00f6r en reverse shell f\u00f6r att ansluta angriparen till systemet. <\/p>\n
Till exempel riktar sig modellerna \u00abballer423\/goober2\u00bb och \u00abstar23\/baller13\u00bb mot att genomf\u00f6ra attacker p\u00e5 system som laddar modellfilen i PyTorch med funktionen torch.load(). F\u00f6r att m\u00f6jligg\u00f6ra k\u00f6rning av kod anv\u00e4nds metoden \u00ab__reduce__\u00bb fr\u00e5n pickle-modulen, vilket g\u00f6r det m\u00f6jligt att infoga godtycklig Python-kod i deserialiseringsprocessen som genomf\u00f6rs vid modellens inladdning. \n K\u00e4lla: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
![\"Malicious](\"\/wp-content\/uploads\/2024\/02\/41044e0439dc5ab9dafa74966309f7e7.png\")
<\/center> <\/p>\n