{"id":113971,"date":"2024-02-29T18:25:41","date_gmt":"2024-02-29T16:25:42","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod"},"modified":"2024-02-29T18:25:41","modified_gmt":"2024-02-29T16:25:42","slug":"v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","status":"publish","type":"post","link":"https:\/\/prohoster.info\/fr\/blog\/news\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","title":{"rendered":"Des mod\u00e8les d'IA malveillants ex\u00e9cutant du code ont \u00e9t\u00e9 d\u00e9couverts dans le d\u00e9p\u00f4t Hugging Face","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Des chercheurs de JFrog ont d\u00e9couvert des mod\u00e8les d'apprentissage automatique malveillants dans le d\u00e9p\u00f4t de Hugging Face, dont l'installation peut entra\u00eener l'ex\u00e9cution de code par l'attaquant pour prendre le contr\u00f4le du syst\u00e8me de l'utilisateur. Le probl\u00e8me provient du fait que certains formats de distribution de mod\u00e8les permettent l'incorporation de code ex\u00e9cutable, par exemple, les mod\u00e8les utilisant le format \u00ab pickle \u00bb peuvent inclure des objets s\u00e9rialis\u00e9s en Python, ainsi que du code ex\u00e9cut\u00e9 lors du chargement du fichier, tandis que les mod\u00e8les Tensorflow Keras peuvent ex\u00e9cuter du code via Lambda Layer. <\/p>\n
Pour \u00e9viter la propagation de tels mod\u00e8les malveillants, Hugging Face utilise un scan pour d\u00e9tecter la substitution de code s\u00e9rialis\u00e9, mais les mod\u00e8les malveillants identifi\u00e9s montrent que les v\u00e9rifications existantes peuvent \u00eatre contourn\u00e9es. De plus, Hugging Face, dans la plupart des cas, ne fait que marquer les mod\u00e8les comme dangereux, sans bloquer l'acc\u00e8s. En tout, environ 100 mod\u00e8les potentiellement malveillants ont \u00e9t\u00e9 identifi\u00e9s, dont 95 % sont destin\u00e9s \u00e0 \u00eatre utilis\u00e9s avec le cadre PyTorch et 5 % avec Tensorflow. Les modifications malveillantes les plus fr\u00e9quemment rencontr\u00e9es incluent la prise de contr\u00f4le d'objets, l'organisation d'un acc\u00e8s externe au syst\u00e8me (reverse shell), le lancement d'applications et l'\u00e9criture dans un fichier.
<\/center> <\/p>\n
Il est not\u00e9 qu'\u00e0 en juger par les actions entreprises, la majorit\u00e9 des mod\u00e8les malveillants identifi\u00e9s sont cr\u00e9\u00e9s par des chercheurs en s\u00e9curit\u00e9 cherchant \u00e0 obtenir une r\u00e9compense pour la d\u00e9couverte de vuln\u00e9rabilit\u00e9s et de m\u00e9thodes de contournement de la protection de Hugging Face (par exemple, au lieu d'une attaque r\u00e9elle, ces mod\u00e8les tentent de lancer une calculatrice ou d'envoyer une requ\u00eate r\u00e9seau avec des informations sur le succ\u00e8s de l'attaque). Il existe \u00e9galement des cas o\u00f9 des shells invers\u00e9s sont lanc\u00e9s pour connecter l'attaquant au syst\u00e8me. <\/p>\n
Par exemple, les mod\u00e8les \u00ab baller423\/goober2 \u00bb et \u00ab star23\/baller13 \u00bb visent \u00e0 mener une attaque sur les syst\u00e8mes chargeant le fichier mod\u00e8le dans PyTorch \u00e0 l'aide de la fonction torch.load(). Pour organiser l'ex\u00e9cution de code, la m\u00e9thode \u00ab __reduce__ \u00bb du module pickle est utilis\u00e9e, permettant d'ins\u00e9rer un code Python arbitraire dans le processus de d\u00e9s\u00e9rialisation lors du chargement du mod\u00e8le. \n Source : opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
![\"Des](\"\/wp-content\/uploads\/2024\/02\/41044e0439dc5ab9dafa74966309f7e7.png\")
<\/center> <\/p>\n