{"id":113971,"date":"2024-02-29T18:25:41","date_gmt":"2024-02-29T16:25:42","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod"},"modified":"2024-02-29T18:25:41","modified_gmt":"2024-02-29T16:25:42","slug":"v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pt\/blog\/news\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","title":{"rendered":"Modelos de IA maliciosos identificados no reposit\u00f3rio Hugging Face","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Pesquisadores da empresa JFrog identificaram modelos de aprendizado de m\u00e1quina maliciosos no reposit\u00f3rio Hugging Face, cuja instala\u00e7\u00e3o pode levar \u00e0 execu\u00e7\u00e3o de c\u00f3digo do atacante para obter controle sobre o sistema do usu\u00e1rio. O problema surge porque alguns formatos de distribui\u00e7\u00e3o de modelos permitem a incorpora\u00e7\u00e3o de c\u00f3digo execut\u00e1vel, por exemplo, modelos que usam o formato \u00abpickle\u00bb podem incluir objetos serializados em Python, al\u00e9m de c\u00f3digo executado durante o carregamento do arquivo, e modelos Tensorflow Keras podem executar c\u00f3digo por meio do Lambda Layer. <\/p>\n
Para evitar a dissemina\u00e7\u00e3o de modelos maliciosos no Hugging Face, \u00e9 aplicado um escaneamento para detectar a inje\u00e7\u00e3o de c\u00f3digo serializado, mas os modelos maliciosos identificados mostram que as verifica\u00e7\u00f5es existentes podem ser contornadas. Al\u00e9m disso, o Hugging Face, na maioria dos casos, apenas marca os modelos como perigosos, sem bloquear o acesso a eles. Foram identificados cerca de 100 modelos potencialmente maliciosos, dos quais 95% s\u00e3o destinados ao uso com o framework PyTorch e 5% com TensorFlow. As modifica\u00e7\u00f5es maliciosas mais comuns incluem captura de objeto, organiza\u00e7\u00e3o de acesso remoto ao sistema (reverse shell), execu\u00e7\u00e3o de aplicativos e grava\u00e7\u00e3o em arquivo.
<\/center> <\/p>\n
Observa-se que, com base nas a\u00e7\u00f5es realizadas, a maioria dos modelos maliciosos identificados foi criada por pesquisadores de seguran\u00e7a que tentam obter recompensas por descobrir vulnerabilidades e m\u00e9todos de contorno da prote\u00e7\u00e3o do Hugging Face (por exemplo, em vez de um ataque real, esses modelos tentam executar uma calculadora ou enviar uma solicita\u00e7\u00e3o de rede com informa\u00e7\u00f5es sobre o sucesso do ataque). No entanto, tamb\u00e9m existem inst\u00e2ncias que acionam um reverse shell para conectar o atacante ao sistema. <\/p>\n
Por exemplo, os modelos \u00abballer423\/goober2\u00bb e \u00abstar23\/baller13\u00bb t\u00eam como alvo a realiza\u00e7\u00e3o de ataques em sistemas que carregam o arquivo do modelo em PyTorch usando a fun\u00e7\u00e3o torch.load(). Para facilitar a execu\u00e7\u00e3o de c\u00f3digo, o m\u00e9todo \u00ab__reduce__\u00bb do m\u00f3dulo pickle \u00e9 utilizado, permitindo a inser\u00e7\u00e3o de c\u00f3digo Python arbitr\u00e1rio no processo de desserializa\u00e7\u00e3o que ocorre durante o carregamento do modelo. \n Fonte: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
![\"Modelos](\"\/wp-content\/uploads\/2024\/02\/41044e0439dc5ab9dafa74966309f7e7.png\")
<\/center> <\/p>\n