{"id":113971,"date":"2024-02-29T18:25:41","date_gmt":"2024-02-29T16:25:42","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod"},"modified":"2024-02-29T18:25:41","modified_gmt":"2024-02-29T16:25:42","slug":"v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","status":"publish","type":"post","link":"https:\/\/prohoster.info\/es\/blog\/news\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","title":{"rendered":"Se han detectado modelos de IA maliciosos en el repositorio de Hugging Face que ejecutan c\u00f3digo.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Investigadores de JFrog han descubierto modelos de aprendizaje autom\u00e1tico maliciosos en el repositorio de Hugging Face, cuya instalaci\u00f3n puede permitir la ejecuci\u00f3n de c\u00f3digo por parte del atacante para controlar el sistema del usuario. El problema se debe a que algunos formatos de distribuci\u00f3n de modelos permiten la incorporaci\u00f3n de c\u00f3digo ejecutable, por ejemplo, los modelos que utilizan el formato \u00abpickle\u00bb pueden incluir objetos serializados en Python, as\u00ed como c\u00f3digo que se ejecuta al cargar el archivo, y los modelos de Tensorflow Keras pueden ejecutar c\u00f3digo a trav\u00e9s de Lambda Layer. <\/p>\n
Para prevenir la propagaci\u00f3n de estos modelos maliciosos, Hugging Face realiza escaneos para detectar la inyecci\u00f3n de c\u00f3digo serializado, pero los modelos maliciosos identificados muestran que las verificaciones existentes se pueden eludir. Adem\u00e1s, en la mayor\u00eda de los casos, Hugging Face solo etiqueta a los modelos como peligrosos sin bloquear su acceso. Se han identificado alrededor de 100 modelos potencialmente maliciosos, de los cuales el 95 % est\u00e1n destinados a ser utilizados con el marco de trabajo PyTorch y el 5 % con TensorFlow. Los cambios maliciosos m\u00e1s comunes incluyen la captura de objetos, la organizaci\u00f3n de acceso remoto al sistema (reverse shell), la ejecuci\u00f3n de aplicaciones y la escritura en archivos.
<\/center> <\/p>\n
Se observa que, seg\u00fan las acciones realizadas, la mayor\u00eda de los modelos maliciosos identificados han sido creados por investigadores de seguridad que intentan obtener recompensas por descubrir vulnerabilidades y m\u00e9todos de elusi\u00f3n de seguridad de Hugging Face (por ejemplo, en lugar de un ataque real, estos modelos intentan ejecutar una calculadora o enviar una solicitud de red con informaci\u00f3n sobre el \u00e9xito del ataque). Sin embargo, tambi\u00e9n se encuentran casos que inician un reverse shell para conectar al atacante con el sistema. <\/p>\n
Por ejemplo, los modelos \u00abballer423\/goober2\u00bb y \u00abstar23\/baller13\u00bb est\u00e1n dise\u00f1ados para atacar sistemas que cargan un archivo de modelo en PyTorch utilizando la funci\u00f3n torch.load(). Para organizar la ejecuci\u00f3n de c\u00f3digo, se utiliza el m\u00e9todo \u00ab__reduce__\u00bb del m\u00f3dulo pickle, lo que permite insertar c\u00f3digo Python arbitrario en el proceso de deserializaci\u00f3n que se realiza al cargar el modelo. \n Fuente: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
![\"Se](\"\/wp-content\/uploads\/2024\/02\/41044e0439dc5ab9dafa74966309f7e7.png\")
<\/center> <\/p>\n