{"id":113971,"date":"2024-02-29T18:25:41","date_gmt":"2024-02-29T16:25:42","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod"},"modified":"2024-02-29T18:25:41","modified_gmt":"2024-02-29T16:25:42","slug":"v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","status":"publish","type":"post","link":"https:\/\/prohoster.info\/it\/blog\/news\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","title":{"rendered":"Nel repository di Hugging Face sono state identificate modelli AI dannosi che eseguono codice","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
I ricercatori di JFrog hanno scoperto modelli di machine learning dannosi nel repository di Hugging Face, la cui installazione potrebbe portare all'esecuzione di codice malevolo da parte di un attaccante per ottenere il controllo del sistema dell'utente. Il problema \u00e8 causato dal fatto che alcuni formati di distribuzione dei modelli consentono l'incorporamento di codice eseguibile; ad esempio, i modelli che utilizzano il formato \u00abpickle\u00bb possono includere oggetti serializzati in Python e codice che viene eseguito durante il caricamento del file, mentre i modelli Tensorflow Keras possono eseguire codice tramite Lambda Layer. <\/p>\n
Per prevenire la diffusione di simili modelli dannosi, Hugging Face esegue scansioni per individuare l'inserimento di codice serializzato, ma i modelli dannosi identificati dimostrano che i controlli esistenti possono essere aggirati. Inoltre, Hugging Face nella maggior parte dei casi si limita a contrassegnare i modelli come pericolosi, senza bloccare l'accesso. Sono stati identificati circa 100 modelli potenzialmente dannosi, di cui il 95% destinati all'uso con il framework PyTorch e il 5% con Tensorflow. Le modifiche dannose pi\u00f9 comuni includono l'acquisizione di oggetti, l'organizzazione di accessi al sistema da remoto (reverse shell), l'esecuzione di applicazioni e la scrittura in file.
<\/center> <\/p>\n
Si osserva che, in base alle azioni compiute, la maggior parte dei modelli dannosi identificati \u00e8 stata creata da ricercatori di sicurezza che cercano di ottenere ricompense per la scoperta di vulnerabilit\u00e0 e metodi di bypass della sicurezza di Hugging Face (ad esempio, anzich\u00e9 attaccare realmente, questi modelli tentano di lanciare una calcolatrice o inviare una richiesta di rete con informazioni sul successo dell'attacco). Ci sono anche istanze che avviano un reverse shell per collegare l'attaccante al sistema. <\/p>\n
Ad esempio, i modelli \u00abballer423\/goober2\u00bb e \u00abstar23\/baller13\u00bb puntano a eseguire attacchi sui sistemi che caricano un file di modello in PyTorch utilizzando la funzione torch.load(). Per organizzare l'esecuzione del codice si utilizza il metodo \u00ab__reduce__\u00bb dal modulo pickle, che consente di inserire codice Python arbitrario nel processo di deserializzazione eseguito durante il caricamento del modello. \n Fonte: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
![\"Nel](\"\/wp-content\/uploads\/2024\/02\/41044e0439dc5ab9dafa74966309f7e7.png\")
<\/center> <\/p>\n