{"id":113971,"date":"2024-02-29T18:25:41","date_gmt":"2024-02-29T16:25:42","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod"},"modified":"2024-02-29T18:25:41","modified_gmt":"2024-02-29T16:25:42","slug":"v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","status":"publish","type":"post","link":"https:\/\/prohoster.info\/it\/blog\/novosti-interneta\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","title":{"rendered":"Modelli AI malevoli che eseguono codice rilevati nel repository di Hugging Face","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
I ricercatori di JFrog hanno identificato nel repository Hugging Face modelli di machine learning dannosi, la cui installazione pu\u00f2 portare all'esecuzione di codice da parte di un attaccante per ottenere il controllo sul sistema dell'utente. Il problema \u00e8 causato dal fatto che alcuni formati di distribuzione dei modelli consentono l'incorporamento di codice eseguibile; ad esempio, i modelli che utilizzano il formato \u00abpickle\u00bb possono includere oggetti serializzati in Python, oltre a codice eseguito durante il caricamento del file, mentre i modelli Tensorflow Keras possono eseguire codice tramite Lambda Layer. <\/p>\n
Per prevenire la distribuzione di modelli malevoli nel repository di Hugging Face, viene effettuata una scansione per l'inserimento di codice serializzato, ma i modelli malevoli identificati dimostrano che i controlli esistenti possono essere aggirati. Inoltre, Hugging Face nella maggior parte dei casi etichetta i modelli come pericolosi senza bloccare il loro accesso. Sono stati identificati circa 100 modelli potenzialmente malevoli, il 95% dei quali destinati all'uso con il framework PyTorch e il 5% con Tensorflow. Le modifiche malevoli pi\u00f9 comuni includono il furto di oggetti, la creazione di accessi remoti al sistema, l'avvio di applicazioni e la scrittura su file.
<\/center> <\/p>\n
Si osserva che, in base alle azioni intraprese, la maggior parte dei modelli malevoli identificati \u00e8 stata creata da ricercatori di sicurezza che tentano di ottenere ricompense per la scoperta di vulnerabilit\u00e0 e modalit\u00e0 di aggiramento della protezione di Hugging Face (ad esempio, invece di effettuare un attacco reale, tali modelli cercano di avviare una calcolatrice o inviare una richiesta di rete con informazioni sul successo dell'attacco). Tuttavia, ci sono anche esemplari che avviano un reverse shell per connettere l'attaccante al sistema. <\/p>\n
Ad esempio, i modelli \u00abballer423\/goober2\u00bb e \u00abstar23\/baller13\u00bb sono mirati ad attaccare i sistemi che caricano un file modello in PyTorch utilizzando la funzione torch.load(). Per organizzare l'esecuzione del codice \u00e8 stato impiegato il metodo \u00ab__reduce__\u00bb del modulo pickle, che consente di inserire codice Python arbitrario nel processo di deserializzazione eseguito durante il caricamento del modello. \n Fonte: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
![\"Modelli](\"\/wp-content\/uploads\/2024\/02\/41044e0439dc5ab9dafa74966309f7e7.png\")
<\/center> <\/p>\n