{"id":113971,"date":"2024-02-29T18:25:41","date_gmt":"2024-02-29T16:25:42","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod"},"modified":"2024-02-29T18:25:41","modified_gmt":"2024-02-29T16:25:42","slug":"v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","status":"publish","type":"post","link":"https:\/\/prohoster.info\/de\/blog\/news\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","title":{"rendered":"Im Hugging Face Repository wurden sch\u00e4dliche KI-Modelle entdeckt, die Code ausf\u00fchren.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Forscher von JFrog haben im Repository von Hugging Face b\u00f6sartige Machine-Learning-Modelle entdeckt, deren Installation zur Ausf\u00fchrung von Angreifer-Code f\u00fchren kann, um die Kontrolle \u00fcber das System des Benutzers zu erlangen. Das Problem entsteht, weil einige Verteilungsformate von Modellen das Einbetten von ausf\u00fchrbarem Code zulassen; zum Beispiel k\u00f6nnen Modelle, die das «pickle»-Format verwenden, serialisierte Objekte in Python enthalten sowie Code, der beim Laden der Datei ausgef\u00fchrt wird. Tensorflow Keras-Modelle k\u00f6nnen Code \u00fcber die Lambda-Schicht ausf\u00fchren. <\/p>\n
Um die Verbreitung solcher b\u00f6sartigen Modelle auf Hugging Face zu verhindern, wird ein Scan auf serialisierten Code durchgef\u00fchrt. Die identifizierten b\u00f6sartigen Modelle zeigen jedoch, dass die vorhandenen \u00dcberpr\u00fcfungen umgangen werden k\u00f6nnen. Dar\u00fcber hinaus kennzeichnet Hugging Face die Modelle in den meisten F\u00e4llen lediglich als gef\u00e4hrlich, ohne den Zugriff auf sie zu blockieren. Insgesamt wurden etwa 100 potenziell b\u00f6sartige Modelle identifiziert, von denen 95 % f\u00fcr die Verwendung mit dem PyTorch-Framework und 5 % mit Tensorflow bestimmt sind. Die h\u00e4ufigsten b\u00f6sartigen \u00c4nderungen umfassen die \u00dcbernahme von Objekten, die Organisation eines externen Systemzugriffs (Reverse Shell), das Starten von Anwendungen und das Schreiben in Dateien.
<\/center> <\/p>\n
Es wird festgestellt, dass die meisten identifizierten b\u00f6sartigen Modelle laut den durchgef\u00fchrten Aktionen von Sicherheitsforschern erstellt wurden, die versuchen, eine Belohnung f\u00fcr die Entdeckung von Schwachstellen und Methoden zum Umgehen von Hugging Faces Schutzma\u00dfnahmen zu erhalten (zum Beispiel versuchen solche Modelle, statt eines echten Angriffs einen Taschenrechner zu starten oder eine Netzwerk-Anfrage mit Informationen \u00fcber den Erfolg des Angriffs zu senden). Dabei gibt es auch Exemplare, die eine Reverse Shell starten, um den Angreifer mit dem System zu verbinden. <\/p>\n
Zum Beispiel zielen die Modelle «baller423\/goober2» und «star23\/baller13» darauf ab, Angriffe auf Systeme durchzuf\u00fchren, die die Modell-Datei in PyTorch mit der Funktion torch.load() laden. Um die Codeausf\u00fchrung zu erm\u00f6glichen, wird die Methode «__reduce__» aus dem Modul pickle verwendet, die es erm\u00f6glicht, beliebigen Python-Code in den Deserialisierungsprozess einzuf\u00fcgen, der beim Laden des Modells ausgef\u00fchrt wird. \n Quelle: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
![\"Im](\"\/wp-content\/uploads\/2024\/02\/41044e0439dc5ab9dafa74966309f7e7.png\")
<\/center> <\/p>\n