{"id":113971,"date":"2024-02-29T18:25:41","date_gmt":"2024-02-29T16:25:42","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod"},"modified":"2024-02-29T18:25:41","modified_gmt":"2024-02-29T16:25:42","slug":"v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","status":"publish","type":"post","link":"https:\/\/prohoster.info\/de\/blog\/novosti-interneta\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","title":{"rendered":"Im Hugging Face-Repository wurden schadhafte KI-Modelle entdeckt, die Code ausf\u00fchren.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Forscher von JFrog haben im Hugging Face-Repository sch\u00e4dliche Maschinenlernmodelle entdeckt, deren Installation zur Ausf\u00fchrung von Angreifercode f\u00fchren kann, wodurch die Kontrolle \u00fcber das System des Nutzers erlangt wird. Das Problem entsteht, weil einige Modellverbreitungsformate das Einbetten von ausf\u00fchrbarem Code zulassen; beispielsweise k\u00f6nnen Modelle im \"pickle\"-Format serialisierte Python-Objekte sowie Code enthalten, der beim Laden der Datei ausgef\u00fchrt wird, w\u00e4hrend Tensorflow Keras-Modelle Code \u00fcber Lambda Layer ausf\u00fchren k\u00f6nnen. <\/p>\n
Um die Verbreitung solcher sch\u00e4dlichen Modelle zu verhindern, wird bei Hugging Face eine \u00dcberpr\u00fcfung auf Serialisierungs-Code-Injektionen durchgef\u00fchrt. Doch die entdeckten sch\u00e4dlichen Modelle zeigen, dass bestehende Kontrollen umgangen werden k\u00f6nnen. Dar\u00fcber hinaus kennzeichnet Hugging Face in den meisten F\u00e4llen Modelle lediglich als gef\u00e4hrlich, sperrt jedoch nicht den Zugriff darauf. Insgesamt wurden etwa 100 potenziell sch\u00e4dliche Modelle identifiziert, von denen 95 % f\u00fcr die Verwendung mit dem PyTorch-Framework und 5 % mit TensorFlow vorgesehen sind. Am h\u00e4ufigsten wurden sch\u00e4dliche \u00c4nderungen wie Objekterfassung, Bereitstellung eines externen Systemzugangs (Reverse Shell), das Ausf\u00fchren von Anwendungen und das Schreiben in Dateien genannt.
<\/center> <\/p>\n
Es wird festgestellt, dass die Mehrheit der identifizierten sch\u00e4dlichen Modelle gem\u00e4\u00df den durchgef\u00fchrten Aktionen von Sicherheitsexperten erstellt wurde, die versuchen, Belohnungen f\u00fcr die Entdeckung von Schwachstellen und Methoden zur Umgehung des Hugging Face-Schutzes zu erhalten (zum Beispiel versuchen solche Modelle, einen Rechner zu starten oder eine Netzwerkabfrage mit Informationen \u00fcber den Erfolg des Angriffs zu senden, anstatt einen echten Angriff durchzuf\u00fchren). Es gibt jedoch auch Exemplare, die einen Reverse-Shell starten, um den Angreifer mit dem System zu verbinden. <\/p>\n
Zum Beispiel zielen die Modelle \"baller423\/goober2\" und \"star23\/baller13\" darauf ab, Angriffe auf Systeme zu starten, die Modelldateien in PyTorch mit der Funktion torch.load() laden. Um die Codeausf\u00fchrung zu organisieren, wird die Methode \"__reduce__\" aus dem pickle-Modul verwendet, die es erlaubt, beliebigen Python-Code in den Deserialisierungsprozess einzuf\u00fcgen, der beim Laden des Modells ausgef\u00fchrt wird. \n Quelle: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
![\"Im](\"\/wp-content\/uploads\/2024\/02\/41044e0439dc5ab9dafa74966309f7e7.png\")
<\/center> <\/p>\n