{"id":113971,"date":"2024-02-29T18:25:41","date_gmt":"2024-02-29T16:25:42","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod"},"modified":"2024-02-29T18:25:41","modified_gmt":"2024-02-29T16:25:42","slug":"v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","status":"publish","type":"post","link":"https:\/\/prohoster.info\/da\/blog\/news\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","title":{"rendered":"I Hugging Face-repositoriet er der opdaget skadelige AI-modeller, der kan udf\u00f8re kode.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Forskere fra JFrog har afsl\u00f8ret ondsindede maskinl\u00e6ringsmodeller i Hugging Face-repositoriet, hvis installation kan f\u00f8re til udf\u00f8relse af angriberens kode for at opn\u00e5 kontrol over brugerens system. Problemet skyldes, at nogle modeldistributionsformater tillader indlejring af eksekverbar kode; for eksempel kan modeller, der bruger formatet \u201epickle\u201c, inkludere serialiserede objekter i Python s\u00e5vel som kode, der udf\u00f8res ved indl\u00e6sning af filen, mens Tensorflow Keras-modeller kan udf\u00f8re kode gennem Lambda Layer. <\/p>\n
For at forhindre spredning af s\u00e5danne skadelige modeller anvender Hugging Face scanning for indf\u00f8jelse af serialiseret kode, men de opdagede skadelige modeller viser, at de eksisterende kontroller kan omg\u00e5s. Desuden markerer Hugging Face i de fleste tilf\u00e6lde kun modeller som farlige uden at blokere adgangen til dem. I alt er der opdaget omkring 100 potentielt skadelige modeller, hvoraf 95% er designet til brug med PyTorch-rammen, og 5% med Tensorflow. De mest f\u00e6lles skadelige \u00e6ndringer inkluderer objektfangst, organisering af ekstern systemadgang (reverse shell), k\u00f8rsel af applikationer og filskriveoperationer.
<\/center> <\/p>\n
Det bem\u00e6rkes, at de fleste af de opdagede skadelige modeller, vurderet ud fra deres adf\u00e6rd, er lavet af sikkerhedsforskere, der fors\u00f8ger at f\u00e5 bel\u00f8nning for at opdage s\u00e5rbarheder og m\u00e5der at omg\u00e5 Hugging Faces beskyttelse p\u00e5 (f.eks. pr\u00f8ver s\u00e5danne modeller i stedet for en reel angreb at k\u00f8re en lommeregner eller sende en netv\u00e6rksanmodning med information om angrebets succes). Der findes ogs\u00e5 eksempler, der k\u00f8rer en reverse shell for at forbinde angriberen til systemet. <\/p>\n
For eksempel sigter modellerne \u201eballer423\/goober2\u201c og \u201estar23\/baller13\u201c mod at udf\u00f8re angreb p\u00e5 systemer, der indl\u00e6ser model-filen i PyTorch ved hj\u00e6lp af funktionen torch.load(). Til at udf\u00f8re koden benyttes metoden \u201e__reduce__\u201c fra pickle-modulet, som g\u00f8r det muligt at inds\u00e6tte vilk\u00e5rlig Python-kode i deserialiseringsprocessen, der udf\u00f8res ved indl\u00e6sning af modellen. \n Kilde: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
![\"I](\"\/wp-content\/uploads\/2024\/02\/41044e0439dc5ab9dafa74966309f7e7.png\")
<\/center> <\/p>\n