{"id":113971,"date":"2024-02-29T18:25:41","date_gmt":"2024-02-29T16:25:42","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod"},"modified":"2024-02-29T18:25:41","modified_gmt":"2024-02-29T16:25:42","slug":"v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","status":"publish","type":"post","link":"https:\/\/prohoster.info\/nl\/blog\/news\/v-repozitorii-hugging-face-vyyavleny-vredonosnye-ai-modeli-vypolnyayushhie-kod","title":{"rendered":"In de Hugging Face-repository zijn kwaadaardige AI-modellen ontdekt die code uitvoeren.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Onderzoekers van JFrog hebben kwaadaardige machinelearningmodellen ontdekt in de Hugging Face-repository, waarvan de installatie kan leiden tot het uitvoeren van code door de aanvaller om controle over het systeem van de gebruiker te krijgen. Dit probleem wordt veroorzaakt doordat sommige formaten voor het verspreiden van modellen het insluiten van uitvoerbare code toestaan, bijvoorbeeld modellen die het formaat 'pickle' gebruiken, kunnen geserialiseerde objecten in Python bevatten, evenals code die wordt uitgevoerd bij het laden van het bestand, en Tensorflow Keras-modellen kunnen code uitvoeren via Lambda Layer. <\/p>\n
Om de verspreiding van dergelijke kwaadaardige modellen in Hugging Face te voorkomen, wordt gescand op de substitutie van geserialiseerde code, maar de ontdekte kwaadaardige modellen tonen aan dat bestaande controles kunnen worden omzeild. Bovendien markeert Hugging Face in de meeste gevallen modellen als gevaarlijk, zonder de toegang ertoe te blokkeren. In totaal zijn er ongeveer 100 potenti\u00ebel kwaadaardige modellen ontdekt, waarvan 95% bedoeld is voor gebruik met het PyTorch-framework en 5% met Tensorflow. De meest voorkomende kwaadaardige wijzigingen zijn objectcapturing, het opzetten van een externe systeemtoegang (reverse shell), het starten van applicaties en het schrijven naar bestanden.
<\/center> <\/p>\n
Er wordt opgemerkt dat, gezien de acties, de meeste ontdekte kwaadaardige modellen zijn gemaakt door beveiligingsonderzoekers die proberen een beloning te krijgen voor het ontdekken van kwetsbaarheden en methoden om de bescherming van Hugging Face te omzeilen (bijvoorbeeld in plaats van een echte aanval, proberen dergelijke modellen de rekenmachine te starten of een netwerkverzoek te verzenden met informatie over het succes van de aanval). Daarbij komen ook exemplaren voor die een reverse shell starten om de aanvaller met het systeem te verbinden. <\/p>\n
Bijvoorbeeld, de modellen 'baller423\/goober2' en 'star23\/baller13' zijn gericht op het uitvoeren van aanvallen op systemen die het modelbestand in PyTorch laden via de functie torch.load(). Voor het organiseren van de uitvoering van de code wordt de methode '__reduce__' uit de pickle-module gebruikt, die het mogelijk maakt om willekeurige Python-code in het deserialisatieproces in te voegen dat wordt uitgevoerd bij het laden van het model. \n Bron: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"
![\"In](\"\/wp-content\/uploads\/2024\/02\/41044e0439dc5ab9dafa74966309f7e7.png\")
<\/center> <\/p>\n