{"id":114069,"date":"2024-03-03T12:25:49","date_gmt":"2024-03-03T10:25:53","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/artprompt-ataka-na-ai-sistemy-pozvolyayushhaya-obojti-filtry-pri-pomoshhi-ascii-kartinok"},"modified":"2024-03-03T12:25:49","modified_gmt":"2024-03-03T10:25:53","slug":"artprompt-ataka-na-ai-sistemy-pozvolyayushhaya-obojti-filtry-pri-pomoshhi-ascii-kartinok","status":"publish","type":"post","link":"https:\/\/prohoster.info\/fr\/blog\/news\/artprompt-ataka-na-ai-sistemy-pozvolyayushhaya-obojti-filtry-pri-pomoshhi-ascii-kartinok","title":{"rendered":"ArtPrompt — une attaque contre les syst\u00e8mes AI, permettant de contourner les filtres \u00e0 l'aide d'images ASCII","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

Un groupe de chercheurs des universit\u00e9s de Washington, d'Illinois et de Chicago a d\u00e9couvert une nouvelle m\u00e9thode pour contourner les restrictions sur le traitement du contenu dangereux dans les chatbots IA bas\u00e9s sur de grands mod\u00e8les linguistiques (LLM). L'attaque repose sur le fait que les mod\u00e8les linguistiques GPT-3.5, GPT-4 (OpenAI), Gemini (Google), Claude (Anthropic) et Llama2 (Meta) reconnaissent et prennent en compte dans leurs requ\u00eates du texte pr\u00e9sent\u00e9 sous forme d'art ASCII. Ainsi, pour contourner les filtres sur des questions dangereuses, il suffit de pr\u00e9senter des mots interdits sous forme d'image ASCII.

\"ArtPrompt<\/center>
\"ArtPrompt<\/center> <\/p>\n

En termes d'efficacit\u00e9, cette nouvelle m\u00e9thode d'attaque a significativement surpass\u00e9 d'autres m\u00e9thodes connues de contournement des filtres dans les chatbots. La meilleure qualit\u00e9 de reconnaissance de l'art ASCII a \u00e9t\u00e9 enregistr\u00e9e dans les mod\u00e8les Gemini, GPT-4 et GPT-3.5, avec un taux de contournement des filtres v\u00e9rifi\u00e9s (HPR, Helpful Rate) \u00e9valu\u00e9 \u00e0 100%, 98% et 92% lors des tests, un taux de succ\u00e8s de l'attaque (ASR, Attack Success Rate) de 76%, 32% et 76%, et un niveau de dangerosit\u00e9 des r\u00e9ponses obtenues (HS, Harmfulness Score) sur une \u00e9chelle de cinq points de 4.42, 3.38 et 4.56, respectivement.

\"ArtPrompt<\/center>
\"ArtPrompt<\/center> <\/p>\n

Les chercheurs ont \u00e9galement d\u00e9montr\u00e9 que les m\u00e9thodes de protection actuellement en vigueur contre le contournement des filtres (PPL, Paraphrase et Retokenization) sont inefficaces pour bloquer l'attaque ArtPrompt. De plus, l'utilisation de la m\u00e9thode Retokenization a m\u00eame augment\u00e9 le nombre de requ\u00eates trait\u00e9es avec succ\u00e8s.

\"ArtPrompt<\/center> <\/p>\n

Remarque : Yandex GPT2 r\u00e9pond \u00e9galement tr\u00e8s bien aux questions avec des graphiques ASCII. Exemple avec le mot \u00ab HELLO \u00bb :

\"ArtPrompt<\/center>
\n
Source : opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"

\u0413\u0440\u0443\u043f\u043f\u0430 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439 \u0438\u0437 \u0412\u0430\u0448\u0438\u043d\u0433\u0442\u043e\u043d\u0441\u043a\u043e\u0433\u043e, \u0418\u043b\u043b\u0438\u043d\u043e\u0439\u0441\u0441\u043a\u043e\u0433\u043e \u0438 \u0427\u0438\u043a\u0430\u0433\u0441\u043a\u043e\u0433\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u043e\u0432 \u0432\u044b\u044f\u0432\u0438\u043b\u0430 \u043d\u043e\u0432\u044b\u0439 \u043c\u0435\u0442\u043e\u0434 \u043e\u0431\u0445\u043e\u0434\u0430 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0439 \u043f\u043e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0435 \u043e\u043f\u0430\u0441\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043d\u0442\u0430 \u0432 AI-\u0447\u0430\u0442\u043e\u0431\u043e\u0442\u0430\u0445, \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u044b\u0445 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u044f\u0437\u044b\u043a\u043e\u0432\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 (LLM). \u0410\u0442\u0430\u043a\u0430 \u043e\u0441\u043d\u043e\u0432\u0430\u043d\u0430 \u043d\u0430 \u0442\u043e\u043c, \u0447\u0442\u043e \u044f\u0437\u044b\u043a\u043e\u0432\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 GPT-3.5, GPT-4 (OpenAI), Gemini (Google), Claude (Anthropic) \u0438 Llama2 (Meta) \u0443\u0441\u043f\u0435\u0448\u043d\u043e \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u044e\u0442 \u0438 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u044e\u0442 \u0432 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 \u0442\u0435\u043a\u0441\u0442, \u043e\u0444\u043e\u0440\u043c\u043b\u0435\u043d\u043d\u044b\u0439 \u0432 \u0432\u0438\u0434\u0435 ASCII-\u0433\u0440\u0430\u0444\u0438\u043a\u0438. \u0422\u0430\u043a\u0438\u043c […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":114070,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-114069","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\n","aioseo_head_json":{"title":"\ud83e\udd47ArtPrompt \u2014 une attaque contre les syst\u00e8mes d'IA permettant de contourner les filtres \u00e0 l'aide d'images ASCII | ProHoster","description":"Un groupe de chercheurs des universit\u00e9s de Washington, d'Illinois et de Chicago a d\u00e9couvert une nouvelle m\u00e9thode pour contourner les restrictions sur le traitement du contenu dangereux dans les chatbots IA bas\u00e9s sur de grands mod\u00e8les linguistiques.","canonical_url":"https:\/\/prohoster.info\/fr\/blog\/news\/artprompt-ataka-na-ai-sistemy-pozvolyayushhaya-obojti-filtry-pri-pomoshhi-ascii-kartinok","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"fr_FR","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47ArtPrompt \u2014 \u0430\u0442\u0430\u043a\u0430 \u043d\u0430 AI-\u0441\u0438\u0441\u0442\u0435\u043c\u044b, \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0449\u0430\u044f \u043e\u0431\u043e\u0439\u0442\u0438 \u0444\u0438\u043b\u044c\u0442\u0440\u044b \u043f\u0440\u0438 \u043f\u043e\u043c\u043e\u0449\u0438 ASCII-\u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a | ProHoster","og:description":"\u0413\u0440\u0443\u043f\u043f\u0430 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439 \u0438\u0437 \u0412\u0430\u0448\u0438\u043d\u0433\u0442\u043e\u043d\u0441\u043a\u043e\u0433\u043e, \u0418\u043b\u043b\u0438\u043d\u043e\u0439\u0441\u0441\u043a\u043e\u0433\u043e \u0438 \u0427\u0438\u043a\u0430\u0433\u0441\u043a\u043e\u0433\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u043e\u0432 \u0432\u044b\u044f\u0432\u0438\u043b\u0430 \u043d\u043e\u0432\u044b\u0439 \u043c\u0435\u0442\u043e\u0434 \u043e\u0431\u0445\u043e\u0434\u0430 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0439 \u043f\u043e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0435 \u043e\u043f\u0430\u0441\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043d\u0442\u0430 \u0432 AI-\u0447\u0430\u0442\u043e\u0431\u043e\u0442\u0430\u0445, \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u044b\u0445 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u044f\u0437\u044b\u043a\u043e\u0432\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439.","og:url":"https:\/\/prohoster.info\/fr\/blog\/news\/artprompt-ataka-na-ai-sistemy-pozvolyayushhaya-obojti-filtry-pri-pomoshhi-ascii-kartinok","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2024-03-03T10:25:53+00:00","article:modified_time":"2024-03-03T10:25:53+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":[],"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/posts\/114069","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/comments?post=114069"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/posts\/114069\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/media\/114070"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/media?parent=114069"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/categories?post=114069"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/tags?post=114069"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}