ArtPrompt — ein Angriff auf KI-Systeme, der es ermöglicht, Filtersysteme mit ASCII-Bildern zu umgehen

Eine Gruppe von Forschern der Universitäten Washington, Illinois und Chicago hat eine neue Methode entwickelt, um die Einschränkungen bei der Verarbeitung gefährlicher Inhalte in KI-Chatbots, die auf großen Sprachmodellen (LLM) basieren, zu umgehen. Der Angriff basiert darauf, dass die Sprachmodelle GPT-3.5, GPT-4 (OpenAI), Gemini (Google), Claude (Anthropic) und Llama2 (Meta) erfolgreich Text erkennen und in Anfragen berücksichtigen, der als ASCII-Grafik formatiert ist. Somit reicht es aus, verbotene Wörter in Form von ASCII-Bildern anzugeben, um die Filter gefährlicher Fragen zu umgehen.

In Bezug auf die Effektivität hat die neue Angriffsstrategie andere bekannte Methoden zum Umgehen von Filtern in Chatbots deutlich übertroffen. Die höchste Qualität der Erkennung von ASCII-Grafik wurde in den Modellen Gemini, GPT-4 und GPT-3.5 festgestellt, wobei die Erfolgsquote bei Testanfragen (HPR, Helpful Rate, Erfolgsquote der Anfrageverarbeitung) in diesen Modellen bei 100 %, 98 % bzw. 92 % lag, die Erfolgsquote des Angriffs (ASR, Attack Success Rate) bei 76 %, 32 % und 76 % und der Gefährlichkeitsgrad der erhaltenen Antworten (HS, Harmfulness Score) auf einer Skala von fünf Punkten bei 4,42, 3,38 und 4,56 Punkten lag, jeweils.

Forschungen haben auch gezeigt, dass die derzeit gängigen Methoden zum Umgehen von Filtern (PPL, Paraphrase und Retokenization) ineffektiv sind, um Angriffe wie ArtPrompt zu blockieren. Darüber hinaus führte die Anwendung der Methode Retokenization sogar zu einer Erhöhung der erfolgreich bearbeiteten Anfragen.

Zusatz: Yandex GPT2 beantwortet ebenfalls hervorragend Fragen mit ASCII-Grafik. Beispiel mit dem Wort „HELLO“:

Quelle: opennet.ru