En grupp forskare frÄn universiteten i Washington, Illinois och Chicago har identifierat en ny metod för att kringgÄ begrÀnsningar för hantering av farligt innehÄll i AI-chatbotar baserade pÄ stora sprÄkmodeller (LLM). Attacken bygger pÄ att sprÄkmodellerna GPT-3.5, GPT-4 (OpenAI), Gemini (Google), Claude (Anthropic) och Llama2 (Meta) framgÄngsrikt kÀnner igen och beaktar text formaterad som ASCII-grafik i sina förfrÄgningar. DÀrmed visade det sig att det rÀcker att ange förbjudna ord i form av ASCII-bilder för att kringgÄ filtren för farliga frÄgor.
NÀr det gÀller effektivitet övertrÀffade den nya attackmetoden tydligt andra kÀnda sÀtt att kringgÄ filter i chatbotar. Den högsta kvaliteten pÄ igenkÀnning av ASCII-grafik registrerades i modellerna Gemini, GPT-4 och GPT-3.5, dÀr nivÄn av framgÄngsrik filtrering av testförfrÄgningar (HPR, Helpful Rate, framgÄngsrik behandlingskoefficient) vid testning berÀknades till 100%, 98% och 92%, framgÄngsnivÄn för genomförande av attacken (ASR, Attack Success Rate) var 76%, 32% och 76%, samt nivÄn av skadlighet i svaren (HS, Harmfulness Score) pÄ en femgradig skala var 4.42, 3.38 och 4.56 poÀng, respektive.
Forskarna har ocksÄ visat att de nuvarande metoderna för skydd mot filtreringsomgÄelse (PPL, Parafras och Retokenisering) Àr ineffektiva för att blockera ArtPrompt-attacker. Dessutom ökade anvÀndningen av Retokenisering faktiskt antalet framgÄngsrikt behandlade förfrÄgningar.
TillÀgg: Yandex GPT2 svarar ocksÄ bra pÄ frÄgor med ASCII-grafik. Exempel med ordet «HELLO»:
KĂ€lla: opennet.ru
