ArtPrompt — napad na AI sustave koji omogućava zaobilaženje filtara pomoću ASCII slika
Grupa istraživača sa Sveučilišta u Washingtonu, Illinoisu i Chicagu otkrila je novu metodu zaobiđenja ograničenja obrade opasnog sadržaja u AI chatbotovima temeljenim na velikim jezičnim modelima (LLM). Napad se temelji na tome da jezični modeli GPT-3.5, GPT-4 (OpenAI), Gemini (Google), Claude (Anthropic) i Llama2 (Meta) uspješno prepoznaju i uzimaju u obzir u zahtjevima tekst formatiran u obliku ASCII grafike. Također […]
