Objavljen je BoN, metoda za zaobilaženje filtera velikih jezičkih modela
Identificirana je nova metoda napada koja omogućava zaobilaženje mehanizama protiv delovanja generacije opasnog sadržaja koji se koriste u AI servisima zasnovanim na velikim jezičkim modelima. Metoda, koja je dobila kodno ime BoN (Best-of-N), prilikom testiranja na 10.000 upita omogućila je zaobilaženje ograničenja modela GPT-4o u 89% slučajeva, modela Claude 3.5 Sonnet u 78%, a Gemini Pro u 50%. Alati za […]
