Публикуван BoN, метод за заобикал Ocения на големи езикови модели
Открит е нов метод на атака, който позволява заобикаляне на механизмите за противодействие на генерирането на опасно съдържание, използвани в AI услуги, базирани на големи езикови модели. Методът, получил кодовото име BoN (Best-of-N), при тестване на 10 хиляди заявки успя да заобиколи ограниченията на модела GPT-4o в 89% от случаите, модела Claude 3.5 Sonnet — в 78%, а Gemini Pro — в 50%. Инструментариум за […]
