Publicada a BoN, um método para contornar filtros de grandes modelos de linguagem.
Foi descoberto um novo método de ataque que permite contornar os mecanismos de combate à geração de conteúdo perigoso, utilizados em serviços de IA baseados em grandes modelos de linguagem. O método, que recebeu o codinome BoN (Best-of-N), ao ser testado em 10 mil consultas, permitiu contornar as limitações do modelo GPT-4o em 89% dos casos, do modelo Claude 3.5 Sonnet em 78%, e do Gemini Pro em 50%. Ferramentas para […]
