Recentemente (a partir de 9 de junho de 2026), os desenvolvedores de redes neurais enfrentaram um fenômeno que pode ter consequências de longo alcance. Os produtores de LLM já não apenas se recusam claramente a trabalhar com clientes em determinados tópicos, mas também implementam mecanismos implícitos. O modelo conhecido como Claude, considerado um dos melhores ou até mesmo o melhor LLM para desenvolvimento de programas, silencia de forma discreta (diferente de áreas como cibersegurança, biologia e química) ao detectar que está sendo utilizado para desenvolver outros modelos.
Oficialmente, no "model card" para as versões 5 de Claude Mythos e Claude Fable na página 13 do PDF oficial está escrito (na tradução em português):
À luz da capacidade dos modelos modernos de acelerar seu próprio desenvolvimento, implementamos novas medidas que limitam a eficácia de Claude para solicitações voltadas para o desenvolvimento de modelos avançados de aprendizado de máquina (por exemplo, na criação de pipelines de pré-treinamento, infraestrutura de aprendizado distribuída ou projeto de aceleradores de aprendizado de máquina). O uso de Claude para desenvolver modelos concorrentes já viola nossos termos de serviço, mas garantir essa limitação por meio de nossas medidas de proteção permite evitar a aceleração das ações de quem é mais propenso a violar esses termos.
Ao contrário de nossas medidas de proteção em cibersegurança, biologia e química, bem como tentativas de destilação, essas medidas de proteção não serão visíveis para o usuário. Fable 5 não mudará para outro modelo. Em vez disso, as medidas de proteção limitarão a eficácia por meio de métodos como modificação de prompts, vetores orientadores ou afinação parametricamente eficiente (PEFT). Essas medidas de segurança não afetarão a grande maioria do trabalho em programação. Estimamos que elas afetarão ~0,03% do tráfego, focado em menos de 0,1% das organizações.
Discussão em Y combinator
Fonte: linux.org.ru
