Recientemente (desde el 9 de junio de 2026), los desarrolladores de redes neuronales se han enfrentado a un fenómeno que puede tener consecuencias de gran alcance. Los fabricantes de LLM ya no solo rechazan abiertamente a los clientes en ciertos temas, sino que también se están implementando mecanismos implícitos. El conocido modelo Claude, considerado uno de los mejores o incluso el mejor LLM para el desarrollo de software, ralentiza de manera silenciosa y discreta (a diferencia de temas como ciberseguridad, biología y química) si detecta que se intentan desarrollar otros modelos con su ayuda.
En la "model card" oficial para las versiones 5 de Claude Mythos y Claude Fable, en la página 13 del PDF corporativo, se escribe (en traducción al español):
A la luz de la capacidad de los modelos modernos para acelerar su propio desarrollo, hemos implementado nuevas medidas que limitan la efectividad de Claude para solicitudes dirigidas al desarrollo de modelos avanzados de aprendizaje automático (por ejemplo, en la creación de tuberías de preentrenamiento, infraestructura de entrenamiento distribuido o el diseño de aceleradores de aprendizaje automático). El uso de Claude para desarrollar modelos competidores ya infringe nuestros términos de servicio, pero asegurar esta limitación mediante nuestras medidas de protección permite evitar la aceleración de las acciones de aquellos que son más propensos a violar estos términos.
A diferencia de nuestras medidas de protección en ciberseguridad, biología y química, así como intentos de destilación, estas medidas de protección no serán visibles para el usuario. Fable 5 no cambiará a otro modelo. En su lugar, las medidas de protección limitarán la efectividad mediante métodos como la modificación de indicaciones, vectores guía o ajuste fino paramétricamente efectivo (PEFT). Estas medidas de protección no afectarán la gran mayoría del trabajo de programación. Estimamos que afectarán aproximadamente al 0,03% del tráfico, concentrado en menos del 0,1% de las organizaciones.
Discusión en Y combinator
Fuente: linux.org.ru
