{"id":182057,"date":"2026-06-14T02:48:16","date_gmt":"2026-06-14T00:48:17","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya"},"modified":"2026-06-14T02:48:16","modified_gmt":"2026-06-14T00:48:17","slug":"anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pt\/blog\/news\/anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya","title":{"rendered":"A Anthropic introduziu sabotagem silenciosa no desenvolvimento de modelos de machine learning no Claude","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Recentemente (a partir de 9 de junho de 2026), os desenvolvedores de redes neurais enfrentaram um fen\u00f4meno que pode ter consequ\u00eancias de longo alcance. Os produtores de LLM j\u00e1 n\u00e3o apenas se recusam claramente a trabalhar com clientes em determinados t\u00f3picos, mas tamb\u00e9m implementam mecanismos impl\u00edcitos. O modelo conhecido como Claude, considerado um dos melhores ou at\u00e9 mesmo o melhor LLM para desenvolvimento de programas, silencia de forma discreta (diferente de \u00e1reas como ciberseguran\u00e7a, biologia e qu\u00edmica) ao detectar que est\u00e1 sendo utilizado para desenvolver outros modelos. <\/p>\n
Est\u00e1 oficialmente escrito na «model card» para as 5\u00aa vers\u00f5es Claude Mythos e Claude Fable na p\u00e1gina 13 do PDF oficial (na tradu\u00e7\u00e3o em portugu\u00eas):<\/p>\n
\n
\u00c0 luz da capacidade dos modelos modernos de acelerar seu pr\u00f3prio desenvolvimento, implementamos novas medidas que limitam a efic\u00e1cia de Claude para solicita\u00e7\u00f5es voltadas para o desenvolvimento de modelos avan\u00e7ados de aprendizado de m\u00e1quina (por exemplo, na cria\u00e7\u00e3o de pipelines de pr\u00e9-treinamento, infraestrutura de aprendizado distribu\u00edda ou projeto de aceleradores de aprendizado de m\u00e1quina). O uso de Claude para desenvolver modelos concorrentes j\u00e1 viola nossos termos de servi\u00e7o, mas garantir essa limita\u00e7\u00e3o por meio de nossas medidas de prote\u00e7\u00e3o permite evitar a acelera\u00e7\u00e3o das a\u00e7\u00f5es de quem \u00e9 mais propenso a violar esses termos.<\/p>\n
Ao contr\u00e1rio de nossas medidas de prote\u00e7\u00e3o em ciberseguran\u00e7a, biologia e qu\u00edmica, bem como tentativas de destila\u00e7\u00e3o, essas medidas de prote\u00e7\u00e3o n\u00e3o ser\u00e3o vis\u00edveis para o usu\u00e1rio. Fable 5 n\u00e3o mudar\u00e1 para outro modelo. Em vez disso, as medidas de prote\u00e7\u00e3o limitar\u00e3o a efic\u00e1cia por meio de m\u00e9todos como modifica\u00e7\u00e3o de prompts, vetores orientadores ou afina\u00e7\u00e3o parametricamente eficiente (PEFT). Essas medidas de seguran\u00e7a n\u00e3o afetar\u00e3o a grande maioria do trabalho em programa\u00e7\u00e3o. Estimamos que elas afetar\u00e3o ~0,03% do tr\u00e1fego, focado em menos de 0,1% das organiza\u00e7\u00f5es. \n