{"id":182057,"date":"2026-06-14T02:48:16","date_gmt":"2026-06-14T00:48:17","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya"},"modified":"2026-06-14T02:48:16","modified_gmt":"2026-06-14T00:48:17","slug":"anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/nl\/blog\/news\/anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya","title":{"rendered":"Anthropic heeft stille sabotage van de ontwikkeling van machine learning-modellen ge\u00efntroduceerd in Claude","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Onlangs (sinds 9 juni 2026) zijn ontwikkelaars van neurale netwerken geconfronteerd met een fenomeen dat verstrekkende gevolgen kan hebben. Producenten van LLM's weigeren niet alleen expliciet om met klanten aan bepaalde onderwerpen te werken, maar er worden ook impliciete mechanismen ge\u00efntroduceerd. Het bekende model Claude, dat als een van de beste of zelfs de beste LLM voor programma ontwikkeling wordt beschouwd, vertraagt stilletjes en ongezien (in tegenstelling tot onderwerpen zoals cybersecurity, biologie en chemie) als het detecteert dat men via haar andere modellen probeert te ontwikkelen. <\/p>\n
Officieel staat op pagina 13 van de merk-PDF voor de 5 versies van Claude Mythos en Claude Fable in de «model card» (in de Nederlandse vertaling):<\/p>\n
\n
In het licht van de mogelijkheden van moderne modellen om hun eigen ontwikkeling te versnellen, hebben we nieuwe maatregelen ge\u00efmplementeerd die de effectiviteit van Claude beperken voor verzoeken gericht op de ontwikkeling van geavanceerde machine learning modellen (bijvoorbeeld het cre\u00ebren van pre-training pipelines, gedistribueerde leerinfrastructuur, of het ontwerpen van versnellingsapparaten voor machine learning). Het gebruik van Claude voor de ontwikkeling van concurrerende modellen schendt al onze servicevoorwaarden, maar het waarborgen van deze beperking via onze beschermingsmaatregelen voorkomt dat degenen die het meest geneigd zijn deze voorwaarden te schenden, tot versneld handelen komen.<\/p>\n
In tegenstelling tot onze beschermingsmaatregelen op het gebied van cybersecurity, biologie en chemie, evenals pogingen tot distillatie, zullen deze beschermingsmaatregelen niet zichtbaar zijn voor de gebruiker. Fable 5 zal niet overschakelen naar een ander model. In plaats daarvan zullen beschermingsmaatregelen de effectiviteit beperken met methoden zoals aanpassing van prompts, leidende vectoren of parametrisch effectieve fine-tuning (PEFT). Deze beschermingsmaatregelen zullen de overgrote meerderheid van de programmeerwerkzaamheden niet be\u00efnvloeden. We schatten dat ze ongeveer ~0,03% van het verkeer zullen be\u00efnvloeden, geconcentreerd in minder dan 0,1% van de organisaties. \n