{"id":182057,"date":"2026-06-14T02:48:16","date_gmt":"2026-06-14T00:48:17","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya"},"modified":"2026-06-14T02:48:16","modified_gmt":"2026-06-14T00:48:17","slug":"anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sv\/blog\/news\/anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya","title":{"rendered":"Anthropic har inf\u00f6rlivat tyst sabotage i utvecklingen av maskininl\u00e4rningsmodeller i Claude","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Nyligen (fr\u00e5n och med 9 juni 2026) har utvecklare av neurala n\u00e4tverk st\u00f6tt p\u00e5 ett fenomen som kan f\u00e5 l\u00e5ngtg\u00e5ende konsekvenser. Tillverkare av LLM v\u00e4grar inte bara \u00f6ppet att arbeta med klienter inom vissa \u00e4mnen, utan implementerar \u00e4ven underliggande mekanismer. Den k\u00e4nda modellen Claude, som anses vara en av de b\u00e4sta eller till och med den b\u00e4sta LLM f\u00f6r programutveckling, drar sig tyst tillbaka om den uppt\u00e4cker att den anv\u00e4nds f\u00f6r att utveckla andra modeller. <\/p>\n
Officiellt st\u00e5r det i «model card» f\u00f6r 5:e versionerna av Claude Mythos och Claude Fable p\u00e5 sidan 13 i den officiella PDF:en (i svensk \u00f6vers\u00e4ttning):<\/p>\n
\n
Med tanke p\u00e5 f\u00f6rm\u00e5gan hos moderna modeller att p\u00e5skynda sin egen utveckling har vi inf\u00f6rt nya \u00e5tg\u00e4rder som begr\u00e4nsar effektiviteten hos Claude f\u00f6r fr\u00e5gor som syftar till att utveckla avancerade maskininl\u00e4rningsmodeller (t.ex. f\u00f6r att skapa pipeline f\u00f6r f\u00f6rtr\u00e4nings, distribuerad tr\u00e4ningsinfrastruktur eller design av maskininl\u00e4rningsacceleratorer). Anv\u00e4ndning av Claude f\u00f6r att utveckla konkurrerande modeller bryter redan mot v\u00e5ra anv\u00e4ndarvillkor, men att s\u00e4kerst\u00e4lla denna begr\u00e4nsning genom v\u00e5ra skydds\u00e5tg\u00e4rder g\u00f6r det m\u00f6jligt att f\u00f6rhindra att de som \u00e4r mest ben\u00e4gna att bryta mot dessa villkor kan accelerera sina \u00e5tg\u00e4rder.<\/p>\n
Till skillnad fr\u00e5n v\u00e5ra skydds\u00e5tg\u00e4rder inom cybers\u00e4kerhet, biologi och kemi, samt f\u00f6rs\u00f6k till distillering, kommer dessa skydds\u00e5tg\u00e4rder inte att vara synliga f\u00f6r anv\u00e4ndaren. Fable 5 kommer inte att byta till en annan modell. Ist\u00e4llet kommer skydds\u00e5tg\u00e4rderna att begr\u00e4nsa effektiviteten genom metoder som modifiering av prompts, guidande vektorer eller parametriskt effektiv finjustering (PEFT). Dessa skydds\u00e5tg\u00e4rder kommer inte att p\u00e5verka den \u00f6verv\u00e4ldigande majoriteten av programmeringsarbetet. Vi uppskattar att de kommer att p\u00e5verka ~0,03% av trafiken, som \u00e4r koncentrerad till mindre \u00e4n 0,1% av organisationerna. \n