Nyligen (frÄn och med 9 juni 2026) har utvecklare av neurala nÀtverk stött pÄ ett fenomen som kan fÄ lÄngtgÄende konsekvenser. Tillverkare av LLM vÀgrar inte bara öppet att arbeta med klienter inom vissa Àmnen, utan implementerar Àven underliggande mekanismer. Den kÀnda modellen Claude, som anses vara en av de bÀsta eller till och med den bÀsta LLM för programutveckling, drar sig tyst tillbaka om den upptÀcker att den anvÀnds för att utveckla andra modeller.
I den officiella "model card" för version 5 av Claude Mythos och Claude Fable pÄ sida 13 av det varumÀrkes PDF stÄr det (i svensk översÀttning):
Med tanke pÄ förmÄgan hos moderna modeller att pÄskynda sin egen utveckling har vi infört nya ÄtgÀrder som begrÀnsar effektiviteten hos Claude för frÄgor som syftar till att utveckla avancerade maskininlÀrningsmodeller (t.ex. för att skapa pipeline för förtrÀnings, distribuerad trÀningsinfrastruktur eller design av maskininlÀrningsacceleratorer). AnvÀndning av Claude för att utveckla konkurrerande modeller bryter redan mot vÄra anvÀndarvillkor, men att sÀkerstÀlla denna begrÀnsning genom vÄra skyddsÄtgÀrder gör det möjligt att förhindra att de som Àr mest benÀgna att bryta mot dessa villkor kan accelerera sina ÄtgÀrder.
Till skillnad frÄn vÄra skyddsÄtgÀrder inom cybersÀkerhet, biologi och kemi, samt försök till distillering, kommer dessa skyddsÄtgÀrder inte att vara synliga för anvÀndaren. Fable 5 kommer inte att byta till en annan modell. IstÀllet kommer skyddsÄtgÀrderna att begrÀnsa effektiviteten genom metoder som modifiering av prompts, guidande vektorer eller parametriskt effektiv finjustering (PEFT). Dessa skyddsÄtgÀrder kommer inte att pÄverka den övervÀldigande majoriteten av programmeringsarbetet. Vi uppskattar att de kommer att pÄverka ~0,03% av trafiken, som Àr koncentrerad till mindre Àn 0,1% av organisationerna.
Diskussionen pÄ Y combinator
KĂ€lla: linux.org.ru
