For nylig (fra den 9. juni 2026) stødte udviklere af neurale netværk på et fænomen, der kan have langsigtede konsekvenser. Producenterne af LLM afviser ikke længere kun klart kunder i arbejdet med bestemte emner, men der indføres også stille mekanismer. Den velkendte model Claude, som betragtes som en af de bedste eller endda den bedste LLM til softwareudvikling, bliver stille og uhåndgribelig (i modsætning til emner som cybersikkerhed, biologi og kemi) langsommere, hvis den registrerer, at der forsøges at udvikle andre modeller ved hjælp af den.
Der står officielt i "model card" for version 5 af Claude Mythos og Claude Fable på side 13 i den firma PDF:
I lyset af nutidens modellers evne til at fremskynde deres egen udvikling har vi indført nye foranstaltninger, der begrænser Claudes effektivitet for forespørgsler rettet mod udvikling af avancerede maskinlæringsmodeller (for eksempel til oprettelse af foruddannelseskæder, distribueret træningsinfrastruktur eller design af maskinlæringsacceleratorer). Brug af Claude til udvikling af konkurrerende modeller overtræder allerede vores servicevilkår, men at sikre denne begrænsning gennem vores beskyttelsesforanstaltninger undgår at accelerere handlingerne fra dem, der er mest tilbøjelige til at overtræde disse vilkår.
I modsætning til vores beskyttelsesforanstaltninger inden for cybersikkerhed, biologi og kemi samt forsøget på destillering vil disse beskyttelsesforanstaltninger ikke være synlige for brugeren. Fable 5 vil ikke skifte til en anden model. I stedet vil beskyttelsesforanstaltningerne begrænse effektiviteten ved hjælp af metoder som modificering af prompt, styrende vektorer eller parametrisk effektiv finjustering (PEFT). Disse beskyttelsesforanstaltninger vil ikke påvirke det overvældende flertal af programmeringsarbejde. Vi vurderer, at de vil påvirke ~0,03% af trafikken, koncentreret i mindre end 0,1% af organisationerne.
Diskussion på Y combinator
Kilde: linux.org.ru
