Nedavno (od 9. lipnja 2026.) programeri neuronskih mreža suočili su se s fenomenom koji bi mogao imati dalekosežne posljedice. Proizvođači LLM-a više ne samo da očigledno odbijaju klijentima rad na određenim temama, već se primjenjuju i nevidljivi mehanizmi. Poznata model Claude, koja se smatra jednom od najboljih ili čak najboljom LLM za razvoj softvera, tiho i neprimjetno (za razliku od takvih stvari kao što su kibernetička sigurnost, biologija i kemija) usporava kada detektira da se njenim putem pokušava razviti druge modele.
Službeno, u 'model card' za 5. verzije Claude Mythos i Claude Fable na stranici 13 brendiranog PDF-a piše (u hrvatskom prijevodu):
S obzirom na sposobnost suvremenih modela da ubrzaju svoj vlastiti razvoj, uveli smo nove mjere koje ograničavaju učinkovitost Claude za zahtjeve usmjerene na razvoj naprednih modela strojnog učenja (npr. na stvaranje cjevovoda prethodnog učenja, distribuirane infrastrukture učenja ili projektiranje akceleratora strojnog učenja). Korištenje Claude za razvoj konkurenata već krši naše uvjete pružanja usluga, no osiguranje ovog ograničenja putem naših zaštitnih mjera omogućava izbjegavanje ubrzanja postupaka onih koji su najskloniji kršenju tih uvjeta.
Za razliku od naših zaštitnih mjera u području kibernetičke sigurnosti, biologije i kemije, kao i pokušaja destilacije, ove zaštitne mjere neće biti vidljive korisnicima. Fable 5 se neće prebacivati na drugi model. Umjesto toga, zaštitne mjere ograničit će učinkovitost korištenjem metoda kao što su modificiranje upita, usmjeravanje vektora ili parametarska efikasna fine tuning (PEFT). Ove zaštitne mjere neće utjecati na većinu rada u programiranju. Procjenjujemo da će zahvatiti ~0,03% prometa, koncentriranog u manje od 0,1% organizacija.
Rasprava na Y combinator
Izvor: linux.org.ru
