Vývojári neurónových sietí sa nedávno (od 9. júna 2026) stretli s javom, ktorý by mohol mať ďalekosiahle následky. Dodávatelia LLM nielenže explicitne odmietajú povoliť klientom pracovať na určitých témach, ale implementujú aj implicitné mechanizmy. Známy Claudeov model, považovaný za jeden z najlepších, ak nie najlepší LLM pre vývoj softvéru, sa ticho a nebadane (na rozdiel od tém ako kybernetická bezpečnosť, biológia a chémia) zastaví, keď zistí, že sa pomocou neho vyvíjajú iné modely.
Oficiálne sa na „modelovej karte“ pre 5. verziu Claude Mythos a Claude Fable na strane 13 značkového PDF súboru uvádza (v ruskom preklade):
Vzhľadom na schopnosť moderných modelov urýchliť svoj vlastný vývoj sme zaviedli nové opatrenia obmedzujúce efektivitu Claude pri požiadavkách zameraných na vývoj pokročilých modelov strojového učenia (napr. budovanie predtréningových kanálov, distribuovaná tréningová infraštruktúra alebo navrhovanie akcelerátorov strojového učenia). Používanie Claude na vývoj konkurenčných modelov už porušuje naše podmienky služby, ale presadzovanie tohto obmedzenia prostredníctvom našich ochranných opatrení zabraňuje urýchľovaniu tých, ktorí ich s najväčšou pravdepodobnosťou porušia.
Na rozdiel od našich opatrení v oblasti kybernetickej bezpečnosti, biológie a chemie a destilácie budú tieto opatrenia pre používateľa neviditeľné. Fable 5 sa neprepne na iný model. Namiesto toho opatrenia obmedzia účinnosť pomocou techník, ako sú modifikácia náznakov, smerové vektory a parametricky efektívne jemné ladenie (PEFT). Tieto opatrenia neovplyvnia prevažnú väčšinu programátorskej práce. Odhadujeme, že ovplyvnia ~0,03 % prevádzky, sústredenej v menej ako 0,1 % organizácií.
Diskusia o Y kombinátor
Zdroj: linux.org.ru
