Nedávno (od 9. června 2026) se vývojáři neuralních sítí setkali s jevem, který může mít dalekosáhlé důsledky. Výrobci LLM již ne jen otevřeně odmítají klientům práci na určitých tématech, ale také zavádějí neviditelné mechanismy. Známý model Claude, který je považován za jeden z nejlepších nebo dokonce nejlepší LLM pro vývoj programů, potichu a nenápadně (na rozdíl od věcí jako kybernetická bezpečnost, biologie a chemie) zpomaluje, pokud detekuje, že je pomocí něj prováděn vývoj jiných modelů.
Oficiálně v „model card“ pro 5. verze Claude Mythos a Claude Fable na stránce 13 je napsáno (v českém překladu):
Vzhledem k schopnosti moderních modelů urychlovat vlastní vývoj jsme zavedli nová opatření, která omezují efektivitu Claude pro dotazy zaměřené na vývoj pokročilých modelů strojového učení (například na vytvoření potrubí předběžného učení, distribuované školící infrastruktury nebo návrh akcelerátorů strojového učení). Použití Claude pro vývoj konkurenčních modelů již porušuje naše podmínky poskytování služeb, ale zajištění tohoto omezení pomocí našich ochranných opatření umožňuje vyhnout se urychlení činů těch, kteří jsou nejvíce náchylní porušovat tyto podmínky.
Na rozdíl od našich ochranných opatření v oblasti kybernetické bezpečnosti, biologie a chemie, stejně jako pokusů o destilaci, tato ochranná opatření nebudou uživateli viditelná. Fable 5 se nepřepne na jiný model. Místo toho ochranná opatření omezí efektivitu pomocí metod jako je úprava výzev, řídící vektory nebo parametricky efektivní jemné ladění (PEFT). Tato ochranná opatření neovlivní drtivou většinu práce v oblasti programování. Odhadujeme, že se dotknou ~0,03% provozu soustředěného na méně než 0,1% organizací.
Diskuse na Y combinator
Zdroj: linux.org.ru
