Vývojáři neuronových sítí se nedávno (od 9. června 2026) setkali s jevem, který by mohl mít dalekosáhlé důsledky. Dodavatelé LLM nejenže explicitně odmítají klientům povolit práci na určitých tématech, ale také implementují implicitní mechanismy. Známý Claudeův model, považovaný za jeden z nejlepších, ne-li nejlepší LLM pro vývoj softwaru, se tiše a nepostřehnutelně (na rozdíl od témat, jako je kybernetická bezpečnost, biologie a chemie) zastaví, když zjistí, že se s jeho pomocí vyvíjejí jiné modely.
Oficiálně se na „modelové kartě“ pro 5. verzi Claude Mythos a Claude Fable na straně 13 značkového PDF uvádí (v ruském překladu):
Vzhledem ke schopnosti moderních modelů urychlovat svůj vlastní vývoj jsme zavedli nová opatření omezující efektivitu Claude u požadavků zaměřených na vývoj pokročilých modelů strojového učení (např. budování předtréninkových kanálů, distribuované trénovací infrastruktury nebo návrh akcelerátorů strojového učení). Používání Claude k vývoji konkurenčních modelů již porušuje naše podmínky služby, ale vynucování tohoto omezení prostřednictvím našich ochranných opatření zabraňuje urychlování těch, kteří je s největší pravděpodobností poruší.
Na rozdíl od našich opatření v oblasti kybernetické bezpečnosti, biologie a chemie a destilace budou tato opatření pro uživatele neviditelná. Fable 5 se nepřepne na jiný model. Místo toho opatření omezí účinnost pomocí technik, jako je modifikace nápověd, směrové vektory a parametricky efektivní jemné ladění (PEFT). Tato opatření neovlivní drtivou většinu programátorské práce. Odhadujeme, že ovlivní ~0,03 % provozu, soustředěného v méně než 0,1 % organizací.
Diskuse o Y kombinátor
Zdroj: linux.org.ru
