Hiljuti (alates 9. juunist 2026) on tehisintellekti arendajad silmitsi seisnud nähtusega, millel võivad olla laiaulatuslikud tagajärjed. LLM tootjad mitte ainult ei keela kliendil teatud teemadega töötamist, vaid käivitavad ka varjatud mehhanisme. Tuntud mudel Claude, mida peetakse üheks parimaks või isegi parimaks LLM-iks tarkvara arendamiseks, aeglustub vaikselt ja märkamatult (erinevalt sellistest teemadest nagu küberjulgeolek, bioloogia ja keemia), kui tuvastab, et selle abil püütakse arendada teisi mudeleid.
Ametlikult on Claude Mythos ja Claude Fable 5. versioonide "mudelikaardil" leheküljel 13 kaubamärgi PDF-is kirjutatud (vene tõlkes):
Kuna kaasaegsete mudelite võime kiirelt enda arengut kiirendada, oleme rakendanud uusi meetmeid, et piirata Claude'i efektiivsust nõudmiste osas, mis on suunatud tipptasemel masinõppemudelite arendamisele (nt eelõppe voogude loomine, jaotatud õppeinfrastruktuuri ülesehitamine või masinõppe kiirendite projekteerimine). Claude'i kasutamine konkurentsivõimeliste mudelite arendamiseks rikub juba meie teenusetingimusi, kuid nende tingimuste rikkumise vältimiseks meie turvameetmete abil saame vältida nende tegevuste kiirendamist, kes on kõige altid neid tingimusi rikkuma.
Erinevalt meie küberkaitse, bioloogia ja keemia kaitsemeetmetest ning destilleerimise katsetest, ei ole need kaitsemeetmed kasutajale nähtavad. Fable 5 ei lülitu teisele mudelile. Selle asemel piiravad kaitsemeetmed tõhusust selliste meetodite kaudu nagu vihjete muutmine, suunavad vektorid või parameetriliselt tõhus peene häälestamine (PEFT). Need kaitsemeetmed ei mõjuta enamikku programmeerimistööst. Hindame, et need mõjutavad umbes 0,03% liiklust, mis on koondunud vähem kui 0,1% organisatsioonidest.
Arutelu Y combinator
Allikas: linux.org.ru
