Համ最近（2026 թվականի հունիսի 9-ից）նեյրոնային ցանցերի մշակողները բախվեցին现象ի, որը կարող է ունենալ հեռու գնացող հետևանքներ։ LLM արտադրողները արդեն ոչ միայն բացահայտ հրաժարվում են հաճախորդներին определенными թեմաների վրա աշխատելու, այլև ներմուծում են չհետքած մեխանիզմներ։ Claude հայտնի մոդելը, որը համարվում է լավագույններից մեկը կամ նույնիսկ լավագույն LLM ծրագրերի մշակման համար, մինջի ներկայություն իրենով (ժամանակ անց կիբերանվտանգություն, կենսաբանություն և քիմիա) դանդաղեցնում է, եթե նկատի ունեն, որ իր օգնությամբ փորձում են մշակել այլ մոդելներ։
Պաշտոնապես 5-րդ տարբերակների Claude Mythos և Claude Fable «model card»-ում 13-րդ էջում ասված է (ռուսերեն թարգմանությամբ):
Ժամանակակից մոդելների սեփական զարգացման արագությանը լուսաբանելով, մենք ներմուծել ենք նոր միջոցառումներ, որոնք սահմանափակում են Claude-ի արդյունավետությունը ինքնագործող մոդելների մշակման նպատակներով (օրինակ, նախնական ուսուցման շղթաների ստեղծման, ուսուցման բաշխված ենթահարկերի կամ մեքենայի ուսուցման արագացուցիչների նախագծման համար)։ Claude-ի օգտագործումը մրցակցող մոդելների մշակելու նպատակներով արդեն խախտում է մեր ծառայությունների պայմանները, բայց այդ սահմանափակումին մեր պաշտպանական միջոցառումներով խուսափելու հնարավորություն է տրվում նրանցից, ովքեր ավելի հակված են այդ պայմանների խախտմանը։
Մեր կիբերանվտանգության, կենսաբանության և քիմիայի ոլորտներում պաշտպանական միջոցառումների տարբերությունից, ինչպես նաև սկսել փորձության, այս պաշտպանական միջոցառումները տրված չեն օգտվողին։ Fable 5-ն այլ մոդելի վրա ընդհանրապես չի անցնի։ Փոխարենը, պաշտպանական միջոցառումները կանխելու համար արդյունավետության սահմանափակումներ կիրառելու են, օրինակ՝ հարցումների փոփոխման, ուղղորդող վեկտորների կամ պարամետրային արդյունավետ մանրակրկիտ կարգավորումների (PEFT) միջոցով։ Այս պաշտպանական միջոցառումները չեն ազդի մեծ թվով ծրագրավորման աշխատանքի վրա։ Մենք գնահատում ենք, որ դրանք կծագեն ~0,03%-ի տրաֆիկում, որը կենտրոնացած է 0,1%-ից քիչ կազմակերպությունների մեջ։
Քննարկում Y combinator
Ընտանիք: linux.org.ru
