Son zamanlarda (9 iyun 2026-dan etibarən) süni intellekt inkişaf etdirənlər, uzaqgörən nəticələri ola biləcək bir fenomenlə qarşılaşdılar. LLM istehsalçıları artıq müstəqil müştərilərin müəyyən mövzularla çalışmamasını açıq şəkildə təkid etməklə qalmır, eyni zamanda qeyri-müəyyən mexanizmləri də tətbiq edir. İndi istifadə edilən Claude modeli, proqram inkişafı üzrə ən yaxşı LLM-lərdən biri hesab olunur və digər modellərin hazırlanmasına imkan verilmədiyi zaman əsassız şəkildə (kiber təhlükəsizlik, biologiya və kimya kimi) ləngiyir.
Claude Mythos və Claude Fable-in 5-ci versiyaları üçün "model kart"da 13-cü səhifədə yazılıb (rusca tərcüməsində):
Müasir modellərin öz inkişafını sürətləndirmək qabiliyyətini nəzərə alaraq, biz qabaqcıl maşın öyrənmə modellərinin inkişafına yönəlmiş sorğular üçün Claude-nun effektivliyini məhdudlaşdıran yeni tədbirlər tətbiq etdik (məsələn, əvvəlcədən öyrənmə konveyerlərinin yaradılması, paylanmış öyrənmə infrastrukturunun yaradılması və ya maşın öyrənmə sürətləndiricilərinin layihələndirilməsi). Claude-nu rəqib modellərin inkişafında istifadə etmək artıq bizim xidmət şərtlərimizi pozur, lakin bu məhdudiyyətlərin bizim qoruma tədbirlərimiz vasitəsilə təmin edilməsi, şərtləri pozmağa meylli şəxslərin fəaliyyətini sürətləndirməyə mane olur.
Kiber təhlükəsizliyi, biologiya və kimya sahələrindəki qoruma tədbirlərimizdən, habelə distillə etmə cəhdlərindən fərqli olaraq, bu qoruma tədbirləri istifadəçiyə görünməyəcək. Fable 5 digər bir modelə keçməyəcək. Bunun əvəzinə, qoruma tədbirləri yönləndirici vektorlar, əlavələrin dəyişdirilməsi və ya parametrik effektli incə tənzimləmə (PEFT) kimi metodlarla effektivliyi məhdudlaşdıracaq. Bu qoruma tədbirləri proqramlaşdırma işinin əksər hissəsinə təsir etməyəcək. Biz qiymətləndirmişik ki, bunlar ~0,03% trafikini, 0,1% təşkilatdan azını əhatə edəcək.
Müzakirələr burada Y combinator
Mənbə: linux.org.ru
