Anthropic въведе тих саботаж на разработката на модели за машинно обучение

Наскоро (от 9 юни 2026) разработчиците на невронни мрежи се сблъскаха с явление, което може да има далечни последици. Производителите на LLM вече не само явно отказват на клиентите работа по определени теми, но и се въвеждат неявни механизми. Известният модел Claude, който се смята за един от най-добрите или дори най-добрия LLM за разработка на софтуер, тихо и незабележимо (в отличие от теми като киберсигурност, биология и химия) се блокира, ако установи, че с негова помощ се опитват да се разработват други модели.

Официално в "model card" за 5-те версии Claude Mythos и Claude Fable на страница 13 в фирмения PDF е написано (в руски превод):

В светлината на способността на съвременните модели да ускоряват собственото си развитие, ние внедрихме нови мерки, които ограничават ефективността на Claude за запитвания, насочени към разработване на напреднали модели на машинно обучение (например създаване на конвейери за предварително обучение, разпределена инфраструктура за обучение или проектиране на ускорители на машинно обучение). Използването на Claude за разработване на конкуриращи модели вече нарушава нашите условия за предоставяне на услуги, но осигуряването на това ограничение с помощта на нашите защитни мерки позволява да се избегне ускоряване на действията на тези, които са най-склонни да нарушават тези условия.

В отличие от нашите защитни мерки в областта на киберсигурността, биологията и химията, както и опитите за дистилация, тези защитни мерки няма да бъдат видими за потребителя. Fable 5 няма да се превключва на друг модел. Вместо това защитните мерки ще ограничават ефективността с помощта на методи като модификация на подсказките, насочващи вектори или параметрически ефективна финна настройка (PEFT). Тези защитни мерки няма да повлияят на преобладаващото мнозинство от работата по програмиране. Оценяваме, че те ще засегнат ~0,03% от трафика, събрани в по-малко от 0,1% организации.

Обсъждане на Y combinator

Източник: linux.org.ru