Recentemente (dal 9 giugno 2026), gli sviluppatori di reti neurali si sono imbattuti in un fenomeno che potrebbe avere conseguenze di vasta portata. I produttori di LLM non solo rifiutano esplicitamente ai clienti di lavorare su determinati argomenti, ma stanno anche implementando meccanismi impliciti. Il noto modello Claude, considerato uno dei migliori o addirittura il migliore LLM per lo sviluppo di software, rallenta silenziosamente e inosservatamente (a differenza di questioni come la cybersicurezza, la biologia e la chimica) se rileva tentativi di utilizzare il suo aiuto per sviluppare altri modelli.
Ufficialmente nel "model card" per le versioni 5 di Claude Mythos e Claude Fable, a pagina 13 del PDF ufficiale è scritto (nella traduzione russa):
Alla luce della capacità dei modelli moderni di accelerare il proprio sviluppo, abbiamo introdotto nuove misure che limitano l'efficacia di Claude per le richieste relative allo sviluppo di modelli avanzati di apprendimento automatico (come la creazione di pipeline di pre-addestramento, infrastrutture di addestramento distribuite o progettazione di acceleratori per l'apprendimento automatico). L'uso di Claude per sviluppare modelli concorrenti viola già i nostri termini di servizio, ma garantire questo limite tramite le nostre misure di protezione consente di evitare l'accelerazione delle azioni di coloro che sono più inclini a violare tali condizioni.
A differenza delle nostre misure di protezione in materia di cybersicurezza, biologia e chimica, e tentativi di distillazione, queste misure di protezione non saranno visibili all'utente. Fable 5 non passerà a un altro modello. Invece, le misure di protezione limiteranno l'efficacia attraverso metodi come la modifica dei suggerimenti, vettori guida o la fine-tuning parametricamente efficace (PEFT). Queste misure di protezione non influenzeranno la stragrande maggioranza del lavoro di programmazione. Stiamo stimando che influenzeranno circa lo 0,03% del traffico, concentrato in meno dello 0,1% delle organizzazioni.
Discussione su Y combinator
Fonte: linux.org.ru
