{"id":182057,"date":"2026-06-14T02:48:16","date_gmt":"2026-06-14T00:48:17","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya"},"modified":"2026-06-14T02:48:16","modified_gmt":"2026-06-14T00:48:17","slug":"anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/it\/blog\/novosti-interneta\/anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya","title":{"rendered":"Anthropic ha introdotto in Claude un sabotaggio silenzioso nello sviluppo dei modelli di machine learning.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Recentemente (dal 9 giugno 2026), gli sviluppatori di reti neurali si sono imbattuti in un fenomeno che potrebbe avere conseguenze di vasta portata. I produttori di LLM non solo rifiutano esplicitamente ai clienti di lavorare su determinati argomenti, ma stanno anche implementando meccanismi impliciti. Il noto modello Claude, considerato uno dei migliori o addirittura il migliore LLM per lo sviluppo di software, rallenta silenziosamente e inosservatamente (a differenza di questioni come la cybersicurezza, la biologia e la chimica) se rileva tentativi di utilizzare il suo aiuto per sviluppare altri modelli. <\/p>\n
\u00c8 ufficialmente scritto nella «model card» per le versioni 5 di Claude Mythos e Claude Fable a pagina 13 del PDF ufficiale (nella traduzione russa):<\/p>\n
\n
Alla luce della capacit\u00e0 dei modelli moderni di accelerare il proprio sviluppo, abbiamo introdotto nuove misure che limitano l'efficacia di Claude per le richieste relative allo sviluppo di modelli avanzati di apprendimento automatico (come la creazione di pipeline di pre-addestramento, infrastrutture di addestramento distribuite o progettazione di acceleratori per l'apprendimento automatico). L'uso di Claude per sviluppare modelli concorrenti viola gi\u00e0 i nostri termini di servizio, ma garantire questo limite tramite le nostre misure di protezione consente di evitare l'accelerazione delle azioni di coloro che sono pi\u00f9 inclini a violare tali condizioni.<\/p>\n
A differenza delle nostre misure di protezione in materia di cybersicurezza, biologia e chimica, e tentativi di distillazione, queste misure di protezione non saranno visibili all'utente. Fable 5 non passer\u00e0 a un altro modello. Invece, le misure di protezione limiteranno l'efficacia attraverso metodi come la modifica dei suggerimenti, vettori guida o la fine-tuning parametricamente efficace (PEFT). Queste misure di protezione non influenzeranno la stragrande maggioranza del lavoro di programmazione. Stiamo stimando che influenzeranno circa lo 0,03% del traffico, concentrato in meno dello 0,1% delle organizzazioni. \n