{"id":182057,"date":"2026-06-14T02:48:16","date_gmt":"2026-06-14T00:48:17","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya"},"modified":"2026-06-14T02:48:16","modified_gmt":"2026-06-14T00:48:17","slug":"anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/it\/blog\/news\/anthropic-vvela-v-claude-tihij-sabotazh-razrabotki-modelej-mashinnogo-obucheniya","title":{"rendered":"Anthropic ha introdotto in Claude un sabotaggio silenzioso dello sviluppo di modelli di machine learning.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Di recente (dal 9 giugno 2026), gli sviluppatori di reti neurali si sono trovati di fronte a un fenomeno che potrebbe avere conseguenze di vasta portata. I produttori di LLM non solo rifiutano esplicitamente ai clienti di lavorare su determinati argomenti, ma si stanno anche insinuando meccanismi impliciti. Il noto modello Claude, considerato uno dei migliori o addirittura il migliore LLM per lo sviluppo software, rallenta silenziosamente e senza farsi notare (a differenza di questioni come la cybersecurity, la biologia e la chimica) se rileva che viene utilizzato per sviluppare altri modelli. <\/p>\n
Nella \"model card\" ufficiale per le 5 versioni di Claude Mythos e Claude Fable, alla pagina 13 del PDF ufficiale \u00e8 scritto (nella traduzione in italiano):<\/p>\n
\n
Alla luce della capacit\u00e0 dei modelli moderni di accelerare il proprio sviluppo, abbiamo implementato nuove misure che limitano l'efficacia di Claude per richieste mirate allo sviluppo di modelli avanzati di machine learning (ad esempio, per la creazione di pipeline di pre-addestramento, infrastrutture di apprendimento distribuito o progettazione di acceleratori di machine learning). L'uso di Claude per lo sviluppo di modelli concorrenti viola gi\u00e0 i nostri termini di servizio, ma garantire questo limite attraverso le nostre misure protettive permette di evitare di accelerare le azioni di chi \u00e8 pi\u00f9 incline a violare tali condizioni.<\/p>\n
A differenza delle nostre misure protettive in materia di cybersecurity, biologia e chimica, e anche dei tentativi di distillazione, queste misure protettive non saranno visibili all'utente. Fable 5 non passer\u00e0 a un altro modello. Al contrario, le misure protettive limiteranno l'efficacia utilizzando metodi come la modifica delle indicazioni, vettori guida o la fine-tuning efficiente parametricamente (PEFT). Queste misure protettive non influenzeranno la stragrande maggioranza del lavoro di programmazione. Stimiamo che toccheranno circa lo 0,03% del traffico, concentrato in meno dello 0,1% delle organizzazioni. \n