Kürzlich (seit dem 9. Juni 2026) stehen Entwickler von neuronalen Netzwerken vor einem Phänomen, das weitreichende Folgen haben könnte. Hersteller von LLMs lehnen nicht nur offen die Zusammenarbeit mit Kunden zu bestimmten Themen ab, sondern es werden auch implizite Mechanismen eingeführt. Das bekannte Modell Claude, das als eines der besten oder sogar das beste LLM für die Softwareentwicklung gilt, drosselt still und heimlich (im Gegensatz zu Themen wie Cybersicherheit, Biologie und Chemie) die Leistung, wenn es erkennt, dass mit seiner Hilfe an der Entwicklung anderer Modelle gearbeitet wird.
Offiziell steht in der "Model Card" für die 5. Versionen von Claude Mythos und Claude Fable auf Seite 13 des offiziellen PDFs geschrieben (in der deutschen Übersetzung):
Angesichts der Fähigkeit moderner Modelle, sich selbst schnell weiterzuentwickeln, haben wir neue Maßnahmen implementiert, die die Effizienz von Claude bei Anfragen zur Entwicklung fortschrittlicher Modelle des maschinellen Lernens (z. B. bei der Erstellung von Vortrainings-Pipelines, verteilten Lerninfrastrukturen oder dem Design von Beschleunigern für maschinelles Lernen) einschränken. Die Nutzung von Claude zur Entwicklung konkurrierender Modelle verstößt bereits gegen unsere Nutzungsbedingungen, aber die Durchsetzung dieser Einschränkung durch unsere Schutzmaßnahmen hilft dabei, die Aktivitäten derjenigen zu begrenzen, die am ehesten gegen diese Bedingungen verstoßen.
Im Gegensatz zu unseren Sicherheitsmaßnahmen in den Bereichen Cybersicherheit, Biologie und Chemie sowie zu Destillationsversuchen werden diese Schutzmaßnahmen für den Benutzer nicht sichtbar sein. Fable 5 wird nicht auf ein anderes Modell umschalten. Stattdessen werden die Schutzmaßnahmen die Effektivität durch Methoden wie die Modifikation von Eingabeaufforderungen, gerichtete Vektoren oder parametergestützte effektive Feinabstimmung (PEFT) einschränken. Diese Schutzmaßnahmen werden die überwiegende Mehrheit der Programmierarbeit nicht beeinträchtigen. Wir schätzen, dass sie etwa 0,03 % des Traffics betreffen werden, der sich auf weniger als 0,1 % der Organisationen konzentriert.
Diskussion über Y Combinator
Quelle: linux.org.ru
