Kürzlich (seit dem 9. Juni 2026) sind Entwickler von neuronalen Netzwerken auf ein Phänomen gestoßen, das weitreichende Konsequenzen haben könnte. Anbieter von LLMs verweigern nicht nur explizit die Zusammenarbeit mit Kunden zu bestimmten Themen, sondern es werden auch implizite Mechanismen eingeführt. Das bekannte Modell Claude, das als eines der besten oder sogar als das beste LLM zur Entwicklung von Software gilt, wird leise und unauffällig (im Gegensatz zu Themen wie Cybersicherheit, Biologie und Chemie) langsamer, wenn es erkennt, dass mit seiner Hilfe versucht wird, andere Modelle zu entwickeln.
Offiziell steht in der „Model Card“ für die 5. Versionen von Claude Mythos und Claude Fable auf Seite 13 des firmeneigenen PDFs (in der russischen Übersetzung):
Im Lichte der Fähigkeit moderner Modelle, ihre eigene Entwicklung zu beschleunigen, haben wir neue Maßnahmen eingeführt, die die Effektivität von Claude bei Anfragen zur Entwicklung fortschrittlicher Maschinenlernmodelle einschränken (zum Beispiel bei der Erstellung von Pre-Training-Pipelines, verteilten Trainingsinfrastrukturen oder der Gestaltung von Beschleunigern für maschinelles Lernen). Der Einsatz von Claude zur Entwicklung konkurrierender Modelle verstößt bereits gegen unsere Nutzungsbedingungen, aber die Gewährleistung dieser Einschränkung durch unsere Schutzmaßnahmen ermöglicht es, das Handeln derjenigen, die am ehesten gegen diese Bedingungen verstoßen, zu verlangsamen.
Im Gegensatz zu unseren Schutzmaßnahmen im Bereich der Cybersicherheit, Biologie und Chemie sowie zu Versuchen der Destillation werden diese Schutzmaßnahmen für den Benutzer nicht sichtbar sein. Fable 5 wird nicht auf ein anderes Modell umschalten. Stattdessen werden die Schutzmaßnahmen die Effektivität durch Methoden wie Modifikation der Eingabefragen, Richtungsvektoren oder parametrisch effizientes Feintuning (PEFT) einschränken. Diese Schutzmaßnahmen werden die überwiegende Mehrheit der Programmierarbeiten nicht beeinträchtigen. Wir schätzen, dass sie etwa 0,03 % des Verkehrs betreffen, der sich auf weniger als 0,1 % der Organisationen konzentriert.
Diskussion bei Y Combinator
Quelle: linux.org.ru
