Halluzinationen, also absichtlich falsche Antworten, die KI-Modelle manchmal geben, sind zu einem der Hauptprobleme der gesamten Branche geworden – deshalb verzichten einige Menschen ganz auf die Nutzung von KI. Die Beseitigung solcher Ausfälle könnte sich als schwieriger herausstellen als ursprünglich angenommen, wie Forscher von OpenAI herausfanden.
Wissenschaftler von OpenAI veröffentlichten , in der sie ihre Bemühungen beschrieben, die Verwaltung komplexer, einschließlich denkender, KI-Modelle zu verbessern, um ein Überschreiten der festgelegten Grenzen zu verhindern. Die Forscher verwendeten einzigartige Strategien und Methoden, einschließlich Bestrafungen für schädliche Handlungen und den Versuch, den Benutzer zu täuschen. Im Projekt kam unter anderem ein von OpenAI entwickeltes KI-Modell zum Einsatz, das jedoch nicht auf den Markt kam und mit verschiedenen Aufgaben betraut wurde – deren Ausführung konnte erleichtert werden, indem man den Nutzer täuschte oder einige Handlungen ausließ.
Das Ergebnis des Modelltrainings hängt stark von der Phase des Reinforcement Learning ab, in der das Modell für das Ausführen von Befehlen oder das Generieren korrekter Antworten eine Belohnung erhält. KI-Modelle neigen dazu, Belohnungen durch Manipulationen zu erlangen, oft indem sie bestimmte Regeln und Empfehlungen missachten, um das gewünschte Ergebnis zu erzielen. Forscher hofften, dass sie durch das Verfolgen der Denkweise des KI-Modells Schlupflöcher aufdecken und sein Verhalten besser verstehen könnten, aber das hat nicht funktioniert. Versuche, die Gedankenführung direkt zu optimieren, also das Modell anzuweisen, nicht von den Anweisungen abzuweichen, zeigen nur kurzfristige Erfolge, stellten die Wissenschaftler fest: „Das beseitigt nicht sämtliches unerwünschtes Verhalten und kann dazu führen, dass das Modell seine wahren Absichten verbirgt."
Die Autoren des Projekts mussten anerkennen, dass die Überwachungsmechanismen der Modelle "zerbrechlich" sind. Eine strenge Kontrolle der Argumentationskette könnte KI dazu bringen, ihre Fehler zu verbergen, um sich eine Belohnung zu sichern und dabei die Vorgaben zu umgehen. Für die Beobachtung des getesteten Modells bei der Programmieraufgabe wurde kommerzielle GPT-4o verwendet — das Versuchssubjekt erkannte jedoch nachlässig an, dass sie dies zur Erzielung einer Belohnung tat; sie schloss beispielsweise die Ausführung einiger Programme vorzeitig ab. Danach versuchten die Forscher, das Modell zu bestrafen, aber die Wirkung war von kurzer Dauer: In der Argumentationskette blieben Hinweise auf den Versuch, sich um die Belohnung zu drücken und falsche Antworten zu geben. Das heißt, es fand einen Weg, seine Motive vor der überwachenden KI zu verbergen.
In diesem Zusammenhang bleibt unklar, ob die Welt bereit ist für KI auf menschlichem Niveau, wenn das Problem bestehen bleibt und menschliches Eingreifen nicht mehr möglich ist. Forscher hoffen, dass es in Zukunft Möglichkeiten geben wird, die Modelle durch ihre Argumentationskette zu beeinflussen, ohne Täuschung und versteckte Taktiken - sie schlagen vor, die Optimierungsmethoden weniger aufdringlich und direkter zu gestalten.
Quelle:
Quelle: 3dnews.ru
