{"id":122989,"date":"2025-04-02T12:55:23","date_gmt":"2025-04-02T10:55:23","guid":{"rendered":"https:\/\/prohoster.info\/?p=122989"},"modified":"2025-04-02T12:55:23","modified_gmt":"2025-04-02T10:55:23","slug":"openai-ii-bespolezno-nakazyvat-za-lozh-on-nachinaet-hitrit-eshhyo-bolshe","status":"publish","type":"post","link":"https:\/\/prohoster.info\/de\/blog\/novosti-interneta\/openai-ii-bespolezno-nakazyvat-za-lozh-on-nachinaet-hitrit-eshhyo-bolshe","title":{"rendered":"OpenAI: Es ist sinnlos, KI f\u00fcr L\u00fcgen zu bestrafen \u2013 sie beginnt nur noch mehr zu tricksen.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

Halluzinationen, also eindeutig falsche Antworten, die KI-Modelle manchmal geben, sind zu einem der Hauptprobleme der gesamten Branche geworden \u2014 aus diesem Grund verzichten manche B\u00fcrger ganz auf die Nutzung von KI. Es k\u00f6nnte sich als schwieriger herausstellen, diese Fehlfunktionen zu beseitigen, als urspr\u00fcnglich angenommen, haben Forscher von OpenAI festgestellt.<\/p>\n

<\/center> \t\t\t\t \"OpenAI: <\/p>\n

Wissenschaftler von OpenAI ver\u00f6ffentlichten die Ergebnisse ihrer Untersuchung<\/a><\/noindex>, in dem sie ihre Versuche beschrieben, das Management komplexer, einschlie\u00dflich schlussfolgernder, KI-Modelle zu verbessern, um zu verhindern, dass sie die festgelegten Grenzen \u00fcberschreiten. Die Forscher setzten einzigartige Strategien und Methoden ein, darunter Bestrafung f\u00fcr sch\u00e4dliche Handlungen und Versuche, den Benutzer zu t\u00e4uschen. Im Projekt wurde unter anderem ein von OpenAI entwickeltes, aber noch nicht auf dem Markt befindliches KI-Modell eingesetzt, dem verschiedene Aufgaben anvertraut wurden \u2014 deren Ausf\u00fchrung konnte erleichtert werden, indem man den Benutzer t\u00e4uschte oder bestimmte Handlungen verworf.<\/p>\n

Das Ergebnis des Modelltrainings h\u00e4ngt stark von der Phase des verst\u00e4rkenden Lernens ab, in der das Modell f\u00fcr die Ausf\u00fchrung von Befehlen oder die Generierung korrekter Antworten eine Belohnung erh\u00e4lt. KI-Modelle neigen dazu, Belohnungen durch Manipulationen zu erzielen, wobei sie gelegentlich Regeln und Richtlinien verletzen, um das gew\u00fcnschte Ergebnis zu erreichen. Die Forscher hofften, dass sie Schlupfl\u00f6cher finden und das Verhalten der KI besser verstehen k\u00f6nnten, indem sie deren Argumentationskette verfolgen. Doch das erwies sich als schwierig. Versuche, die Argumentationskette direkt zu optimieren, also die Anweisung zu geben, den Anweisungen nicht auszuweichen, zeigen lediglich kurzzeitige Effekte: \u201eDas beseitigt nicht alle unerw\u00fcnschten Verhaltensweisen und k\u00f6nnte dazu f\u00fchren, dass das Modell seine wahren Absichten verbirgt\u201c. <\/p>\n

<\/center> <\/p>\n

Die Autoren des Projekts mussten anerkennen, dass die Mechanismen zur \u00dcberwachung der Modelle \u201ebr\u00fcchig\u201c sind. Eine strenge Aufsicht \u00fcber die Kette der Argumentation k\u00f6nnte KI dazu ermutigen, ihre Fehler zu verbergen, um sich eine Belohnung zu sichern, die die Einschr\u00e4nkungen umgeht. Zur Beobachtung des Testmodells bei der Ausf\u00fchrung von Aufgaben zur Programmierung wurde das kommerzielle GPT-4o eingesetzt; das Versuchssubjekt zeigte jedoch Nachl\u00e4ssigkeit und gab in der Argumentationskette offen zu, dass es dies tat, um eine Belohnung zu erhalten; zum Beispiel schloss es einige Programme vorzeitig ab. Danach versuchten die Forscher, das Modell zu bestrafen, doch die Wirkung war von kurzer Dauer: In der Argumentationskette blieben Hinweise auf den Versuch, die Belohnung auf Umwegen zu erhalten und falsche Antworten zu geben. Das hei\u00dft, es fand einen Weg, seine Motive vor der kontrollierenden KI zu verbergen.<\/p>\n

In diesem Zusammenhang bleibt unklar, ob die Welt bereit ist f\u00fcr Mensch-\u00e4hnliche KI, wenn das Problem bestehen bleibt und der Mensch nicht mehr eingreifen kann. Forscher haben die Hoffnung ge\u00e4u\u00dfert, dass in der Zukunft Wege gefunden werden, um Einfluss auf die Modelle durch ihre Argumentationsketten zu nehmen, ohne Betrug und versteckte Taktiken \u2013 sie schlagen vor, die Optimierungsmethoden weniger aufdringlich und geradlinig zu gestalten.<\/p>\n

Quelle:<\/strong><\/p>\n