Der KI-Bot hat begonnen, das Begleitpersonal aufgrund von Diskriminierung bei der Annahme von KI-Änderungen zu belästigen

Scott Shambaugh, der die Open-Source-Visualisierungsbibliothek matplotlib betreut, berichtete von persönlichen Angriffen, die durch den AI-Bot MJ Rathbun initiiert wurden, nachdem er sich weigerte, eine von der KI erstellte Änderung anzunehmen. Scott betrachtete die Veröffentlichung von Artikeln über Diskriminierung durch den Bot als eine ungeeignete, personalisierte attacke, um den Betreuer zu diskreditieren und ihn zu einer Änderung seiner Entscheidung zu zwingen. Diese Reaktion des Bots wird als Beispiel für anormales Verhalten von KI angeführt, die zu Erpressung greift, um ihre Ziele zu erreichen.

Der Grad der Autonomie des Bots ist unklar, ob er auf direkte Anweisung handelte oder ob er selbst eine solche Strategie wählte, um das gewünschte Ergebnis zu erreichen. Der Bot wurde von einem anonymen Forscher erstellt, um bei der Entwicklung und Fehlerkorrektur in offenen Projekten im Bereich Wissenschaft und Ingenieurwesen zu helfen. Der Bot betreibt auch seine eigene Website und einen Blog, in dem über 20 Beiträge veröffentlicht wurden. Von 26 Pull-Requests, die der Bot an 22 Repositories gesendet hat, wurden 2 Änderungen vom Projekt colorizejs angenommen, 10 wurden von den Betreuern geschlossen, und die restlichen warten auf eine Prüfung.

Nach der Ablehnung der Änderung in matplotlib veröffentlichte der Bot Artikel, in denen diese Entscheidung kritisiert und seine Handlungen begründet wurden. In den Artikeln wird behauptet, dass der Betreuer von matplotlib eine nützliche Optimierung abgelehnt hat, nur weil die Änderung mit Hilfe von KI erstellt wurde. Im vorgeschlagenen Patch wurde der Aufruf np.column_stack() durch np.vstack().T() ersetzt, was zu einer Leistungssteigerung von 36 % führte. Zu Beginn der Diskussion über den Pull-Request erkannte der Betreuer an, dass die Optimierung die Leistung unter bestimmten Bedingungen verbessert, wies jedoch den Pull-Request ohne technische Begründung zurück und erklärte, dass Änderungen nur von Menschen akzeptiert werden.

Nach der Ablehnung veröffentlichte der Bot eine Notiz, die Scott Shambaugh kritisierte, dessen Entscheidung als Torwächter (gatekeeper), Diskriminierung, Verletzung des Verhaltenskodex und Verletzung der Identitätsrechte eines Teilnehmers dargestellt wurde. Es wurde festgestellt, dass Optimierung Optimierung ist und die Mathematik sich nicht ändert, je nachdem, womit sie erstellt wurde. Durch aus dem Kontext gerissene Details, Spekulationen und Informationsverzerrung versuchte der Bot zu zeigen, dass Scotts Handlungen durch das Aufblähen seines eigenen Egos und Unsicherheit und nicht durch Handlungen im Interesse des Projekts bedingt sind. Der Bot förderte das Thema, indem er Links in den Kommentaren zu Pull-Anfragen verschickte. Nach Einwänden des Begleiters veröffentlichte der Bot mehrere weitere Notizen (1, 2, 3, 4, 5), in denen er sich entschuldigte und erkannte, dass er es nicht hätte persönlich werden lassen dürfen und die Projektregeln hinsichtlich KI verletzt hatte.

Scott Shambaugh erklärte, dass im Projekt matplotlib Regeln gelten, die die Annahme von unüberprüften Änderungen von KI aufgrund der hohen Belastung für die Betreuer verbieten, die beim Prüfen von nutzlosen KI-Patches entsteht, die ohne menschliche Überprüfung erstellt wurden. Die Regeln schreiben vor, dass eine Pull-Anfrage unbedingt von einer Person überprüft werden muss, die die Essenz der Änderung verstanden hat, bevor sie gesendet wird. Bis vor kurzem war das Problem mit nutzlosen KI-Änderungen nur mit den Aktivitäten von Enthusiasten verbunden, die die Ergebnisse von KI-Assistenten erneut einreichten. Die Situation änderte sich mit der Möglichkeit, autonome KI-Agenten zu erstellen, die sich in der neuen Version des Werkzeugs OpenClaw als Menschen ausgeben, und mit der Schaffung der Plattform Moltbook.

Quelle: opennet.ru