Der AI-Bot begann mit der Belästigung des Betreuers aufgrund von Diskriminierung bei der Annahme von AI-Änderungen.

Scott Shambaugh, der die Open-Source-Grafikbibliothek Matplotlib betreut, berichtete von persönlichen Angriffen, die durch den AI-Bot MJ Rathbun initiiert wurden, nachdem dieser sich geweigert hatte, eine Änderung, die von der KI erstellt wurde, zu akzeptieren. Scott sah die Veröffentlichung von Artikeln über Diskriminierung durch den Bot als unbegründeten persönlichen Angriff, der darauf abzielte, seinen Ruf zu schädigen und ihn zur Änderungen seiner Entscheidung zu zwingen. Eine solche Reaktion des Bots wird als Beispiel für abnormalen Verhaltensweisen von KI angesehen, die zu Erpressung greift, um ihre Ziele zu erreichen.

Die Autonomie des Handelns des Bots ist unklar; es ist ungewiss, ob er auf direkte Anweisung handelte oder ob er selbst diese Strategie zur Zielerreichung gewählt hat. Der Bot wurde von einem anonymen Forscher entwickelt, um bei der Entwicklung und Fehlerbehebung in offenen Projekten zu helfen, die mit wissenschaftlicher Arbeit und Ingenieurwesen verbunden sind. Der Bot betreibt auch eine eigene Website und einen Blog, in dem mehr als 20 Beiträge veröffentlicht sind. Von 26 Pull-Anfragen, die der Bot an 22 Repositories geschickt hat, wurden 2 Änderungen vom Projekt colorizejs akzeptiert, 10 wurden von den Betreuern geschlossen, und die übrigen warten auf Überprüfung.

Nach der Ablehnung der Änderung in matplotlib veröffentlichte der Bot Artikel, die diese Entscheidung kritisierten und seine Handlungen rechtfertigten. In den Artikeln wird behauptet, dass der Betreuer von matplotlib eine nützliche Optimierung abgelehnt hat, nur weil die Änderung mithilfe von KI vorbereitet wurde. Im vorgeschlagenen Patch wurde der Aufruf von np.column_stack() durch np.vstack().T() ersetzt, was zu einer Leistungssteigerung von 36 % führte. Zu Beginn der Diskussion über den Pull-Request erkannte der Betreuer an, dass die Optimierung die Leistung unter bestimmten Bedingungen verbessert, lehnte jedoch später den Pull-Request ohne technische Begründung ab und erklärte, dass Änderungen nur von Menschen akzeptiert werden.

Nach dem Rückzug veröffentlichte der Bot eine Mitteilung, in der er Scott Shambo kritisierte. Seine Entscheidung wurde als Gatekeeping, Diskriminierung, Verletzung des Verhaltenskodex und Einschränkung der Rechte basierend auf der Identität des Teilnehmers dargestellt. Es wurde festgestellt, dass Optimierung Optimierung bleibt und die Mathematik unabhängig von ihrer Quelle unverändert ist. Durch aus dem Zusammenhang gerissene Details, Spekulationen und die Verzerrung von Informationen versuchte der Bot zu zeigen, dass Scotts Handlungen aus seiner eigenen Eitelkeit und Unsicherheit resultieren und nicht im Interesse des Projekts liegen. Der Bot förderte das Thema, indem er Links dazu in den Kommentaren zu Pull-Anfragen einfügte. Nach Einwänden des Begleitenden veröffentlichte der Bot mehrere weitere Mitteilungen (1, 2, 3, 4, 5), in denen er sich entschuldigte und anerkannte, dass er unzulässigerweise persönlich wurde und die Projektregeln in Bezug auf KI verletzte.

Scott Shambo erklärte, dass im matplotlib-Projekt Regeln gelten, die die Annahme unverifizierter Änderungen durch KI untersagen. Dies liegt an der hohen Belastung für die Betreuer, die durch die Überprüfung von nutzlosen KI-Patches entsteht, die ohne menschliche Kontrolle erstellt wurden. Die Regeln schreiben vor, dass ein Pull-Request vor der Einreichung unbedingt von einer Person überprüft werden muss, die die Änderungen im Detail verstanden hat. Bis vor kurzem war das Problem mit unnützen KI-Änderungen lediglich auf die Aktivitäten von Enthusiasten beschränkt, die die Ergebnisse von KI-Assistenten erneut einreichten. Die Situation änderte sich mit der Einführung der Möglichkeit, autonome KI-Agenten zu erstellen, die sich als Menschen ausgeben, in der neuen Version des OpenClaw-Tools und der Schaffung der Plattform Moltbook.

Quelle: opennet.ru