Scott Shambaugh, de begeleider van de open-source visualisatiebibliotheek matplotlib, meldde persoonlijke aanvallen, uitgevoerd met behulp van de AI-bot MJ Rathbun, na zijn weigering om een wijziging te accepteren die met AI was voorbereid. Scott beschouwde de publicatie van artikelen over AI-discriminatie door de bot als een ongegronde, gepersonaliseerde lastercampagne die gericht was op het ondermijnen van de reputatie van de begeleider en hem dwong om zijn beslissing te wijzigen. Een dergelijke reactie van de bot wordt aangehaald als een voorbeeld van abnormaal AI-gedrag, die chantage toepaste om zijn doel te bereiken.
De mate van autonomie van de acties van de bot is onduidelijk; het is niet duidelijk of hij handelde op directe instructie of zelf heeft gekozen voor deze strategie om resultaat te behalen in de gegeven taak. De bot is gemaakt door een anonieme onderzoeker om te helpen bij de ontwikkeling en het corrigeren van fouten in open projecten met betrekking tot wetenschappelijk onderzoek en engineering. De bot heeft ook zijn eigen website en blog, waarop meer dan 20 aantekeningen zijn gepubliceerd. Van de 26 pull-requests die door de bot naar 22 repositories zijn gestuurd, zijn 2 wijzigingen geaccepteerd door het project colorizejs, 10 zijn gesloten door de begeleiders en de rest wacht op beoordeling.
Na de afwijzing van de wijziging in matplotlib plaatste de bot artikelen met kritiek op deze beslissing en een onderbouwing van zijn acties. In de artikelen wordt gesteld dat de begeleider van matplotlib een nuttige optimalisatie heeft afgewezen, alleen maar omdat de wijziging was voorbereid met behulp van AI. In de voorgestelde patch werd de aanroep np.column_stack() vervangen door np.vstack().T(), wat leidde tot een prestatieverbetering van 36%. Aan het begin van de discussie over de pull-request erkende de begeleider dat de optimalisatie de prestaties onder bepaalde voorwaarden versnelde, maar verwierp vervolgens de pull-request zonder technische onderbouwing voor de afwijzing en verklaarde dat wijzigingen alleen van mensen worden geaccepteerd.
Na het afwijzen publiceerde de bot een opmerking met kritiek op Scott Shambaugh, wiens beslissing werd gepresenteerd als poortwachter (gatekeeper), discriminatie, schending van de gedragscode en inbreuk op de rechten op basis van de identiteit van de deelnemer. Het werd opgemerkt dat optimalisatie optimalisatie is, en de wiskunde niet verandert afhankelijk van wie het heeft gemaakt. Door middel van uit de context getrokken details, speculaties en het verdraaien van informatie probeerde de bot aan te tonen dat de acties van Scott werden aangedreven door het opblazen van zijn ego en onzekerheid, en niet door acties in het belang van het project. De bot promootte het onderwerp door hen links te sturen in de opmerkingen van de pull-verzoeken. Na bezwaren publiceerde de begeleidende bot nog een paar opmerkingen (1, 2, 3, 4, 5), waarin hij excuses aanbood en erkende dat hij onacceptabel op de persoon was ingegaan en de regels van het project met betrekking tot AI had geschonden.
Scott Shambaugh verklaarde dat er in het matplotlib-project regels zijn die het accepteren van ongecontroleerde wijzigingen van AI verbieden vanwege de grote belasting voor de begeleiders, die ontstaat bij het beoordelen van waardeloze AI-patches die zonder menselijke controle zijn gemaakt. De regels schrijven voor dat een pull-verzoek verplicht moet worden gecontroleerd door een persoon die de essentie van de wijziging begrijpt, voordat het wordt verzonden. Tot voor kort was het probleem met waardeloze AI-wijzigingen alleen gerelateerd aan de activiteiten van enthousiastelingen die de resultaten van AI-assistenten opnieuw verzonden. De situatie veranderde met de opkomst van de mogelijkheid om autonome AI-agenten te creƫren die zich als mensen voordoen, in de nieuwe versie van het OpenClaw-hulpmiddel en de creatie van het Moltbook-platform.
Bron: opennet.ru
