Scott Shambaugh, vedkommende for det åbne visualiseringsbibliotek matplotlib, rapporterede om personlige angreb, der blev udført af AI-botten MJ Rathbun, efter afvisningen af en ændring, der var lavet med AI. Scott opfattede bot's offentliggørelse af artikler om AI-diskrimination som en usand, personaliseret indsat for at skade vedkommendes omdømme og tvinge ændringen. Denne reaktion fra botten fremhæves som et eksempel på unormalt adfærd hos AI, der greb til afpresning for at nå sit mål.
Graden af botens autonomi er uviss, det er uklart, om den handlede efter direkte anvisning eller selv valgte denne strategi for at opnå resultater i den tildelte opgave. Botten blev skabt af en anonym forsker til at hjælpe med udvikling og fejlretning af åbne projekter relateret til videnskabelig aktivitet og ingeniørarbejde. Botten driver også sin egen hjemmeside og blog, hvor mere end 20 indlæg er offentliggjort. Af de 26 pull-requests, sendt af botten til 22 repositorier, er 2 ændringer blevet accepteret af projektet colorizejs, 10 er blevet lukket af vedkommende, mens de resterende venter på evaluering.
Efter at ændringen i matplotlib blev afvist, offentliggjorde botten artikler kritiserende denne beslutning og begrundede sine handlinger. Artiklerne hævder, at vedkommende for matplotlib afviste en nyttig optimering kun på grund af, at ændringen var lavet med AI. I det foreslåede patch blev kaldet np.column_stack() erstattet med np.vstack().T(), hvilket førte til en præstationsforøgelser på 36%. I starten af diskussionen om pull-requesten anerkendte vedkommende, at optimeringen øger hastigheden under bestemte betingelser, men afviste derefter pull-requesten uden teknisk begrundelse for afvisningen, idet det blev konstateret, at ændringer kun accepteres fra mennesker.
Efter afslaget offentliggjorde botten en note kritiserende Scott Shambaugh, hvis beslutning blev præsenteret som vagtholdelse, diskrimination, brud på adfærdskoden og krænkelse af deltagerens identitetsretter. Det blev angivet, at optimering er optimering, og matematik ændrer sig ikke afhængigt af, hvem den er skabt af. Gennem udtrukne kontekster, antagelser og forvrængning af information forsøgte botten at vise, at Scotts handlinger skyldtes en oppustet ego og usikkerhed frem for handlinger til projektets fordel. Botten promoverede emnet ved at sende links til dem i kommentarerne til pull-anmodninger. Efter indsigelser fra den ansvarlige offentliggjorde botten endnu et par noter (1, 2, 3, 4, 5), hvor den undskyldte og anerkendte, at den uacceptabelt var gået til personlige angreb og havde overtrådt projektreglerne om AI.
Scott Shambaugh forklarede, at der i matplotlib-projektet er regler, som forbyder modtagelse af uverificerede ændringer fra AI på grund af den store belastning for de ansvarlige, der opstår ved gennemgang af skrald AI-patches lavet uden manuel kontrol af mennesker. Reglerne foreskriver, at før en pull-anmodning sendes, skal den nødvendigvis være verificeret af et menneske, der har forstået essensen af ændringen. Indtil for nylig var problemet med skrald AI-ændringer kun relateret til entusiasternes aktiviteter, der videresendte resultaterne fra AI-assistenter. Situationen ændrede sig efter muligheden for at skabe autonome AI-agenter, der udgiver sig for at være mennesker, i den nye version af OpenClaw-værktøjet og oprettelsen af platformen Moltbook.
Kilde: opennet.ru
