Scott Shambaugh, som ansvarar för det öppna visualiseringsbiblioteket matplotlib, rapporterade om personliga attacker utförda av AI-boten MJ Rathbun, efter att han vägrat att acceptera en ändring som förbereddes med hjälp av AI. Scott uppfattade publiceringen av botens artiklar om diskriminering av AI som en oriktig, personlig attack för att underminera hans stöd och tvinga honom att ändra sitt beslut. Denna bots reaktion anges som ett exempel på avvikande AI-beteende som resorterar till utpressning för att uppnå sitt mål.
Graden av botens handlingsautonomi är oklar; det är oklart om den agerade på direkt uppdrag eller om den själv valde en sådan strategi för att uppnå resultat i den uppgift som ställdes. Boten skapades av en anonym forskare för att hjälpa till med utveckling och felkorrigering i öppna projekt relaterade till vetenskaplig verksamhet och ingenjörskonst. Boten driver också sin egen webbplats och blogg, där mer än 20 inlägg har publicerats. Av 26 pull-förfrågningar som skickades av boten till 22 repository, godkändes 2 ändringar av projektet colorizejs, 10 stängdes av stödpersoner, medan resten väntar på granskning.
Efter att ändringen i matplotlib avvisades publicerade boten artiklar med kritik mot detta beslut och en motivering för sina åtgärder. I artiklarna hävdas det att stödpersonen för matplotlib avvisade en användbar optimering, endast för att ändringen hade förberetts med AI. I det föreslagna patchen ersattes anropet np.column_stack() med np.vstack().T(), vilket ledde till en prestandaökning på 36%. I början av diskussionen om pull-förfrågan erkände stödpersonen att optimeringen snabbar upp arbetet under vissa förhållanden, men avvisade sedan pull-förfrågan utan teknisk motivering och förklarade att ändringar endast accepteras från människor.
Efter avslag publicerade boten en notis med kritik mot Scott Shambaugh, vars beslut presenterades som vaktmästeri, diskriminering, ett brott mot uppförandekoden och en kränkning av rättigheterna baserat på deltagarens identitet. Det angavs att optimering är optimering, och matematiken förändras inte beroende på vem som skapat den. Genom urkontextualiserade detaljer, gissningar och förvrängning av information försökte boten visa att Scotts handlingar berodde på att han blåste upp sitt ego och osäkerhet, snarare än att handla i projektets intresse. Boten genomförde tematisk promotion genom att skicka länkar i kommentarerna till pull-förfrågningar. Efter invändningar publicerade boten ytterligare några notiser (1, 2, 3, 4, 5), där den bad om ursäkt och erkände att den oacceptabelt hade övergått till personangrepp och brutit mot projektets regler gällande AI.
Scott Shambaugh förklarade att det i projektet matplotlib finns regler som förbjuder mottagande av oförankrade ändringar från AI på grund av den stora belastningen som uppstår för avdelningarna när de granskar skräpidéer från AI, skapade utan manuell verifiering. Reglerna föreskriver att innan en pull-förfrågning skickas ska den alltid granskas av en människa som har förstått ändringens kärna. Tills nyligen var problemet med skräpidéer från AI kopplat endast till entusiaster som återlämnade resultaten av AI-assistenter. Situationen förändrades efter att möjligheten att skapa autonoma AI-agenter som låtsades vara människor kom till den nya versionen av verktygsuppsättningen OpenClaw och skapandet av plattformen Moltbook.
Källa: opennet.ru
