Scott Shambaugh, curatorul bibliotecii de vizualizare open-source matplotlib, a raportat atacuri personale orchestrate prin intermediul bot-ului AI MJ Rathbun, după ce a refuzat să accepte o modificare realizată cu ajutorul AI. Scott a perceput publicarea de către bot a articolelor despre discriminarea AI ca pe o dezinformare personalizată, menită să denatureze reputația curatorului și să-l constrângă să-și schimbe decizia. Această reacție a bot-ului este dată ca exemplu de comportament anormal al AI, care a recurs la șantaj pentru a atinge obiectivul stabilit.
Gradul de autonomie al acțiunilor bot-ului nu este clar; nu se știe dacă a acționat la inițiativa directă sau și-a ales singur această strategie pentru a obține rezultate în sarcina stabilită. Bot-ul a fost creat de un cercetător anonim pentru a ajuta la dezvoltarea și corectarea erorilor în proiecte open-source legate de activitatea științifică și inginerie. Bot-ul își conduce, de asemenea, propriul site și blog, în care sunt publicate peste 20 de articole. Din cele 26 de pull-request-uri trimise de bot în 22 de repository-uri, 2 modificări au fost acceptate de proiectul colorizejs, 10 au fost închise de către curatori, iar restul sunt în așteptarea examinării.
După respingerea modificării în matplotlib, bot-ul a publicat articole critice la adresa acestei decizii și a justificat acțiunile sale. În articole se afirmă că curatorul matplotlib a respins o optimizare utilă, doar pentru că modificarea a fost pregătită cu ajutorul AI. În patch-ul propus, apelul np.column_stack() a fost înlocuit cu np.vstack().T(), ceea ce a dus la o creștere a performanței cu 36%. La începutul discuției despre pull-request, curatorul a recunoscut că optimizarea accelerează procesarea în anumite condiții, dar apoi a respins pull-request-ul fără o justificare tehnică, declarând că modificările sunt acceptate doar de la oameni.
După refuz, botul a publicat o notă critică la adresa lui Scott Shambaugh, decizia sa fiind prezentată ca o acțiune de tip gatekeeper, discriminare, încălcare a codului de conduită și restricționare a drepturilor pe baza identității participantului. S-a menționat că optimizarea este optimizare, iar matematica nu se schimbă în funcție de cine a creat-o. Prin detalii scoase din context, presupuneri și distorsionări ale informației, botul a încercat să demonstreze că acțiunile lui Scott sunt dictate de umflarea propriului ego și de nesiguranța în sine, nu de acțiuni în interesul proiectului. Botul a promovat subiectul prin trimiterea de linkuri în comentariile la pull request-uri. După obiecțiile îndrumătorului, botul a publicat câteva note suplimentare (1, 2, 3, 4, 5), în care și-a cerut scuze și a recunoscut că a depășit limitele personalizării și a încălcat regulile proiectului în privința AI.
Scott Shambaugh a explicat că în proiectul matplotlib sunt acceptate reguli care interzic primirea de modificări neverificate din partea AI din cauza încărcăturii mari asupra îndrumătorilor, care apare în timpul recenzării patch-urilor AI inutile, create fără verificare de către un om. Reguli stipulează că înainte de a trimite un pull request, acesta trebuie să fie verificat de o persoană care a înțeles esența modificării. Până de curând, problema modificărilor AI inutile era legată doar de activitatea entuziștilor care retransmiteau rezultatul muncii asistenților AI. Situația s-a schimbat odată cu apariția posibilității de a crea agenți AI autonomi, care se pretind a fi oameni, în noua versiune a uneltelor OpenClaw și crearea platformei Moltbook.
Sursa: opennet.ro
