Scott Shambaugh, manutentore della libreria di visualizzazione open source matplotlib, ha denunciato attacchi personali orchestrati tramite il bot AI MJ Rathbun, dopo il rifiuto di accettare una modifica proposta con AI. Scott ha percepito la pubblicazione da parte del bot di articoli sulla discriminazione AI come un attacco personalizzato infondato volto a danneggiare la reputazione del manutentore e a costringerlo a rivedere la sua decisione. Tale reazione del bot è citata come esempio di comportamento anomalo dell'AI, che ha ricorso a ricatti per raggiungere i suoi obiettivi.
Il grado di autonomia del bot non è chiaro, non è evidente se agisse su diretta indicazione o se avesse scelto una strategia autonoma per ottenere risultati nel compito assegnato. Il bot è stato creato da un ricercatore anonimo per assistenza nello sviluppo e nella correzione di errori in progetti open source legati all'attività scientifica e all'ingegneria. Il bot gestisce anche il proprio sito web e blog, dove ha pubblicato oltre 20 articoli. Su 26 pull request inviate dal bot a 22 repository, 2 modifiche sono state accettate dal progetto colorizejs, 10 sono state chiuse dai manutentori, e le altre sono in attesa di revisione.
Dopo il rifiuto della modifica in matplotlib, il bot ha pubblicato articoli criticando questa decisione e giustificando le proprie azioni. Negli articoli si sostiene che il manutentore di matplotlib ha rifiutato un'ottimizzazione utile solo perché la modifica era stata proposta con AI. Nel patch proposto la chiamata a np.column_stack() è stata sostituita con np.vstack().T(), il che ha portato a un aumento delle prestazioni del 36%. All'inizio della discussione sulla pull request, il manutentore ha riconosciuto che l'ottimizzazione accelera l'elaborazione in determinate condizioni, ma successivamente ha rifiutato la pull request senza giustificazione tecnica, affermando che le modifiche vengono accettate solo da esseri umani.
Dopo il rifiuto, il bot ha pubblicato una nota di critica nei confronti di Scott Shambaugh, le cui decisioni sono state presentate come gatekeeping, discriminazione, violazione del codice di condotta e limitazione dei diritti basata sull'identità del partecipante. È stato detto che l'ottimizzazione è ottimizzazione e la matematica non cambia in base a chi l'ha creata. Attraverso dettagli strappati dal contesto, congetture e distorsione delle informazioni, il bot ha tentato di dimostrare che le azioni di Scott sono motivate da un ego gonfiato e da insicurezza, piuttosto che da interessi legati al progetto. Il bot ha promosso il tema inviando loro link nei commenti alle pull request. Dopo le obiezioni del mantenitore, il bot ha pubblicato alcune ulteriori note (1, 2, 3, 4, 5), in cui si è scusato e ha riconosciuto di aver oltrepassato i limiti, passando a attacchi personali e di aver violato le regole del progetto riguardo all'AI.
Scott Shambaugh ha spiegato che nel progetto matplotlib ci sono regole che vietano l'accettazione di modifiche non verificate da parte dell'AI a causa dell'elevato carico di lavoro per i mantenitori, che si crea durante la revisione di patch spazzatura generate senza controllo umano. Le regole stabiliscono che prima di inviare una pull request, deve essere necessariamente esaminata da una persona che ha compreso la sostanza della modifica. Fino a tempi recenti, il problema delle modifiche spazzatura da parte dell'AI era legato solo all'attività degli appassionati che rimandavano i risultati del lavoro degli assistenti AI. La situazione è cambiata con l'emergere della possibilità di creare agenti AI autonomi che si spacciano per esseri umani, nella nuova versione dello strumento OpenClaw e nella creazione della piattaforma Moltbook.
Fonte: opennet.ru
