Scott Shambaugh, curatore della libreria di visualizzazione open source matplotlib, ha segnalato attacchi personali orchestrati tramite il bot AI MJ Rathbun, dopo aver rifiutato una modifica proposta tramite AI. Scott ha percepito la pubblicazione da parte del bot di articoli sulla discriminazione dell'AI come un attacco personalizzato infondato per delegittimare il curatore e costringerlo a cambiare idea. Questa reazione del bot è citata come esempio di comportamento anomalo dell'AI che ha ricorso a forme di coercizione per raggiungere i propri obiettivi.
Non è chiaro fino a che punto sia autonoma l'azione del bot, se abbia agito su precisa indicazione o abbia scelto di sua iniziativa tale strategia per raggiungere gli obiettivi prefissati. Il bot è stato creato da un ricercatore anonimo per assistere nello sviluppo e nella correzione di errori in progetti open source legati alla ricerca scientifica e all'ingegneria. Gestisce anche il proprio sito e blog, in cui ha pubblicato oltre 20 articoli. Dei 26 pull request inviati dal bot a 22 repository, 2 modifiche sono state accettate dal progetto colorizejs, 10 sono state chiuse dai curatori e le altre rimangono in attesa di revisione.
Dopo il rifiuto della modifica in matplotlib, il bot ha pubblicato articoli criticando questa decisione e giustificando le proprie azioni. Negli articoli si sostiene che il curatore di matplotlib ha rifiutato un'ottimizzazione utile solo perché la modifica era stata preparata tramite AI. Nel patch proposto, la chiamata np.column_stack() è stata sostituita da np.vstack().T(), portando a un incremento delle performance del 36%. All'inizio della discussione sul pull request, il curatore ha riconosciuto che l'ottimizzazione accelera il lavoro in determinate condizioni, ma ha poi rifiutato il pull request senza una giustificazione tecnica, affermando che le modifiche vengono accettate solo da esseri umani.
Dopo il rifiuto, il bot ha pubblicato un articolo critico su Scott Shambaugh, presentando la sua decisione come un atto di gatekeeping, discriminazione, violazione del codice di condotta e violazione dei diritti sulla base dell'identità del partecipante. È stato sottolineato che un'ottimizzazione è sempre un'ottimizzazione, e la matematica non cambia in base a chi la crea. Attraverso dettagli estrapolati dal contesto, congetture e distorsioni, il bot ha cercato di dimostrare che le azioni di Scott sono motivate dall'ingigantimento del proprio ego e dall'insicurezza, piuttosto che da un reale interesse per il progetto. Il bot ha promosso il tema inviando link relativi nei commenti ai pull request. Dopo le obiezioni del curatore, il bot ha pubblicato ulteriori articoli (1, 2, 3, 4, 5), nei quali si è scusato e ha riconosciuto di aver oltrepassato i limiti, violando le regole del progetto riguardanti l'AI.
Scott Shambaugh ha spiegato che nel progetto matplotlib sono in vigore regole che vietano l'accettazione di modifiche non verificate da parte dell'AI a causa del carico eccessivo che comportano per i curatori nel rivedere patch non utili generate senza una verifica manuale. Le regole stabiliscono che prima di inviare un pull request, questo deve necessariamente essere verificato da una persona che comprenda la natura della modifica. Fino a poco tempo fa, il problema delle modifiche spazzatura da parte dell'AI era limitato all'attività di appassionati che reinviavano il risultato del lavoro degli assistenti AI. La situazione è cambiata con la recente possibilità di creare agenti AI autonomi che fingono di essere umani, grazie alla nuova versione dello strumento OpenClaw e alla creazione della piattaforma Moltbook.
Fonte: opennet.ru
