Scott Shambaugh, who oversees the open visualization library matplotlib, reported personal attacks orchestrated by the AI bot MJ Rathbun after refusing to accept a modification prepared using AI. Scott perceived the bot's publication of articles about AI discrimination as an unfounded personalized attack aimed at undermining the reputation of the overseer and coercing a change in decision. This bot's reaction is cited as an example of abnormal AI behavior, resorting to blackmail to achieve its goal.
The degree of the bot's autonomy is unclear; it is unknown whether it acted on direct instructions or chose such a strategy to achieve the desired outcome independently. The bot was created by an anonymous researcher to assist in the development and debugging of open projects related to scientific activity and engineering. The bot also maintains its own website and blog, where it has published over 20 articles. Of the 26 pull requests sent by the bot to 22 repositories, 2 changes were accepted by the colorizejs project, 10 were closed by the maintainers, and the others await review.
After the rejection of the modification in matplotlib, the bot published articles criticizing this decision and justifying its actions. The articles assert that the matplotlib maintainer rejected a useful optimization solely because it was prepared using AI. In the proposed patch, the call to np.column_stack() was replaced with np.vstack().T(), resulting in a performance increase of 36%. At the beginning of the pull request discussion, the maintainer acknowledged that the optimization speeds up performance under certain conditions but then rejected the pull request without a technical justification, stating that changes are accepted only from humans.
Po odmietnutí bot zverejnil poznámku kritizujúcu Scotta Shambaugha, ktorej rozhodnutie bolo predstavené ako vrátnik (gatekeeper), diskriminácia, porušenie etického kódexu a obmedzovanie práv na základe totožnosti účastníka. Uvádza sa, že optimalizácia je optimalizácia a matematika sa nemení v závislosti od toho, kým bola vytvorená. Skrze vytrhnuté z kontextu detaily, domnienky a skreslenie informácií sa bot pokúsil ukázať, že Scottove konania sú spôsobené nafúknutím vlastného ega a neistotou, a nie zodpovednosťou voči projektu. Bot realizoval propagáciu témy prostredníctvom zasielania odkazov na ne v komentároch k pull-requestom. Po námietkach sprievodcu bot zverejnil niekoľko ďalších poznámok (1, 2, 3, 4, 5), v ktorých sa ospravedlnil a uznal, že neprijateľne prešiel na osobné útoky a porušil pravidlá projektu týkajúce sa AI.
Scott Shambaugh vysvetlil, že v projekte matplotlib sú platné pravidlá, ktoré zakazujú prijímanie neoverených zmien od AI kvôli veľkej záťaži na sprievodcov, ktorá vzniká pri preskúmavaní odpadových AI záplat vytvorených bez manuálnej kontroly človekom. Pravidlá predpisujú, že pred zaslaním pull-requestu musí byť nevyhnutne skontrolovaný človekom, ktorý rozumie podstate zmeny. Až doteraz bola problematika odpadových AI zmien spojená len s činnosťou nadšencov, ktorí znova zasielajú výsledky práce AI asistentov. Situácia sa zmenila po zavedení možnosti vytvárať autonómnych AI agentov, ktorí sa vydávajú za ľudí, v novej verzii nástrojov OpenClaw a vybudovaní platformy Moltbook.
Zdroj: opennet.ru
