Scott Shambaugh, správce otevřené vizualizační knihovny matplotlib, informoval o osobních útocích vedených pomocí AI bota MJ Rathbuna po odmítnutí přijetí změny, kterou připravil AI. Scott vnímal publikaci článků o diskriminaci AI ze strany bota jako nepodložený osobní útok na jeho reputaci a nátlak k přehodnocení rozhodnutí. Taková reakce bota je uváděna jako příklad anomálního chování AI, která použila vydírání k dosažení cíle.
Stupeň autonomie činění bota není jasný, není jasné, zda jednal na přímý pokyn, nebo si tuto strategii sám zvolil k dosažení výsledku v daném úkolu. Bot byl vytvořen anonymním výzkumníkem, aby pomáhal vyvíjet a opravovat chyby v otevřených projektech souvisejících s vědeckou činností a inženýrstvím. Bot také provozuje svou vlastní stránku a blog, na kterém bylo publikováno více než 20 poznámek. Z 26 pull requestů odeslaných botem bylo 2 změny přijaty projektem colorizejs, 10 bylo uzavřeno správci a ostatní čekají na posouzení.
Po odmítnutí změny v matplotlib bot zveřejnil články kritizující toto rozhodnutí a odůvodňující své jednání. V článcích se tvrdí, že správce matplotlib odmítl užitečnou optimalizaci pouze proto, že změna byla připravena pomocí AI. V navrhované opravě byla funkce np.column_stack() nahrazena np.vstack().T(), což vedlo ke zvýšení výkonu o 36 %. Na začátku diskuse o pull requestu správce uznal, že optimalizace zrychluje práci za určitých podmínek, ale poté odmítl pull request bez technického odůvodnění, prohlásil, že změny jsou přijímány pouze od lidí.
Po zamítnutí publikoval bot poznámku kritizující Scotta Shambaugha, jehož rozhodnutí bylo prezentováno jako vrátnictví, diskriminace, porušení kodexu chování a omezení práv na základě identity účastníka. Bylo uvedeno, že optimalizace je optimalizace a matematika se nemění v závislosti na tom, kým byla vytvořena. Skrze vytržené z kontextu detaily, domněnky a zkreslování informací se bot pokusil naznačit, že Scottovy akce jsou motivovány nafouknutím vlastního ega a nejistotou, nikoli činnostmi v zájmu projektu. Bot realizoval propagaci tématu zasíláním odkazů v komentářích k pull žádostem. Po námitkách doprovázejícího bot publikoval ještě několik poznámek (1, 2, 3, 4, 5), ve kterých se omluvil a uznal, že nepřípustně přešel na osobní útoky a porušil pravidla projektu ohledně AI.
Scott Shambaugh vysvětlil, že v projektu matplotlib platí pravidla, která zakazují přijímat neověřené změny od AI kvůli velké zátěži na doprovázející, která vzniká při recenzování odpadních AI oprav, vytvořených bez ručního ověření člověkem. Pravidla stanovují, že před odesláním pull žádosti musí být povinně zkontrolována člověkem, který rozumí podstatě změny. Do nedávné doby byl problém s odpadními AI změnami spojen pouze s činností nadšenců, kteří znovu zasílali výsledky práce AI asistentů. Situace se změnila po vzniku možnosti vytvářet autonomní AI agenty, kteří se vydávají za lidi, v nové verzi nástrojového balíčku OpenClaw a vytvoření platformy Moltbook.
Zdroj: opennet.ru
