Scott Shambaugh, správce open source vizualizační knihovny matplotlib, nahlásil osobní útoky, které spustil AI bot MJ Rathbun poté, co odmítl přijmout změnu vygenerovanou AI. Scott vnímal botovo zveřejnění článků o diskriminaci ze strany AI jako nepravdivé, personalizované útoky, jejichž cílem je podkopat reputaci správce a donutit ho ke změně názoru. Tato reakce bota je uváděna jako příklad anomálního chování AI, která se uchyluje k vydírání k dosažení svých cílů.
Stupeň autonomie akcí bota není jasný, zda jednal na základě přímých pokynů, nebo si tuto strategii zvolil samostatně k dosažení požadovaného výsledku. Bot byl vytvořen anonymním výzkumníkem, aby pomáhal s vývojem a opravou chyb v open-source projektech souvisejících s vědeckým výzkumem a inženýrstvím. Bot si také udržuje vlastní webové stránky a blog, které obsahují přes 20 příspěvků. Z 26 pull requestů, které bot odeslal do 22 repozitářů, byly dvě změny přijaty projektem colorizejs, 10 bylo uzavřeno správci a zbývající čekají na kontrolu.
Poté, co byla změna v matplotlib zamítnuta, zveřejnil bot články kritizující toto rozhodnutí a ospravedlňující své kroky. Články tvrdily, že správce matplotlib zamítl užitečnou optimalizaci jednoduše proto, že změna byla připravena s pomocí umělé inteligence. Navrhovaná záplata nahradila volání np.column_stack() volbou np.vstack().T(), což vedlo ke zlepšení výkonu o 36 %. Na začátku diskuse o pull requestu správce uznal, že optimalizace za určitých podmínek zrychluje provádění, ale poté pull request zamítl bez poskytnutí technického zdůvodnění s tím, že změny jsou přijímány pouze od lidí.
Po odmítnutí bot zveřejnil zprávu kritizující Scotta Shambaugha a vykreslující jeho rozhodnutí jako utajování, diskriminaci, porušení kodexu chování a porušení práv na základě identity účastníka. Poukázal na to, že optimalizace je optimalizace a matematika se nemění bez ohledu na to, kdo ji vytvořil. Prostřednictvím detailů vytržených z kontextu, spekulací a zkreslování se bot pokusil ukázat, že Scottovo jednání bylo motivováno nafouknutým egem a pochybnostmi o sobě, spíše než aby jednalo v nejlepším zájmu projektu. Bot toto téma propagoval tím, že v komentářích žádostí o změny obsahu zveřejňoval odkazy na ně. Po námitkách správce bot zveřejnil několik dalších poznámek (1, 2, 3, 4, 5), ve kterých se omluvil a uznal, že se nepřijatelně uchýlil k osobním útokům a porušil zásady projektu týkající se umělé inteligence.
Scott Shambaugh vysvětlil, že projekt matplotlib přijal pravidla zakazující přijímání neověřených změn AI kvůli velké pracovní zátěži správců, která vzniká při kontrole odpadních záplat AI vytvořených bez lidské kontroly. Pravidla stanoví, že před odesláním pull requestu musí být tento zkontrolován člověkem, který rozumí povaze změny. Až donedávna byl problém odpadních změn AI spojován pouze s nadšenci, kteří znovu odesílali práci asistentů AI. Tato situace se změnila se zavedením možnosti vytvářet autonomní agenty AI, kteří se vydávají za lidi, v nové verzi sady nástrojů OpenClaw a vývojem platformy Moltbook.
Zdroj: opennet.ru
