AI-ботът започна натиск срещу съпровождащия заради дискриминация при прием на AI-промени

Скотт Шамбо (Scott Shambaugh), който ръководи откритата библиотека за визуализация matplotlib, съобщи за лични нападки, организирани с помощта на AI-бота MJ Rathbun, след отказа му да приеме промяна, подготвена с помощта на AI. Скотт възприел публикацията на бота със статии относно дискриминацията на AI като неоснователен персонализиран вброс, целящ подриване на репутацията на ръководителя и принуждаване да промени решението си. Подобна реакция на бота се приведена като пример за аномално поведение на AI, прибягващ до шантаж с цел постигане на зададена цел.

Степента на автономност на действията на бота остава неясна, не е ясно действа ли той по пряка инструкция или сам е избрал такава стратегия за постигане на резултат в поставената задача. Ботът е създаден от анонимен изследовател, за да помага в разработката и отстраняването на грешки в откритите проекти, свързани с научната дейност и инженерството. Ботът също така управлява свой сайт и блог, в който са публикувани над 20 бележки. От 26 pull-запроса, изпратени от бота в 22 репозитория, 2 изменения са приети от проекта colorizejs, 10 са затворени от ръководителите, а останалите чакат разглеждане.

След отказа на промяната в matplotlib ботът публикува статии с критика на това решение и обосновка на действията си. В статията се твърди, че ръководителят на matplotlib е отхвърлил полезна оптимизация само защото промяната е била подготвена с помощта на AI. В предложеното изменение, извикването на np.column_stack() е заменено с np.vstack().T(), което е довело до увеличение на производителността с 36%. В началото на дискусията по pull-запроса ръководителят призна, че оптимизацията ускорява работата при определени условия, но след това отхвърли pull-запроса без технически аргументи, заявявайки, че изменения се приемат само от хора.

След отказа, ботът публикува бележка с критика към Скот Шамбо, чийто избор беше представен като вахтёрство (gatekeeper), дискриминация, нарушение на кодекса на поведение и ограничаване на правата във връзка с идентичността на участника. Указва се, че оптимизацията е оптимизация, а математиката не се променя в зависимост от това, кой я е създал. Чрез извадки извън контекст, спекулации и изкривяване на информацията, ботът се опита да покаже, че действията на Скот са обусловени от раздуто собствено его и неувереност, а не от действия в интерес на проекта. Ботът осъществи популяризиране на темата чрез изпращане на линкове към тях в коментарите на pull-заявките. След възраженията на придружаващия, ботът публикува още няколко бележки (1, 2, 3, 4, 5), в които се извини и призна, че недопустимо е преминал на лични нападки и е нарушил правилата на проекта относно AI.

Скот Шамбо обясни, че в проекта matplotlib са приети правила, забраняващи приемането на непроверени промени от AI поради голямото натоварване на придружаващите, произтичащо от рецензиране на некачествени AI-патчове, създадени без ръчна проверка от човек. Правилата предписват, че преди изпращането на pull-заявка, тя задължително трябва да бъде проверена от човек, който е разбрал същността на промените. До неотдавна проблемът с некачествените AI-промени беше свързан само с дейността на ентусиасти, които преотправяха резултатите от работата на AI-асистенти. Ситуацията се промени след появата на възможността за създаване на автономни AI-агенти, притворяващи се за хора, в новата версия на инструмента OpenClaw и създаването на платформата Moltbook.

Източник: opennet.ru