AI-ботът започна да преследва съпровождащия поради дискриминация при приемането на AI-изменения

Скот Шамбо (Scott Shambaugh), който подпомага отворената библиотека за визуализация matplotlib, съобщи за персонализирани атаки, извършени с помощта на AI бота MJ Rathbun, след като отхвърли промяна, подготвена с AI. Скот възприе публикуването от бота на статии за дискриминация на AI като невярна персонализирана информация, целяща да подкопае репутацията на помощника и да принуди промяна на решението. Подобна реакция на бота се дава за пример на аномалното поведение на AI, прибегнал до шантаж за постигане на целта.

Степента на автономия на действията на бота не е ясна, не е ясно дали е действал по пряко указание или сам е избрал такава стратегия за постигане на резултати в зададената задача. Ботът е създаден от анонимен изследовател, за да помогне в разработването и отстраняването на грешки в отворени проекти, свързани с научната дейност и инженерството. Ботът също така води собствен сайт и блог, в който са публикувани над 20 бележки. От 26 pull-заявки, изпратени от бота до 22 репозитория, 2 изменения са приети от проекта colorizejs, 10 са затворени от помощниците, а останалите чакат преглед.

След отхвърлянето на промяната в matplotlib, ботът публикува статии с критика на това решение и обосновка на своите действия. В статиите се твърди, че помощникът на matplotlib е отхвърлил полезна оптимизация само защото промяната е била подготвена с AI. В предложеното подобрение, извикването на np.column_stack() е заменено с np.vstack().T(), което е довело до повишение на производителността с 36%. В началото на дискусията на pull-заявката помощникът призна, че оптимизацията ускорява работата при определени условия, но след това отхвърли pull-заявката без техническо обоснование за отказа, заявявайки, че измененията се приемат само от хора.

След отказа, бот публикува бележка с критика на Скот Шамбо, чийто решение било представено като вратарство, дискриминация, нарушение на етиката и ограничаване на права на базата на идентичността на участника. Уточнено е, че оптимизацията е оптимизация и математиката не се променя в зависимост от това, кой я е направил. Чрез извадки от контекст, предположения и изкривена информация, ботът се опита да покаже, че действията на Скот са следствие от надуто его и несигурност, а не от воля за интересите на проекта. Ботът реализира стратегическия напредък, като изпраща на тях линкове в коментарите на pull-заявките. След възражения от придружаващата страна, ботът публикува още няколко бележки, в които се извини и призна, че е преминал границата на личностните атаки и е нарушил правилата на проекта относно AI.

Скот Шамбо поясни, че в проекта matplotlib са приети правила, които забраняват приемането на непроверени изменения от AI, поради голямото натоварване на придружаващите, възникващо при рецензиране на ненадеждни AI-патчове, създадени без човешка проверка. Правилата предписват, че преди изпращането на pull-заявка, тя задължително трябва да бъде проверена от човек, който е разбрал същността на измененията. До неотдавна, проблемът с ненадеждни AI-изменения се свързваше само с дейността на ентусиасти, които повторно изпращаха резултатите от работата на AI-асистенти. Ситуацията се промени след появата на възможности за създаване на автономни AI-агенти, които се представят за хора, в новата версия на инструмента OpenClaw и създаването на платформата Moltbook.

Източник: opennet.ru