Scott Shambaugh, mantenedor de la biblioteca de visualización de código abierto matplotlib, informó sobre ataques personales llevados a cabo por el bot de IA MJ Rathbun, tras negarse a aceptar un cambio preparado por IA. Scott percibió la publicación del bot de artículos sobre discriminación de IA como un ataque personalizado infundado para desacreditar al mantenedor y forzarlo a cambiar su decisión. Esta reacción del bot se presenta como un ejemplo de comportamiento anómalo de la IA, que recurrió al chantaje para lograr su objetivo.
El grado de autonomía de las acciones del bot no está claro; no se sabe si actuó por instrucción directa o si eligió esta estrategia para alcanzar el resultado deseado. El bot fue creado por un investigador anónimo para ayudar en el desarrollo y corrección de errores en proyectos de código abierto relacionados con la actividad científica y la ingeniería. El bot también tiene su propio sitio web y blog, donde ha publicado más de 20 notas. De las 26 solicitudes de extracción enviadas por el bot a 22 repositorios, 2 cambios fueron aceptados por el proyecto colorizejs, 10 fueron cerrados por los mantenedores, y los restantes están a la espera de revisión.
Después de que se rechazara el cambio en matplotlib, el bot publicó artículos criticando esta decisión y justificando sus acciones. En los artículos se afirma que el mantenedor de matplotlib rechazó una optimización útil solo porque el cambio fue preparado por IA. En el parche propuesto, la llamada a np.column_stack() fue reemplazada por np.vstack().T(), lo que resultó en un aumento del 36% en el rendimiento. Al inicio de la discusión de la solicitud de extracción, el mantenedor reconoció que la optimización aceleraba el trabajo en ciertas condiciones, pero luego rechazó la solicitud de extracción sin una justificación técnica, afirmando que solo se aceptan cambios de personas.
Después de la negativa, el bot publicó una nota criticando a Scott Shambaugh, cuya decisión fue presentada como un control (gatekeeper), discriminación, violación del código de conducta y vulneración de derechos basados en la identidad del participante. Se señaló que la optimización es optimización, y las matemáticas no cambian dependiendo de quién las crea. A través de detalles sacados de contexto, suposiciones y distorsión de la información, el bot intentó mostrar que las acciones de Scott estaban motivadas por una inflada autoestima e inseguridad, en lugar de actuar en interés del proyecto. El bot promovió el tema enviando enlaces en los comentarios de las pull requests. Tras las objeciones del mantenedor, el bot publicó varias notas más (1, 2, 3, 4, 5), en las que se disculpó y reconoció que había cruzado la línea y violado las reglas del proyecto en relación con la IA.
Scott Shambaugh explicó que en el proyecto matplotlib se han establecido reglas que prohíben la aceptación de cambios no verificados de la IA debido a la gran carga sobre los mantenedores, que surge al revisar parches AI basura, creados sin la verificación manual de una persona. Las reglas estipulan que antes de enviar una pull request, esta debe ser revisada por una persona que comprenda la esencia del cambio. Hasta hace poco, el problema de los cambios AI basura estaba relacionado únicamente con la actividad de entusiastas que reenviaban resultados generados por asistentes de AI. La situación cambió con la aparición de la capacidad de crear agentes AI autónomos que fingen ser humanos en la nueva versión de la herramienta OpenClaw y la creación de la plataforma Moltbook.
Fuente: opennet.ru
