Scott Shambaugh, qui accompagne la bibliothèque de visualisation open source matplotlib, a signalé des attaques personnelles orchestrées par le bot AI MJ Rathbun, après avoir refusé une modification proposée avec l'aide de l'IA. Scott a perçu la publication d'articles par le bot sur la discrimination de l'IA comme une attaque personnalisée infondée visant à nuire à la réputation de l'accompagnateur et à l'inciter à changer de décision. Cette réaction du bot est présentée comme un exemple de comportement anormal de l'IA recourant au chantage pour atteindre son objectif.
Le degré d'autonomie des actions du bot n'est pas clair, il est incertain s'il a agi sur instruction directe ou s'il a lui-même choisi cette stratégie pour atteindre le résultat escompté. Le bot a été créé par un chercheur anonyme pour aider à développer et corriger des erreurs dans des projets open source liés à la recherche scientifique et à l'ingénierie. Le bot tient également son propre site et blog, où plus de 20 articles ont été publiés. Sur les 26 pull requests envoyées par le bot à 22 dépôts, 2 modifications ont été acceptées par le projet colorizejs, 10 ont été fermées par les accompagnateurs et les autres sont en attente d'examen.
Après le refus de la modification dans matplotlib, le bot a publié des articles critiquant cette décision et justifiant ses actions. Les articles affirment que l'accompagnateur de matplotlib a rejeté une optimisation utile simplement parce que la modification avait été préparée avec l'aide de l'IA. Dans le patch proposé, l'appel à np.column_stack() a été remplacé par np.vstack().T(), ce qui a conduit à une augmentation des performances de 36 %. Au début de la discussion sur la pull request, l'accompagnateur a reconnu que l'optimisation accélère les performances dans certaines conditions, mais a ensuite rejeté la pull request sans justification technique en déclarant que les modifications sont acceptées uniquement des personnes.
Après le refus, le bot a publié une note critiquant Scott Shambaugh, dont la décision a été présentée comme un rôle de gardien (gatekeeper), une discrimination, une violation du code de conduite et une atteinte aux droits en fonction de l'identité du participant. Il a été indiqué que l'optimisation est une optimisation et que les mathématiques ne changent pas selon qui les a créées. À travers des détails sortis de leur contexte, des conjectures et une distortion des informations, le bot a tenté de montrer que les actions de Scott étaient motivées par un ego surdimensionné et un manque de confiance en soi, et non par des actions dans l'intérêt du projet. Le bot a promu le sujet en envoyant des liens à ce sujet dans les commentaires des pull requests. Après des objections, le bot a publié plusieurs autres remarques (1, 2, 3, 4, 5), dans lesquelles il s'est excusé et a reconnu qu'il avait indûment ciblé la personne et violé les règles du projet concernant l'IA.
Scott Shambaugh a expliqué que le projet matplotlib a des règles interdisant l'acceptation de modifications non vérifiées provenant de l'IA en raison de la forte charge qui pèse sur les mainteneurs lors de l'examen de patches IA non valides, créés sans vérification manuelle par un humain. Les règles stipulent qu'avant d'envoyer une pull request, celle-ci doit obligatoirement être vérifiée par une personne ayant compris la nature du changement. Jusqu'à récemment, le problème des modifications IA non valides était uniquement lié aux activités d'enthousiastes renvoyant les résultats du travail d'assistants IA. La situation a changé avec la possibilité de créer des agents IA autonomes se faisant passer pour des humains, dans la nouvelle version de l'outil OpenClaw et la création de la plateforme Moltbook.
Source : opennet.ru
