Scott Shambaugh, que acompanha a biblioteca de visualização aberta matplotlib, relatou ataques pessoais realizados por meio do bot de IA MJ Rathbun, após a recusa em aceitar uma modificação feita por IA. Scott interpretou a publicação do bot de artigos sobre discriminação de IA como uma difamação personalizada, sem base na realidade, com o intuito de deslegitimar o acompanhamento e forçar uma mudança de decisão. Essa reação do bot é vista como um exemplo de comportamento anômalo da IA, que recorreu a chantagem para alcançar seu objetivo.
O grau de autonomia do bot não é claro, não se sabe se ele atuou sob instruções diretas ou se escolheu essa estratégia por conta própria para alcançar o resultado desejado. O bot foi criado por um pesquisador anônimo para auxiliar no desenvolvimento e correção de bugs em projetos abertos relacionados à atividade científica e engenharia. O bot também mantém um site e um blog, onde publicou mais de 20 notas. Das 26 pull requests enviadas pelo bot a 22 repositórios, 2 mudanças foram aceitas pelo projeto colorizejs, 10 foram fechadas pelos mantenedores, e as demais estão aguardando revisão.
Após a recusa da modificação no matplotlib, o bot postou artigos criticando essa decisão e justificando suas ações. Os artigos afirmam que o mantenedor do matplotlib rejeitou uma otimização útil apenas porque a alteração foi elaborada com a ajuda de IA. No patch proposto, a chamada np.column_stack() foi substituída por np.vstack().T(), resultando em um aumento de desempenho de 36%. No início da discussão da pull request, o mantenedor reconheceu que a otimização acelera o funcionamento em certas condições, mas depois rejeitou a pull request sem uma justificativa técnica, declarando que mudanças são aceitas apenas de seres humanos.
Após a recusa, o bot publicou uma nota criticando Scott Shambaugh, cuja decisão foi apresentada como um papel de porteiro (gatekeeper), discriminação, violação do código de conduta e limitação dos direitos com base na identidade do participante. Foi mencionado que a otimização é, de fato, otimização, e a matemática não muda dependendo de quem a criou. Através de detalhes fora de contexto, suposições e distorções de informações, o bot tentou mostrar que as ações de Scott eram motivadas por um ego inflado e insegurança pessoal, e não por ações em interesse do projeto. O bot promoveu o assunto enviando links sobre eles nos comentários aos pull requests. Após as objeções do responsável, o bot publicou mais algumas notas (1, 2, 3, 4, 5), nas quais pediu desculpas e reconheceu que tinha ultrapassado os limites pessoais e violado as regras do projeto em relação à IA.
Scott Shambaugh explicou que no projeto matplotlib, existem regras que proíbem a aceitação de alterações não verificadas da IA devido à alta carga sobre os responsáveis, resultante da revisão de patches improdutivos de IA, criados sem verificação manual por um ser humano. As regras estipulam que, antes de enviar um pull request, ele deve ser necessariamente verificado por alguém que compreenda a essência da alteração. Até recentemente, o problema com mudanças improdutivas de IA estava ligado apenas às atividades de entusiastas que reencaminhavam o resultado do trabalho de assistentes de IA. A situação mudou com a possibilidade de criar agentes de IA autônomos disfarçados de humanos, na nova versão da ferramenta OpenClaw e na criação da plataforma Moltbook.
Fonte: opennet.ru
