O conselho de administração da distribuição Gentoo Linux aprovou regras que proíbem a aceitação de qualquer conteúdo em Gentoo criado com ferramentas de IA que processam pedidos em linguagem natural, como ChatGPT, Bard e GitHub Copilot. Tais ferramentas não devem ser utilizadas na escrita de código dos componentes do Gentoo, na criação de ebuilds, na preparação de documentação e no envio de relatórios de erros.
As principais preocupações que levaram à proibição do uso de ferramentas de IA no Gentoo:
- Incerteza quanto à possível violação de direitos autorais em conteúdos gerados por modelos treinados em grandes volumes de informação, incluindo obras protegidas por direitos autorais. Também é mencionada a impossibilidade de garantir a conformidade com os requisitos de licença no código gerado por ferramentas de IA. O código gerado por IA pode ser visto como a criação de uma obra derivada do código usado no treinamento do modelo e é distribuído sob determinadas licenças.
Por exemplo, quando um modelo é treinado em código com uma licença que exige atribuição, o código fornecido por ferramentas de IA não cumpre essa exigência, o que pode ser considerado uma violação da maioria das licenças abertas, como GPL, MIT e Apache. Além disso, pode haver problemas de compatibilidade de licenças ao inserir em projetos sob licenças permissivas código gerado usando modelos treinados em código com licenças copyleft.
- Possíveis problemas de qualidade. As preocupações estão relacionadas ao fato de que o código ou texto gerado por ferramentas de IA pode parecer correto, mas conter problemas implícitos e divergências com os fatos. O uso de tal conteúdo sem verificação pode levar à diminuição da qualidade dos projetos. Por exemplo, o código sintetizado pode repetir erros do código que foi usado no treinamento do modelo, resultando na introdução de vulnerabilidades e na falta de verificações necessárias ao processar dados externos.
A verificação requer um grande esforço para a checagem de fatos e revisão de código. Ao analisar relatórios de erros gerados automaticamente, os desenvolvedores se veem forçados a desperdiçar tempo analisando relatórios inúteis e a verificar as informações ali contidas várias vezes, uma vez que a qualidade externa da apresentação gera confiança nas informações, levando à impressão de que o revisor não entendeu algo.
- Questões éticas relacionadas à violação de direitos autorais no treinamento de modelos, o impacto ambiental devido ao alto consumo de energia na criação de modelos, demissões decorrentes da substituição da equipe por serviços de IA, diminuição da qualidade dos serviços após a troca de suporte humano por bots, e o aumento das oportunidades para spam e fraudes.
O anúncio destaca que a nova exigência pode ser suspensa seletivamente para ferramentas de IA que comprovarem não apresentar problemas com direitos autorais, qualidade e ética.
Fonte: opennet.ru
