Le conseil d'administration de la distribution Gentoo Linux a approuvé des règles interdisant l'acceptation de tout contenu créé à l'aide d'outils d'IA traitant des requêtes en langage naturel, tels que ChatGPT, Bard et GitHub Copilot. De tels outils ne doivent pas être utilisés pour écrire du code de composants Gentoo, créer des ebuilds, préparer de la documentation et soumettre des rapports de bugs.
Les principales préoccupations qui conduisent à l'interdiction des outils d'IA dans Gentoo :
- L'incertitude quant à la violation potentielle des droits d'auteur dans le contenu créé à l'aide de modèles formés sur un large ensemble d'informations, y compris des œuvres protégées par des droits d'auteur. Il est également mentionné qu'il est impossible de garantir le respect des exigences de licence dans le code généré via des outils d'IA. Le code généré par l'IA peut être considéré comme la création d'une œuvre dérivée du code utilisé pour former le modèle et diffusé sous certaines licences.
Par exemple, si un modèle est formé sur du code sous licence, qui exige notification des droits d'auteur (attribution), cette exigence n'est pas respectée dans le code fourni par les outils d'IA, ce qui peut être considéré comme une violation de la plupart des licences ouvertes, telles que GPL, MIT et Apache. Des problèmes de compatibilité des licences peuvent également survenir lors de l'insertion dans des projets sous licences permissives de code généré en utilisant des modèles formés sur du code avec des licences copyleft.
- Problèmes potentiels de qualité. Les préoccupations sont liées au fait que le code ou le texte généré par des outils d'IA peut sembler correct, mais contenir des problèmes implicites et des incohérences factuelles. L'utilisation d'un tel contenu sans vérification peut entraîner une détérioration de la qualité des projets. Par exemple, le code synthétisé peut reproduire les erreurs du code utilisé pour former le modèle, ce qui finit par provoquer des vulnérabilités et l'absence de contrôles nécessaires lors du traitement des données externes.
Le contrôle nécessite cependant un effort considérable en matière de vérification des faits et de révision du code. En examinant les rapports d'erreurs générés automatiquement, les développeurs sont contraints de perdre beaucoup de temps à analyser des rapports inutiles et à vérifier plusieurs fois les informations qui y sont indiquées, car la qualité de la présentation externe suscite la confiance dans les informations et donne l'impression que le relecteur n'a pas bien compris.
- Les questions éthiques liées à la violation des droits d'auteur lors de l'entraînement des modèles, à l'impact négatif sur l'environnement dû à une consommation énergétique élevée lors de la création de modèles, aux licenciements dus au remplacement du personnel par des services d'IA, à la baisse de la qualité des services après avoir remplacé les services d'assistance par des bots, à l'élargissement des possibilités de spam et de fraude.
L'annonce souligne que cette nouvelle exigence pourrait être annulée de manière sélective pour les outils d'IA pour lesquels il sera prouvé qu'il n'y a pas de problèmes de droits d'auteur, de qualité et d'éthique.
Source : opennet.ru
