De raad van bestuur van de Gentoo Linux-distributie heeft regels goedgekeurd die het gebruik van AI-tools, die natuurlijke taalverzoeken verwerken, zoals ChatGPT, Bard en GitHub Copilot, in Gentoo verbieden. Dergelijke tools mogen niet worden gebruikt bij het schrijven van code voor Gentoo-componenten, het maken van ebuilds, het voorbereiden van documentatie en het indienen van bugrapporten.
De belangrijkste zorgen die het gebruik van AI-tools in Gentoo verbieden:
- Onzekerheid over mogelijke inbreuk op auteursrechten in inhoud die is gemaakt met modellen die zijn getraind op een grote hoeveelheid informatie, inclusief werken die auteursrechtelijk beschermd zijn. Ook wordt vermeld dat er geen garanties zijn dat de licentievereisten worden nageleefd in de door AI-tools gegenereerde code. Door AI gegenereerde code kan worden beschouwd als het maken van een afgeleide werken van de code die werd gebruikt om het model te trainen en die onder bepaalde licenties is verspreid.
Bijvoorbeeld, als een model is getraind op code met een licentie die auteursvermelding vereist (attributie), wordt aan deze vereiste in de door AI-tools geleverde code niet voldaan, wat kan worden beschouwd als een schending van de meeste open licenties, zoals GPL, MIT en Apache. Er kunnen ook problemen ontstaan met licentiecompatibiliteit bij het invoegen van in permissieve licenties ondergebrachte projecten van code die is gegenereerd met behulp van modellen die zijn getraind op code met copyleft-licenties.
- Mogelijke kwaliteitsproblemen. Er zijn zorgen dat de door AI-tools gegenereerde code of tekst er correct uit kan zien, maar verborgen problemen en discrepanties met feiten kan bevatten. Het gebruik van dergelijke inhoud zonder controle kan leiden tot een lagere kwaliteit van projecten. Bijvoorbeeld, de gesynthetiseerde code kan fouten herhalen van de code die is gebruikt om het model te trainen, wat uiteindelijk kan leiden tot kwetsbaarheden en het ontbreken van noodzakelijke controles bij de verwerking van externe gegevens.
Verificatie vereist aanzienlijke inspanningen voor het fact-checken en beoordelen van de code. Bij het analyseren van automatisch gegenereerde foutmeldingen zijn ontwikkelaars gedwongen om veel tijd te verspillen aan het analyseren van nutteloze rapporten en de daarin opgenomen informatie meerdere keren te verifiƫren, omdat de externe kwaliteit van de opmaak vertrouwen in de informatie wekt en de indruk wekt dat de beoordelaar iets niet goed begrijpt.
- Ethische kwesties die verband houden met het schenden van auteursrechten bij het trainen van modellen, negatieve impact op het milieu door hoge energieverbruik bij het creƫren van modellen, ontslagen als gevolg van de vervanging van personeel door AI-diensten, daling van de servicekwaliteit na de vervanging van klantenservice door bots, uitbreiding van mogelijkheden voor spam en fraude.
In de aankondiging wordt opgemerkt dat de nieuwe vereiste mogelijk selectief kan worden opgeheven voor AI-tools waarvoor kan worden aangetoond dat er geen problemen zijn met auteursrechten, kwaliteit en ethiek.
Bron: opennet.ru
