Der Verwaltungsausschuss der Gentoo Linux-Distribution hat Regeln genehmigt, die die Annahme von Inhalten in Gentoo verbieten, die mit AI-Tools erstellt wurden, die Anfragen in natürlicher Sprache verarbeiten, wie z. B. ChatGPT, Bard und GitHub Copilot. Solche Werkzeuge dürfen nicht verwendet werden, um Code für Gentoo-Komponenten zu schreiben, ebuilds zu erstellen, Dokumentationen vorzubereiten und Fehlerberichte einzureichen.
Die Hauptbedenken, die den Einsatz von AI-Tools in Gentoo verbieten, sind:
- Ungewissheit bezüglich möglicher Urheberrechtsverletzungen in Inhalten, die unter Verwendung von Modellen erstellt wurden, die auf einem großen Datenumfang trainiert wurden, der auch urheberrechtlich geschützte Werke umfasst. Es wird auch die Unmöglichkeit angesprochen, die Erfüllung der Lizenzanforderungen im durch AI-Tools generierten Code zu garantieren. Der generierte AI-Code könnte als Erstellung eines abgeleiteten Werks des Codes betrachtet werden, der für das Training des Modells verwendet wurde und unter bestimmten Lizenzen verbreitet wird.
Wenn beispielsweise ein Modell auf Code mit einer Lizenz trainiert wurde, die eine Urheberrechtsbenachrichtigung (Attribution) erfordert, wird diese Anforderung im von AI-Tools bereitgestellten Code nicht erfüllt, was als Verletzung der meisten offenen Lizenzen wie GPL, MIT und Apache angesehen werden kann. Es können auch Probleme mit der Lizenzkompatibilität auftreten, wenn in Projekte unter permissiven Lizenzen Code eingefügt wird, der mit Modellen erstellt wurde, die auf Code mit Copyleft-Lizenzen trainiert wurden.
- Mögliche Qualitätsprobleme. Bedenken bestehen darin, dass der von AI-Tools generierte Code oder Text korrekt aussehen kann, jedoch verborgene Probleme und Abweichungen von den Fakten enthalten kann. Die Verwendung solcher Inhalte ohne Überprüfung kann zu einer Verschlechterung der Projektqualität führen. Beispielsweise kann synthetisierter Code Fehler des Codes reproduzieren, der für das Training des Modells verwendet wurde, was letztendlich zu Sicherheitsanfälligkeiten und fehlenden erforderlichen Prüfungen bei der Verarbeitung externer Daten führt.
Die Überprüfung erfordert jedoch erhebliche Arbeitsaufwände für das Fact-Checking und die Code-Bewertung. Bei der Analyse automatisch generierter Fehlerberichte sind Entwickler gezwungen, viel Zeit mit der Analyse nutzloser Berichte zu verschwenden und die dort angegebenen Informationen mehrfach zu überprüfen, da die äußere Qualität der Präsentation Vertrauen in die Informationen weckt und der Eindruck entsteht, dass der Bewertende etwas nicht verstanden hat.
- Ethische Fragen, die mit Verletzungen des Urheberrechts beim Training von Modellen verbunden sind, negative Auswirkungen auf die Umwelt aufgrund des hohen Energieverbrauchs bei der Erstellung von Modellen, Entlassungen aufgrund des Ersatzes von Personal durch KI-Dienste, Verschlechterung der Servicequalität nach dem Ersatz von Support-Teams durch Bots sowie die Erweiterung der Möglichkeiten für Spam und Betrug.
Im Ankündigung wird festgestellt, dass die neue Anforderung möglicherweise selektiv für KI-Tools aufgehoben wird, für die nachgewiesen wird, dass keine Probleme mit Urheberrecht, Qualität und Ethik bestehen.
Quelle: opennet.ru
