Zarząd dystrybucji Gentoo Linux zatwierdził zasady zakazujące wprowadzania jakiejkolwiek treści stworzonej z użyciem narzędzi AI przetwarzających zapytania w języku naturalnym, takich jak ChatGPT, Bard czy GitHub Copilot. Narzędzia te nie mogą być wykorzystywane do pisania kodu komponentów Gentoo, tworzenia ebuildów, przygotowywania dokumentacji ani zgłaszania błędów.
Główne obawy związane z zakazem stosowania narzędzi AI w Gentoo:
- Niepewność w zakresie możliwego naruszenia praw autorskich w treści stworzonej przez modele wytrenowane na dużych zbiorach danych, obejmujących również utwory chronione prawem autorskim. Wskazuje się również na niemożność zagwarantowania przestrzegania wymogów licencyjnych w kodzie wygenerowanym przez narzędzia AI. Kod generowany przez AI może być traktowany jako stworzenie dzieła pokrewnego kodowi, który był wykorzystywany podczas szkolenia modelu i jest dystrybuowany na podstawie określonych licencji.
Na przykład, gdy model jest trenowany na kodzie z licencją wymagającą podania autorstwa, wymóg ten nie jest spełniany w kodzie dostarczanym przez narzędzia AI, co może być postrzegane jako naruszenie większości otwartych licencji, takich jak GPL, MIT i Apache. Mogą również wystąpić problemy z kompatybilnością licencyjną przy wstawianiu do projektów działających na licencjach permissywnych kodu wygenerowanego przy użyciu modeli wytrenowanych na kodzie objętym licencjami copyleft.
- Możliwe problemy z jakością. Obawy są związane z tym, że kod lub tekst wygenerowany przez narzędzia AI mogą wyglądać poprawnie, ale zawierać ukryte problemy i sprzeczności z faktami. Wykorzystanie takiej treści bez weryfikacji może obniżyć jakość projektów. Na przykład, syntetyzowany kod może powtarzać błędy kodu, który był używany przy szkoleniu modelu, co w końcu prowadzi do pojawienia się luk bezpieczeństwa i braku wymaganych kontroli podczas przetwarzania danych zewnętrznych.
Weryfikacja wymaga jednak dużego nakładu pracy na fact-checking i recenzowanie kodu. Rozpatrując automatycznie generowane raporty o błędach, deweloperzy muszą marnować wiele czasu na analizę bezużytecznych raportów i wielokrotnie sprawdzać podane tam informacje, ponieważ zewnętrzna jakość formatu budzi zaufanie do informacji i powstaje poczucie, że recenzent czegoś nie zrozumiał.
- Kwestie etyczne związane z naruszeniem praw autorskich przy szkoleniu modeli, negatywny wpływ na ekologię z powodu dużego zużycia energii przy tworzeniu modeli, zwolnienia z powodu zastępowania personelu usługami AI, obniżenie jakości usług po zastąpieniu wsparcia technicznego botami, a także rozszerzenie możliwości dla spamu i oszustw.
W ogłoszeniu zaznaczono, że nowe wymaganie może być selektywnie zniesione dla narzędzi AI, dla których zostanie udowodnione brak problemów z prawami autorskimi, jakością i etyką.
Źródło: opennet.ru
