Bestyrelsen for Gentoo Linux-distributionen har godkendt regler, der forbyder accept af indhold, der er skabt ved hjælp af AI-værktøjer, der behandler forespørgsler på naturligt sprog, såsom ChatGPT, Bard og GitHub Copilot. Sådanne værktøjer må ikke anvendes ved skrivning af Gentoo-komponentkode, oprettelse af ebuilds, forberedelse af dokumentation og indsendelse af fejlrapporter.
De primære bekymringer, der ligger til grund for forbuddet mod brugen af AI-værktøjer i Gentoo:
- Usikkerhed omkring muligheden for krænkelse af ophavsretten i indhold skabt ved hjælp af modeller, der er trænet på store informationsmængder, der også omfatter ophavsretligt beskyttede værker. Der nævnes også umuligheden af at garantere overholdelse af licenskrav i kode genereret af AI-værktøjer. Den genererede AI-kode kan betragtes som en afledt værk af den kode, der blev brugt til at træne modellen, og distribueres under bestemte licenser.
For eksempel, hvis modellen er trænet på kode med en licens, der kræver attribution, overholdes dette krav ikke i den kode, der leveres af AI-værktøjer, hvilket kan betragtes som en krænkelse af de fleste åbne licenser såsom GPL, MIT og Apache. Der kan også opstå problemer med licenskompatibilitet, når man indsætter kode, der er genereret ved hjælp af modeller, der er trænet på kode med copyleft-licenser, i projekter under permissive licenser.
- Mulige kvalitetsproblemer. Bekymringerne er, at den genererede kode eller tekst fra AI-værktøjer kan se korrekt ud, men indeholde underliggende problemer og faktiske uoverensstemmelser. Brug af sådant indhold uden kontrol kan føre til et fald i projektkvaliteten. For eksempel kan den syntetiserede kode gentage fejl fra den kode, der blev brugt til at træne modellen, hvilket ender med at introducere sårbarheder og manglende nødvendige kontroller ved behandling af eksterne data.
Verificeringen kræver betydelige ressourcer til faktakontrol og kodegennemgang. Når udviklerne analyserer automatisk genererede fejlnoter, bliver de tvunget til at bruge meget tid på at gennemgå ubrugelige rapporter og kontrollere de angivne oplysninger flere gange, da kvaliteten af den ydre præsentation skaber tillid til informationen og giver indtryk af, at gennemgangen har misforstået noget.
- Etiske spørgsmål relateret til overtrædelse af ophavsret ved træning af modeller, negativ indvirkning på miljøet på grund af stort energiforbrug ved modelskabelse, opsigelser som følge af udskiftning af personalet med AI-tjenester, kvalitetsfald i tjenester efter udskiftning af kundesupport med bots, samt udvidelse af mulighederne for spam og svindel.
I meddelelsen bemærkes det, at det nye krav muligvis kan blive undtaget for AI-værktøjer, hvor der vil blive bevist, at der ikke er problemer med ophavsret, kvalitet og etik.
Kilde: opennet.ru
