Debian-projektet har annonceret, at der vil blive afholdt en generel afstemning (GR, general resolution) blandt projektets udviklere for at fastlægge kriterierne for godkendelse af maskinlæringsmodeller i projektets hovedrepository. I denne fase er diskussionen blevet startet, hvorefter der vil blive indsamlet stemmer (startdatoen for afstemningen er endnu ikke fastsat). Omkring tusinde udviklere, der deltager i vedligeholdelsen af pakker og infrastrukturen i Debian, har stemmeret.
AI-modeller, der distribueres under åbne licenser, men uden at give det originale materiale og værktøjerne til at træne modellen, foreslås anerkendt som inkompatible med Debian-kriterierne, der definerer fri software (DFSG, Debian Free Software Guideline). Hvis forslaget godkendes, vil sådanne modeller ikke kunne inkluderes i hovedrepository'et («main»). Muligheden for at levere disse modeller i «non-free» repository'et er ikke en del af den igangværende afstemning.
Blandt de problemer, der nævnes ved mangel på data, der anvendes under træningen, fremhæves:
- Manglen på originale data eller programmer, der anvendes til træning, begrænser stærkt mulighederne for at modificere de færdige AI-modeller. Selvom modificering er tilladt i licensvilkårene, er denne modificering i praksis vanskelig. Ændringer kan være nødvendige, for eksempel når der er behov for at udskifte en tokenizer, som er nødvendig for at tilføje støtte til nye sprog.
- De data, der anvendes til træning, kan betragtes som «kildekode» for modellen, og den færdige model som resultatet af behandlingen af denne «kildekode» med værktøjerne til træning. Derfor skal der være mulighed for at modificere de originale data og værktøjerne for at kunne modificere modellen fuldt ud.
- Manglen på mulighed for at reproducere det arbejde, der er udført for at skabe modellen, uden adgang til de originale data og værktøjerne.
- Sikkerhed og etiske spørgsmål. Uden kilde-data og værktøjer er muligheden for at afhjælpe sårbarheder i modeller begrænset til brugen af binære patches eller en fuldstændig erstatning af modellen. Sådanne patches kan kun forberedes af modellens skaber, og forbrugerne af modellen bliver helt afhængige af ham. Desuden kan ingen, inklusive modellens skabere, forstå essensen af de ændringer, der foreslås på denne måde. Fraværet af kilde-data gør det også vanskeligt at opdage indskud af backdoors i maskinlæringsmodeller.
- Begrænsninger ved studie. Uden kilde-data er det umuligt at bekræfte, at modellen er trænet på data, der leveres under licenser, der tillader sådan brug, eller udelukke, at der er blevet brugt data erhvervet ulovligt til træningen. Derudover, hvis der er blevet brugt data under GPL-licens i træningen, kan det være nødvendigt at analysere, om der er fragmenter i modellens output, der indeholder kopi af disse data, for hvilke kilde og licens skal nævnes. Udvikleren kan utilsigtet overtræde licensen for nogle kilde-data ved at tilføje kode/indhold genereret af modellen til sit projekt.
I oktober sidste år offentliggjorde OSI (Open Source Initiative) en definition af åbne AI-systemer (Open Source AI). Et åbent AI-system skal tilbyde følgende muligheder: brug til ethvert formål uden behov for at få særlig tilladelse; inspektion af systemets funktion og komponenter; ændringer til ethvert formål; overførsel til andre, både som original- og redigeret version efter ændringer, uden begrænsning på brugens formål. Et åbent AI-system skal indeholde detaljerede oplysninger om modelarkitekturen, de data, der blev brugt under træningen, og træningsmetodologien samt kildekoden til drift og træning af AI-systemet. Oplysningerne skal være tilstrækkelige til, at en professionel udvikler selv kan genskabe et ækvivalent AI-system ved hjælp af de samme eller lignende data til træning.
Rettighedsorganisationen Software Freedom Conservancy (SFC) har kritiseret denne definition. Utilfredsheden skyldes, at kravene til at levere data brugt til at træne modellen ikke er til stede. Definitionen fra OSI kræver kun at give detaljerede oplysninger om de data, der blev brugt under træningen, men ikke selve dataene. Den accepterede definition sikrer kun to ud af de fire påståede friheder for Open Source — muligheden for at bruge og muligheden for at distribuere, mens mulighederne for at ændre og studere ikke er fuldt ud tilgængelige.
OSI's beslutning forklares med, at offentliggørelse af de originale data i mange tilfælde er umulig af årsager, der ikke afhænger af AI-modellens udvikler, såsom behovet for at opretholde fortrolighed, brug af ophavsretbeskyttede materialer, licensering af data fra tredjeparter osv. Hvis der skulle tilføjes et krav om at give data, ville ingen af de eksisterende store sprogmodeller opnå status som åbne, og selve definitionen ville blive en uopnåelig utopi.
Kilde: opennet.ru
