Debian-projektet har inlett en allmän omröstning om kriterierna för öppenhet av AI-modeller

Debian-projektet har tillkännagivit att det kommer att hållas en allmän omröstning (GR, general resolution) bland projektets utvecklare för att fastställa kriterierna för godkännande av maskininlärningsmodeller i huvudarkivet för projektet. I detta skede har diskussionsfasen inletts, efter vilken röstningen kommer att påbörjas (startdatum för omröstningen är ännu inte fastställt). Cirka tusen utvecklare som är involverade i underhållet av paket och stödjer infrastrukturen för Debian har rösträtt.

AI-modeller som distribueras under öppna licenser, men utan att tillhandahålla källmaterial och verktyg för att träna modellen, föreslås bli betraktade som oförenliga med Debians kriterier som definierar fri programvara (DFSG, Debian Free Software Guideline). Om förslaget godkänns kommer sådana modeller inte att kunna inkluderas i projektets huvudarkiv („main“). Möjligheten att leverera sådana modeller i arkiven „non-free“ övervägs inte i den pågående omröstningen.

Bland de problem som nämns vid avsaknad av data som används för träning finns:

• Avsaknaden av källdata eller program som används för att genomföra träning begränsar i hög grad möjligheterna att modifiera färdiga AI-modeller. Trots att modifiering är tillåten enligt licensen, är sådan modifiering i praktiken svår. Ändringar kan behövas till exempel för att byta tokeniserare, vilket är nödvändigt för att lägga till stöd för nya språk.
• De data som används för träning kan tolkas som "källkoden" för modellen, och den färdiga modellen som resultatet av bearbetningen av denna "källkod" med hjälp av verktygen för träning. Därför måste det vara möjligt att modifiera både källdata och verktyg för fullständig modifiering av modellen.
• Oförmågan att reproducera arbetet utfört för att skapa modellen utan tillgång till källdata och verktyg.
• Säkerhet och etiska frågor. Utan originaldata och verktyg är möjligheten att åtgärda sårbarheter i modeller begränsad till användning av binära patchar eller en fullständig modellbyte. Sådana patchar kan endast förberedas av modellens skapare, och modellens användare blir helt beroende av honom. Dessutom kan ingen, inklusive modellens skapare, förstå innebörden av de förändringar som föreslås på detta sätt. Bristen på originaldata försvårar också identifieringen av att bakdörrar har införts i maskininlärningsmodeller.
• Begränsningar vid lärande. Utan originaldata är det omöjligt att bekräfta att modellen har tränats på data som tillhandahålls under licenser som tillåter sådan användning, eller att utesluta att data som erhållits olagligt inte användes vid träningen. Dessutom, om data under GPL-licens användes vid träningen, kan det krävas en analys av om det finns fragment i resultatet från modellen som kopierar dessa data, för vilka källreferens och licens måste nämnas. Utvecklaren kan oavsiktligt bryta mot licensen för vissa originaldata genom att inkludera kod/innehåll som genererats av modellen i sitt projekt.

I oktober förra året publicerade OSI (Open Source Initiative) en definition av en öppen AI-system (Open Source AI). Ett öppet AI-system måste tillhandahålla följande möjligheter: användning för alla syften utan behov av att få separat tillstånd; inspektera systemets arbete och komponenter; göra ändringar för valfria syften; överlämna både originalversionen och redigeringen efter ändringar till andra, utan begränsningar för syftena med användningen. Ett öppet AI-system bör inkludera detaljerad information om modellens arkitektur, data som användes vid träningen, och träningsmetodik, samt koden för att köra och träna AI-systemet. Informationen ska vara tillräcklig för att en professionell utvecklare ska kunna återskapa ett motsvarande AI-system på egen hand, med samma eller liknande data vid träningen.

Rättighetsorganisationen Software Freedom Conservancy (SFC) har kritiserat en sådan definition. Missnöjet beror på att kraven på att tillhandahålla data som använts för att träna modellen saknas. I definitionen av OSI krävs det endast att ge detaljerad information om data som använts vid träningen, men inte själva data. Den antagna definitionen garanterar endast två av de fyra angivna friheterna för Open Source — möjligheten att använda och möjligheten att sprida, medan möjligheterna att ändra och studera inte helt säkras.

OSI:s beslut förklaras av att publiceringen av rådata i många fall är omöjlig på grund av orsaker som ligger utanför AI-modellens utvecklares kontroll, såsom behovet av att bevara sekretess, användning av upphovsrättsskyddat material, licensiering av data från tredjepartsleverantörer, osv. Om ett krav på att tillhandahålla data infördes, skulle ingen av de existerande stora språkmodellerna få status som öppen, och definitionen skulle bli en ouppnåelig utopi.

Källa: opennet.ru