Bradley M. Kuhn, administrerende direktør og medstifter af advocacy-organisationen Software Freedom Conservancy (SFC), kritiserede OSI (Open Source Initiative)'s nyligt offentliggjorte definition af Open Source AI. Ifølge Kuhn skyndte OSI-organisationen sig med at offentliggøre den endelige version af definitionen og godkendte den uden en længere omfattende diskussion og i den indledende fase af udviklingen af sådanne systemer. Til sammenligning blev definitionen af Open Source givet efter mange års tanker og diskussion. Hvad angår den offentliggjorte definition af et åbent AI-system, burde det på dette stadium være blevet kaldt en anbefaling snarere end en definition.
Kuhn frygter, at de nuværende åbne AI-kriterier vil have vidtrækkende konsekvenser, der underminerer autoriteten af udtrykket Open Source og fører til splittelse i samfundet. Problemet er, at OSI trods modstand kompromitterede og ikke indeholdt et krav om at levere de data, der blev brugt til at træne modellen. Årsagen til kompromiset var, at hvis en sådan klausul blev tilføjet, ville ingen af de eksisterende store sprogmodeller få åben status.
Ifølge OSI vil opretholdelse af en definition af et åbent AI-system, der tager højde for de aktuelle realiteter, forhindre producenter i at manipulere udtrykket "åben", som under usikkerhedsforhold kun kalder åbne modeller på grundlag af tilgængeligheden af vægtningskoefficienter, selvom licensen til modellen begrænser omfanget af dens brug (f.eks. forbyder mange modeller brug i kommercielle projekter), og implementeringsdetaljer oplyses ikke.
Den OSI-godkendte definition af et åbent AI-system kræver kun levering af detaljerede oplysninger om de data, der bruges i træningen, men ikke selve dataene. På samme tid, uden at give de kildedata, som modellen er trænet på, er det umuligt fuldstændigt at reproducere AI-systemet, som er i modstrid med konceptet med åben kildekode. Således begrænsede OSI-organisationen sig til kun at betragte AI-modellen som en teknologi og betragtede dem ikke som et holistisk produkt.
Faktisk er den accepterede definition af et åbent AI-system garanteret kun at give to af de fire erklærede friheder i Open Source - muligheden for at bruge og evnen til at distribuere, på trods af at evnen til at ændre og studere ikke er fuldt ud sikret . Derudover gør manglen på kildedata det vanskeligt at opdage bagdørssubstitution i en maskinlæringsmodel.
På den anden side er offentliggørelse af kildedata i mange tilfælde umulig på grund af årsager uden for AI-modeludviklerens kontrol, såsom behovet for at opretholde fortrolighed, brug af ophavsretligt beskyttet materiale, licensering af data fra tredjepartsudbydere, osv. Ifølge kritikere af den accepterede definition er sådanne problemer ikke grund til at forklejne og devaluere begrebet Open Source.
Bradley Kuhn har til hensigt at stille op ved det næste OSI-ledervalg og søge en plads i bestyrelsen for at presse på for at ophæve den vedtagne definition og omdanne den til en anbefaling. Ud over Software Freedom Conservancy har nogle af projektets udviklere udtrykt deres uenighed med definitionen af åben AI. Debian, som igangsatte en offentlig afstemning for at henlede opmærksomheden på problemet. Open Source Foundation arbejder også på sin egen definition af et gratis AI-system. Den har til hensigt at inkludere et krav om tilgængelighed af alle data i sin definition, men anerkender også eksistensen af etiske årsager, der forhindrer dataoffentliggørelse i nogle tilfælde (for eksempel hvis medicinske eller personlige data bruges i forbindelse med træning).
Kilde: opennet.ru
