Bradley Kuhn, direktør og en af grundlæggerne af organisationen Software Freedom Conservancy (SFC), har kritiseret den for nylig offentliggjorte definition af åbne AI-systemer (Open Source AI) af OSI (Open Source Initiative). Ifølge Kuhn har OSI hastet med offentliggørelsen af den endelige version af definitionen og godkendt den uden en grundig indgående diskussion og i en tidlig fase af udviklingen af sådanne systemer. Til sammenligning blev definitionen af Open Source givet efter mange års overvejelser og diskussioner. Hvad angår den offentliggjorte definition af åbne AI-systemer, burde den på dette stadium kaldes en anbefaling snarere end en definition.
Kuhn frygter, at de nuværende kriterier for åbne AI vil få vidtrækkende konsekvenser, underminere autoriteten af termen Open Source og føre til splittelse i fællesskabet. Problemet er, at på trods af indvendingerne, har OSI indgået et kompromis og ikke inkluderet kravet om at offentliggøre dataene, der blev brugt til at træne modellen. Årsagen til kompromisset er, at hvis et sådant punkt blev tilføjet, ville ingen eksisterende store sprogmodeller få status som åbne.
Ifølge OSI vil fastlæggelsen af definitionen af åbne AI-systemer, der tager højde for de nuværende realiteter, forhindre producenter i at manipulere med termen 'åben', som i usikre omstændigheder kalder modeller åbne blot baseret på tilgængeligheden af vægte, selvom licensen på modellen begrænser anvendelsen (for eksempel forbyder mange modeller anvendelse i kommercielle projekter) og implementeringsdetaljerne ikke er offentliggjort.
I den godkendte OSI-definition af åbne AI-systemer kræves det kun at give detaljerede oplysninger om de data, der er brugt til træning, men ikke selve dataene. Uden at offentliggøre de oprindelige data, som modellen er trænet på, er det umuligt fuldstændigt at reproducere AI-systemet, hvilket strider mod konceptet for åbne kilder. Således har OSI kun set på AI-modellen som en teknologi og ikke som et helt produkt.
Det faktisk accepterede definition af åbne AI-systemer garanterer kun to af de fire påståede friheder ved Open Source - mulighed for at bruge og mulighed for at distribuere, mens muligheden for at ændre og studere ikke er fuldt sikret. Desuden gør manglen på kildedata det svært at identificere indsatser af bagdøre i maskinlæringsmodeller.
På den anden side er offentliggørelsen af kildedata i mange tilfælde umulig på grund af årsager, der ikke afhænger af udvikleren af AI-modellen, såsom nødvendigheden af at bevare fortrolighed, brug af ophavsretligt beskyttede materialer, licensiering af data fra tredjepartsudbydere osv. Ifølge kritikere af den accepterede definition er sådanne problemer ikke en begrundelse for at undervurdere og devaluere begrebet Open Source.
Bradley Kuhn har til hensigt at deltage i de næste valg til ledelsen af OSI og forsøge at komme ind i bestyrelsen for at arbejde på at tilbagekalde den accepterede definition og ændre den til anbefalinger. Udover organisationen Software Freedom Conservancy har nogle udviklere af Debian-projektet også givet udtryk for deres uenighed med definitionen af åbne AI og foreslået en offentlig afstemning for at rette opmærksomheden mod problemet. Foundation for Public Knowledge arbejder også på sin definition af et frit AI-system, som ønsker at indføre et krav om tilgængelighed af alle data, men anerkender samtidig, at der er etiske grunde, der i nogle tilfælde forhindrer indsigt i data (f.eks. hvis der er brugt medicinske eller personlige data i træningen).
Kilde: opennet.ru
