Bradley M. Kuhn, výkonný ředitel a jeden ze zakladatelů obhájenské organizace Software Freedom Conservancy (SFC), kritizoval nedávno publikované definici otevřeného AI systému (Open Source AI) organizací OSI (Open Source Initiative). Podle Kuhna organizace OSI spěchala s publikací konečné verze definice a schválila ji bez dlouhé všestranné diskuse a v rané fázi vývoje těchto systémů. Pro srovnání, definice Open Source byla předložena po mnoha letech úvah a diskusí. Co se týče zveřejněné definice otevřeného AI systému, v této fázi by se mělo říkat spíše doporučení než definice.
Kuhn se obává, že v aktuální podobě přijatá kritéria otevřeného AI budou mít dalekosáhlé důsledky, podkopají autoritu termínu Open Source a povedou k rozdělení komunity. Problém je v tom, že navzdory námitkám se organizace OSI dohodla a nezahrnula požadavek na poskytnutí dat použitých k trénování modelu. Důvodem kompromisu bylo, že v případě přidání takového bodu by žádný z existujících velkých jazykových modelů nezískal statut otevřeného.
Podle OSI vedení definice otevřeného AI systému, která zohledňuje skutečnosti, pomůže zabránit manipulacím výrobců s termínem "otevřený", kteří v podmínkách nejistoty označují modely za otevřené pouze na základě dostupnosti váhových koeficientů, i když licence na model omezuje jeho použití (například mnohé modely zakazují použití v komerčních projektech) a detaily realizace nejsou zveřejněny.
V schválené definici otevřeného AI systému od OSI je vyžadováno pouze poskytnutí podrobných informací o použitých datech pro trénování, ale ne samotných dat. Přitom bez poskytování původních dat, na kterých byl model trénován, není možné plně reprodukovat AI systém, což je v rozporu s konceptem otevřeného zdrojového kódu. Tímto způsobem se organizace OSI omezila na posouzení AI modelu pouze jako technologie a nepovažovala je za celistvý produkt.
Skutečně přijaté vymezení otevřeného AI systému zaručuje pouze dvě ze čtyř deklarovaných svobod Open Source — možnost použití a možnost šíření, přičemž možnosti měnit a studovat nejsou zajištěny plně. Kromě toho absence zdrojových dat ztěžuje odhalení záměn backdoorů v modelech strojového učení.
Na druhou stranu je publikace zdrojových dat v mnoha případech nemožná z důvodů, které nezávisí na vývojáři AI modelu, jako je potřeba zachování důvěrnosti, používání materiálů chráněných autorskými právy, licencování dat od třetích poskytovatelů atd. Podle kritiků přijatého vymezení nejsou podobné problémy důvodem ke znehodnocení a podceňování pojmu Open Source.
Bradley Kuhn má v úmyslu účastnit se následujících voleb vedení OSI a pokusit se vstoupit do správní rady, aby dosáhl zrušení přijatého vymezení a jeho převedení mezi doporučení. Kromě organizace Software Freedom Conservancy vyjádřili nesouhlas s vymezením otevřeného AI někteří vývojáři projektu Debian, kteří přišli s iniciativou uspořádat obecné hlasování, aby přitáhli pozornost k problému. Na svém vymezení svobodného AI systému také pracuje Fond SPO, který má v úmyslu zahrnout do svého vymezení požadavek na dostupnost všech dat, přičemž uznává existenci etických důvodů, které v některých případech neumožňují data zveřejnit (například pokud při školení byly použity lékařské či osobní údaje).
Zdroj: opennet.ru
