Bradley M. Kuhn, riaditeľ a jeden zo zakladateľov organizácie na ochranu práv Software Freedom Conservancy (SFC), vystúpil s kritikou nedávno zverejnenej definície otvoreného AI systému (Open Source AI) zverejnenou organizáciou OSI (Open Source Initiative). Podľa Kúna sa organizácia OSI ponáhľala s publikovaním konečnej verzie definície a schválila ju bez dlhého komplexného diskurzu a v počiatočnej fáze formovania takýchto systémov. Na porovnanie, definícia Open Source bola zadaná po mnohých rokoch úvah a diskusií. Pokiaľ ide o zverejnenú definíciu otvoreného AI systému, v tejto fáze sa mala nazývať skôr odporúčaním než definíciou.
Kuhn sa obáva, že kritériá otvoreného AI prijaté v súčasnej podobe budú mať ďalekosiahle následky, podvrtnú autoritu pojmu Open Source a privedú k rozdeleniu komunity. Problémom je, že napriek námietkam sa organizácia OSI vydala na kompromis a nezahrnula požiadavku na poskytnutie údajov, ktoré boli použité na tréning modelu. Príčinou kompromisu bolo to, že v prípade pridania takéhoto bodu by žiadny z existujúcich veľkých jazykových modelov nezískal status otvoreného.
Podľa OSI jazyk definovania otvoreného AI systému, ktorý zohľadňuje existujúcu realitu, môže zabrániť manipuláciám výrobcov s termínom „otvorený“, ktorí v podmienkach neistoty nazývajú otvorenými modely len na základe dostupnosti váhových koeficientov, aj keď licencia na model obmedzuje rozsah jeho použitia (napríklad, mnoho modelov zakazuje použitie v komerčných projektoch) a neodhalia sa detaily implementácie.
V schválenej definícii otvoreného AI systému zo strany OSI sa vyžaduje len poskytnúť podrobné informácie o použitých údajoch, nie samotné údaje. Bez poskytnutia pôvodných údajov, na ktorých sa model trénoval, nie je možné úplne reprodukovať AI systém, čo je v rozpore s konceptom otvoreného zdrojového kódu. Takto sa organizácia OSI obmedzila len na posúdenie AI modelu ako technológie a nezobrala do úvahy ich ako celistvý produkt.
V skutočnosti akceptovaná definícia otvorenej AI-systému zaručuje len dve zo štyroch deklarovaných slobôd Open Source — možnosť používať a možnosť distribuovať, pričom možnosti meniť a študovať nie sú plne zabezpečené. Okrem toho, absencia zdrojových dát sťažuje identifikáciu vloženia backdoorov do modelov strojového učenia.
Na druhej strane je publikovanie zdrojových dát v mnohých prípadoch nemožné kvôli dôvodom, ktoré nezávisia od vývojára AI-modelu, ako je potreba zachovať dôvernosť, používanie materiálov chránených autorským právom, licencovanie dát od externých dodávateľov atď. Podľa názorov kritikov akceptovanej definície, takéto problémy nie sú dôvodom na znižovanie a devalváciu pojmu Open Source.
Bradley Kun má v úmysle zúčastniť sa nasledujúcich volieb do vedenia OSI a snažiť sa o vstup do správnej rady, aby dosiahol zrušenie akceptovanej definície a jej prevod do kategórie odporúčaní. Okrem organizácie Software Freedom Conservancy svoj nesúhlas s definíciou otvorené AI vyjadrili niektorí vývojári projektu Debian, ktorí predložili iniciatívu na konanie spoločného hlasovania na upozornenie na problém. Na svojej definícii slobodného AI-systému pracuje aj Fond SPO, ktorý plánuje do svojej definície zaviesť požiadavku dostupnosti všetkých dát, ale zároveň uznáva existenciu etických dôvodov, ktoré niekedy bránia zverejneniu dát (napríklad ak pri vzdelávaní boli použité zdravotné alebo osobné údaje).
Zdroj: opennet.ru
