Projekt Debian oznámil konání obecného hlasování (GR, obecné usnesení) mezi vývojáři projektu, aby byly schváleny kritéria pro přijetí modelů strojového učení do hlavního repozitáře projektu. V tuto fázi byla zahájena fáze diskuse, po které začne sběr hlasů (datum zahájení hlasování zatím nebylo stanoveno). Práva hlasu má přibližně tisíc vývojářů, kteří se podílejí na údržbě balíků a podpory infrastruktury Debian.
AI modely distribuované pod otevřenými licencemi, ale bez poskytování zdrojových materiálů a nástrojů pro výcvik modelu, se navrhuje uznat za inkompatibilní s kritérii Debian stanovujícími svobodný software (DFSG, Debian Free Software Guideline). V případě schválení návrhu nebudou takové modely moci být zahrnuty do hlavního repozitáře projektu („main“). Možnost dodávky těchto modelů do repozitáře „non-free“ v probíhajícím hlasování není zvažována.
Mezi problémy, které vznikají v případě absence dat použitých při trénování, byly zmíněny:
- Absence zdrojových dat nebo programů používaných při výcviku výrazně omezuje možnosti modifikace hotových AI modelů. I když je licencia povoluje, v praxi je taková modifikace obtížná. Změny mohou být nutné například v případě potřeby změnit tokenizátor, který je nezbytný pro přidání podpory nových jazyků.
- Použité tréninkové data lze považovat za „zdrojový kód“ modelu, zatímco hotový model je výsledkem zpracování tohoto „zdrojového kódu“ nástroji pro školení. Proto musí být možnost modifikace původních dat a nástrojů pro kompletní modifikaci modelu.
- Nemožnost reprodukovat práci, provedenou při vytváření modelu, bez přístupu k původním datům a nástrojům.
- Bezpečnostní a etické otázky. Bez zdrojových dat a nástrojů je možnost odstraňování zranitelností v modelech omezena použitím binárních záplat nebo úplnou výměnou modelu. Takové záplaty může připravit pouze autor modelu, a spotřebitelé modelu se stanou zcela závislými na něm. Přitom nikdo, včetně autorů modelu, není schopen pochopit podstatu navrhovaných změn. Nedostatek zdrojových dat také ztěžuje odhalení subdodávky backdoorů v modelech strojového učení.
- Omezení ve studiu. Bez zdrojových dat není možné potvrdit, že model byl vyškolen na datech dodaných pod licencemi, které takové použití umožňují, nebo vyloučit, že při trénování nebyla použita data získaná nelegálním způsobem. Kromě toho, pokud byla při trénování použita data pod licencí GPL, může být nutná analýza, zda ve výstupech modelu nejsou fragmenty, které obsahují kopie těchto dat, pro které je nutné uvést zdroj a licenci. Vývojář může omylem porušit licenci na nějaká zdrojová data, pokud do svého projektu zahrne kód/obsah generovaný modelem.
V říjnu minulého roku organizace OSI (Open Source Initiative) zveřejnila definici otevřeného AI systému (Open Source AI). Otevřený AI systém by měl poskytovat následující možnosti: použití k jakýmkoli účelům bez nutnosti získání zvláštního povolení; studium fungování systému a inspekce jeho komponentů; provádění změn pro jakékoli účely; předání jiným osobám jak v původní podobě, tak i po provedení změn, bez omezení účelů použití. Otevřený AI systém by měl obsahovat podrobné informace o architektuře modelu, datech použitých při trénování a metodologii trénování, a také zdrojový kód pro spuštění a učení AI systému. Informace by měly být dostatečné pro to, aby profesionální vývojář mohl vlastními silami zrekonstruovat ekvivalentní AI systém, používající pro trénování stejná nebo podobná data.
Občanská organizace Software Freedom Conservancy (SFC) kritizovala toto vymezení. Nespokojenost vzbudila skutečnost, že v kritériích chybí požadavky na poskytnutí dat použitých k tréninku modelu. V definici OSI je požadováno pouze podrobné uvedení informací o použitých datech pro trénink, nikoli samotných dat. Přijaté vymezení zaručuje pouze dvě ze čtyř deklarovaných svobod Open Source — možnost používat a možnost šířit, přičemž možnosti měnit a studovat nejsou zajištěny úplně.
Rozhodnutí OSI je vysvětlováno tím, že publikace původních dat je v mnoha případech nemožná z důvodů, které nezávisí na vývojáři AI modelu, jako je potřeba uchovat důvěrnost, používání materiálů chráněných autorským právem, licencování dat od třetích stran atd. Pokud by se přidala povinnost poskytovat data, žádný z existujících velkých jazykových modelů by nezískal status otevřeného, a samotná definice by se stala nedosažitelnou utopií.
Zdroj: opennet.ru
