A Debian projekt bejelentette a fejlesztők által tartott általános szavazás (GR, general resolution) lefolytatását, amely a gépi tanulási modellek fő repóba való elfogadásának kritériumait hivatott megerősíteni. Jelenleg a vitafázis zajlik, ezt követően kezdődik a szavazás gyűjtése (a szavazás kezdési időpontja még nem ismert). A szavazati joggal körülbelül ezer fejlesztő rendelkezik, akik a csomagok támogatásában és a Debian infrastruktúrájának karbantartásában vesznek részt.
A nyílt licenc alatt terjesztett AI-modelleket, amelyek nem biztosítanak forrást és eszközöket a modell kiképzéséhez, javasolják, hogy ne tekintsék kompatibilisnek a Debian kritériumaival, amelyek a szabad szoftvereket (DFSG, Debian Free Software Guideline) meghatározzák. Ha a javaslatot elfogadják, az ilyen modellek nem kerülhetnek be a projekt fő repójába („main”). Az ilyen modellek „non-free” repókban való biztosítását a folyamatban lévő szavazás nem vizsgálja.
A tanításhoz használt adatok hiányával kapcsolatban felmerülő problémák között említést nyert:
- Azoknak az alapadatoknak vagy programoknak a hiánya, amelyeket a tanítás során használnak, jelentősen korlátozza a kész AI-modellek módosításának lehetőségeit. Annak ellenére, hogy a licencek megengedik a módosítást, a gyakorlatban az ilyen típusú módosítás nehézkes. Módosításra lehet szükség például, ha szükséges a tokenező módosítása, amely szükséges új nyelvek támogatásához.
- A tanításhoz használt adatokat a modell „forráskódjaként” lehet értelmezni, a kész modellt pedig az e „forráskód” feldolgozásának eredményeként a tanulási eszközökkel. Ennek megfelelően a modell teljes körű módosításához szükséges lehet a forráselemek és az eszközök módosításának lehetősége.
- A modell létrehozásához végzett munka reprodukálásának lehetetlensége, ha nincs hozzáférés az alapadatokhoz és az eszközökhöz.
- Biztonság és etikai kérdések. Forrásadatok és eszközök nélkül a sebezhetőségek kiküszöbölésének lehetősége a modellekben korlátozott, és csupán bináris javítások vagy a modell teljes cseréje révén valósítható meg. Ilyen javításokat csak a modell alkotója tud előkészíteni, így a modell felhasználói teljes mértékben függenek tőle. Ezenkívül senki, beleértve a modell szerzőit, nem képes megérteni az így javasolt változások lényegét. A forrásadatok hiánya szintén megnehezíti a hátsóajtók felfedezését a gépi tanulási modellekben.
- Tanulmányozási korlátok. Forrásadatok hiányában lehetetlen igazolni, hogy a modellt olyan adatokkal tanították, amelyek felhasználására engedélyek vonatkoznak, vagy kizárni, hogy a tanítás során illegálisan beszerzett adatokat használtak. Ezenkívül, ha a tanítás során GPL licenc alatt álló adatokat használtak, szükség lehet az eredményül kapott modell által generált fragmentumok elemzésére, amelyek esetén meg kell említeni a forrást és az engedélyt. A fejlesztő belefoglalhat a projektjébe a modellel generált kódot/tartalmat, és akaratlanul is megsértheti bizonyos forrásadatok licencét.
Tavaly októberben az OSI (Open Source Initiative) közzétette a nyílt AI rendszer (Open Source AI) definícióját. A nyílt AI rendszernek a következő lehetőségeket kell biztosítania: bármilyen célra használható, külön engedély igénye nélkül; a rendszer működésének tanulmányozása és alkotóelemeinek ellenőrzése; változtatások végrehajtása bármilyen cél érdekében; a forrás és az utólagosan módosított változat átadása másoknak, a felhasználási célok korlátozása nélkül. A nyílt AI rendszernek részletes információkat kell tartalmaznia a modell architektúrájáról, a tanításhoz használt adatokról és a tanulmányi metodológiáról, valamint a nyílt forráskódot az AI rendszer futtatásához és tanításához. Az információnak elegendőnek kell lennie ahhoz, hogy egy szakmai fejlesztő saját magától újra létrehozhasson egy megfelelő AI rendszert, azonos vagy hasonló adatok használatával.
A jogvédő szervezet, a Software Freedom Conservancy (SFC) kritikát fogalmazott meg e meghatározással szemben. A csalódottságot az okozza, hogy a kritériumok között nincs olyan követelmény, amely az alkalmazott adatok biztosítására vonatkozna, amelyeket a modell tanításához használtak. Az OSI meghatározásában csupán részletes információt kell adni a tanításhoz felhasznált adatokról, de magukról az adatok nem. A megszorítás biztosan csak a négy hirdetett nyílt forrású szabadságból kettőt garantál — a felhasználást és a terjesztést, míg a módosítás és a kutatás lehetősége nem teljes mértékben biztosított.
Az OSI döntése azzal magyarázható, hogy az alapadatok közzététele sok esetben lehetetlen az AI-modell fejlesztőjén kívül álló okok miatt, mint például a titoktartás megőrzésének szükségessége, a szerzői joggal védett anyagok felhasználása, nyersanyagok harmadik féltől való engedélyezése stb. Ha kötelező lenne az adatok megadása, akkor egyetlen meglévő nagy nyelvi modell sem kapna nyílt státuszt, és a meghatározás egy elérhetetlen utópiává válna.
Forrás: opennet.ru
