Bradley Kuhn, a Software Freedom Conservancy (SFC) ügyvezető igazgatója és egyik alapítója, bírálta az Open Source Initiative (OSI) által közzétett nyílt AI-rendszer definíciót. Kuhn véleménye szerint az OSI sietett a végső változat közzétételével, és azt hosszan tartó széleskörű vita nélkül fogadta el, egy ilyen rendszerek korai szakaszában. Összehasonlításképpen, az Open Source meghatározását hosszú évek gondolkodása és vitái után adták meg. Ami a közzétett nyílt AI-rendszer meghatározását illeti, ezt a fázisban inkább ajánlásnak kellett volna nevezni, nem pedig meghatározásnak.
Kuhn attól tart, hogy a jelenlegi formában elfogadott nyílt AI-kritériumok messzemenő következményekkel járhatnak, aláássák az Open Source kifejezés tekintélyét, és megosztják a közösséget. A probléma az, hogy a kifogások ellenére az OSI kompromisszumra lépett, és nem vonta be a követelményt a modell betanításához használt adatok közzétételére. A kompromisszum oka az volt, hogy ha egy ilyen pontot hozzáadnának, akkor egyik meglévő nagy nyelvi modell sem kapná meg a nyílt státuszt.
Az OSI véleménye szerint a nyílt AI-rendszer meghatározása, amely figyelembe veszi a meglévő realitásokat, megakadályozhatja a gyártók manipulációit a „nyílt” kifejezéssel, akik a bizonytalanság körülményei között csak a súlyok elérhetősége alapján neveznek modelleket nyíltnak, még akkor is, ha a modell licencének használati terjedelme korlátozott (például sok modell megtiltja a kereskedelmi projektekben való alkalmazást) és nem fedik fel a megvalósítás részleteit.
Az OSI által jóváhagyott nyílt AI-rendszer definíciója csupán azt követeli meg, hogy részletes információt nyújtsanak a modell tanításához felhasznált adatokkal kapcsolatban, de nem magát az adatot. Ezen felül, az alapadatok közzététele nélkül, amelyekre a modellt betanították, nem lehet teljes mértékben reprodukálni az AI-rendszert, ami ellentmond az open source koncepciónak. Így az OSI a nyílt AI-modellt pusztán technológiaként kezelte, és nem tette teljes termékként.
A valóban elfogadott nyitott AI-rendszer meghatározása garantáltan csak két, a nyílt forráskódú szabadalomra vonatkozó jogot biztosít a négy közül — a felhasználás és az elosztás jogát, miközben a módosítási és a tanulmányozási lehetőségek nem teljes mértékben biztosítottak. Ezen kívül a nyers adatok hiánya megnehezíti a hátsó ajtók észlelését a gépi tanulási modellekben.
Másrészt, az alapadatok publikálása sok esetben lehetetlen, a mesterséges intelligencia-modell fejlesztőjétől független okok miatt, mint például a magánélet védelmének szükségessége, a szerzői joggal védett anyagok használata, harmadik fél által biztosított adatok licencelése stb. A meghatározott definícióval szembeni kritikák szerint ezek a problémák nem jelentik elegendő indokot a nyílt forráskódú fogalom lebecsülésére vagy devalválására.
Bradley Kuhn részt kíván venni az OSI következő vezetőségi választásán, és megpróbál bejutni az igazgatótanácsba, hogy elérje a meghatározás törlését és átminősítését ajánlássá. A Software Freedom Conservancy mellett a Debian projekten dolgozó néhány fejlesztő is kifejezte nemtetszését a nyitott AI definíciójával kapcsolatban, akik közös szavazás kezdeményezésével kívánják felhívni a figyelmet a problémára. A Szabad Szoftver Alapítvány is dolgozik a saját nyitott AI-rendszerének meghatározásán, amelybe a rendelkezésre álló adatok teljes elérhetőségének követelményét kívánja bevezetni, de elismeri, hogy etikai okok miatt bizonyos esetekben nem lehet felfedni az adatokat (például, ha orvosi vagy személyes adatokat használtak a betanításkor).
Forrás: opennet.ru
