Vlerësimi i transparencës së modeleve gjeneruese të AI

Kërkuesit nga Universiteti i Nijmegenit (Holandë) përgatitën një renditje të hapjes së 40 modeleve të mëdha gjuhësore dhe 7 modeleve për gjenerimin e imazheve sipas përshkrimit tekstual, të cilat janë deklaruar nga prodhuesit si të hapura. Për shkak se kriteret e hapjes së modeleve të mësimit të makinerive ende po formohen, aktualisht ka një situatë ku, nën emrin e modeleve të hapura, shpërndahen modele që kanë licenca që kufizojnë fushën e përdorimit (për shembull, shumë modele ndalojnë përdorimin në projekte komerciale). Gjithashtu, shpesh prodhuesit nuk ofrojnë qasje në të dhënat e përdorura për trajnimin, nuk zbulojnë detajet e implementimit ose nuk hapin plotësisht kodin mbështës.

Shumica e modeleve, të pozicionuara si "të hapura", në të vërtetë duhet të kuptohen si "koeficientë të hapur" ose më saktë "koeficientë të disponueshëm", pasi ato shpërndahen nën licenca kufizuese që ndalojnë përdorimin në produkte komerciale. Kërkuesit e palëve të treta mund të eksperimentojnë me këto modele, por nuk kanë mundësi ta adaptojnë modelin sipas nevojave të tyre ose të inspektojnë realizimin. Më shumë se gjysma e modeleve nuk ofrojnë detaje për të dhënat e përdorura për trajnim, si dhe nuk publikojnë informacion mbi strukturën e brendshme dhe arkitekturën.

Modelet më të hapura janë njohur si BloomZ, AmberChat, OLMo, Open Assistant dhe Stable Diffusion, të cilat janë publikuar nën licenca të hapura së bashku me të dhënat burimore, kodin dhe realizimin e API-së. Modelet nga Google (Gemma 7B), Microsoft (Orca 2) dhe Meta (Llama 3), të pozicionuara nga prodhuesit si të hapura, kanë përfunduar më afër fundin e renditjes, pasi ato nuk ofrojnë qasje në të dhënat burimore, nuk zbulojnë detajet teknike të realizimit, dhe koeficientët e modelit shpërndahen nën licenca që kufizojnë fushën e përdorimit. Modeli i njohur Mistral 7B përfundoi afërsisht në mes të renditjes, pasi ofrohet nën një licencë të hapur, por është dokumentuar vetëm pjesërisht, nuk zbulon të dhënat e përdorura për trajnim dhe ka kodin mbështës që nuk është plotësisht i hapur.

Kërkuesit kanë propozuar 14 kritere për hapësirën e modeleve AI, duke përfshirë kushtet për shpërndarjen e kodit, të dhënave për trajnimin, koeficientëve, opsioneve të të dhënave dhe koeficientëve të optimizuar përmes mësimit të forcës (RL), si dhe disponueshmërinë e pakove të gatshme për përdorim, API-ve, dokumentacionit dhe përshkrimeve të detajuara të implementimit.

Vlerësimi i transparencës së modeleve gjeneruese të AI

Vlerësimi i transparencës së modeleve gjeneruese të AI

Sipas versionit të parë të propozitit nga organizata OSI (Open Source Initiative) për definimin e hapësirës së AI, kriteret kryesore të hapësirës së sistemit AI janë ofrimi i mundësive për përdorim për qëllime të ndryshme pa pasur nevojë për një leje të veçantë; studimi i funksionimit të sistemit dhe inspektimi i komponentëve të tij; bërja e ndryshimeve për qëllime të ndryshme; transferimi te palët e tjera si variant origjinal ashtu edhe modifikimet pas ndryshimeve.

Për të ofruar mundësinë e ndryshimeve, sistemi AI duhet të përfshijë:

  • Informacion tĂ« detajuar mbi tĂ« dhĂ«nat e pĂ«rdorura gjatĂ« trajnimit, si dhe metodologjinĂ« e trajnim. Informacioni duhet tĂ« jetĂ« i mjaftueshĂ«m pĂ«r qĂ« njĂ« zhvillues profesional tĂ« jetĂ« nĂ« gjendje tĂ« rikrijojĂ« njĂ« sistem tĂ« ekvivalentĂ« AI duke pĂ«rdorur tĂ« njĂ«jtat ose tĂ« ngjashme tĂ« dhĂ«na pĂ«r trajnimin.
  • DisponueshmĂ«ria e kodit burimor, qĂ« lejon si pĂ«rgatitjen e sistemit AI ashtu edhe realizimin e procesit tĂ« tij tĂ« trajnimit (nĂ« tabelĂ«n e mĂ«sipĂ«rme, nĂ« kolonĂ«n "kod" pĂ«r shumĂ« modele Ă«shtĂ« shĂ«nuar "~", qĂ« nĂ«nkupton disponueshmĂ«rinĂ« e pjesshme tĂ« kodit, ku kodi pĂ«r aktivizimin e modelit Ă«shtĂ« i disponueshĂ«m, por mungon kodi pĂ«r trajnimin ose krijimin e modelit). Kodi gjithashtu duhet tĂ« mbulojĂ« fusha tĂ« tilla si paraprocesimi, kontrolli i tĂ« dhĂ«nave dhe tokenizimi. PĂ«r mĂ« tepĂ«r, duhet tĂ« jepet njĂ« pĂ«rshkrim i detajuar i arkitekturĂ«s sĂ« modelit.
  • Parametrat e modelit (peshat), qĂ« nĂ«nkuptojnĂ« ekzistencĂ«n e njĂ« prerjeje tĂ« gatshme pĂ«r t'u pĂ«rdorur pas trajnimit ose ekzistencĂ«n e njĂ« varianti tĂ« optimizuar pĂ«rfundimtar tĂ« modelit.

Burimi: opennet.ru

Blini hosting tĂ« besueshĂ«m pĂ«r faqe interneti me mbrojtje nga DDoS, serverĂ« VPS VDS đŸ”„ Blini hosting tĂ« besueshĂ«m pĂ«r faqe interneti me mbrojtje nga DDoS, serverĂ« VPS VDS | ProHoster