Generatiivsete AI mudelite avatusedetabel

Nijmegen Ülikooli teadlased (Holland) koostasid 40 suure keelemudeli ja 7 pildigeneratsioonimudeli avatusest, mida tootjad deklareerivad avatud olevat. Kuna masinõppe mudelite avatusestandardid alles kujunevad, on hetkel olukord selline, et avatud mudelite maski all levitatakse mudeleid, millel on kasutusala piiravad litsentsid (näiteks keelavad paljud mudelid kasutamise kommertslikes projektides). Samuti ei paku tootjad sageli juurdepääsu koolitamiseks kasutatud andmetele, ei avalikusta rakenduse üksikasju ega ava täielikult seotud koodi.

Enamik mudeleid, mida positsioneeritakse kui "avatud", tuleks tegelikult tõlgendada kui "avatud kaalusid" või täpsemalt "kergesti kätte saadavaid kaalusid", kuna need levitatakse piiravate litsentside all, mis keelavad kasutamise kommertstootes. Kolmandad osalised saavad katsetada selliseid mudeleid, kuid ei saa mudelit oma vajadustele kohandada ega rakendust üle vaadata. Üle poole mudelitest ei paku üksikasjalikku teavet kasutatud koolitusandmete kohta ning ei avalikusta teavet sisemise struktuuri ja arhitektuuri kohta.

Kõige avatumateks peetakse mudeleid BloomZ, AmberChat, OLMo, Open Assistant ja Stable Diffusion, mis on avaldatud avatud litsentside alla koos algandmete, koodi ja API rakenduse teabega. Google'i (Gemma 7B), Microsofti (Orca 2) ja Meta (Llama 3) mudelid, mida tootjad positsioneerivad avatutena, osutusid hinnangute lõpus olevateks, kuna nad ei paku juurdepääsu algandmetele, ei avalikusta rakenduse tehnilisi üksikasju ja levitavad mudeli kaalusid litsentside all, mis piiravad kasutusala. Populaarne mudel Mistral 7B paigutus umbes hinnangu keskossa, kuna see on varustatud avatud litsentsiga, kuid on osaliselt dokumenteeritud, ei avalikusta koolitamiseks kasutatud andmeid ja on osaliselt suletud kaasneva koodiga.

Uurijad on esitanud 14 kriteeriumi AI-mudelite avatud olekuks, mis hõlmavad koodi, treeningandmete, kaalude, andmevariantide ning tugevdatud õppe (RL) abil optimeeritud koefitsientide levitamise tingimusi, samuti kasutusvalmis pakettide, API-de, dokumentatsiooni ja rakenduse üksikasjaliku kirjelduse olemasolu.

Generatiivsete AI mudelite avatusedetabel

Generatiivsete AI mudelite avatusedetabel

Vastavalt OSI (Open Source Initiative) organisatsiooni esitatud avatud AI määratlemise mustandile on AI-süsteemi avatuses peamised kriteeriumid võimalust kasutada seda mistahes eesmärkidel ilma eriloa saamiseta; süsteemi toimimise uurimine ja selle komponentide kontrollimine; muudatused mistahes eesmärkidel; edastamine teistele nii originaalvariandina kui ka muudetud versioonina.

AI-süsteemi muutmisvõimekuse tagamiseks peab see sisaldama:

  • Üksikasjalikku teavet andmete kohta, mida kasutati koolitamiseks, ja koolituse metoodika kohta. Teavet peab olema piisavalt, et professionaalne arendaja suudaks üksi rekonstrueerida samaväärse AI-süsteemi, kasutades sama või sarnaseid andmeid koolitamiseks.
  • Allikakood, mis võimaldab nii AI-süsteemi käivitamist kui ka selle treenimise protsessi (ülevaatatud tabelis on paljude mudelite kohta veerus "kood" märgitud "~", mis viitab osalisele koodi olemasolule, kus mudeli käitamiseks kood on saadaval, kuid mudeli treenimiseks või loomise kood puudub). Kood peaks hõlmama ka selliseid valdkondi nagu eelprotsessimine, andmete valideerimine ja tokeniseerimine. Lisaks peab olema esitatud mudeli arhitektuuri üksikasjalik kirjeldus.
  • Mudeli parameetrid (kaalud), mis viitavad valmis stardiseisundile pärast koolitamist või lõpliku optimeeritud mudeli olemasolule.

Allikas: opennet.ru

Osta usaldusväärne hostimine veebilehtede jaoks DDoS-i kaitsega, VPS VDS serverid 🔥 Osta usaldusväärne hostimine veebilehtede jaoks DDoS-i kaitsega, VPS VDS serverid | ProHoster