{"id":111103,"date":"2023-10-26T15:10:31","date_gmt":"2023-10-26T13:10:31","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/otkryt-kod-jina-embedding-modeli-dlya-vektornogo-predstavleniya-smysla-teksta"},"modified":"2023-10-26T15:10:31","modified_gmt":"2023-10-26T13:10:31","slug":"otkryt-kod-jina-embedding-modeli-dlya-vektornogo-predstavleniya-smysla-teksta","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sl\/blog\/news\/otkryt-kod-jina-embedding-modeli-dlya-vektornogo-predstavleniya-smysla-teksta","title":{"rendered":"Odprt je koda Jina Embedding, model za vektorsko predstavitev pomena besedila","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Podjetje Jina je pod licenco Apache 2.0 predstavilo model strojnega u\u010denja za vektorsko predstavitev besedila \u2014 jina-embeddings-v2. Model omogo\u010da pretvorbo poljubnega besedila, dol\u017eine do 8192 znakov, v majhno zaporedje realnih \u0161tevil, ki tvorijo vektor, povezan z izvorno besedno vsebino in reproducirajo\u010dim njenim pomenom (semantiko). Jina Embedding je postal prvi odprtokodni model strojnega u\u010denja, katerega lastnosti se ne razlikujejo od lastni\u0161kega modela vektorizacije besedila projekta OpenAI (text-embedding-ada-002), prav tako pa je sposoben obdelovati besedila, katerih dol\u017eina zna\u0161a do 8192 tokenov. <\/p>\n
Razdaljo med dvema oblikovanima vektoroma lahko uporabimo za dolo\u010danje smiselne povezanosti izvornih besedil. V praksi se lahko oblikovani vektorji uporabljajo za analizo podobnosti besedil, organizacijo iskanja sorodnih vsebin (ocenjevanje rezultatov po semanti\u010dni bli\u017eini), skupinjenje besedil po pomenu, oblikovanje priporo\u010dil (ponudba seznama podobnih besedil), odkrivanje anomalij, dolo\u010danje plagiatorstva in klasifikacijo testov. Kot primer uporabe se omenjajo analize pravnih dokumentov, poslovna analitika, medicinska raziskovanja za obdelavo znanstvenih \u010dlankov, literarna kritika, analiza finan\u010dnih poro\u010dil ter izbolj\u0161anje kakovosti obdelave zapletenih vpra\u0161anj s strani klepetalnih botov. <\/p>\n
Na voljo sta dva razli\u010dna modela jina-embeddings (osnovni \u2014 0.27 GB in skraj\u0161ani \u2014 0.07 GB), usposobljena na 400 milijonih parov besedilnih sekvenc v angle\u0161\u010dini, ki pokrivajo razli\u010dna podro\u010dja znanja. Med usposabljanjem so bile uporabljene sekvence dol\u017eine 512 tokenov, ki so bile ekstrapolirane do dol\u017eine 8192 s pomo\u010djo metode ALiBi (Attention with Linear Biases). <\/p>\n
Osnovni model vklju\u010duje 137 milijonov parametrov in je zasnovan za uporabo na namiznih sistemih z GPU. Skraj\u0161ana razli\u010dica vklju\u010duje 33 milijonov parametrov, zagotavlja manj\u0161o natan\u010dnost in je namenjena uporabi na mobilnih napravah ter sistemih z omejenim pomnilnikom. V bli\u017enji prihodnosti nameravajo objaviti tudi obse\u017enej\u0161i model, ki bo pokrival 435 milijonov parametrov. Razvijajo se tudi ve\u010djezi\u010dne razli\u010dice modela, ki se trenutno osredoto\u010dajo na podporo nem\u0161kemu in \u0161panskemu jeziku. Poseben vti\u010dnik je pripravljen za uporabo modela jina-embeddings preko orodja LLM. \n Izvor: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"