ะะพะผะฟะฐะฝะธั Jina ะพัะบััะปะฐ ะฟะพะด ะปะธัะตะฝะทะธะตะน Apache 2.0 ะผะพะดะตะปั ะผะฐัะธะฝะฝะพะณะพ ะพะฑััะตะฝะธั ะดะปั ะฒะตะบัะพัะฝะพะณะพ ะฟัะตะดััะฐะฒะปะตะฝะธั ัะตะบััะฐ โ jina-embeddings-v2. ะะพะดะตะปั ะฟะพะทะฒะพะปัะตั ะฟัะตะพะฑัะฐะทะพะฒะฐัั ะฟัะพะธะทะฒะพะปัะฝัะน ัะตะบัั, ะฒะบะปััะฐััะธะน ะดะพ 8192 ะทะฝะฐะบะพะฒ, ะฒ ะฝะตะฑะพะปัััั ะฟะพัะปะตะดะพะฒะฐัะตะปัะฝะพััั ะฒะตัะตััะฒะตะฝะฝัั ัะธัะตะป, ะพะฑัะฐะทัััะธั ะฒะตะบัะพั, ัะพะฟะพััะฐะฒะปะตะฝะฝัะน ั ะธัั ะพะดะฝัะผ ัะตะบััะพะผ ะธ ะฒะพัะฟัะพะธะทะฒะพะดััะธะน ะตะณะพ ัะตะผะฐะฝัะธะบั (ัะผััะป). Jina Embedding ััะฐะปะฐ ะฟะตัะฒะพะน ะพัะบัััะพะน ะผะพะดะตะปัั ะผะฐัะธะฝะฝะพะณะพ ะพะฑััะตะฝะธั, ะพะฑะปะฐะดะฐััะตะน ั ะฐัะฐะบัะตัะธััะธะบะฐะผะธ, ะฝะต ััััะฟะฐััะธะผะธ ะฟัะพะฟัะธะตัะฐัะฝะพะน ะผะพะดะตะปะธ ะฒะตะบัะพัะธะทะฐัะธะธ ัะตะบััะฐ ะพั ะฟัะพะตะบัะฐ OpenAI (text-embedding-ada-002), ัะฐะบะถะต ัะฟะพัะพะฑะฝะพะน ะพะฑัะฐะฑะฐััะฒะฐัั ัะตะบััั, ะฝะฐััะธััะฒะฐััะธะต ะดะพ 8192 ัะพะบะตะฝะพะฒ.
ะ ะฐัััะพัะฝะธะต ะผะตะถะดั ะดะฒัะผั ััะพัะผะธัะพะฒะฐะฝะฝัะผะธ ะฒะตะบัะพัะฐะผะธ ะผะพะถะฝะพ ะธัะฟะพะปัะทะพะฒะฐัั ะดะปั ะพะฟัะตะดะตะปะตะฝะธั ัะผััะปะพะฒะพะน ะฒะทะฐะธะผะพัะฒัะทะธ ะธัั ะพะดะฝัั ัะตะบััะพะฒ. ะะฐ ะฟัะฐะบัะธะบะต ััะพัะผะธัะพะฒะฐะฝะฝัะต ะฒะตะบัะพัั ะผะพะณัั ะฟัะธะผะตะฝััััั ะดะปั ะฐะฝะฐะปะธะทะฐ ะฟะพั ะพะถะตััะธ ัะตะบััะพะฒ, ะพัะณะฐะฝะธะทะฐัะธะธ ะฟะพะธัะบะฐ ะฑะปะธะทะบะธั ะฟะพ ัะตะผะฐัะธะบะต ะผะฐัะตัะธะฐะปะพะฒ (ัะฐะฝะถะธัะพะฒะฐะฝะธะต ัะตะทัะปััะฐัะพะฒ ะฟะพ ัะตะผะฐะฝัะธัะตัะบะพะน ะฑะปะธะทะพััะธ), ะณััะฟะฟะธัะพะฒะบะธ ัะตะบััะพะฒ ะฟะพ ัะผััะปั, ัะพัะผะธัะพะฒะฐะฝะธั ัะตะบะพะผะตะฝะดะฐัะธะน (ะฟัะตะดะปะพะถะตะฝะธะต ัะฟะธัะบะฐ ะฟะพั ะพะถะธั ัะตะบััะพะฒัั ัััะพะบ), ะฒััะฒะปะตะฝะธั ะฐะฝะพะผะฐะปะธะน, ะพะฟัะตะดะตะปะตะฝะธั ะฟะปะฐะณะธะฐัะฐ ะธ ะบะปะฐััะธัะธะบะฐัะธะธ ัะตััะพะฒ. ะ ะบะฐัะตััะฒะต ะฟัะธะผะตัะพะฒ ะพะฑะปะฐััะตะน ะธัะฟะพะปัะทะพะฒะฐะฝะธั ัะฟะพะผะธะฝะฐะตััั ะทะฐะดะตะนััะฒะพะฒะฐะฝะธะต ะผะพะดะตะปะธ ะดะปั ะฐะฝะฐะปะธะทะฐ ััะธะดะธัะตัะบะธั ะดะพะบัะผะตะฝัะพะฒ, ะดะปั ะฑะธะทะฝะตั-ะฐะฝะฐะปะธัะธะบะธ, ะฒ ะผะตะดะธัะธะฝัะบะธั ะธััะปะตะดะพะฒะฐะฝะธัั ะดะปั ะพะฑัะฐะฑะพัะบะธ ะฝะฐััะฝัั ััะฐัะตะน, ะฒ ะปะธัะตัะฐัััะฝะพะน ะบัะธัะธะบะต, ะดะปั ัะฐะทะฑะพัะฐ ัะธะฝะฐะฝัะพะฒัั ะพััััะพะฒ ะธ ะดะปั ะฟะพะฒััะตะฝะธั ะบะฐัะตััะฒะฐ ะพะฑัะฐะฑะพัะบะธ ัะฐั-ะฑะพัะฐะผะธ ัะปะพะถะฝัั ะฒะพะฟัะพัะพะฒ.
ะะปั ะทะฐะณััะทะบะธ ะดะพัััะฟะฝั ะดะฒะฐ ะฒะฐัะธะฐะฝัะฐ ะผะพะดะตะปะธ jina-embeddings (ะฑะฐะทะพะฒะฐั โ 0.27 ะะ ะธ ัะพะบัะฐััะฝะฝะฐั โ 0.07 ะะ), ะพะฑััะตะฝะฝัะต ะฝะฐ 400 ะผะธะปะปะธะพะฝะฐั ะฟะฐั ัะตะบััะพะฒัั ะฟะพัะปะตะดะพะฒะฐัะตะปัะฝะพััะตะน ะฝะฐ ะฐะฝะณะปะธะนัะบะพะผ ัะทัะบะต, ะพั ะฒะฐััะฒะฐััะธั ัะฐะทะปะธัะฝัะต ะพะฑะปะฐััะธ ะทะฝะฐะฝะธะน. ะัะธ ะพะฑััะตะฝะธะธ ะธัะฟะพะปัะทะพะฒะฐะปะธัั ะฟะพัะปะตะดะพะฒะฐัะตะปัะฝะพััะธ, ัะฐะทะผะตัะพะผ 512 ัะพะบะตะฝะพะฒ, ะบะพัะพััะต ะฑัะปะธ ัะบัััะฐะฟะพะปะธัะพะฒะฐะฝั ะดะพ ัะฐะทะผะตัะฐ 8192 ะฟัะธ ะฟะพะผะพัะธ ะผะตัะพะดะฐ ALiBi (Attention with Linear Biases).
ะะฐะทะพะฒะฐั ะผะพะดะตะปั ะฒะบะปััะฐะตั ะฒ ัะตะฑั 137 ะผะปะฝ ะฟะฐัะฐะผะตััะพะฒ ะธ ัะฐัััะธัะฐะฝะฐ ะฝะฐ ะธัะฟะพะปัะทะพะฒะฐะฝะธะธ ะฝะฐ ััะฐัะธะพะฝะฐัะฝัั
ัะธััะตะผะฐั
ั GPU. ะกะพะบัะฐััะฝะฝะฐั ะผะพะดะตะปั ะฒะบะปััะฐะตั 33 ะผะปะฝ. ะฟะฐัะฐะผะตััะพะฒ, ะพะฑะตัะฟะตัะธะฒะฐะตั ะผะตะฝัััั ัะพัะฝะพััั ะธ ะฝะฐัะตะปะตะฝะฐ ะฝะฐ ะฟัะธะผะตะฝะตะฝะธะต ะฝะฐ ะผะพะฑะธะปัะฝัั
ััััะพะนััะฒะฐั
ะธ ะฝะฐ ัะธััะตะผะฐั
ั ะฝะตะฑะพะปััะธะผ ะพะฑััะผะพะผ ะฟะฐะผััะธ. ะ ะฑะปะธะถะฐะนัะตะต ะฒัะตะผั ัะฐะบะถะต ะฟะปะฐะฝะธัััั ะพะฟัะฑะปะธะบะพะฒะฐัั ะบััะฟะฝัั ะผะพะดะตะปั, ะบะพัะพัะฐั ะฑัะดะตั ะพั
ะฒะฐััะฒะฐัั 435 ะผะปะฝ ะฟะฐัะฐะผะตััะพะฒ. ะ ัะฐะทัะฐะฑะพัะบะต ัะฐะบะถะต ะฝะฐั
ะพะดะธััั ะผะฝะพะณะพัะทััะฝัะน ะฒะฐัะธะฐะฝั ะผะพะดะตะปะธ, ะบะพัะพััะน ะฒ ะฝะฐััะพััะตะต ะฒัะตะผั ัะพััะตะดะพัะพัะตะฝ ะฝะฐ ะฟะพะดะดะตัะถะบะต ะฝะตะผะตัะบะพะณะพ ะธ ะธัะฟะฐะฝัะบะพะณะพ ัะทัะบะพะฒ. ะัะดะตะปัะฝะพ ะฟะพะดะณะพัะพะฒะปะตะฝ ะฟะปะฐะณะธะฝ ะดะปั ะธัะฟะพะปัะทะพะฒะฐะฝะธั ะผะพะดะตะปะธ jina-embeddings ัะตัะตะท ะธะฝััััะผะตะฝัะฐัะธะน LLM.
เปเบซเบผเปเบเบเปเปเบกเบนเบ: opennet.ru