Ny orinasa xAI, naorin'i Elon Musk ary nahazo teo amin'ny iray lavitrisa dolara ho an'ny fampivoarana ny teknolojia mifandraika amin'ny faharanitan-tsaina artifisialy, dia nanambara ny fahitana ny modely fiteny Grok lehibe ampiasaina amin'ny chatbot tafiditra ao amin'ny tambajotra sosialy X (Twitter). Navoaka teo ambanin'ny fahazoan-dàlana Apache 2.0 ny fitambaran'ny fatran'ny lanja, ny rafitry ny tambajotra neural, ary ny tranga fampiasana. Misy arisiva vonona hampiasaina miaraka amin'ny modely, 296 GB ny habeny (magnet), azo alaina.
Ny maodely Grok dia efa voaofana mialoha amin'ny angon-drakitra an-tsoratra be dia be amin'ny fampiasana ny fitambaran'ny fianarana an'ny xAI ary mirefy 314 lavitrisa eo ho eo, ka mahatonga azy io ho maodely fiteny lehibe misokatra lehibe indrindra misy. Ho fampitahana, ny modely Gemma vao nosokafana nataon'i Google dia manana mari-pamantarana 7 lavitrisa, Sber GigaChat - 29 lavitrisa masontsivana, Meta LLaMA - 65 lavitrisa, Yandex YaLM - 100 lavitrisa, OpenAI GPT-3.5 - 175 lavitrisa, ary ny mpitarika ny tsena, ny GPT- 4, voalaza fa misy paramètres 1.76 trillion.
Ny dikan-teny misokatra amin'ny maodely Grok-1 dia navoaka amin'ny fanehoana fototra ary tsy ahitana fanatsarana ho an'ny faritra sasany ampiasaina, toy ny fandaminana rafitra fifanakalozan-kevitra. Ho an'ny fitsapana dia ilaina ny GPU manana fahatsiarovana be dia be (izay karazana fahatsiarovana tsy voalaza mihitsy). Aseho ampahibemaso ny static cast of the model, raha ny iray amin'ireo endri-javatra amin'ny chatbot Grok izay novolavolaina ho an'ny Twitter dia ny fampifanarahana mavitrika amin'ny votoaty vaovao mipoitra (ny fampidirana amin'ny sehatra X/Twitter dia ampiasaina hahazoana fahalalana vaovao).
Namboarina tamin'ny Grok, ny chatbot dia mihoatra ny GPT-3.5 amin'ny fitsapana amin'ny famahana ny olan'ny matematika amin'ny lisea (GSM8k), miteraka valiny amin'ny fanontaniana interdisciplinary (MMLU), famitana ny kaody Python (HumanEval), ary famahana ny olan'ny matematika ao amin'ny oniversite voalaza amin'ny endrika LaTeX (MATH). .
Source: opennet.ru
