JetBrains បើក Mellum2 ដែលជាគំរូ MoE សម្រាប់សេណារីយ៉ូ AI លឿនក្នុងការអភិវឌ្ឍន៍

JetBrains បានបើកគំរូមួយ មែលលូម២ត្រូវបានរចនាឡើងសម្រាប់ប្រើប្រាស់ក្នុងឧបករណ៍ AI សម្រាប់ការអភិវឌ្ឍកម្មវិធី។ គំរូនេះត្រូវបានបោះពុម្ពផ្សាយក្រោមអាជ្ញាប័ណ្ណ Apache 2.0ទម្ងន់ទាំងនេះអាចរកបាននៅលើ Hugging Face។ JetBrains សង្កត់ធ្ងន់ថា Mellum2 ត្រូវបានបណ្តុះបណ្តាលតាំងពីដំបូង ហើយត្រូវបានរចនាឡើងមិនមែនសម្រាប់កិច្ចការពហុម៉ូឌុលនោះទេ ប៉ុន្តែសម្រាប់ធ្វើការជាមួយអត្ថបទ និងលេខកូដ៖ ការបញ្ជូនសំណើ បំពង់បង្ហូរ RAG ការសង្ខេប ភ្នាក់ងារជំនួយ និងការដាក់ពង្រាយឯកជននៅក្នុងហេដ្ឋារចនាសម្ព័ន្ធក្រុមហ៊ុន។

Mellum2 ត្រូវបានសាងសង់ឡើងដោយផ្អែកលើស្ថាបត្យកម្ម ល្បាយនៃអ្នកជំនាញដោយមានទំហំសរុបចំនួន 12 ពាន់លានប៉ារ៉ាម៉ែត្រ មានតែប្រហែល 1000 ប៉ុណ្ណោះដែលត្រូវបានធ្វើឱ្យសកម្មក្នុងមួយសញ្ញាសម្ងាត់ 2.5 ពាន់លានប៉ារ៉ាម៉ែត្រដែលគួរតែកាត់បន្ថយថ្លៃដើមគណនា និងភាពយឺតយ៉ាវក្នុងអំឡុងពេលសន្និដ្ឋាន។ យោងតាម ​​​​JetBrains ការអនុវត្តស្តង់ដាររបស់ម៉ូដែលនេះអាចប្រៀបធៀបទៅនឹងម៉ូដែលប្រភពបើកចំហដែលមានទំហំស្រដៀងគ្នា ប៉ុន្តែផ្តល់នូវល្បឿនសន្និដ្ឋានច្រើនជាងពីរដង។

JetBrains ពិពណ៌នាអំពី Mellum2 ថាជាការវិវត្តន៍នៃគំរូ Mellum ដើម ដែលដំបូងឡើយត្រូវបានបង្កើតឡើងសម្រាប់ការបំពេញកូដ។ កំណែថ្មីនេះពង្រីកដល់ថ្នាក់ភារកិច្ចកាន់តែទូលំទូលាយ ដែលតម្រូវឱ្យធ្វើការទាំងកូដកម្មវិធី និងភាសាធម្មជាតិ។ ក្រុមហ៊ុនដាក់ Mellum2 ជាគំរូ "ផ្តោតអារម្មណ៍" - មិនមែនជាការជំនួសសម្រាប់ LLM គោលបំណងទូទៅធំៗនោះទេ ប៉ុន្តែជាសមាសធាតុឯកទេសរហ័សសម្រាប់ប្រតិបត្តិការកម្រិតមធ្យមញឹកញាប់នៅក្នុងប្រព័ន្ធ AI ស្មុគស្មាញ។

ក្នុងចំណោមករណីប្រើប្រាស់ដែលបានស្នើឡើងរួមមាន ត្រូវបានគេហៅថា ការចាត់ថ្នាក់ និងការបញ្ជូនសំណើរវាងម៉ូដែល និងឧបករណ៍ ការបង្ហាប់ និងដំណើរការនៃបរិបទនៅក្នុងប្រព័ន្ធ RAG ការរៀបចំទិន្នន័យសម្រាប់ភ្នាក់ងារ ការកំណត់ពេលវេលា ការផ្ទៀងផ្ទាត់លទ្ធផលកម្រិតមធ្យម និងការប្រតិបត្តិក្នុងស្រុកនៅក្នុងបរិស្ថានដែលមិនអាចផ្ញើកូដប្រភព ឬទិន្នន័យផ្ទៃក្នុងទៅកាន់ API ខាងក្រៅបាន។

នៅលើមុខឱប បានផ្សព្វផ្សាយ ការប្រមូល មែលលូម ២ដែលរួមបញ្ចូលវ៉ារ្យ៉ង់គំរូជាច្រើន៖ Thinking, Instruct, Thinking-SFT, Instruct-SFT, Base និង Base-Pretrain។ គំរូទាំងនេះត្រូវបានចែកចាយក្នុងទម្រង់ Safetensors ក្រោមអាជ្ញាប័ណ្ណ Apache 2.0។
ឧទាហរណ៍នៃការប្រើប្រាស់តាមរយៈ Transformers, vLLM, SGLang និង Docker Model Runner ត្រូវបានផ្តល់ជូនសម្រាប់ការដាក់ឱ្យដំណើរការ។

អ្វីដែលគួរឱ្យចាប់អារម្មណ៍ជាងនេះទៅទៀតនោះគឺមិនមែនជាការលេចចេញនូវគំរូប្រភពបើកចំហមួយផ្សេងទៀតនោះទេ ប៉ុន្តែជាទីផ្សារពិសេសដែល JetBrains បានជ្រើសរើស។ ក្រុមហ៊ុនមិនផ្តោតលើការប្រកួតប្រជែងជាមួយគំរូគោលបំណងទូទៅធំបំផុតនោះទេ ប៉ុន្តែផ្តោតលើសមាសធាតុដែលមានតម្លៃទាប និងលឿន ដែលអាចរួមបញ្ចូលដោយផ្ទាល់ទៅក្នុង IDE ជំនួយការផ្ទៃក្នុង ប្រព័ន្ធ RAG សាជីវកម្ម និងបំពង់បង្ហូរភ្នាក់ងារ។ សម្រាប់អ្នកអភិវឌ្ឍន៍ និងក្រុមហ៊ុន នេះមានន័យថាសមត្ថភាពក្នុងការដំណើរការតក្កវិជ្ជា AI មួយចំនួននៅក្នុងស្រុក ឬនៅលើម៉ាស៊ីនមេផ្ទាល់ខ្លួនរបស់ពួកគេ ខណៈពេលដែលរក្សាការគ្រប់គ្រងលើកូដ ទិន្នន័យ និងថ្លៃដើមនៃការសន្និដ្ឋាន។

ប្រភព: linux.org.ru