Mashinani o'rganish sohasida ishlanmalar bilan shug'ullanadigan eng yirik kompaniyalar mashinani o'rganish tizimlari uchun modellarni kompilyatsiya qilish va optimallashtirish vositalarini birgalikda ishlab chiqishga qaratilgan OpenXLA loyihasini taqdim etdi. Loyiha turli GPU va ixtisoslashtirilgan tezlatgichlarda samarali o'qitish va bajarish uchun TensorFlow, PyTorch va JAX ramkalarida tayyorlangan modellar kompilyatsiyasini birlashtirishga imkon beradigan vositalarni ishlab chiqishni o'z zimmasiga oldi. Loyiha bo'yicha qo'shma ishlarga Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba va Amazon kabi kompaniyalar qo'shildi.
Etakchi tadqiqot guruhlari va jamoatchilik vakillarining sa'y-harakatlarini birlashtirish orqali mashinalarni o'rganish tizimlarini rivojlantirishni rag'batlantirish va turli ramkalar va uskunalar uchun infratuzilmaning parchalanishi muammosini hal qilish mumkin bo'lishi kutilmoqda. OpenXLA sizga mashinani o'rganish modeli qaysi asosda yaratilganidan qat'i nazar, turli xil apparat vositalarini samarali qo'llab-quvvatlash imkonini beradi. OpenXLA modelni o'qitish vaqtini qisqartirishi, o'tkazish qobiliyatini oshirishi, kechikishlarni kamaytirishi, hisoblash xarajatlarini kamaytirishi va bozorga chiqish vaqtini qisqartirishi kutilmoqda.
OpenXLA uchta asosiy komponentdan iborat bo'lib, ularning kodi Apache 2.0 litsenziyasi ostida tarqatiladi:
- XLA (Tezlashtirilgan chiziqli algebra) kompilyator bo'lib, turli xil apparat platformalarida, jumladan GPU, protsessor va turli ishlab chiqaruvchilarning maxsus tezlatgichlarida yuqori unumdorlikka erishish uchun mashinani o'rganish modellarini optimallashtirish imkonini beradi.
- StableHLO - bu mashinani o'rganish tizimi modellarida foydalanish uchun yuqori darajadagi operatsiyalar (HLO, High-Level Operations) to'plamining spetsifikatsiyasi va asosiy amalga oshirilishi. Mashinani o'rganish ramkalari va kompilyatorlar o'rtasidagi qatlam vazifasini bajaradi, ular modelni ma'lum bir uskunada bajarish uchun o'zgartiradi. StableHLO formatidagi modellarni yaratish uchun qatlamlar PyTorch, TensorFlow va JAX ramkalari uchun tayyorlangan. MHLO to'plami StableHLO uchun asos sifatida ishlatiladi, u seriyalilashtirish va versiyalarni qo'llab-quvvatlash uchun kengaytirilgan.
- IREE (Intermediate Representation Execution Environment) kompilyator va ish vaqti boʻlib, u LLVM loyihasidan MLIR (Koʻp darajali Intermediate Representation) formati asosida mashinani oʻrganish modellarini universal oraliq vakillikka aylantiradi. Xususiyatlarga oldindan kompilyatsiya qilish imkoniyati (vaqtdan oldin), oqimni boshqarishni qo'llab-quvvatlash, modellarda dinamik elementlardan foydalanish imkoniyati, turli protsessorlar va GPU'lar uchun optimallashtirish va kam qo'shimcha xarajatlar kiradi.
OpenXLA asboblar to'plamining asosiy afzalliklari:
- Qurilmaga xos kod yozish haqida tashvishlanmasdan optimal ishlashga erishing. Tayyor optimallashtirishni ta'minlash, jumladan algebraik ifodalarni soddalashtirish, xotirani samarali joylashtirish, maksimal xotira sarfini va ortiqcha yuklarni kamaytirishni hisobga olgan holda bajarish jadvalini tuzish.
- Masshtabni soddalashtirish va hisob-kitoblarni parallellashtirish. Ishlab chiquvchi faqat tanqidiy tensorlar to'plami uchun izohlar qo'shishi kerak, bunga asoslanib kompilyator avtomatik ravishda parallel hisoblash uchun kod ishlab chiqishi mumkin.
- AMD va NVIDIA GPU, x86 va ARM protsessorlari, TPU Googl ML tezlatgichlari, AWS Trainium Inferentia IPU, Graphcore va Cerebras Wafer-Scale Engine kabi turli apparat platformalarini qo'llab-quvvatlash bilan portativlikni ta'minlang.
- CUDA, HIP, SYCL, Triton va parallel hisoblash uchun boshqa tillardan foydalangan holda chuqur mashina o'rganish primitivlarini yozishni qo'llab-quvvatlash kabi qo'shimcha funktsiyalarni amalga oshirish bilan kengaytmalarni ulashni qo'llab-quvvatlash. Modellardagi to'siqlarni qo'lda sozlash imkoniyati.
Manba: opennet.ru
