Pargîdaniyên herî mezin ên ku di pêşkeftinê de di warê fêrbûna makîneyê de beşdar in, projeya OpenXLA pêşkêş kirin, ku bi mebesta pêşxistina hevbeş a amûrên ji bo berhevkirin û xweşbînkirina modelan ji bo pergalên fêrbûna makîneyê ye. Proje pêşkeftina amûrên ku gengaz dike yekkirina berhevoka modelên ku di çarçoveyên TensorFlow, PyTorch û JAX de hatine amadekirin ji bo perwerdekirin û darvekirina bi bandor li ser GPU-yên cihêreng û bilezkerên pispor digire dest. Şîrketên wekî Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba û Amazon beşdarî xebatên hevpar ên projeyê bûne.
Tê pêşbînîkirin ku bi berhevkirina hewildanên tîmên lêkolînê yên pêşeng û nûnerên civakê, dê gengaz be ku pêşveçûna pergalên fêrbûna makîneyê teşwîq bike û pirsgirêka perçebûna binesaziyê ji bo çarçove û alavên cihêreng çareser bike. OpenXLA dihêle hûn ji bo cûrbecûr hardware piştgirîyek bi bandor bicîh bînin, bêyî ku çarçoweya ku modela fêrbûna makîneyê li ser hatî afirandin. Tê çaverê kirin ku OpenXLA dema perwerdehiya modelê kêm bike, rêwiyan zêde bike, derengmayînê kêm bike, lêçûnên hesabkirinê kêm bike û wextê berbi bazarê kêm bike.
OpenXLA ji sê hêmanên sereke pêk tê, ku koda wan di bin lîsansa Apache 2.0 de tê belav kirin:
- XLA (Accelerated Linear Cebra) berhevkarek e ku dihêle hûn modelên fêrbûna makîneyê ji bo pêkanîna performansa bilind li ser platformên cihêreng ên hardware, di nav de GPU, CPU û bilezkerên pispor ên ji hilberînerên cihêreng, xweşbîn bikin.
- StableHLO taybetmendî û pêkanîna bingehîn a komek operasyonên asta bilind e (HLO, Operasyonên Asta Bilind) ji bo karanîna di modelên pergala fêrbûna makîneyê de. Di navbera çarçoveyên fêrbûna makîneyê û berhevkeran de ku modela ji bo darvekirinê li ser hardware taybetî vediguhezîne wekî qatek tevdigere. Qatên ji bo hilberandina modelan di formata StableHLO de ji bo çarçoveyên PyTorch, TensorFlow û JAX têne amadekirin. Set MHLO wekî bingehek ji bo StableHLO tê bikar anîn, ku ji bo piştgirîkirina serialîzasyon û guhertoyê tê dirêj kirin.
- IREE (Nûnermendiya Pêkanîna Nûneratiya Navîn) berhevkar û dema xebitandinê ye ku modelên fêrbûna makîneyê vediguhezîne nûnertiyek navîn a gerdûnî ya ku li ser bingeha formata MLIR (Nûneriya Navîn a Pir-Asta) ji projeya LLVM-ê ye. Taybetmendî di nav xwe de îhtîmala berhevkirina pêşîn (pêş-dem), piştgirî ji bo kontrolkirina herikê, şiyana karanîna hêmanên dînamîkî di modelan de, xweşbînkirina ji bo CPU û GPU-yên cihêreng, û sermaya kêm heye.
Feydeyên sereke yên toolkit OpenXLA:
- Bigihîjin performansa çêtirîn bêyî ku hûn li ser nivîsandina koda taybetî ya cîhazê xem bikin. Pêşkêşkirina xweşbîniyên amade, di nav de hêsankirina îfadeyên cebrî, cîhkirina bîranînê ya bikêr, plansazkirina darvekirinê ku li ber çavan kêmkirina lûtkeya mezaxtina bîranînê û bargiraniyê digire.
- Hêsankirina pîvandinê û paralelkirina hesaban. Pêşvebir tenê pêdivî ye ku şiroveyan ji bo binkomek tensorên krîtîk zêde bike, li ser bingeha ku berhevkar dikare bixweber kodê ji bo hesabkirina paralel çêbike.
- Bi piştgirîkirina platformên cihêreng ên hardware, wek GPU-yên AMD û NVIDIA, CPU-yên x86 û ARM, bilezkerên TPU Googl ML, AWS Trainium Inferentia IPU, Graphcore û Cerebras Wafer-Scale Engine, veguheztinê piştrast bikin.
- Piştgiriya girêdana pêvekan bi pêkanîna taybetmendiyên pêvek, wek piştgirî ji bo nivîsandina primitives fêrbûna makîneya kûr bi karanîna CUDA, HIP, SYCL, Triton û zimanên din ji bo hesabkirina paralel. Di modelan de îmkana birêkûpêkkirina bi destan a stûnan.
Source: opennet.ru
