{"id":107177,"date":"2023-03-10T12:48:22","date_gmt":"2023-03-10T10:48:23","guid":{"rendered":"https:\/\/prohoster.info\/?p=107177"},"modified":"2023-03-11T11:43:26","modified_gmt":"2023-03-11T09:43:26","slug":"predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pl\/blog\/news\/predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","title":{"rendered":"Przedstawienie OpenXLA, narz\u0119dzia do optymalizacji i kompilacji modeli uczenia maszynowego","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Najwi\u0119ksi liderzy zajmuj\u0105cy si\u0119 rozwojem w dziedzinie uczenia maszynowego przedstawili projekt OpenXLA, maj\u0105cy na celu wsp\u00f3lne rozwijanie narz\u0119dzi do kompilacji i optymalizacji modeli dla system\u00f3w uczenia maszynowego. W ramach projektu opracowywane s\u0105 narz\u0119dzia, kt\u00f3re maj\u0105 na celu ujednolicenie kompilacji modeli stworzonych w ramach framework\u00f3w TensorFlow, PyTorch i JAX, by zapewni\u0107 efektywne uczenie i wykonanie na r\u00f3\u017cnych GPU oraz specjalizowanych akceleratorach. Do wsp\u00f3lnej pracy nad projektem do\u0142\u0105czy\u0142y takie firmy jak Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba i Amazon. <\/p>\n
Oczekuje si\u0119, \u017ce dzi\u0119ki po\u0142\u0105czeniu wysi\u0142k\u00f3w wiod\u0105cych zespo\u0142\u00f3w badawczych oraz przedstawicieli spo\u0142eczno\u015bci uda si\u0119 stymulowa\u0107 rozw\u00f3j system\u00f3w uczenia maszynowego oraz rozwi\u0105za\u0107 problem fragmentacji infrastruktury dla r\u00f3\u017cnych framework\u00f3w i sprz\u0119tu. OpenXLA umo\u017cliwia efektywne wsparcie r\u00f3\u017cnorodnych urz\u0105dze\u0144, niezale\u017cnie od tego, jaki framework by\u0142 u\u017cyty do stworzenia modelu uczenia maszynowego. Przewiduje si\u0119, \u017ce dzi\u0119ki OpenXLA czas uczenia modeli zostanie skr\u00f3cony, wydajno\u015b\u0107 wzro\u015bnie, op\u00f3\u017anienia si\u0119 zmniejsz\u0105, a koszty zasob\u00f3w obliczeniowych zostan\u0105 zredukowane, co przyspieszy wprowadzenie produkt\u00f3w na rynek.
<\/center> <\/p>\n
OpenXLA sk\u0142ada si\u0119 z trzech podstawowych komponent\u00f3w, kt\u00f3rych kod jest rozpowszechniany na licencji Apache 2.0: <\/p>\n
\n
XLA (Przyspieszona Algebra Liniowa) \u2014 kompilator, kt\u00f3ry umo\u017cliwia optymalizacj\u0119 modeli uczenia maszynowego pod k\u0105tem wydajnego wykonywania na r\u00f3\u017cnych platformach sprz\u0119towych, w tym GPU, CPU i specjalizowanych akceleratorach od r\u00f3\u017cnych producent\u00f3w.\n
StableHLO \u2014 specyfikacja i podstawowa implementacja zestawu wysokopoziomowych operacji (HLO, High-Level Operations) do wykorzystania w modelach system\u00f3w uczenia maszynowego. Dzia\u0142a jako warstwa po\u015brednia mi\u0119dzy frameworkami uczenia maszynowego a kompilatorami, kt\u00f3re przekszta\u0142caj\u0105 model na wykonanie na konkretnym sprz\u0119cie. Warstwy do generowania modeli w formacie StableHLO s\u0105 przygotowane dla framework\u00f3w PyTorch, TensorFlow i JAX. Jako podstaw\u0119 dla StableHLO wykorzystano zestaw MHLO, kt\u00f3ry zosta\u0142 rozszerzony o wsparcie dla serializacji i wersjonowania.\n
IREE (\u015arodowisko Wykonawcze Reprezentacji Po\u015bredniej) \u2014 kompilator i runtime, kt\u00f3re przekszta\u0142ca modele uczenia maszynowego w uniwersaln\u0105 reprezentacj\u0119 po\u015bredni\u0105 opart\u0105 na formacie MLIR (Wielopoziomowa Reprezentacja Po\u015brednia) projektu LLVM. Do jego cech nale\u017cy mo\u017cliwo\u015b\u0107 wst\u0119pnej kompilacji (ahead-of-time), wsparcie dla zarz\u0105dzania przep\u0142ywem, mo\u017cliwo\u015b\u0107 u\u017cycia dynamicznych element\u00f3w w modelach oraz optymalizacja dla r\u00f3\u017cnych CPU i GPU, niskie koszty og\u00f3lne. <\/ul>\n
Osi\u0105gni\u0119cie optymalnej wydajno\u015bci bez konieczno\u015bci zag\u0142\u0119biania si\u0119 w pisanie kodu specyficznego dla okre\u015blonych urz\u0105dze\u0144. Dostarczanie gotowych optymalizacji, w tym uproszczenie wyra\u017ce\u0144 algebraicznych, efektywne rozmieszczenie w pami\u0119ci oraz planowanie wykonania z uwzgl\u0119dnieniem redukcji szczytowego zu\u017cycia pami\u0119ci i przeci\u0105\u017ce\u0144.\n
Uproszczenie skalowania i r\u00f3wnoleglenia oblicze\u0144. Programista musi jedynie doda\u0107 adnotacje dla podzbioru krytycznych tensor\u00f3w, na podstawie kt\u00f3rych kompilator mo\u017ce automatycznie wygenerowa\u0107 kod dla oblicze\u0144 r\u00f3wnoleg\u0142ych.\n
Zagwarantowanie przeno\u015bno\u015bci dzi\u0119ki wsparciu r\u00f3\u017cnych platform sprz\u0119towych, takich jak GPU AMD i NVIDIA, CPU o architekturze x86 i ARM, akceleratory ML TPU Google, IPU AWS Trainium Inferentia, Graphcore oraz Cerebras Wafer-Scale Engine.\n
Wsparcie dla dodawania rozszerze\u0144 z realizacj\u0105 dodatkowych mo\u017cliwo\u015bci, takich jak wsparcie pisania prymityw\u00f3w g\u0142\u0119bokiego uczenia maszynowego z u\u017cyciem CUDA, HIP, SYCL, Triton i innych j\u0119zyk\u00f3w do oblicze\u0144 r\u00f3wnoleg\u0142ych. Mo\u017cliwo\u015b\u0107 r\u0119cznego dostrajania w\u0105skich garde\u0142 w modelach. <\/ul>\n
![\"Przedstawienie](\"\/wp-content\/uploads\/2023\/03\/b684d2f57def6348f6a0037c36baf717.jpg\")
<\/center> <\/p>\n