![\"Bemutatkozott](\"\/wp-content\/uploads\/2023\/03\/b684d2f57def6348f6a0037c36baf717.jpg\")
<\/center> <\/p>\nAz OpenXLA h\u00e1rom f\u0151 \u00f6sszetev\u0151b\u0151l \u00e1ll, melyek k\u00f3dj\u00e1t Apache 2.0 licenc al\u00e1 terjesztik: <\/p>\n
- \n
- XLA (Gyors\u00edtott Line\u00e1ris Algebra) \u2014 egy ford\u00edt\u00f3, amely lehet\u0151v\u00e9 teszi a g\u00e9pi tanul\u00e1si modellek optimaliz\u00e1l\u00e1s\u00e1t k\u00fcl\u00f6nb\u00f6z\u0151 hardverplatformokon val\u00f3 nagy teljes\u00edtm\u00e9ny\u0171 v\u00e9grehajt\u00e1sra, bele\u00e9rtve a GPU-kat, CPU-kat \u00e9s k\u00fcl\u00f6nleges gyors\u00edt\u00f3kat k\u00fcl\u00f6nb\u00f6z\u0151 gy\u00e1rt\u00f3kt\u00f3l.\n
- StableHLO \u2014 a magas szint\u0171 m\u0171veletek (HLO, High-Level Operations) specifik\u00e1ci\u00f3ja \u00e9s alapvet\u0151 implement\u00e1ci\u00f3ja, amelyet g\u00e9pi tanul\u00e1si rendszerek modelljeiben val\u00f3 haszn\u00e1latra k\u00e9sz\u00edtettek. A g\u00e9pi tanul\u00e1si keretrendszerek \u00e9s az adott hardverre t\u00f6rt\u00e9n\u0151 v\u00e9grehajt\u00e1sra optimaliz\u00e1lt modellek ford\u00edt\u00f3i k\u00f6z\u00f6tti r\u00e9tegk\u00e9nt m\u0171k\u00f6dik. A StableHLO form\u00e1tumban t\u00f6rt\u00e9n\u0151 modellek gener\u00e1l\u00e1s\u00e1hoz el\u0151k\u00e9sz\u00edtett r\u00e9tegek a PyTorch, TensorFlow \u00e9s JAX keretrendszerekhez k\u00e9sz\u00fcltek. A StableHLO alapjak\u00e9nt a MHLO halmazt haszn\u00e1lt\u00e1k, amelyet a sz\u00e9rializ\u00e1l\u00e1s \u00e9s verzi\u00f3kezel\u00e9s t\u00e1mogat\u00e1s\u00e1val b\u0151v\u00edtettek.\n
- IREE (K\u00f6ztes Reprezent\u00e1ci\u00f3s V\u00e9grehajt\u00e1si K\u00f6rnyezet) \u2014 egy ford\u00edt\u00f3 \u00e9s futtat\u00f3k\u00f6rnyezet, amely a g\u00e9pi tanul\u00e1si modelleket egy univerz\u00e1lis k\u00f6ztes reprezent\u00e1ci\u00f3ba alak\u00edtja, az LLVM projekt MLIR (T\u00f6bbszint\u0171 K\u00f6ztes Reprezent\u00e1ci\u00f3) form\u00e1tum\u00e1n alapulva. K\u00fcl\u00f6nlegess\u00e9gek\u00e9nt megjegyezhet\u0151 a korai ford\u00edt\u00e1s (ahead-of-time) lehet\u0151s\u00e9ge, az ir\u00e1ny\u00edt\u00e1s t\u00e1mogat\u00e1sa, a dinamikus elemek haszn\u00e1lat\u00e1nak lehet\u0151s\u00e9ge a modellekben, a k\u00fcl\u00f6nb\u00f6z\u0151 CPU-kra \u00e9s GPU-kra val\u00f3 optimaliz\u00e1l\u00e1s, valamint az alacsony k\u00f6lts\u00e9g. <\/ul>\n
Az OpenXLA eszk\u00f6zk\u00e9szlet f\u0151 el\u0151nyei: <\/p>\n
- \n
- Optim\u00e1lis teljes\u00edtm\u00e9ny el\u00e9r\u00e9se an\u00e9lk\u00fcl, hogy sz\u00fcks\u00e9ges lenne m\u00e9lyebb k\u00f3d\u00edr\u00e1sa, amely a specifikus eszk\u00f6z\u00f6kre vonatkozik. K\u00e9sz optimaliz\u00e1l\u00e1sok ny\u00fajt\u00e1sa, bele\u00e9rtve az algebrai kifejez\u00e9sek egyszer\u0171s\u00edt\u00e9s\u00e9t, a mem\u00f3riahat\u00e9kony elhelyez\u00e9st, a v\u00e9grehajt\u00e1s \u00fctemez\u00e9s\u00e9t a cs\u00facs mem\u00f3riafogyaszt\u00e1s \u00e9s terhel\u00e9sek cs\u00f6kkent\u00e9s\u00e9nek figyelembev\u00e9tel\u00e9vel.\n
- A m\u00e9retez\u00e9s \u00e9s a p\u00e1rhuzamos sz\u00e1m\u00edt\u00e1sok egyszer\u0171s\u00edt\u00e9se. A fejleszt\u0151nek elegend\u0151 annot\u00e1ci\u00f3kat hozz\u00e1adnia a kritikus tenzorok egy r\u00e9szhalmaz\u00e1hoz, amely alapj\u00e1n a ford\u00edt\u00f3 automatikusan gener\u00e1lhat k\u00f3dot p\u00e1rhuzamos sz\u00e1m\u00edt\u00e1sokhoz.\n
- A hordozhat\u00f3s\u00e1g biztos\u00edt\u00e1sa k\u00fcl\u00f6nb\u00f6z\u0151 hardverplatformok t\u00e1mogat\u00e1s\u00e1val, mint p\u00e9ld\u00e1ul az AMD \u00e9s NVIDIA GPU-k, x86 \u00e9s ARM architekt\u00far\u00e1ra \u00e9p\u00fcl\u0151 CPU-k, a Google TPU ML gyors\u00edt\u00f3k, az AWS Trainium Inferentia, a Graphcore \u00e9s a Cerebras Wafer-Scale Engine.\n
- Kieg\u00e9sz\u00edt\u00e9sek csatlakoztat\u00e1s\u00e1nak t\u00e1mogat\u00e1sa, amelyek tov\u00e1bbi funkci\u00f3kat val\u00f3s\u00edtanak meg, mint p\u00e9ld\u00e1ul a CUDA, HIP, SYCL, Triton \u00e9s m\u00e1s p\u00e1rhuzamos sz\u00e1m\u00edt\u00e1si nyelvek seg\u00edts\u00e9g\u00e9vel \u00edrt m\u00e9ly g\u00e9pi tanul\u00e1si primit\u00edvek \u00edr\u00e1s\u00e1nak t\u00e1mogat\u00e1sa. A modellek sz\u0171k keresztmetszeteinek manu\u00e1lis finomhangol\u00e1s\u00e1nak lehet\u0151s\u00e9ge. <\/ul>\n