{"id":107177,"date":"2023-03-10T12:48:22","date_gmt":"2023-03-10T10:48:23","guid":{"rendered":"https:\/\/prohoster.info\/?p=107177"},"modified":"2023-03-11T11:43:26","modified_gmt":"2023-03-11T09:43:26","slug":"predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pt\/blog\/news\/predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","title":{"rendered":"Introduzido o OpenXLA, um conjunto de ferramentas para otimiza\u00e7\u00e3o e compila\u00e7\u00e3o de modelos de aprendizado de m\u00e1quina","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
As maiores empresas que atuam no desenvolvimento em aprendizado de m\u00e1quina apresentaram o projeto OpenXLA, destinado ao desenvolvimento colaborativo de ferramentas para compila\u00e7\u00e3o e otimiza\u00e7\u00e3o de modelos para sistemas de aprendizado de m\u00e1quina. O projeto abrange o desenvolvimento de ferramentas que permitem unificar a compila\u00e7\u00e3o de modelos preparados nas estruturas TensorFlow, PyTorch e JAX, para treinamento e execu\u00e7\u00e3o eficaz em diferentes GPUs e aceleradores especializados. Empresas como Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba e Amazon se juntaram ao projeto. <\/p>\n
Espera-se que a colabora\u00e7\u00e3o de equipes de pesquisa l\u00edderes e representantes da comunidade estimule o desenvolvimento de sistemas de aprendizado de m\u00e1quina e resolva o problema da fragmenta\u00e7\u00e3o da infraestrutura para diferentes estruturas e equipamentos. O OpenXLA permite uma ampla compatibilidade de suporte a diferentes equipamentos, independentemente da estrutura em que o modelo de aprendizado de m\u00e1quina foi criado. A expectativa \u00e9 que, com o OpenXLA, o tempo de treinamento de modelos seja reduzido, a largura de banda aumentada, a lat\u00eancia diminu\u00edda, os custos de recursos computacionais reduzidos e o tempo de lan\u00e7amento de produtos no mercado acelerado.
<\/center> <\/p>\n
O OpenXLA \u00e9 composto por tr\u00eas componentes principais, cujo c\u00f3digo \u00e9 distribu\u00eddo sob a licen\u00e7a Apache 2.0: <\/p>\n
\n
XLA (Acelera\u00e7\u00e3o de \u00c1lgebra Linear) \u2014 um compilador que permite otimizar modelos de aprendizado de m\u00e1quina para execu\u00e7\u00e3o de alto desempenho em v\u00e1rias plataformas de hardware, incluindo GPU, CPU e aceleradores especializados de diferentes fabricantes.\n
StableHLO \u2014 uma especifica\u00e7\u00e3o e implementa\u00e7\u00e3o b\u00e1sica de um conjunto de opera\u00e7\u00f5es de alto n\u00edvel (HLO, High-Level Operations) para uso em modelos de sistemas de aprendizado de m\u00e1quina. Serve como uma camada entre frameworks de aprendizado de m\u00e1quina e compiladores que transformam o modelo para execu\u00e7\u00e3o em hardware espec\u00edfico. Camadas para gera\u00e7\u00e3o de modelos no formato StableHLO foram preparadas para os frameworks PyTorch, TensorFlow e JAX. A base do StableHLO \u00e9 um conjunto MHLO, que foi ampliado para incluir suporte \u00e0 serializa\u00e7\u00e3o e versionamento.\n
IREE (Ambiente de Execu\u00e7\u00e3o de Representa\u00e7\u00e3o Intermedi\u00e1ria) \u2014 um compilador e runtime que transforma modelos de aprendizado de m\u00e1quina em uma representa\u00e7\u00e3o intermedi\u00e1ria universal, baseada no formato MLIR (Representa\u00e7\u00e3o Intermedi\u00e1ria de M\u00faltiplos N\u00edveis) do projeto LLVM. Entre suas caracter\u00edsticas, destaca-se a possibilidade de compila\u00e7\u00e3o antecipada (ahead-of-time), suporte para controle de fluxo, possibilidade de uso de elementos din\u00e2micos em modelos, otimiza\u00e7\u00e3o para diferentes CPU e GPU, e baixas sobrecargas. <\/ul>\n
Principais benef\u00edcios da ferramenta OpenXLA: <\/p>\n
\n
Alcan\u00e7ar desempenho ideal sem a necessidade de se aprofundar na escrita de c\u00f3digo espec\u00edfico para determinados dispositivos. Fornecimento de otimiza\u00e7\u00f5es prontas, incluindo simplifica\u00e7\u00e3o de express\u00f5es alg\u00e9bricas, aloca\u00e7\u00e3o eficiente de mem\u00f3ria e planejamento da execu\u00e7\u00e3o com foco na redu\u00e7\u00e3o do pico de consumo de mem\u00f3ria e sobrecargas.\n
Facilidade na escalabilidade e paraleliza\u00e7\u00e3o de c\u00e1lculos. O desenvolvedor precisa apenas adicionar anota\u00e7\u00f5es para um subconjunto cr\u00edtico de tensores, com base nos quais o compilador pode gerar automaticamente c\u00f3digo para c\u00e1lculos paralelos.\n
Garantia de portabilidade por meio do suporte a v\u00e1rias plataformas de hardware, como GPUs AMD e NVIDIA, CPUs baseadas na arquitetura x86 e ARM, aceleradores de ML TPU do Google, IPUs da AWS Trainium Inferentia, Graphcore e Cerebras Wafer-Scale Engine.\n
Suporte para a conex\u00e3o de extens\u00f5es com a implementa\u00e7\u00e3o de recursos adicionais, como o suporte \u00e0 escrita de primitivos de aprendizado de m\u00e1quina profundo usando CUDA, HIP, SYCL, Triton e outras linguagens para c\u00e1lculos paralelos. Possibilidade de ajuste manual de gargalos nos modelos. <\/ul>\n
![\"Introduzido](\"\/wp-content\/uploads\/2023\/03\/b684d2f57def6348f6a0037c36baf717.jpg\")
<\/center> <\/p>\n