Ny orinasa lehibe indrindra mandray anjara amin'ny fampandrosoana eo amin'ny sehatry ny fianarana milina dia nanolotra ny tetikasa OpenXLA, mikendry ny fampivoarana iombonana fitaovana amin'ny fanangonana sy fanatsarana ny maodely ho an'ny rafitra fianarana milina. Ny tetikasa dia nandray ny fampivoarana fitaovana izay ahafahana mampiray ny fitambaran'ireo modely voaomana ao amin'ny rafitra TensorFlow, PyTorch ary JAX ho an'ny fanofanana sy famonoana mahomby amin'ny GPU samihafa sy ny accelerators manokana. Ny orinasa toa an'i Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba ary Amazon dia nanatevin-daharana ny fiaraha-miasa amin'ny tetikasa.
Antenaina fa amin'ny fampifangaroana ny ezaka ataon'ireo ekipa mpikaroka mpitarika sy ny solontenan'ny vondrom-piarahamonina, dia ho azo atao ny manentana ny fivoaran'ny rafitra fianarana milina ary mamaha ny olan'ny fizarazarana fotodrafitrasa ho an'ny rafitra sy fitaovana isan-karazany. OpenXLA dia ahafahanao mampihatra fanohanana mahomby amin'ny fitaovana isan-karazany, na inona na inona rafitra namoronana ny maodely fianarana milina. Ny OpenXLA dia antenaina hampihenana ny fotoana fanofanana modely, hampitombo ny fahafaha-manao, hampihenana ny faharetana, hampihenana ny vidin'ny kajy ary hampihenana ny fotoana mankany amin'ny tsena.
Ny OpenXLA dia misy singa telo lehibe, ny kaody izay zaraina amin'ny alàlan'ny lisansa Apache 2.0:
- XLA (Accelerated Linear Algebra) dia mpamoron-kira izay ahafahanao manatsara ny maodely fianarana milina ho an'ny famonoana avo lenta amin'ny sehatra hardware isan-karazany, ao anatin'izany ny GPU, CPU ary ny accelerators manokana avy amin'ny mpanamboatra isan-karazany.
- Ny StableHLO dia fanoritsoritana sy fampiharana fototra amin'ny andiana hetsika avo lenta (HLO, Fampandehanana avo lenta) ampiasaina amin'ny maodely rafitra fianarana milina. Miasa ho toy ny sosona eo anelanelan'ny rafi-pampianarana milina sy mpanangom-bokatra izay manova ny maodely ho fanatanterahana amin'ny fitaovana manokana. Ny sosona hamorona modely amin'ny endrika StableHLO dia voaomana ho an'ny rafitra PyTorch, TensorFlow ary JAX. Ny MHLO set dia ampiasaina ho fototry ny StableHLO, izay miitatra hanohanana serialization sy versioning.
- IREE (Intermediate Representation Execution Environment) dia mpanangona sy fotoana fampandehanana izay mamadika ny maodely fianarana milina ho solontena manelanelana manerantany mifototra amin'ny endrika MLIR (Multi-Level Intermediate Representation) avy amin'ny tetikasa LLVM. Ny endri-javatra dia misy ny mety hisian'ny fanangonana mialoha (mialoha ny fotoana), ny fanohanana ny fanaraha-maso ny fikorianan'ny rivotra, ny fahafahana mampiasa singa mavitrika amin'ny modely, ny fanatsarana ny CPU sy ny GPU samihafa, ary ny ambany ambany.
Ny tombony lehibe amin'ny kitapo OpenXLA:
- Mahazoa fampisehoana tsara indrindra nefa tsy mila manahy momba ny fanoratana kaody manokana momba ny fitaovana. Manome optimization efa vonona, ao anatin'izany ny fanatsorana ny fomba fiteny algebra, ny fametrahana fahatsiarovana mahomby, ny fandaharam-potoanan'ny famonoana amin'ny fiheverana ny fampihenana ny fanjifana fahatsiarovana ambony indrindra sy ny enta-mavesatra.
- Fanatsorana ny scaling sy ny fampitoviana ny kajikajy. Ny mpamorona dia mila manampy fanamarihana ho an'ny ampahany amin'ny tensor manakiana, mifototra amin'izay ahafahan'ny compiler mamorona code ho an'ny computing parallèle.
- Ataovy azo antoka ny fahafaha-mitondra miaraka amin'ny fanohanana ireo sehatra hardware isan-karazany, toy ny AMD sy NVIDIA GPU, x86 sy ARM CPU, TPU Googl ML accelerators, AWS Trainium Inferentia IPUs, Graphcore ary Cerebras Wafer-Scale Engine.
- Fanohanana ny fampifandraisana ny fanitarana miaraka amin'ny fampiharana endri-javatra fanampiny, toy ny fanohanana ny fanoratana ny fianarana milina lalina amin'ny fampiasana CUDA, HIP, SYCL, Triton ary fiteny hafa ho an'ny computing parallèle. Ny mety hisian'ny fanitsiana manual ny bottlenecks amin'ny modely.
Source: opennet.ru
