Awọn ile-iṣẹ ti o tobi julọ ti o ni ipa ninu idagbasoke ni aaye ti ẹkọ ẹrọ ṣe afihan iṣẹ-ṣiṣe OpenXLA, ti a pinnu si idagbasoke apapọ ti awọn irinṣẹ fun iṣakojọpọ ati iṣapeye awọn awoṣe fun awọn eto ẹkọ ẹrọ. Ise agbese na ti gba idagbasoke awọn irinṣẹ ti o jẹ ki o ṣee ṣe lati ṣọkan akojọpọ awọn awoṣe ti a pese sile ni awọn ilana TensorFlow, PyTorch ati JAX fun ikẹkọ to munadoko ati ipaniyan lori awọn oriṣiriṣi GPUs ati awọn accelerators pataki. Awọn ile-iṣẹ bii Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba ati Amazon ti darapọ mọ iṣẹ apapọ lori iṣẹ naa.
O nireti pe nipa apapọ awọn akitiyan ti awọn ẹgbẹ iwadii oludari ati awọn aṣoju agbegbe, yoo ṣee ṣe lati ṣe idagbasoke idagbasoke awọn eto ikẹkọ ẹrọ ati yanju iṣoro ti pipin awọn amayederun fun ọpọlọpọ awọn ilana ati ẹrọ. OpenXLA gba ọ laaye lati ṣe atilẹyin imunadoko fun ọpọlọpọ ohun elo, laibikita ilana eyiti o ṣẹda awoṣe ikẹkọ ẹrọ naa. OpenXLA ni a nireti lati dinku akoko ikẹkọ awoṣe, mu iṣelọpọ pọ si, dinku lairi, awọn idiyele iṣiro kekere, ati dinku akoko si ọja.
OpenXLA ni awọn paati akọkọ mẹta, koodu eyiti o pin labẹ iwe-aṣẹ Apache 2.0:
- XLA (Accelerated Linear Algebra) jẹ akopọ ti o fun ọ laaye lati mu awọn awoṣe ikẹkọ ẹrọ pọ si fun ipaniyan iṣẹ ṣiṣe giga lori ọpọlọpọ awọn iru ẹrọ ohun elo, pẹlu awọn GPUs, awọn CPUs ati awọn ohun imuyara amọja lati ọdọ awọn aṣelọpọ lọpọlọpọ.
- StableHLO jẹ sipesifikesonu ati imuse ipilẹ ti ṣeto ti awọn iṣẹ ṣiṣe ipele giga (HLO, Awọn iṣẹ Ipele giga) fun lilo ninu awọn awoṣe eto ẹkọ ẹrọ. Ṣiṣẹ bi ipele kan laarin awọn ilana ikẹkọ ẹrọ ati awọn alakojọ ti o yi awoṣe pada fun ipaniyan lori ohun elo kan pato. Awọn ipele fun ṣiṣẹda awọn awoṣe ni ọna kika StableHLO ti pese sile fun PyTorch, TensorFlow ati awọn ilana JAX. Eto MHLO ni a lo bi ipilẹ fun StableHLO, eyiti o gbooro lati ṣe atilẹyin serialization ati ti ikede.
- IREE (Ayika Ipaniyan Agbedemeji) jẹ alakojọ ati akoko asiko ti o yi awọn awoṣe ikẹkọ ẹrọ pada si aṣoju agbedemeji gbogbo agbaye ti o da lori ọna kika MLIR (Aṣoju agbedemeji Ipele pupọ) lati iṣẹ akanṣe LLVM. Awọn ẹya pẹlu iṣeeṣe ti iṣaju iṣaju (ṣaaju-akoko), atilẹyin fun iṣakoso sisan, agbara lati lo awọn eroja ti o ni agbara ni awọn awoṣe, iṣapeye fun awọn oriṣiriṣi CPUs ati GPUs, ati kekere lori.
Awọn anfani akọkọ ti ohun elo irinṣẹ OpenXLA:
- Ṣe aṣeyọri iṣẹ ṣiṣe ti o dara julọ laisi nini aniyan nipa kikọ koodu ẹrọ kan pato. Pese awọn iṣapeye ti a ti ṣetan, pẹlu simplification ti awọn ikosile algebra, ibi iranti daradara, ṣiṣe eto ipaniyan ni akiyesi idinku agbara iranti ti o ga julọ ati awọn apọju.
- Simplification ti igbelosoke ati parallelization ti isiro. Olùgbéejáde kan nilo lati ṣafikun awọn asọye fun ipin kan ti awọn tenors to ṣe pataki, da lori eyiti alakojọ le ṣe ipilẹṣẹ koodu laifọwọyi fun iširo afiwera.
- Rii daju gbigbe pẹlu atilẹyin fun ọpọlọpọ awọn iru ẹrọ ohun elo, gẹgẹbi AMD ati NVIDIA GPUs, x86 ati ARM CPUs, TPU Googl ML accelerators, AWS Trainium Inferentia IPUs, Graphcore ati Cerebras Wafer-Scale Engine.
- Atilẹyin fun sisopọ awọn amugbooro pẹlu imuse ti awọn ẹya afikun, gẹgẹ bi atilẹyin fun kikọ awọn alakoko ikẹkọ ẹrọ jinlẹ nipa lilo CUDA, HIP, SYCL, Triton ati awọn ede miiran fun iširo afiwera. Seese ti afọwọṣe yiyi ti bottlenecks ni awọn awoṣe.
orisun: opennet.ru
