മെഷീൻ ലേണിംഗ് മോഡലുകൾ ഒപ്റ്റിമൈസ് ചെയ്യുന്നതിനും കംപൈൽ ചെയ്യുന്നതിനുമുള്ള ടൂൾകിറ്റായ OpenXLA അവതരിപ്പിച്ചു

മെഷീൻ ലേണിംഗ് മേഖലയിലെ വികസനത്തിൽ ഏർപ്പെട്ടിരിക്കുന്ന ഏറ്റവും വലിയ കമ്പനികൾ ഓപ്പൺ എക്സ്എൽഎ പ്രോജക്റ്റ് അവതരിപ്പിച്ചു, മെഷീൻ ലേണിംഗ് സിസ്റ്റങ്ങൾക്കായുള്ള മോഡലുകൾ കംപൈൽ ചെയ്യുന്നതിനും ഒപ്റ്റിമൈസ് ചെയ്യുന്നതിനുമുള്ള ഉപകരണങ്ങളുടെ സംയുക്ത വികസനം ലക്ഷ്യമിടുന്നു. വിവിധ GPU-കളിലും പ്രത്യേക ആക്സിലറേറ്ററുകളിലും കാര്യക്ഷമമായ പരിശീലനത്തിനും നിർവ്വഹണത്തിനുമായി TensorFlow, PyTorch, JAX ചട്ടക്കൂടുകളിൽ തയ്യാറാക്കിയ മോഡലുകളുടെ സമാഹാരം ഏകീകരിക്കാൻ അനുവദിക്കുന്ന ടൂളുകളുടെ വികസനം പ്രോജക്റ്റ് ഏറ്റെടുത്തു. ഗൂഗിൾ, എൻവിഡിയ, എഎംഡി, ഇന്റൽ, മെറ്റാ, ആപ്പിൾ, ആം, ആലിബാബ, ആമസോൺ തുടങ്ങിയ കമ്പനികൾ പദ്ധതിയുടെ സംയുക്ത പ്രവർത്തനത്തിൽ പങ്കാളികളായി.

പ്രമുഖ ഗവേഷണ സംഘങ്ങളുടെയും കമ്മ്യൂണിറ്റിയുടെ പ്രതിനിധികളുടെയും പരിശ്രമത്തിൽ ചേരുന്നതിലൂടെ, മെഷീൻ ലേണിംഗ് സിസ്റ്റങ്ങളുടെ വികസനം ഉത്തേജിപ്പിക്കാനും വിവിധ ചട്ടക്കൂടുകൾക്കും ഉപകരണങ്ങൾക്കുമായി ഇൻഫ്രാസ്ട്രക്ചർ വിഘടനത്തിന്റെ പ്രശ്നം പരിഹരിക്കാനും കഴിയുമെന്ന് പ്രതീക്ഷിക്കുന്നു. മെഷീൻ ലേണിംഗ് മോഡൽ ഏത് ചട്ടക്കൂടിനെ അടിസ്ഥാനമാക്കിയുള്ളതാണെങ്കിലും, വിവിധ ഹാർഡ്‌വെയറുകളുടെ ഫലപ്രദമായ പിന്തുണ നടപ്പിലാക്കാൻ OpenXLA നിങ്ങളെ അനുവദിക്കുന്നു. ഓപ്പൺഎക്‌സ്‌എൽഎ മോഡൽ പരിശീലന സമയം കുറയ്ക്കുകയും, ത്രൂപുട്ട് വർദ്ധിപ്പിക്കുകയും, ലേറ്റൻസി കുറയ്ക്കുകയും, കമ്പ്യൂട്ടിംഗ് ഓവർഹെഡ് കുറയ്ക്കുകയും, സമയം-ടു-വിപണി കുറയ്ക്കുകയും ചെയ്യുമെന്ന് പ്രതീക്ഷിക്കുന്നു.

മൂന്ന് പ്രധാന ഘടകങ്ങൾ ചേർന്നാണ് OpenXLA രൂപീകരിച്ചിരിക്കുന്നത്, ഇതിന്റെ കോഡ് Apache 2.0 ലൈസൻസിന് കീഴിൽ വിതരണം ചെയ്യുന്നു:

• ജിപിയു, സിപിയു, വിവിധ നിർമ്മാതാക്കളിൽ നിന്നുള്ള പ്രത്യേക ആക്‌സിലറേറ്ററുകൾ എന്നിവയുൾപ്പെടെ വിവിധ ഹാർഡ്‌വെയർ പ്ലാറ്റ്‌ഫോമുകളിൽ ഉയർന്ന പ്രവർത്തനക്ഷമതയുള്ള നിർവ്വഹണത്തിനായി മെഷീൻ ലേണിംഗ് മോഡലുകൾ ഒപ്റ്റിമൈസ് ചെയ്യാൻ നിങ്ങളെ അനുവദിക്കുന്ന ഒരു കംപൈലറാണ് XLA (ആക്‌സിലറേറ്റഡ് ലീനിയർ ആൾജിബ്ര).
• മെഷീൻ ലേണിംഗ് സിസ്റ്റം മോഡലുകളിൽ ഉപയോഗിക്കുന്നതിനുള്ള ഒരു കൂട്ടം ഉയർന്ന തലത്തിലുള്ള പ്രവർത്തനങ്ങളുടെ (HLO, ഹൈ-ലെവൽ ഓപ്പറേഷൻസ്) സ്പെസിഫിക്കേഷനും അടിസ്ഥാന നിർവ്വഹണവുമാണ് StableHLO. മെഷീൻ ലേണിംഗ് ചട്ടക്കൂടുകൾക്കും കംപൈലറുകൾക്കും ഇടയിലുള്ള ഒരു പാളിയായി പ്രവർത്തിക്കുന്നു, അത് നിർദ്ദിഷ്ട ഹാർഡ്‌വെയറിൽ പ്രവർത്തിക്കാൻ മോഡലിനെ പരിവർത്തനം ചെയ്യുന്നു. StableHLO ഫോർമാറ്റിൽ മോഡലുകൾ സൃഷ്ടിക്കുന്നതിനുള്ള പാളികൾ PyTorch, TensorFlow, JAX ഫ്രെയിംവർക്കുകൾക്കായി തയ്യാറാക്കിയിട്ടുണ്ട്. MHLO സ്യൂട്ട് StableHLO യുടെ അടിസ്ഥാനമായി ഉപയോഗിക്കുന്നു, ഇത് സീരിയലൈസേഷനും പതിപ്പിംഗും പിന്തുണയ്ക്കുന്നു.
• LLVM പ്രോജക്റ്റിൽ നിന്നുള്ള MLIR (മൾട്ടി-ലെവൽ ഇന്റർമീഡിയറ്റ് റെപ്രസന്റേഷൻ) ഫോർമാറ്റിനെ അടിസ്ഥാനമാക്കി മെഷീൻ ലേണിംഗ് മോഡലുകളെ സാർവത്രിക ഇന്റർമീഡിയറ്റ് പ്രാതിനിധ്യമാക്കി മാറ്റുന്ന ഒരു കംപൈലറും റൺടൈമുമാണ് IREE (ഇന്റർമീഡിയറ്റ് റെപ്രസന്റേഷൻ എക്സിക്യൂഷൻ എൻവയോൺമെന്റ്). സവിശേഷതകളിൽ, പ്രീ-കംപൈലേഷന്റെ സാധ്യത (മുൻകൂട്ടി), ഫ്ലോ നിയന്ത്രണത്തിനുള്ള പിന്തുണ, മോഡലുകളിൽ ഡൈനാമിക് ഘടകങ്ങൾ ഉപയോഗിക്കാനുള്ള കഴിവ്, വ്യത്യസ്ത സിപിയുകൾക്കും ജിപിയുകൾക്കുമുള്ള ഒപ്റ്റിമൈസേഷൻ, കുറഞ്ഞ ഓവർഹെഡ് എന്നിവ ശ്രദ്ധിക്കപ്പെടുന്നു.

OpenXLA ടൂൾകിറ്റിന്റെ പ്രധാന ഗുണങ്ങൾ:

• ഉപകരണ-നിർദ്ദിഷ്‌ട കോഡ് എഴുതുന്നതിൽ ആഴത്തിൽ പോകാതെ തന്നെ മികച്ച പ്രകടനം നേടുക. ബീജഗണിത എക്‌സ്‌പ്രഷനുകളുടെ ലളിതവൽക്കരണം, കാര്യക്ഷമമായ മെമ്മറി അലോക്കേഷൻ, എക്‌സിക്യൂഷൻ ഷെഡ്യൂളിംഗ്, പീക്ക് മെമ്മറി ഉപഭോഗം, ഓവർലോഡുകൾ എന്നിവയുടെ കുറവ് കണക്കിലെടുത്ത്, ഔട്ട്-ഓഫ്-ദി-ബോക്സ് ഒപ്റ്റിമൈസേഷനുകൾ നൽകുന്നു.
• കണക്കുകൂട്ടലുകളുടെ സ്കെയിലിംഗും സമാന്തരവൽക്കരണവും ലളിതമാക്കുന്നു. ഒരു ഡെവലപ്പർക്ക് ക്രിട്ടിക്കൽ ടെൻസറുകളുടെ ഒരു ഉപവിഭാഗത്തിനായി വ്യാഖ്യാനങ്ങൾ ചേർത്താൽ മതിയാകും, അതിന്റെ അടിസ്ഥാനത്തിൽ കമ്പൈലറിന് സമാന്തര കമ്പ്യൂട്ടിംഗിനായുള്ള കോഡ് സ്വയമേവ സൃഷ്ടിക്കാൻ കഴിയും.
• AMD, NVIDIA GPU-കൾ, x86, ARM അടിസ്ഥാനമാക്കിയുള്ള CPU-കൾ, Google TPU ML ആക്സിലറേറ്ററുകൾ, AWS ട്രെയിനിയം ഇൻഫെറൻഷ്യ ഐപിയു-കൾ, ഗ്രാഫ്കോർ, സെറിബ്രാസ് വേഫർ-സ്കെയിൽ എഞ്ചിൻ തുടങ്ങിയ ഒന്നിലധികം ഹാർഡ്‌വെയർ പ്ലാറ്റ്‌ഫോമുകളെ പിന്തുണയ്‌ക്കുന്നതിലൂടെ പോർട്ടബിലിറ്റി ഉറപ്പാക്കുക.
• സമാന്തര കമ്പ്യൂട്ടിംഗിനായി CUDA, HIP, SYCL, Triton, മറ്റ് ഭാഷകൾ എന്നിവ ഉപയോഗിച്ച് ഡീപ് മെഷീൻ ലേണിംഗ് പ്രിമിറ്റീവുകൾ എഴുതുന്നതിനുള്ള പിന്തുണ പോലുള്ള അധിക സവിശേഷതകൾ നടപ്പിലാക്കുന്നതിനൊപ്പം വിപുലീകരണങ്ങളെ ബന്ധിപ്പിക്കുന്നതിനുള്ള പിന്തുണ. മോഡലുകളിൽ തടസ്സങ്ങളുടെ മാനുവൽ ട്യൂണിംഗ് സാധ്യത.

അവലംബം: opennet.ru