ઓપનએક્સએલએ રજૂ કર્યું, મશીન લર્નિંગ મોડલ્સને ઑપ્ટિમાઇઝ અને કમ્પાઇલ કરવા માટેની ટૂલકિટ

અગ્રણી મશીન લર્નિંગ કંપનીઓએ OpenXLA પ્રોજેક્ટનું અનાવરણ કર્યું છે, જેનો હેતુ મશીન લર્નિંગ સિસ્ટમ્સ માટે મોડેલ્સનું સંકલન અને ઑપ્ટિમાઇઝેશન કરવા માટે ટૂલિંગના સંયુક્ત વિકાસનો છે. આ પ્રોજેક્ટ એવા સાધનોના વિકાસ પર ધ્યાન કેન્દ્રિત કરે છે જે વિવિધ GPUs અને વિશિષ્ટ એક્સિલરેટર્સ પર કાર્યક્ષમ તાલીમ અને અમલીકરણ માટે TensorFlow, PyTorch અને JAX ફ્રેમવર્કમાં તૈયાર કરેલા મોડેલ્સના સંકલનને એકીકૃત કરે છે. Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba અને Amazon જેવી કંપનીઓ આ પ્રોજેક્ટમાં જોડાઈ છે.

અગ્રણી સંશોધન ટીમો અને સમુદાયના પ્રતિનિધિઓના સંયુક્ત પ્રયાસોથી મશીન લર્નિંગ સિસ્ટમ્સના વિકાસને ઉત્તેજીત કરવાની અને વિવિધ ફ્રેમવર્ક અને હાર્ડવેરમાં માળખાગત સુવિધાઓના વિભાજનને સંબોધવાની અપેક્ષા છે. મશીન લર્નિંગ મોડેલ બનાવવા માટે ઉપયોગમાં લેવાતા ફ્રેમવર્કને ધ્યાનમાં લીધા વિના, OpenXLA હાર્ડવેરની વિશાળ શ્રેણી માટે કાર્યક્ષમ સમર્થન સક્ષમ કરે છે. OpenXLA મોડેલ તાલીમ સમય ઘટાડવા, થ્રુપુટ વધારવા, લેટન્સી ઘટાડવા, કમ્પ્યુટિંગ ખર્ચ ઘટાડવા અને બજારમાં પહોંચવાનો સમય ઝડપી બનાવવાની અપેક્ષા છે.

OpenXLA માં ત્રણ મુખ્ય ઘટકોનો સમાવેશ થાય છે, જેનો કોડ Apache 2.0 લાયસન્સ હેઠળ વિતરિત કરવામાં આવે છે:

• XLA (એક્સિલરેટેડ લીનિયર બીજગણિત) એ એક કમ્પાઇલર છે જે વિવિધ હાર્ડવેર પ્લેટફોર્મ પર ઉચ્ચ-પ્રદર્શન અમલીકરણ માટે મશીન લર્નિંગ મોડેલ્સને ઑપ્ટિમાઇઝ કરે છે, જેમાં GPU, CPU અને વિવિધ ઉત્પાદકોના વિશિષ્ટ એક્સિલરેટરનો સમાવેશ થાય છે.
• સ્ટેબલએચએલઓ એ મશીન લર્નિંગ મોડેલ્સમાં ઉપયોગ માટે હાઇ-લેવલ ઓપરેશન્સ (એચએલઓ) ના સેટનું સ્પષ્ટીકરણ અને બેઝ અમલીકરણ છે. તે મશીન લર્નિંગ ફ્રેમવર્ક અને કમ્પાઇલર્સ વચ્ચે એક સ્તર તરીકે કામ કરે છે જે ચોક્કસ હાર્ડવેર પર એક્ઝેક્યુશન માટે મોડેલને કન્વર્ટ કરે છે. સ્ટેબલએચએલઓ ફોર્મેટમાં મોડેલ જનરેટ કરવા માટેના સ્તરો પાયટોર્ચ, ટેન્સરફ્લો અને જેએએક્સ ફ્રેમવર્ક માટે ઉપલબ્ધ છે. સ્ટેબલએચએલઓ એમએચએલઓ સેટ પર આધારિત છે, જે સીરીયલાઇઝેશન અને વર્ઝનિંગને સપોર્ટ કરવા માટે વિસ્તૃત છે.
• IREE (ઇન્ટરમીડિયેટ રિપ્રેઝન્ટેશન એક્ઝેક્યુશન એન્વાયર્નમેન્ટ) એ એક કમ્પાઇલર અને રનટાઇમ એન્વાયર્નમેન્ટ છે જે LLVM પ્રોજેક્ટમાંથી MLIR (મલ્ટિ-લેવલ ઇન્ટરમીડિયેટ રિપ્રેઝન્ટેશન) ફોર્મેટ પર આધારિત મશીન લર્નિંગ મોડેલ્સને યુનિવર્સલ ઇન્ટરમીડિયેટ રિપ્રેઝન્ટેશન (IR) માં રૂપાંતરિત કરે છે. સુવિધાઓમાં સમય પહેલાનું સંકલન, ફ્લો કંટ્રોલ સપોર્ટ, મોડેલોમાં ગતિશીલ તત્વોનો ઉપયોગ કરવાની ક્ષમતા, વિવિધ CPU અને GPU માટે ઑપ્ટિમાઇઝેશન અને લો ઓવરહેડનો સમાવેશ થાય છે.

OpenXLA ટૂલકીટના મુખ્ય ફાયદા:

• ઉપકરણ-વિશિષ્ટ કોડમાં ઊંડા ઉતર્યા વિના શ્રેષ્ઠ પ્રદર્શન પ્રાપ્ત કરો. અમે આઉટ-ઓફ-ધ-બોક્સ ઑપ્ટિમાઇઝેશન પ્રદાન કરીએ છીએ, જેમાં સરળ બીજગણિતીય અભિવ્યક્તિઓ, કાર્યક્ષમ મેમરી ફાળવણી અને એક્ઝેક્યુશન શેડ્યૂલિંગનો સમાવેશ થાય છે જે પીક મેમરી વપરાશ અને ઓવરહેડને ઘટાડે છે.
• ગણતરીઓનું સ્કેલિંગ અને સમાંતરકરણ સરળ બનાવવું. વિકાસકર્તાને ફક્ત ક્રિટિકલ ટેન્સરના સબસેટ માટે એનોટેશન ઉમેરવાની જરૂર છે, જેનો ઉપયોગ કમ્પાઇલર સમાંતર ગણતરીઓ માટે આપમેળે કોડ જનરેટ કરવા માટે કરી શકે છે.
• AMD અને NVIDIA GPUs, x86 અને ARM-આધારિત CPUs, Google TPU ML એક્સિલરેટર્સ, AWS Trainium Inferentia IPUs, Graphcore અને Cerebras Wafer-Scale Engine જેવા વિવિધ હાર્ડવેર પ્લેટફોર્મ માટે સપોર્ટ દ્વારા પોર્ટેબિલિટી સુનિશ્ચિત કરવી.
• CUDA, HIP, SYCL, Triton, અને અન્ય સમાંતર કમ્પ્યુટિંગ ભાષાઓનો ઉપયોગ કરીને ડીપ લર્નિંગ પ્રિમિટિવ્સ લખવા જેવી વધારાની ક્ષમતાઓ સાથે એક્સટેન્શનને કનેક્ટ કરવા માટે સપોર્ટ. મોડેલ બોટલેન્ક્સની મેન્યુઅલ ટ્યુનિંગ પણ શક્ય છે.

સોર્સ: opennet.ru