চালু করা হয়েছে OpenXLA, মেশিন লার্নিং মডেল অপ্টিমাইজ এবং কম্পাইল করার জন্য একটি টুলকিট

মেশিন লার্নিং এর ক্ষেত্রে উন্নয়নের সাথে জড়িত বৃহত্তম কোম্পানিগুলি ওপেনএক্সএলএ প্রকল্প উপস্থাপন করেছে, যার লক্ষ্য মেশিন লার্নিং সিস্টেমের জন্য মডেল কম্পাইল এবং অপ্টিমাইজ করার জন্য সরঞ্জামগুলির যৌথ বিকাশ। প্রকল্পটি এমন সরঞ্জামগুলির বিকাশের দায়িত্ব গ্রহণ করেছে যা টেনসরফ্লো, পাইটর্চ এবং JAX ফ্রেমওয়ার্কগুলিতে প্রস্তুত মডেলগুলির সংকলনকে একত্রিত করা সম্ভব করে এবং বিভিন্ন জিপিইউ এবং বিশেষ এক্সিলারেটরগুলিতে কার্যকর প্রশিক্ষণ এবং কার্যকর করার জন্য। গুগল, এনভিআইডিএ, এএমডি, ইন্টেল, মেটা, অ্যাপল, আর্ম, আলিবাবা এবং অ্যামাজনের মতো কোম্পানিগুলি এই প্রকল্পে যৌথ কাজে যোগ দিয়েছে।

এটি প্রত্যাশিত যে নেতৃস্থানীয় গবেষণা দল এবং সম্প্রদায়ের প্রতিনিধিদের প্রচেষ্টাকে একত্রিত করে, মেশিন লার্নিং সিস্টেমের বিকাশকে উদ্দীপিত করা এবং বিভিন্ন কাঠামো এবং সরঞ্জামগুলির জন্য অবকাঠামো বিভক্তকরণের সমস্যা সমাধান করা সম্ভব হবে। ওপেনএক্সএলএ আপনাকে বিভিন্ন হার্ডওয়্যারের জন্য কার্যকর সমর্থন বাস্তবায়নের অনুমতি দেয়, মেশিন লার্নিং মডেলটি যে ফ্রেমওয়ার্কটি তৈরি করা হোক না কেন। OpenXLA মডেল প্রশিক্ষণের সময় কমিয়ে দেবে, থ্রুপুট বাড়াবে, লেটেন্সি কমিয়ে দেবে, কম্পিউট খরচ কম করবে এবং বাজারে যাওয়ার সময় কমবে বলে আশা করা হচ্ছে।

OpenXLA তিনটি প্রধান উপাদান নিয়ে গঠিত, যার কোড Apache 2.0 লাইসেন্সের অধীনে বিতরণ করা হয়:

• XLA (অ্যাক্সিলারেটেড লিনিয়ার অ্যালজেব্রা) হল একটি কম্পাইলার যা আপনাকে বিভিন্ন হার্ডওয়্যার প্ল্যাটফর্মে উচ্চ-কার্যক্ষমতা সম্পাদনের জন্য মেশিন লার্নিং মডেলগুলিকে অপ্টিমাইজ করতে দেয়, যার মধ্যে রয়েছে GPU, CPU এবং বিভিন্ন নির্মাতার বিশেষ এক্সিলারেটর।
• StableHLO হল মেশিন লার্নিং সিস্টেম মডেলগুলিতে ব্যবহারের জন্য উচ্চ-স্তরের অপারেশনগুলির (HLO, উচ্চ-স্তরের অপারেশন) একটি সেটের স্পেসিফিকেশন এবং মৌলিক বাস্তবায়ন। মেশিন লার্নিং ফ্রেমওয়ার্ক এবং কম্পাইলারগুলির মধ্যে একটি স্তর হিসাবে কাজ করে যা নির্দিষ্ট হার্ডওয়্যারে কার্যকর করার জন্য মডেলকে রূপান্তরিত করে। StableHLO বিন্যাসে মডেল তৈরি করার জন্য স্তরগুলি PyTorch, TensorFlow এবং JAX ফ্রেমওয়ার্কের জন্য প্রস্তুত করা হয়েছে। MHLO সেট StableHLO এর ভিত্তি হিসাবে ব্যবহৃত হয়, যা সিরিয়ালাইজেশন এবং সংস্করণ সমর্থন করার জন্য প্রসারিত হয়।
• IREE (ইন্টারমিডিয়েট রিপ্রেজেন্টেশন এক্সিকিউশন এনভায়রনমেন্ট) হল একটি কম্পাইলার এবং রানটাইম যা LLVM প্রোজেক্ট থেকে MLIR (মাল্টি-লেভেল ইন্টারমিডিয়েট রিপ্রেজেন্টেশন) ফর্ম্যাটের উপর ভিত্তি করে মেশিন লার্নিং মডেলগুলিকে একটি সার্বজনীন মধ্যবর্তী উপস্থাপনায় রূপান্তর করে। বৈশিষ্ট্যগুলির মধ্যে রয়েছে প্রাক-সংকলনের সম্ভাবনা (সময়ের আগে), প্রবাহ নিয়ন্ত্রণের জন্য সমর্থন, মডেলগুলিতে গতিশীল উপাদান ব্যবহার করার ক্ষমতা, বিভিন্ন সিপিইউ এবং জিপিইউগুলির জন্য অপ্টিমাইজেশন এবং কম ওভারহেড।

OpenXLA টুলকিটের প্রধান সুবিধা:

• ডিভাইস-নির্দিষ্ট কোড লেখার বিষয়ে চিন্তা না করেই সর্বোত্তম কর্মক্ষমতা অর্জন করুন। বীজগণিতীয় অভিব্যক্তির সরলীকরণ, দক্ষ মেমরি বসানো, সর্বোচ্চ মেমরি খরচ এবং ওভারলোড হ্রাসকে বিবেচনায় নিয়ে সম্পাদনের সময়সূচী সহ রেডিমেড অপ্টিমাইজেশন প্রদান করা।
• স্কেলিং এর সরলীকরণ এবং গণনার সমান্তরালকরণ। বিকাশকারীকে শুধুমাত্র সমালোচনামূলক টেনসরের একটি উপসেটের জন্য টীকা যোগ করতে হবে, যার ভিত্তিতে কম্পাইলার স্বয়ংক্রিয়ভাবে সমান্তরাল কম্পিউটিং-এর জন্য কোড তৈরি করতে পারে।
• AMD এবং NVIDIA GPUs, x86 এবং ARM CPUs, TPU Googl ML এক্সিলারেটর, AWS Trainium Inferentia IPUs, Graphcore এবং Cerebras Wafer-Scale Engine-এর মতো বিভিন্ন হার্ডওয়্যার প্ল্যাটফর্মের সমর্থন সহ বহনযোগ্যতা নিশ্চিত করুন।
• সমান্তরাল কম্পিউটিংয়ের জন্য CUDA, HIP, SYCL, Triton এবং অন্যান্য ভাষা ব্যবহার করে গভীর মেশিন লার্নিং আদিম লেখার জন্য সমর্থনের মতো অতিরিক্ত বৈশিষ্ট্যগুলি বাস্তবায়নের সাথে এক্সটেনশনগুলিকে সংযুক্ত করার জন্য সমর্থন। মডেলগুলিতে বাধাগুলির ম্যানুয়াল টিউনিংয়ের সম্ভাবনা।

উত্স: opennet.ru