পরিস্থিতি: ভার্চুয়াল জিপিইউগুলি হার্ডওয়্যার সমাধানগুলির কার্যক্ষমতার দিক থেকে নিকৃষ্ট নয়৷

ফেব্রুয়ারিতে, স্ট্যানফোর্ড হাই-পারফরম্যান্স কম্পিউটিং (HPC) এর উপর একটি সম্মেলন আয়োজন করে। ভিএমওয়্যারের প্রতিনিধিরা বলেছেন যে একটি GPU এর সাথে কাজ করার সময়, একটি পরিবর্তিত ESXi হাইপারভাইজারের উপর ভিত্তি করে একটি সিস্টেম বেয়ার মেটাল সমাধানের গতিতে নিকৃষ্ট নয়।

আমরা সেই প্রযুক্তিগুলি সম্পর্কে কথা বলি যা এটি অর্জন করা সম্ভব করেছে৷

/ ছবি ভিক্টরগ্রিগাস সিসি বাই-এসএ

কর্মক্ষমতা ইস্যু

বিশ্লেষকদের মতে, ডাটা সেন্টারে প্রায় 70% কাজের চাপ ভার্চুয়ালাইজড. যাইহোক, বাকি 30% এখনও হাইপারভাইজার ছাড়া খালি ধাতুতে চলে। এই 30% বেশিরভাগই হাই-লোড অ্যাপ্লিকেশন নিয়ে গঠিত, যেমন নিউরাল নেটওয়ার্ক প্রশিক্ষণের সাথে সম্পর্কিত, এবং GPU ব্যবহার করে।

বিশেষজ্ঞরা এই প্রবণতাটিকে ব্যাখ্যা করেছেন যে হাইপারভাইজার, একটি মধ্যবর্তী বিমূর্ততা স্তর হিসাবে, সমগ্র সিস্টেমের কর্মক্ষমতা প্রভাবিত করতে পারে। পাঁচ বছর আগে পড়াশোনায় আপনি ডেটা খুঁজে পেতে পারেন কাজের গতি 10% কমানোর বিষয়ে। অতএব, কোম্পানি এবং ডেটা সেন্টার অপারেটররা ভার্চুয়াল পরিবেশে HPC ওয়ার্কলোড স্থানান্তর করার জন্য কোন তাড়াহুড়ো করে না।

কিন্তু ভার্চুয়ালাইজেশন প্রযুক্তি উন্নয়নশীল এবং উন্নত হচ্ছে। এক মাস আগে একটি কনফারেন্সে, VMware বলেছিল যে ESXi হাইপারভাইজার GPU পারফরম্যান্সে নেতিবাচক প্রভাব ফেলে না। কম্পিউটিং গতি তিন শতাংশ হ্রাস করা যেতে পারে, যা বেয়ার মেটালের সাথে তুলনীয়।

এগুলো কিভাবে কাজ করে

GPUs সহ HPC সিস্টেমের কর্মক্ষমতা উন্নত করতে, VMware হাইপারভাইজারে বেশ কিছু পরিবর্তন করেছে। বিশেষ করে, এটি vMotion ফাংশন পরিত্রাণ ছিল. এটি লোড ব্যালেন্সিংয়ের জন্য প্রয়োজন এবং সাধারণত সার্ভার বা জিপিইউগুলির মধ্যে ভার্চুয়াল মেশিন (ভিএম) স্থানান্তর করে। vMotion অক্ষম করার ফলে প্রতিটি VM এখন একটি নির্দিষ্ট GPU বরাদ্দ করা হয়েছে। ডেটা বিনিময় করার সময় এটি খরচ কমাতে সাহায্য করেছে।

সিস্টেমের আরেকটি মূল উপাদান প্রযুক্তি হয় DirectPath I/O. এটি হাইপারভাইজারকে বাইপাস করে CUDA সমান্তরাল কম্পিউটিং ড্রাইভারকে ভার্চুয়াল মেশিনের সাথে সরাসরি যোগাযোগ করতে দেয়। যখন আপনাকে একবারে একটি GPU-তে একাধিক VM চালাতে হবে, তখন GRID vGPU সমাধান ব্যবহার করা হয়। এটি কার্ডের মেমরিকে কয়েকটি সেগমেন্টে বিভক্ত করে (কিন্তু কম্পিউটেশনাল চক্র বিভক্ত নয়)।

এই ক্ষেত্রে দুটি ভার্চুয়াল মেশিনের অপারেশন ডায়াগ্রামটি দেখতে এইরকম হবে:

ফলাফল এবং পূর্বাভাস

দৃঢ় পরিচালিত পরীক্ষা একটি ভাষা মডেলের উপর ভিত্তি করে প্রশিক্ষণ দিয়ে হাইপারভাইজার TensorFlow. বেয়ার মেটালের তুলনায় কর্মক্ষমতা "ক্ষতি" ছিল মাত্র 3-4%। বিনিময়ে, সিস্টেমটি বর্তমান লোডের উপর নির্ভর করে চাহিদা অনুযায়ী সম্পদ বিতরণ করতে সক্ষম হয়েছিল।

আইটি জায়ান্টও পরিচালিত পরীক্ষা পাত্রে সঙ্গে। কোম্পানির প্রকৌশলীরা ছবি চিনতে নিউরাল নেটওয়ার্ককে প্রশিক্ষিত করেছেন। একই সময়ে, একটি জিপিইউ-এর সংস্থানগুলি চারটি কন্টেইনার ভিএম-এর মধ্যে বিতরণ করা হয়েছিল। ফলস্বরূপ, পৃথক মেশিনের কর্মক্ষমতা 17% হ্রাস পেয়েছে (GPU সংস্থানগুলিতে সম্পূর্ণ অ্যাক্সেস সহ একটি একক VM এর তুলনায়)। তবে প্রতি সেকেন্ডে প্রসেস করা ছবির সংখ্যা বৃদ্ধি তিন বার. এটা আশা করা হচ্ছে যে এই ধরনের সিস্টেম খুঁজে পাবে তথ্য বিশ্লেষণ এবং কম্পিউটার মডেলিং অ্যাপ্লিকেশন.

VMware সম্মুখীন হতে পারে যে সম্ভাব্য সমস্যার মধ্যে, বিশেষজ্ঞরা বরাদ্দ বরং সংকীর্ণ লক্ষ্য শ্রোতা। অল্প সংখ্যক কোম্পানি এখনও উচ্চ-পারফরম্যান্স সিস্টেমের সাথে কাজ করছে। যদিও স্ট্যাটিস্টাতে ছাপযে 2021 সালের মধ্যে, বিশ্বের 94% ডেটা সেন্টার কাজের চাপ ভার্চুয়ালাইজ করা হবে। দ্বারা পূর্বাভাস বিশ্লেষকদের মতে, 32 থেকে 45 সালের মধ্যে HPC বাজারের মূল্য 2017 থেকে 2022 বিলিয়ন ডলারে বাড়বে।

/ ছবি গ্লোবাল এক্সেস পয়েন্ট PD

অনুরূপ সমাধান

বাজারে বেশ কয়েকটি অ্যানালগ রয়েছে যা বড় আইটি সংস্থাগুলি দ্বারা তৈরি করা হয়েছে: AMD এবং Intel৷

GPU ভার্চুয়ালাইজেশনের জন্য প্রথম কোম্পানি অফার SR-IOV (একক-মূল ইনপুট/আউটপুট ভার্চুয়ালাইজেশন) এর উপর ভিত্তি করে পদ্ধতি। এই প্রযুক্তিটি সিস্টেমের হার্ডওয়্যার ক্ষমতার অংশে VM অ্যাক্সেস দেয়। সমাধানটি আপনাকে ভার্চুয়ালাইজড সিস্টেমের সমান কর্মক্ষমতা সহ 16 জন ব্যবহারকারীর মধ্যে GPU ভাগ করতে দেয়।

দ্বিতীয় আইটি জায়ান্ট হিসাবে, তারা প্রযুক্তি ভিত্তিক Citrix XenServer 7 হাইপারভাইজারে। এটি একটি স্ট্যান্ডার্ড GPU ড্রাইভার এবং একটি ভার্চুয়াল মেশিনের কাজকে একত্রিত করে, যা পরবর্তীটিকে শত শত ব্যবহারকারীর ডিভাইসে 3D অ্যাপ্লিকেশন এবং ডেস্কটপ প্রদর্শন করতে দেয়।

প্রযুক্তির ভবিষ্যত

ভার্চুয়াল জিপিইউ বিকাশকারী একটি বাজি করা এআই সিস্টেমের বাস্তবায়ন এবং ব্যবসায়িক প্রযুক্তি বাজারে উচ্চ-পারফরম্যান্স সলিউশনের ক্রমবর্ধমান জনপ্রিয়তার উপর। তারা আশা করে যে প্রচুর পরিমাণে ডেটা প্রক্রিয়া করার প্রয়োজন ভিজিপিইউগুলির চাহিদা বাড়াবে।

এখন নির্মাতারা একটি উপায় খুঁজছেন গ্রাফিক্স, গাণিতিক গণনা, যৌক্তিক ক্রিয়াকলাপ এবং ডেটা প্রক্রিয়াকরণের সাথে সম্পর্কিত সমস্যাগুলি দ্রুত সমাধান করার জন্য CPU এবং GPU-এর কার্যকারিতা একত্রিত করুন। ভবিষ্যতে বাজারে এই জাতীয় কোরের উপস্থিতি ভার্চুয়াল এবং ক্লাউড পরিবেশে কাজের চাপের মধ্যে সম্পদ ভার্চুয়ালাইজেশন এবং তাদের বিতরণের পদ্ধতিকে পরিবর্তন করবে।

আমাদের কর্পোরেট ব্লগে এই বিষয়ে কী পড়তে হবে:

• কেন কোম্পানিগুলি পাত্রের পরিবর্তে ভার্চুয়াল মেশিন ব্যবহার করে
• "ভিএমওয়্যার কীভাবে করছে": নতুন সমাধানগুলির পর্যালোচনা
• VMware vSphere 6.7: নতুন হাইপারভাইজার বৈশিষ্ট্যগুলির সুবিধাগুলি কী কী৷

আমাদের টেলিগ্রাম চ্যানেল থেকে কয়েকটি পোস্ট:

• ভবিষ্যতের আইটি আর্কিটেকচার - কারা এটির জন্য এবং কীভাবে প্রস্তুতি নিচ্ছেন
• 5 ক্লাউড ম্যানেজমেন্ট টুল
• কিভাবে একজন IaaS প্রদানকারী গ্রাহকের ডেটা রক্ষা করে

উত্স: www.habr.com