ডেটা সেন্টারে FPGA অনুপ্রবেশের অনিবার্যতা

এফপিজিএ-এর জন্য প্রোগ্রাম করার জন্য আপনাকে চিপ ডিজাইনার হতে হবে না, ঠিক যেমন জাভাতে কোড লিখতে আপনাকে C++ প্রোগ্রামার হতে হবে না। যাইহোক, উভয় ক্ষেত্রে এটি সম্ভবত দরকারী হবে।

জাভা এবং এফপিজিএ উভয় প্রযুক্তিরই বাণিজ্যিকীকরণের লক্ষ্য হল পরবর্তী দাবিটিকে বাতিল করা। FPGA-এর জন্য সুসংবাদ - সঠিক বিমূর্ত স্তর এবং টুলসেট ব্যবহার করে, প্রোগ্রামেবল লজিক ডিভাইস আবিষ্কারের পর থেকে গত 35 বছরে, CPU, DSPs, GPUs বা কাস্টম ASIC-এর পরিবর্তে FPGA-এর জন্য অ্যালগরিদম এবং ডেটা ফ্লো তৈরি করা হয়েছে। ক্রমবর্ধমান সাধারণ। সহজ।

তাদের সৃষ্টির আশ্চর্যজনক সময়োপযোগীতা এই সত্যে স্পষ্ট যে CPUs যখন অনেকগুলি কাজ সম্পাদন করার জন্য ডেটা সেন্টারের একমাত্র কম্পিউটিং মডিউল হিসাবে থাকতে পারে না - বিভিন্ন কারণে - FPGA গুলি তাদের কার্যকারিতা অর্জন করেছিল, গতি, কম বিলম্বিতা, নেটওয়ার্কিং ক্ষমতা প্রদান করে। এবং মেমরি - আধুনিক এফপিজিএ এসওসিগুলির ভিন্নধর্মী কম্পিউটিং ক্ষমতা, যা প্রায় সম্পূর্ণ কম্পিউটিং সিস্টেম। যাইহোক, এফপিজিএগুলি হাইব্রিড সিস্টেমে অন্যান্য ডিভাইসের সাথে সফলভাবে একত্রিত হয়েছে এবং, আমাদের মতে, তারা কম্পিউটিং শ্রেণিবিন্যাসে তাদের সঠিক স্থান খুঁজে পেতে শুরু করেছে।

এই কারণেই আমরা 22শে জানুয়ারী সান জোসে তে নেক্সট FPGA প্ল্যাটফর্ম সম্মেলন আয়োজন করেছি। স্বাভাবিকভাবেই, বিশ্বের অন্যতম প্রধান FPGA সরবরাহকারী এবং এই ক্ষেত্রে অগ্রগামী হলেন Xilinx। Xilinx-এর সিনিয়র ভাইস প্রেসিডেন্ট এবং চিফ টেকনোলজি অফিসার Ivo Bolsens, কনফারেন্সে বক্তৃতা করেছেন এবং Xilinx কীভাবে ডেটা সেন্টারের জন্য পরিবর্তনযোগ্য কম্পিউটিং সিস্টেম তৈরি করতে সাহায্য করছে সে বিষয়ে আমাদের আজকের চিন্তাভাবনা দিয়েছেন।

একটি ভিন্নধর্মী ডেটা সেন্টার নিয়ে আসতে সিস্টেম আর্কিটেক্ট এবং প্রোগ্রামারদের অনেক সময় লেগেছে, যেটিতে বিভিন্ন ধরনের কম্পিউটার পাওয়ার বৈশিষ্ট্য থাকবে যা কম্পিউটিং, স্টোরেজ এবং নেটওয়ার্কিং সমস্যা সমাধান করবে। এটি প্রয়োজনীয় বলে মনে হচ্ছে কারণ বিভিন্ন CMOS ডিভাইস ব্যবহার করে মুরের আইন অনুসরণ করা ক্রমশ কঠিন হয়ে উঠছে। আপাতত, আমাদের ভাষা এখনও সিপিইউ-কেন্দ্রিক, এবং আমরা এখনও "অ্যাপ্লিকেশন ত্বরণ" সম্পর্কে কথা বলি, যার অর্থ শুধুমাত্র সিপিইউতে যা করা যেতে পারে তার চেয়ে প্রোগ্রামগুলিকে আরও ভালভাবে চালানো। সময়ের সাথে সাথে, ডেটা সেন্টারগুলি কম্পিউটিং পাওয়ার, ডেটা স্টোরেজ এবং প্রোটোকলগুলির সংগ্রহে পরিণত হবে যা সবকিছুকে একত্রিত করে এবং আমরা "কম্পিউটিং" এবং "অ্যাপ্লিকেশন" এর মতো শর্তে ফিরে যাব। হাইব্রিড কম্পিউটিং ডেস্কটপ বা ভার্চুয়াল মেশিনে চলমান আজকের ক্লাউড পরিষেবাগুলির মতোই স্বাভাবিক হয়ে উঠবে এবং তারা কীভাবে কাজ করে তা বর্ণনা করার জন্য আমরা কেবল "কম্পিউটিং" শব্দটি ব্যবহার করব। কিছু সময়ে - এবং সম্ভবত FPGAs এই যুগে সাহায্য করবে - আমরা এটিকে আবার ডেটা প্রসেসিং বলব৷

ডেটা সেন্টারে FPGA গ্রহণ করার জন্য মানসিকতার পরিবর্তন প্রয়োজন। "আজকের অ্যাপ্লিকেশনগুলিকে গতি বাড়ানোর উপায়গুলি সম্পর্কে চিন্তা করার সময়, আপনাকে সেগুলি কীভাবে চালিত হয়, কোন সংস্থানগুলি ব্যবহার করা হয়, কোথায় সময় ব্যয় করা হয় তার মূল বিষয়গুলিতে নামতে হবে," বলসেনস ব্যাখ্যা করেন৷ - আপনি যে সাধারণ সমস্যাটি সমাধান করার চেষ্টা করছেন তা আপনাকে অধ্যয়ন করতে হবে। ডেটা সেন্টারে চলমান অনেক অ্যাপ্লিকেশন আজ প্রচুর পরিমাণে সংস্থান ব্যবহার করার জন্য স্কেল করে। উদাহরণস্বরূপ, মেশিন লার্নিং নিন, যা বিপুল সংখ্যক কম্পিউটিং নোড ব্যবহার করে। কিন্তু যখন আমরা ত্বরণের কথা বলি, তখন আমাদের শুধু কম্পিউটিং গতি বাড়ানোর কথা নয়, অবকাঠামোর গতি বাড়ানোর কথাও ভাবতে হবে।”

উদাহরণস্বরূপ, বোলসেন অনুশীলনে যে ধরণের মেশিন লার্নিং অপারেশনগুলি অধ্যয়ন করেছিলেন, তার মধ্যে প্রায় 50% সময় ব্যয় হয় বিচ্ছুরিত কম্পিউটিং শক্তির মধ্যে ডেটা স্থানান্তর করতে এবং বাকি অর্ধেক সময় নিজেই গণনার জন্য ব্যয় করা হয়।

“এখানেই আমি মনে করি যে FPGA সাহায্য করতে পারে, কারণ আমরা নিশ্চিত করতে পারি যে অ্যাপ্লিকেশনটির কম্পিউটেশনাল এবং যোগাযোগ উভয় দিকই অপ্টিমাইজ করা হয়েছে। এবং আমরা এটি সামগ্রিক অবকাঠামো স্তরে এবং চিপ স্তরে করতে পারি। এটি FPGA-এর একটি বড় সুবিধা, যা আপনাকে নির্দিষ্ট অ্যাপ্লিকেশনের প্রয়োজনের জন্য যোগাযোগ নেটওয়ার্ক তৈরি করতে দেয়। এআই ওয়ার্কলোডগুলিতে ডেটা চলাচলের সাধারণ নিদর্শনগুলির উপর ভিত্তি করে, আমি একটি জটিল সুইচ-ভিত্তিক আর্কিটেকচারের প্রয়োজন দেখতে পাচ্ছি না। আপনি একটি বৃহৎ ডেটা প্রবাহ সহ একটি নেটওয়ার্ক তৈরি করতে পারেন। নিউরাল নেটওয়ার্ক প্রশিক্ষণের কাজগুলির ক্ষেত্রেও এটি প্রযোজ্য - আপনি প্যাকেটের আকার সহ একটি জাল নেটওয়ার্ক তৈরি করতে পারেন যা একটি নির্দিষ্ট কাজের সাথে খাপ খায়। একটি এফপিজিএ ব্যবহার করে, ডেটা ট্রান্সফার প্রোটোকল এবং সার্কিট টপোলজিগুলি খুব সঠিকভাবে স্কেল করা যেতে পারে এবং একটি নির্দিষ্ট অ্যাপ্লিকেশন অনুসারে তৈরি করা যেতে পারে। এবং মেশিন লার্নিংয়ের ক্ষেত্রে, এটাও স্পষ্ট যে আমাদের দ্বিগুণ-নির্ভুল ফ্লোটিং পয়েন্ট নম্বরের প্রয়োজন নেই এবং আমরা এটিও সামঞ্জস্য করতে পারি।"

একটি FPGA এবং একটি CPU বা কাস্টম ASIC-এর মধ্যে পার্থক্য হল যে পরেরগুলি কারখানায় প্রোগ্রাম করা হয়, এবং এর পরে আপনি আর কোন ধরণের ডেটা গণনা করা হচ্ছে বা উপাদানগুলি গণনা করা হচ্ছে বা ডেটার প্রকৃতি সম্পর্কে আপনার মন পরিবর্তন করতে পারবেন না। ডিভাইস মাধ্যমে প্রবাহ। অপারেটিং অবস্থার পরিবর্তন হলে FPGAs আপনাকে আপনার মন পরিবর্তন করতে দেয়।

অতীতে, এই সুবিধাটি একটি খরচে এসেছিল, যখন এফপিজিএ প্রোগ্রামিং হৃদয়ের অজ্ঞানতার জন্য ছিল না। C, C++, বা Python-এ CPU-সমান্তরাল অ্যাপ্লিকেশন লিখতে প্রোগ্রামাররা যে টুলগুলি ব্যবহার করে তার সাথে আরও ভালভাবে সংহত করার জন্য FPGA কম্পাইলারগুলি খোলার এবং FPGA-তে পদ্ধতিগুলিকে গতিশীল করে এমন কিছু কাজ লাইব্রেরিতে আউটসোর্স করার জন্য প্রয়োজন। ভিটিস মেশিন লার্নিং স্ট্যাক এটিই করে, ক্যাফে এবং টেনসরফ্লো-এর মতো এমএল প্ল্যাটফর্মগুলিকে শক্তিশালী করে, প্রচলিত AI মডেলগুলি চালানোর জন্য লাইব্রেরি সহ বা ভিডিও ট্রান্সকোডিং, ভিডিও অবজেক্ট রিকগনিশন এবং ডেটা অ্যানালিটিক্সের মতো কাজগুলিতে FPGA ক্ষমতা যুক্ত করে। , আর্থিক ঝুঁকি ব্যবস্থাপনা এবং যেকোনো তৃতীয় - পার্টি লাইব্রেরি।

এই ধারণাটি এক দশক আগে চালু হওয়া Nvidia-এর CUDA প্রকল্পের থেকে খুব বেশি আলাদা নয়, যা GPU অ্যাক্সিলারেটরের সমান্তরাল কম্পিউটিং অফলোড করে, অথবা AMD-এর ROCm টুলকিট থেকে, অথবা Intel-এর OneAPI প্রকল্পের প্রতিশ্রুতি থেকে, যা বিভিন্ন CPU, GPU এবং FPGA-তে চলবে।

একমাত্র প্রশ্ন হল এই সমস্ত সরঞ্জামগুলিকে কীভাবে একত্রে সংযুক্ত করা হবে যাতে যে কোনও ব্যক্তি তাদের বিবেচনার ভিত্তিতে কম্পিউটিং ক্ষমতাগুলির একটি সেট প্রোগ্রাম করতে পারে। এটি গুরুত্বপূর্ণ কারণ এফপিজিএগুলি উপলব্ধ সিপিইউগুলির তুলনায় আরও জটিল, অনেক বেশি জটিল হয়ে উঠেছে। এগুলি সবচেয়ে উন্নত উত্পাদন প্রক্রিয়া এবং সবচেয়ে আধুনিক চিপ প্যাকেজিং প্রযুক্তি ব্যবহার করে তৈরি করা হয়। এবং তারা তাদের কুলুঙ্গি খুঁজে পাবে, যেহেতু আমরা আর সময়, অর্থ, শক্তি এবং বুদ্ধি নষ্ট করতে পারি না - এগুলি খুব ব্যয়বহুল সংস্থান।

"FPGAs প্রযুক্তিগত সুবিধা প্রদান করে," বলসেন বলেছেন। - এবং এটি কেবল অভিযোজনযোগ্যতা এবং পুনর্বিন্যাসযোগ্যতা সম্পর্কে সাধারণ বিজ্ঞাপন নয়। সমস্ত গুরুত্বপূর্ণ অ্যাপ্লিকেশনে - মেশিন লার্নিং, গ্রাফ বিশ্লেষণ, উচ্চ-গতির ট্রেডিং ইত্যাদি। - তাদের একটি নির্দিষ্ট কাজের সাথে খাপ খাইয়ে নেওয়ার ক্ষমতা রয়েছে শুধুমাত্র ডেটা বিতরণ পথ নয়, মেমরি আর্কিটেকচারও - কীভাবে ডেটা চিপের মধ্যে চলে যায়। এফপিজিএ-তে অন্যান্য ডিভাইসের তুলনায় অনেক বেশি মেমরি রয়েছে। এটিও বিবেচনায় নেওয়া উচিত যে যদি একটি টাস্ক একটি FPGA-এর সাথে খাপ খায় না, আপনি একাধিক CPUs বা GPU তে কাজগুলি স্কেল করার সময় আপনার জন্য যে অসুবিধাগুলি অপেক্ষা করছে তার সম্মুখীন না হয়ে আপনি এটিকে একাধিক চিপ জুড়ে স্কেল করতে পারেন।"

উত্স: www.habr.com