کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

براہ کرم عنوان کی وجہ سے کسی نتیجے پر نہ پہنچیں! اس کی پشت پناہی کرنے کے لیے ہمارے پاس وزنی دلائل ہیں، اور ہم نے انہیں اتنا ہی مضبوطی سے پیک کیا ہے جتنا ہم کر سکتے تھے۔ ہم آپ کی توجہ اپنے نئے اسٹوریج سسٹم کے تصور اور اصولوں کے بارے میں ایک پوسٹ لاتے ہیں، جسے جنوری 2020 میں جاری کیا گیا تھا۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

ہماری رائے میں، Dorado V6 سٹوریج فیملی کا بنیادی مسابقتی فائدہ عنوان میں ذکر کردہ کارکردگی اور وشوسنییتا سے فراہم کیا گیا ہے۔ ہاں، ہاں، یہ بہت آسان ہے، لیکن ہم نے اس "سادہ" کو حاصل کرنے میں کون سے مشکل اور اتنے مشکل فیصلے کیے، ہم آج بات کریں گے۔

نئی نسل کے نظام کی صلاحیت کو بہتر طور پر اجاگر کرنے کے لیے، ہم ماڈل رینج کے پرانے نمائندوں (ماڈل 8000، 18000) کے بارے میں بات کریں گے۔ جب تک کہ دوسری صورت میں بیان نہ کیا جائے، ان کا مطلب ہونا ہے۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

بازار کے بارے میں چند الفاظ

مارکیٹ میں Huawei سلوشنز کی جگہ کو بہتر طور پر سمجھنے کے لیے، آئیے ایک ثابت شدہ یارڈ اسٹک کی طرف رجوع کرتے ہیں۔"جادو quadrants»گارٹنر۔ دو سال پہلے، عمومی مقصد کے ڈسک کے صفوں کے شعبے میں، ہماری کمپنی اعتماد کے ساتھ لیڈرز کے گروپ میں داخل ہوئی، NetApp اور Hewlett Packard Enterprise کے بعد دوسرے نمبر پر تھی۔ 2018 میں SSD اسٹوریج مارکیٹ میں Huawei کی پوزیشن ایک "چیلنجر" کی حیثیت سے نمایاں تھی، لیکن قیادت کی پوزیشن حاصل کرنے میں کچھ کمی تھی۔

2019 میں، گارٹنر نے اپنے مطالعہ میں، مذکورہ بالا دونوں شعبوں کو ایک میں ملایا - "مین اسٹوریج"۔ نتیجے کے طور پر، Huawei ایک بار پھر لیڈر کواڈرینٹ میں تھا، IBM، Hitachi Vantara اور Infinidat جیسے وینڈرز کے آگے۔

تصویر کو مکمل کرنے کے لیے، ہم نوٹ کرتے ہیں کہ گارٹنر امریکی مارکیٹ میں تجزیہ کے لیے 80% ڈیٹا اکٹھا کرتا ہے، اور یہ ان کمپنیوں کے حق میں نمایاں تعصب کا باعث بنتا ہے جن کی امریکہ میں اچھی نمائندگی ہے۔ دریں اثنا، یورپی اور ایشیائی منڈیوں پر مبنی سپلائرز خود کو واضح طور پر کم فائدہ مند پوزیشن میں پاتے ہیں۔ اس کے باوجود، پچھلے سال ہواوے کی مصنوعات نے اوپری دائیں کواڈرینٹ میں اپنا صحیح مقام حاصل کیا اور، گارٹنر کے فیصلے کے مطابق، "استعمال کے لیے تجویز کیا جا سکتا ہے۔"

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

Dorado V6 میں نیا کیا ہے۔

Dorado V6 پروڈکٹ لائن، خاص طور پر، انٹری لیول کے 3000 سیریز کے سسٹمز کے ذریعے نمائندگی کی جاتی ہے۔ ابتدائی طور پر دو کنٹرولرز سے لیس، انہیں افقی طور پر 16 کنٹرولرز، 1200 ڈرائیوز اور 192 GB کیشے تک پھیلایا جا سکتا ہے۔ نیز، یہ نظام بیرونی فائبر چینل (8/16/32 Gb/s) اور ایتھرنیٹ (1/10/25/40/100 Gb/s) پورٹس سے لیس ہوگا۔

نوٹ کریں کہ ایسے پروٹوکولز کا استعمال جن میں تجارتی کامیابی نہیں ہوتی اب مرحلہ وار ختم کیا جا رہا ہے، اس لیے شروع میں ہم نے فائبر چینل اوور ایتھرنیٹ (FCoE) اور Infiniband (IB) کے لیے تعاون ترک کرنے کا فیصلہ کیا۔ انہیں بعد کے فرم ویئر ورژن میں شامل کیا جائے گا۔ NVMe over Fabric (NVMe-oF) کے لیے سپورٹ فائبر چینل کے اوپری حصے میں دستیاب ہے۔ اگلا فرم ویئر، جو جون میں ریلیز ہونے والا ہے، ایتھرنیٹ موڈ پر NVMe کو سپورٹ کرنے کا منصوبہ ہے۔ ہماری رائے میں، مذکورہ سیٹ زیادہ تر Huawei صارفین کی ضروریات کو پورا کرے گا۔

فائل تک رسائی موجودہ فرم ویئر ورژن میں دستیاب نہیں ہے اور سال کے آخر میں اگلی اپ ڈیٹس میں سے ایک میں ظاہر ہوگی۔ اضافی آلات کے استعمال کے بغیر، ایتھرنیٹ بندرگاہوں کے ساتھ خود کنٹرولرز کے ذریعہ مقامی سطح پر عمل درآمد فرض کیا جاتا ہے۔

Dorado V6 3000 سیریز کے ماڈل اور پرانے ماڈلز کے درمیان بنیادی فرق یہ ہے کہ یہ بیک اینڈ پر ایک پروٹوکول کو سپورٹ کرتا ہے - SAS 3.0۔ اس کے مطابق، وہاں کی ڈرائیوز صرف نامزد انٹرفیس کے ساتھ استعمال کی جا سکتی ہیں۔ ہمارے نقطہ نظر سے، اس کے ذریعہ فراہم کردہ کارکردگی اس قسم کے آلے کے لئے کافی ہے.

Dorado V6 5000 اور 6000 سیریز کے نظام درمیانی فاصلے کے حل ہیں۔ وہ فارم فیکٹر 2U میں بھی بنائے گئے ہیں اور دو کنٹرولرز سے لیس ہیں۔ وہ کارکردگی، پروسیسرز کی تعداد، ڈسک کی زیادہ سے زیادہ تعداد اور کیش سائز میں ایک دوسرے سے مختلف ہیں۔ تاہم، تعمیراتی اور انجینئرنگ کے لحاظ سے، Dorado V6 5000 اور 6000 ایک جیسے ہیں اور ایک جیسے نظر آتے ہیں۔

ہائی اینڈ کلاس میں Dorado V6 8000 اور 18000 سیریز کے سسٹمز شامل ہیں۔ 4U سائز میں بنائے گئے، ان کا ڈیفالٹ کے لحاظ سے ایک الگ فن تعمیر ہے، جس میں کنٹرولرز اور ڈرائیوز کو الگ الگ رکھا گیا ہے۔ وہ کم از کم دو کنٹرولرز کے ساتھ بھی آسکتے ہیں، حالانکہ گاہک عام طور پر چار یا اس سے زیادہ مانگتے ہیں۔

Dorado V6 8000 کا پیمانہ 16 کنٹرولرز تک، اور Dorado V6 18000 کا پیمانہ 32 تک۔ ان سسٹمز میں مختلف پروسیسر ہیں جن کی تعداد مختلف تعداد میں کور اور کیش سائز ہے۔ ایک ہی وقت میں، انجینئرنگ کے حل کی شناخت کو محفوظ کیا جاتا ہے، جیسا کہ درمیانی درجے کے ماڈلز میں ہوتا ہے۔

2U اسٹوریج شیلف RDMA کے ذریعے 100 Gb/s کی بینڈوتھ کے ساتھ منسلک ہیں۔ پرانا Dorado V6 بیک اینڈ SAS 3.0 کو بھی سپورٹ کرتا ہے، لیکن اس سے زیادہ اس صورت میں کہ SSDs کے ساتھ اس انٹرفیس کی قیمت بہت کم ہو جاتی ہے۔ پھر ان کے استعمال کی معاشی فزیبلٹی ہوگی یہاں تک کہ کم پیداوری کو مدنظر رکھتے ہوئے بھی۔ اس وقت، SAS اور NVMe انٹرفیس کے ساتھ SSDs کے درمیان لاگت کا فرق اتنا کم ہے کہ ہم اس طرح کے حل کی سفارش کرنے کے لیے تیار نہیں ہیں۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

کنٹرولر کے اندر

Dorado V6 کنٹرولرز ہمارے اپنے عنصر کی بنیاد پر بنائے گئے ہیں۔ Intel سے کوئی پروسیسرز نہیں، Broadcom سے ASICs نہیں ہیں۔ اس طرح، مدر بورڈ کا ہر ایک جزو، نیز مدر بورڈ خود، امریکی کمپنیوں کی جانب سے پابندیوں کے دباؤ سے منسلک خطرات کے اثر سے مکمل طور پر ہٹا دیا گیا ہے۔ جن لوگوں نے ہمارے کسی بھی سامان کو اپنی آنکھوں سے دیکھا ہے، انہوں نے شاید لوگو کے نیچے سرخ پٹی والی شیلڈ دیکھی ہوں گی۔ اس کا مطلب ہے کہ مصنوعات میں امریکی اجزاء شامل نہیں ہیں۔ یہ Huawei کا آفیشل کورس ہے - اس کی اپنی پیداوار کے اجزاء میں منتقلی، یا کسی بھی صورت میں، ایسے ممالک میں تیار کیا جاتا ہے جو امریکی پالیسی پر عمل نہیں کرتے ہیں۔

یہ ہے جو آپ خود کنٹرولر بورڈ پر دیکھ سکتے ہیں۔

  • یونیورسل نیٹ ورک انٹرفیس (Hisilicon 1822 چپ) فائبر چینل یا ایتھرنیٹ سے جڑنے کے لیے ذمہ دار ہے۔
  • سسٹم کی مکمل خصوصیات والے ریموٹ کنٹرول اور نگرانی کے لیے سسٹم BMC چپ، یعنی Hisilicon 1710 کی ریموٹ رسائی فراہم کرنا۔ اسی طرح کے ہمارے سرورز اور دیگر حلوں میں بھی استعمال ہوتے ہیں۔
  • سنٹرل پروسیسنگ یونٹ، جو ARM فن تعمیر پر بنایا گیا Kunpeng 920 چپ ہے، جسے Huawei نے تیار کیا ہے۔ یہ وہی ہے جسے اوپر دیے گئے خاکے میں دکھایا گیا ہے، حالانکہ دوسرے کنٹرولرز کے مختلف ماڈلز مختلف تعداد میں کور، مختلف گھڑی کی رفتار وغیرہ ہو سکتے ہیں۔ ایک کنٹرولر میں پروسیسرز کی تعداد بھی ماڈل سے دوسرے ماڈل میں تبدیل ہوتی ہے۔ مثال کے طور پر، پرانی Dorado V6 سیریز میں، ایک بورڈ پر ان میں سے چار ہیں۔
  • SSD کنٹرولر (Hisilicon 1812e چپ) جو SAS اور NVMe دونوں ڈرائیوز کو سپورٹ کرتا ہے۔ اس کے علاوہ، Huawei آزادانہ طور پر SSDs تیار کرتا ہے، لیکن خود NAND سیلز تیار نہیں کرتا، انہیں دنیا کے چار بڑے مینوفیکچررز سے بغیر کٹے ہوئے سلیکون ویفرز کی شکل میں خریدنے کو ترجیح دیتا ہے۔ Huawei آزادانہ طور پر تیار کردہ چپس میں کاٹنا، جانچ اور پیکنگ کرتا ہے، جس کے بعد وہ انہیں اپنے برانڈ کے تحت جاری کرتا ہے۔
  • مصنوعی ذہانت کی چپ Ascend 310 ہے۔ پہلے سے طے شدہ طور پر، یہ کنٹرولر پر غائب ہے اور اسے ایک علیحدہ کارڈ کے ذریعے نصب کیا جاتا ہے، جو نیٹ ورک اڈاپٹرز کے لیے مخصوص سلاٹ میں سے ایک پر قبضہ کرتا ہے۔ چپ کا استعمال ذہین کیش رویے، کارکردگی کا انتظام یا ڈپلیکیشن اور کمپریشن کے عمل فراہم کرنے کے لیے کیا جاتا ہے۔ ان تمام کاموں کو سنٹرل پروسیسر کی مدد سے حل کیا جا سکتا ہے لیکن اے آئی چپ آپ کو یہ کام زیادہ موثر طریقے سے کرنے کی اجازت دیتی ہے۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

کنپینگ پروسیسرز کے بارے میں الگ سے

کنپینگ پروسیسر ایک چپ (SoC) پر ایک ایسا نظام ہے جہاں، کمپیوٹنگ یونٹ کے علاوہ، ہارڈویئر ماڈیولز موجود ہیں جو مختلف پراسیس کو تیز کرتے ہیں، جیسے کہ چیکسم کا حساب لگانا یا ایریزر کوڈنگ پر عمل درآمد کرنا۔ یہ SAS، Ethernet، DDR4 (چھ سے آٹھ چینلز تک) وغیرہ کے لیے ہارڈویئر سپورٹ بھی لاگو کرتا ہے۔ یہ سب Huawei کو سٹوریج کنٹرولرز بنانے کی اجازت دیتا ہے جو کارکردگی میں کلاسک Intel سلوشنز سے کمتر نہیں ہیں۔

اس کے علاوہ، ARM فن تعمیر پر مبنی ملکیتی حل Huawei کو اس قابل بناتے ہیں کہ وہ مکمل سرور سلوشنز تخلیق کر سکے اور انہیں اپنے صارفین کو x86 کے متبادل کے طور پر پیش کرے۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

نیا ڈوراڈو وی 6 آرکیٹیکچر…

پرانی سیریز کے سٹوریج سسٹم Dorado V6 کے اندرونی فن تعمیر کو چار اہم ذیلی ڈومینز (فیکٹریوں) سے ظاہر کیا جاتا ہے۔

پہلی فیکٹری ایک مشترکہ فرنٹ اینڈ ہے (نیٹ ورک انٹرفیس جو SAN فیکٹری یا میزبانوں کے ساتھ بات چیت کے لیے ذمہ دار ہیں)۔

دوسرا کنٹرولرز کا ایک سیٹ ہے، جن میں سے ہر ایک RDMA پروٹوکول کے ذریعے کسی بھی فرنٹ اینڈ نیٹ ورک کارڈ اور پڑوسی "انجن" تک پہنچ سکتا ہے، جو کہ ایک باکس ہے جس میں چار کنٹرولرز ہیں، نیز پاور اور کولنگ۔ ان میں مشترکہ یونٹس۔ اب ہائی اینڈ کلاس ڈوراڈو V6 ماڈل ایسے دو "انجن" (بالترتیب آٹھ کنٹرولرز) سے لیس ہو سکتے ہیں۔

تیسری فیکٹری بیک اینڈ کے لیے ذمہ دار ہے اور RDMA 100G نیٹ ورک کارڈز پر مشتمل ہے۔

آخر میں، "ہارڈ ویئر میں" چوتھی فیکٹری کی نمائندگی پلگ ان سمارٹ اسٹوریج شیلف کے ذریعے کی جاتی ہے۔

یہ سڈول ڈھانچہ NVMe ٹیکنالوجی کی مکمل صلاحیت کو ظاہر کرتا ہے اور اعلی کارکردگی اور قابل اعتماد کی ضمانت دیتا ہے۔ I/O عمل زیادہ سے زیادہ پروسیسرز اور کوروں میں متوازی ہے، جس سے متعدد تھریڈز کو بیک وقت پڑھنے اور لکھنے کی سہولت ملتی ہے۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

…اور اس نے ہمیں کیا دیا۔

Dorado V6 سلوشنز کی زیادہ سے زیادہ کارکردگی پچھلی نسل کے سسٹمز (اسی کلاس کے) سے تقریباً تین گنا زیادہ ہے اور 20 ملین IOPS تک پہنچ سکتی ہے۔

یہ اس حقیقت کی وجہ سے ہے کہ ڈیوائسز کی پچھلی نسل میں، NVMe سپورٹ کو صرف ڈرائیوز کے ساتھ ڈرا ان شیلف تک بڑھایا گیا تھا۔ اب یہ میزبان سے لے کر SSD تک تمام مراحل پر موجود ہے۔ بیک اینڈ نیٹ ورک میں بھی تبدیلیاں آئی ہیں: SAS/PCIe نے 2 Gb/s کے تھرو پٹ کے ساتھ RoCEv100 کو راستہ دیا ہے۔

ایس ایس ڈی فارم فیکٹر بھی بدل گیا ہے۔ اگر پہلے ہر 2U شیلف میں 25 ڈرائیوز ہوتی تھیں، تو اب اسے 36 پام سائز کی فزیکل ڈسک تک بڑھا دیا گیا ہے۔ اس کے علاوہ، شیلف "وائزڈ اپ." ان میں سے ہر ایک کے پاس اب دو کنٹرولرز کا فالٹ ٹولرنٹ سسٹم ہے جو ARM چپس پر مبنی ہے، جیسا کہ سنٹرل کنٹرولرز میں نصب ہے۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

ابھی تک، وہ صرف ڈیٹا کی تنظیم نو میں مصروف ہیں، لیکن نئے فرم ویئر کے اجراء کے ساتھ، اس میں کمپریشن اور ایریزر کوڈنگ شامل ہو جائے گی، جس سے مین کنٹرولرز پر بوجھ 15 سے 5 فیصد تک کم ہو جائے گا۔ کچھ کاموں کو ایک ہی وقت میں شیلف میں منتقل کرنے سے اندرونی نیٹ ورک کی بینڈوتھ خالی ہو جاتی ہے۔ اور یہ سب نمایاں طور پر سسٹم کی اسکیل ایبلٹی صلاحیت کو بڑھاتا ہے۔

پچھلی نسل کے اسٹوریج سسٹم میں کمپریشن اور ڈپلیکیشن فکسڈ لینتھ بلاکس کے ساتھ کی گئی تھی۔ اب، متغیر لمبائی کے بلاکس کے ساتھ کام کرنے کا ایک موڈ شامل کیا گیا ہے، جسے اب تک زبردستی آن کرنے کی ضرورت ہے۔ اس کے بعد کی تازہ کارییں اس صورت حال کو بدل سکتی ہیں۔

ناکامیوں کے لیے رواداری کے بارے میں بھی مختصراً۔ اگر دو کنٹرولرز میں سے ایک ناکام ہو جاتا ہے تو ڈوراڈو V3 آپریشنل رہتا ہے۔ Dorado V6 ڈیٹا کی دستیابی کو یقینی بنائے گا چاہے آٹھ میں سے سات کنٹرولرز یکے بعد دیگرے ناکام ہو جائیں یا ایک انجن میں سے چار بیک وقت ناکام ہو جائیں۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

معاشیات کے لحاظ سے اعتبار

حال ہی میں، ہواوے کے صارفین کے درمیان ایک سروے کیا گیا تھا کہ کمپنی آئی ٹی انفراسٹرکچر کے انفرادی عناصر کے کتنے ڈاؤن ٹائم کو قابل قبول سمجھتی ہے۔ زیادہ تر حصے کے لئے، جواب دہندگان ایک فرضی صورت حال کے روادار تھے جس میں درخواست چند سو سیکنڈ میں جواب نہیں دیتی ہے۔ آپریٹنگ سسٹم یا میزبان بس اڈاپٹر کے لیے، دسیوں سیکنڈز (بنیادی طور پر ریبوٹ ٹائم) اہم ڈاؤن ٹائم تھے۔ صارفین نیٹ ورک پر اس سے بھی زیادہ مطالبات رکھتے ہیں: اس کی بینڈوتھ 10-20 سیکنڈ سے زیادہ غائب نہیں ہونی چاہیے۔ جیسا کہ آپ اندازہ لگا سکتے ہیں، سب سے زیادہ اہم جواب دہندگان نے اسٹوریج سسٹم کی ناکامی پر غور کیا۔ کاروباری نمائندوں کے نقطہ نظر سے، سادہ اسٹوریج سے زیادہ نہیں ہونا چاہئے ... سال میں چند سیکنڈ!

دوسرے لفظوں میں، اگر بینک کی کلائنٹ کی درخواست 100 سیکنڈ تک جواب نہیں دیتی ہے، تو یہ ممکنہ طور پر تباہ کن نتائج کا سبب نہیں بنے گا۔ لیکن اگر سٹوریج کا نظام اتنی ہی مقدار میں کام نہیں کرتا ہے، تو کاروبار رک جاتا ہے اور اہم مالی نقصان کا امکان ہوتا ہے۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

اوپر والا چارٹ دس سب سے بڑے بینکوں کے کام کے ایک گھنٹے کی لاگت کو ظاہر کرتا ہے (2017 کے لیے فوربس ڈیٹا)۔ متفق ہوں، اگر آپ کی کمپنی چینی بینکوں کے حجم کے قریب پہنچ رہی ہے، تو کئی ملین ڈالر میں سٹوریج سسٹم خریدنے کی ضرورت کا جواز پیش کرنا اتنا مشکل نہیں ہوگا۔ بات چیت کا بیان بھی درست ہے: اگر کسی کاروبار کو ڈاؤن ٹائم کے دوران اہم نقصان نہیں ہوتا ہے، تو اس کے لیے ہائی اینڈ اسٹوریج سسٹم خریدنے کا امکان نہیں ہے۔ کسی بھی صورت میں، یہ خیال رکھنا ضروری ہے کہ آپ کے بٹوے میں کس سائز کا سوراخ بننے کا خطرہ ہے جب کہ سسٹم ایڈمنسٹریٹر اسٹوریج سسٹم کے ساتھ کام کرتا ہے جس نے کام کرنے سے انکار کر دیا ہے۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

فی فیل اوور دوسرا

اوپر دی گئی مثال میں حل A میں، آپ ہمارے پچھلی نسل کے Dorado V3 سسٹم کو پہچان سکتے ہیں۔ اس کے چار کنٹرولرز جوڑے میں کام کرتے ہیں، اور صرف دو کنٹرولرز ہی کیشے کی کاپیاں رکھتے ہیں۔ ایک جوڑے کے اندر کنٹرولرز بوجھ کو دوبارہ تقسیم کر سکتے ہیں۔ ایک ہی وقت میں، جیسا کہ آپ دیکھ سکتے ہیں، یہاں کوئی فرنٹ اینڈ اور بیک اینڈ "فیکٹریاں" نہیں ہیں، لہذا اسٹوریج شیلف میں سے ہر ایک مخصوص کنٹرولر جوڑے سے منسلک ہے۔

حل B کا خاکہ کسی دوسرے وینڈر (تسلیم شدہ؟) سے اس وقت مارکیٹ میں موجود حل کو دکھاتا ہے۔ یہاں پہلے سے ہی فرنٹ اینڈ اور بیک اینڈ فیکٹریاں ہیں، اور ڈرائیوز ایک ساتھ چار کنٹرولرز سے منسلک ہیں۔ یہ سچ ہے کہ ایسی باریکیاں ہیں جو سسٹم کے اندرونی الگورتھم کے کام میں پہلے اندازے میں واضح نہیں ہیں۔

دائیں طرف ہمارا موجودہ ڈوراڈو V6 اسٹوریج فن تعمیر ہے جس میں انٹرنلز کے مکمل سیٹ ہیں۔ غور کریں کہ یہ نظام ایک عام صورت حال سے کیسے بچتے ہیں - ایک کنٹرولر کی ناکامی۔

کلاسیکی نظاموں میں، جس میں ڈوراڈو V3 شامل ہے، ناکامی کی صورت میں لوڈ کو دوبارہ تقسیم کرنے کے لیے درکار مدت چار سیکنڈ تک پہنچ جاتی ہے۔ اس وقت کے دوران، I/O مکمل طور پر رک جاتا ہے۔ ہمارے ساتھیوں کی طرف سے حل B، زیادہ جدید فن تعمیر کے باوجود، چھ سیکنڈ کی ناکامی پر اس سے بھی زیادہ ڈاؤن ٹائم ہے۔

سٹوریج Dorado V6 ناکامی کے بعد صرف ایک سیکنڈ میں اپنا کام بحال کر دیتا ہے۔ یہ نتیجہ ایک یکساں اندرونی RDMA ماحول کی بدولت حاصل ہوتا ہے جو کنٹرولر کو "غیر ملکی" میموری تک رسائی کی اجازت دیتا ہے۔ دوسری اہم صورت حال ایک فرنٹ اینڈ فیکٹری کی موجودگی ہے، جس کی بدولت میزبان کے لیے راستہ تبدیل نہیں ہوتا ہے۔ بندرگاہ وہی رہتی ہے، اور بوجھ کو آسانی سے ملٹی پاس کرنے والے ڈرائیوروں کے ذریعہ صحت مند کنٹرولرز کو بھیجا جاتا ہے۔

ڈوراڈو V6 میں دوسرے کنٹرولر کی ناکامی کو اسی اسکیم کے مطابق ایک سیکنڈ میں نکالا جاتا ہے۔ Dorado V3 میں تقریباً چھ سیکنڈ لگتے ہیں، اور دوسرے وینڈر کے حل میں نو وقت لگتے ہیں۔ بہت سے DBMS کے لیے، اس طرح کے وقفوں کو مزید قابل قبول نہیں سمجھا جا سکتا، کیونکہ اس وقت کے دوران سسٹم اسٹینڈ بائی موڈ میں تبدیل ہو جاتا ہے اور کام کرنا بند کر دیتا ہے۔ یہ سب سے پہلے DBMS سے متعلق ہے جو بہت سے حصوں پر مشتمل ہے۔

تیسرے کنٹرولر حل A کی ناکامی زندہ رہنے کے قابل نہیں ہے۔ صرف اس حقیقت کی وجہ سے کہ ڈیٹا ڈسک کے کچھ حصے تک رسائی ختم ہوگئی ہے۔ بدلے میں، ایسی صورت حال میں حل B اپنی کام کرنے کی صلاحیت کو بحال کرتا ہے، جس میں پچھلے کیس کی طرح نو سیکنڈ لگتے ہیں۔

Dorado V6 میں کیا ہے؟ ایک سیکنڈ.

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

ایک سیکنڈ میں کیا کیا جا سکتا ہے۔

تقریباً کچھ بھی نہیں، لیکن ہمیں اس کی ضرورت نہیں ہے۔ ایک بار پھر، ہائی اینڈ کلاس کے ڈوراڈو V6 میں، فرنٹ اینڈ فیکٹری کو کنٹرولر فیکٹری سے الگ کر دیا گیا ہے۔ اس کا مطلب یہ ہے کہ کسی مخصوص کنٹرولر سے تعلق رکھنے والی کوئی ہارڈ کوڈ والی بندرگاہیں نہیں ہیں۔ فیل اوور میں متبادل راستے تلاش کرنا یا ملٹی پاسنگ کو دوبارہ شروع کرنا شامل نہیں ہے۔ سسٹم اسی طرح کام کرتا رہتا ہے جیسا کہ پہلے تھا۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

متعدد ناکامی رواداری

پرانے Dorado V6 ماڈل کسی بھی "انجن" سے کسی بھی دو (!) کنٹرولرز کی بیک وقت ناکامی سے آسانی سے بچ سکتے ہیں۔ یہ اس حقیقت سے ممکن ہوا ہے کہ حل اب کیشے کی تین کاپیاں رکھتا ہے۔ لہذا، یہاں تک کہ دوہری ناکامی کے ساتھ، ہمیشہ ایک مکمل کاپی ہوگی.

"انجن" میں سے ایک میں چاروں کنٹرولرز کی ہم وقت ساز ناکامی بھی مہلک نتائج کا سبب نہیں بنے گی، کیونکہ کیشے کی تینوں کاپیاں کسی بھی وقت "انجنوں" میں تقسیم کی جاتی ہیں۔ نظام خود کام کی اس طرح کی منطق کی تعمیل پر نظر رکھتا ہے۔

آخر میں، ایک انتہائی غیر متوقع منظر نامہ آٹھ میں سے سات کنٹرولرز کی ترتیب وار ناکامی ہے۔ مزید یہ کہ، انفرادی ناکامیوں کے درمیان آپریبلٹی کو برقرار رکھنے کے لیے کم از کم قابل اجازت وقفہ 15 منٹ ہے۔ اس وقت کے دوران، سٹوریج سسٹم کے پاس کیشے کی منتقلی کے لیے ضروری کارروائیوں کو انجام دینے کا وقت ہوتا ہے۔

آخری زندہ رہنے والا کنٹرولر ڈیٹا اسٹور کو چلائے گا اور پانچ دنوں تک کیشے کو برقرار رکھے گا (پہلے سے طے شدہ قدر، جسے ترتیبات میں آسانی سے تبدیل کیا جا سکتا ہے)۔ اس کے بعد، کیشے کو غیر فعال کر دیا جائے گا، لیکن اسٹوریج سسٹم کام کرتا رہے گا۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

غیر پریشان کن اپ ڈیٹس

نیا OS Dorado V6 آپ کو کنٹرولرز کو ریبوٹ کیے بغیر اسٹوریج فرم ویئر کو اپ ڈیٹ کرنے کی اجازت دیتا ہے۔

آپریٹنگ سسٹم، جیسا کہ پچھلے حل کے معاملے میں، لینکس پر مبنی ہے، تاہم، بہت سے آپریٹنگ عمل کرنل سے یوزر موڈ میں منتقل ہو چکے ہیں۔ زیادہ تر فنکشنز، جیسے ڈیڈپلیکیشن اور کمپریشن کے ذمہ دار، اب پس منظر میں چلنے والے باقاعدہ ڈیمن ہیں۔ نتیجے کے طور پر، انفرادی ماڈیولز کو اپ ڈیٹ کرنے کے لیے پورے آپریٹنگ سسٹم کو تبدیل کرنا ضروری نہیں ہے۔ فرض کریں، نئے پروٹوکول کے لیے سپورٹ شامل کرنے کے لیے، صرف متعلقہ سافٹ ویئر ماڈیول کو بند کرنا اور ایک نیا شروع کرنا ضروری ہوگا۔

یہ واضح ہے کہ مجموعی طور پر سسٹم کو اپ ڈیٹ کرنے کے مسائل ابھی باقی ہیں، کیونکہ کرنل میں ایسے عناصر ہوسکتے ہیں جنہیں اپ ڈیٹ کرنے کی ضرورت ہے۔ لیکن وہ، ہمارے مشاہدے کے مطابق، کل کے 6% سے بھی کم ہیں۔ یہ آپ کو پہلے کے مقابلے میں دس گنا کم کنٹرولرز کو ریبوٹ کرنے کی اجازت دیتا ہے۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

آفات کو برداشت کرنے والے اور زیادہ دستیابی (HA/DR) حل

Dorado V6 آؤٹ آف دی باکس جیو ڈسٹری بیوٹڈ سلوشنز، سٹی لیول کلسٹرز (میٹرو) اور "ٹرپل" ڈیٹا سینٹرز میں انضمام کے لیے تیار ہے۔

اوپر دی گئی مثال میں بائیں طرف ایک میٹرو کلسٹر ہے جو پہلے سے ہی بہت سے لوگوں کو مانوس ہے۔ دو سٹوریج سسٹم ایک دوسرے سے 100 کلومیٹر کے فاصلے پر ایکٹو/ایکٹو موڈ میں کام کرتے ہیں۔ ایک یا زیادہ کورم سرورز کے ساتھ اس طرح کے بنیادی ڈھانچے کو ہمارے FusionSphere کلاؤڈ آپریٹنگ سسٹم سمیت مختلف کمپنیوں کے حل کے ذریعے سپورٹ کیا جا سکتا ہے۔ اس طرح کے منصوبوں میں خاص اہمیت سائٹس کے درمیان چینل کی خصوصیات ہیں، ہمارے معاملے میں تمام دیگر کاموں کو HyperMetro فنکشن کے ذریعے لیا جاتا ہے، دستیاب، دوبارہ، باکس سے باہر۔ اگر ایسی ضرورت پیش آتی ہے تو فائبر چینل کے ساتھ ساتھ آئی پی نیٹ ورکس میں آئی ایس سی ایس آئی پر انٹیگریشن ممکن ہے۔ اب وقف شدہ "تاریک" آپٹکس کی لازمی موجودگی کی ضرورت نہیں ہے، کیونکہ یہ نظام موجودہ چینلز کے ذریعے بات چیت کرنے کے قابل ہے۔

اس طرح کے سسٹمز کی تعمیر کرتے وقت، سٹوریج کے لیے ہارڈ ویئر کی واحد ضرورت نقل کے لیے بندرگاہوں کا مختص کرنا ہے۔ لائسنس خریدنے، کورم سرورز چلانے کے لیے کافی ہے - فزیکل یا ورچوئل - اور کنٹرولرز کو IP کنیکٹیویٹی فراہم کرنا (10 Mbps، 50 ms)۔

اس فن تعمیر کو آسانی سے تین ڈیٹا سینٹرز والے سسٹم میں منتقل کیا جا سکتا ہے (تمثال کے دائیں جانب دیکھیں)۔ مثال کے طور پر، جب دو ڈیٹا سینٹرز میٹرو کلسٹر موڈ میں کام کرتے ہیں، اور تیسری سائٹ، جو 100 کلومیٹر سے زیادہ کے فاصلے پر واقع ہے، غیر مطابقت پذیر نقل کا استعمال کرتی ہے۔

یہ نظام تکنیکی طور پر مختلف کاروباری منظرناموں کی حمایت کرتا ہے جو بڑے پیمانے پر زیادتی کی صورت میں نافذ کیے جائیں گے۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

متعدد ناکامیوں کے ساتھ میٹرو کلسٹر کی بقا

اوپر اور نیچے ایک کلاسک میٹرو کلسٹر بھی دکھاتا ہے، جس میں دو اسٹوریج سسٹم اور ایک کورم سرور ہوتا ہے۔ جیسا کہ آپ دیکھ سکتے ہیں، متعدد ناکامیوں کے نو میں سے چھ ممکنہ منظرناموں میں، ہمارا بنیادی ڈھانچہ فعال رہے گا۔

مثال کے طور پر، دوسرے منظر نامے میں، اگر کورم سرور ناکام ہو جاتا ہے اور سائٹس کے درمیان ہم آہنگی ہو جاتی ہے، تو نظام کارآمد رہتا ہے، کیونکہ دوسری سائٹ کام کرنا بند کر دیتی ہے۔ یہ رویہ پہلے سے ہی بلٹ ان الگورتھم میں شامل ہے۔

تین ناکامیوں کے بعد بھی معلومات تک رسائی کو برقرار رکھا جا سکتا ہے اگر ان کے درمیان وقفہ کم از کم 15 سیکنڈ ہو۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

آستین سے معمول کا ٹرمپ کارڈ

یاد رہے کہ Huawei نہ صرف سٹوریج سسٹم بلکہ نیٹ ورک کے آلات کی مکمل رینج بھی تیار کرتا ہے۔ آپ جو بھی سٹوریج فراہم کنندہ منتخب کرتے ہیں، اگر سائٹس کے درمیان WDM نیٹ ورک استعمال کیا جاتا ہے، تو 90% معاملات میں یہ ہماری کمپنی کے حل پر بنایا جائے گا۔ ایک منطقی سوال پیدا ہوتا ہے: جب تمام ہارڈ ویئر جو ایک دوسرے کے ساتھ ہم آہنگ ہونے کی ضمانت دیے گئے ہیں ایک وینڈر سے حاصل کیے جاسکتے ہیں تو سسٹمز کے چڑیا گھر کو کیوں جمع کیا جائے؟

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

کارکردگی کے سوال پر

شاید، کسی کو بھی اس بات پر یقین کرنے کی ضرورت نہیں ہے کہ آل-فلیش اسٹوریج میں منتقلی بنیادی ڈھانچے کی دیکھ بھال کے اخراجات کو نمایاں طور پر کم کر سکتی ہے، کیونکہ تمام معمول کے کام کئی گنا زیادہ تیزی سے انجام پاتے ہیں۔ اس طرح کے سامان کے تمام سپلائرز اس کی گواہی دیتے ہیں۔ دریں اثنا، جب مختلف سٹوریج طریقوں کو فعال کیا جاتا ہے تو بہت سے دکاندار چالاک ہونے لگے ہیں جب کارکردگی میں کمی آتی ہے۔

ہماری صنعت میں، ایک یا دو دن کے لیے ٹیسٹ آپریشن کے لیے سٹوریج سسٹم جاری کرنے کا وسیع پیمانے پر رواج ہے۔ وینڈر ایک خالی سسٹم پر 20 منٹ کا ٹیسٹ چلاتا ہے، کائناتی کارکردگی کے اعداد و شمار حاصل کرتا ہے۔ اور حقیقی آپریشن میں، "پانی کے اندر ریک" تیزی سے رینگنے لگتے ہیں۔ ایک دن کے بعد، خوبصورت IOPS قدریں آدھے یا تین گنا کم ہو جاتی ہیں، اور اگر سٹوریج سسٹم 80% تک بھر جاتا ہے، تو وہ اس سے بھی کم نکلتے ہیں۔ جب آپ RAID 5 کے بجائے RAID 10 کو آن کرتے ہیں، تو مزید 10-15% ضائع ہو جاتا ہے، اور میٹرو کلسٹر موڈ میں، کارکردگی اضافی طور پر آدھی رہ جاتی ہے۔

اوپر درج ہر چیز ڈوراڈو V6 کے بارے میں نہیں ہے۔ ہمارے صارفین کو ہفتے کے آخر میں یا کم از کم رات بھر کارکردگی کا امتحان چلانے کا موقع ملتا ہے۔ پھر کچرا جمع کرنا خود کو ظاہر کرتا ہے، اور یہ بھی واضح ہو جاتا ہے کہ کس طرح مختلف آپشنز کی ایکٹیویشن - جیسے سنیپ شاٹس اور ریپلیکشن - حاصل شدہ IOPS کی مقدار کو متاثر کرتی ہے۔

Dorado V6 میں، برابری کے ساتھ سنیپ شاٹس اور RAID کا کارکردگی پر تقریباً کوئی اثر نہیں ہوتا ہے (3-5% کی بجائے 10-15%)۔ کوڑا اٹھانا (ڈرائیو سیلز کو زیرو سے بھرنا)، کمپریشن، سٹوریج سسٹم پر ڈپلیکیشن جو کہ 80% بھرا ہوا ہے ہمیشہ درخواست کی کارروائی کی مجموعی رفتار کو متاثر کرے گا۔ لیکن یہ Dorado V6 ہے جو اس میں دلچسپ ہے، اس سے کوئی فرق نہیں پڑتا ہے کہ آپ جو بھی افعال اور حفاظتی میکانزم کو چالو کرتے ہیں، اسٹوریج کی حتمی کارکردگی بغیر بوجھ کے حاصل کردہ اعداد و شمار کے 80% سے کم نہیں ہوگی۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

وزن کو متوازن کرنا

Dorado V6 کی اعلی کارکردگی ہر مرحلے پر توازن کے ذریعے حاصل کی جاتی ہے، یعنی:

  • ملٹی پاسنگ
  • ایک میزبان سے متعدد کنکشن استعمال کرنا؛
  • فرنٹ اینڈ فیکٹری کی دستیابی؛
  • سٹوریج کنٹرولرز کے آپریشن کے متوازی؛
  • RAID 2.0+ کی سطح پر تمام ڈرائیوز پر لوڈ ڈسٹری بیوشن۔

بنیادی طور پر، یہ ایک عام عمل ہے. ان دنوں، بہت کم لوگ تمام ڈیٹا کو ایک LUN پر رکھتے ہیں: ہر کوئی آٹھ، چالیس یا اس سے بھی زیادہ رکھنے کی کوشش کر رہا ہے۔ یہ ایک واضح اور درست طریقہ ہے، جسے ہم بانٹ رہے ہیں۔ لیکن اگر آپ کے کام کے لیے صرف ایک LUN کی ضرورت ہے، جسے برقرار رکھنا آسان ہے، تو ہمارے تعمیراتی حل اسے متعدد LUNs کے ساتھ دستیاب کارکردگی کا 80% حاصل کرنے کی اجازت دیتے ہیں۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

متحرک CPU شیڈولنگ

ایک LUN استعمال کرتے وقت پروسیسرز پر بوجھ کی تقسیم مندرجہ ذیل طریقے سے لاگو ہوتی ہے: LUN کی سطح پر کاموں کو الگ الگ چھوٹے "شارڈز" میں تقسیم کیا جاتا ہے، جن میں سے ہر ایک کو "انجن" میں ایک مخصوص کنٹرولر کو سختی سے تفویض کیا جاتا ہے۔ ایسا اس لیے کیا جاتا ہے تاکہ سسٹم مختلف کنٹرولرز میں ڈیٹا کے اس ٹکڑے کے ساتھ "چھلانگ لگاتے ہوئے" کارکردگی سے محروم نہ ہو۔

اعلی کارکردگی کو برقرار رکھنے کا ایک اور طریقہ کار متحرک شیڈولنگ ہے، جس میں پروسیسر کور کو مختلف کاموں کے لیے مختص کیا جا سکتا ہے۔ مثال کے طور پر، اگر سسٹم اب ڈیڈپلیکیشن اور کمپریشن کی سطح پر بیکار ہے، تو کچھ کور I/O کی سروسنگ کے عمل میں شامل ہو سکتے ہیں۔ یا اس کے برعکس. یہ سب کچھ خود بخود اور شفاف طریقے سے صارف کے لیے ہوتا ہے۔

Dorado V6 cores میں سے ہر ایک کے موجودہ لوڈ پر ڈیٹا گرافیکل انٹرفیس میں ظاہر نہیں ہوتا ہے، لیکن کمانڈ لائن کے ذریعے آپ کنٹرولر OS تک رسائی حاصل کر سکتے ہیں اور معمول کی لینکس کمانڈ استعمال کر سکتے ہیں۔ سب سے اوپر.

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

NVMe اور RoCE سپورٹ

جیسا کہ پہلے ہی ذکر کیا گیا ہے، Dorado V6 فی الحال NVMe کو باکس سے باہر فائبر چینل پر مکمل سپورٹ کرتا ہے اور اسے کسی لائسنس کی ضرورت نہیں ہے۔ سال کے وسط میں، ایتھرنیٹ موڈ پر NVMe کے لیے تعاون ظاہر ہوگا۔ اس کے مکمل استعمال کے لیے، آپ کو ایتھرنیٹ کے لیے براہ راست میموری تک رسائی (DMA) ورژن v2.0 کے لیے سٹوریج سسٹم اور سوئچز اور نیٹ ورک اڈاپٹر دونوں سے سپورٹ کی ضرورت ہوگی۔ مثال کے طور پر، جیسے Mellanox ConnectX-4 یا ConnectX-5۔ آپ ہماری چپس کی بنیاد پر بنائے گئے نیٹ ورک کارڈز بھی استعمال کر سکتے ہیں۔ نیز، آپریٹنگ سسٹم کی سطح پر RoCE سپورٹ کو لاگو کیا جانا چاہیے۔

مجموعی طور پر، ہم ڈوراڈو V6 کو NVMe-مرکزی نظام سمجھتے ہیں۔ فائبر چینل اور iSCSI کے لیے موجودہ تعاون کے باوجود، مستقبل میں اسے RDMA کے ساتھ تیز رفتار ایتھرنیٹ پر سوئچ کرنے کا منصوبہ ہے۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

مارکیٹنگ کی ایک چوٹکی۔

اس حقیقت کی وجہ سے کہ Dorado V6 سسٹم انتہائی خرابی برداشت کرنے والا ہے، اس کی پیمائش اچھی طرح سے ہے، مختلف مائیگریشن ٹیکنالوجیز کو سپورٹ کرتا ہے، وغیرہ، اس کے حصول کا معاشی اثر سٹوریج سسٹمز کے بہت زیادہ استعمال کے آغاز سے ظاہر ہوتا ہے۔ ہم نظام کی ملکیت کو ہر ممکن حد تک منافع بخش بنانے کی کوشش کرتے رہیں گے، چاہے پہلے مرحلے پر یہ واضح نہ ہو۔

خاص طور پر، ہم نے FLASH EVER پروگرام تشکیل دیا ہے جو سٹوریج سسٹمز کے لائف سائیکل کو بڑھانے سے منسلک ہے اور اپ گریڈ کے دوران کسٹمر کو زیادہ سے زیادہ آف لوڈ کرنے کے لیے ڈیزائن کیا گیا ہے۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

اس پروگرام میں متعدد اقدامات شامل ہیں:

  • پورے ہارڈ ویئر کو تبدیل کیے بغیر کنٹرولرز اور ڈسک شیلف کو آہستہ آہستہ نئے ورژن کے ساتھ تبدیل کرنے کی صلاحیت (Dorado V6 ہائی اینڈ سسٹمز کے لیے)؛
  • فیڈریٹڈ اسٹوریج کا امکان (ایک ہائبرڈ اسٹوریج کلسٹر کے حصے کے طور پر ڈوراڈو کے مختلف ورژن کو یکجا کرنا)؛
  • سمارٹ ورچوئلائزیشن (ڈوراڈو حل کے حصے کے طور پر تھرڈ پارٹی ہارڈویئر استعمال کرنے کی صلاحیت)۔

کیوں OceanStor Dorado V6 سب سے تیز اور قابل اعتماد اسٹوریج حل ہے۔

واضح رہے کہ دنیا کی مشکل صورتحال کا نئے نظام کے تجارتی امکانات پر بہت کم اثر پڑا ہے۔ اس حقیقت کے باوجود کہ Dorado V6 کی باضابطہ ریلیز صرف جنوری میں ہوئی تھی، ہمیں چین میں اس کی اہم مانگ کے ساتھ ساتھ مالیاتی اور سرکاری شعبوں کے روسی اور بین الاقوامی شراکت داروں کی طرف سے اس میں بڑی دلچسپی نظر آتی ہے۔

دیگر چیزوں کے علاوہ، وبائی مرض کے سلسلے میں، چاہے وہ کتنے ہی عرصے تک رہیں، دور دراز کے ملازمین کو ورچوئل ڈیسک ٹاپ فراہم کرنے کا مسئلہ خاص طور پر شدید ہے۔ اس عمل میں، Dorado V6 بہت سے سوالات کو بھی دور کر سکتا ہے۔ اس مقصد کے لیے، ہم تمام ضروری کوششیں کر رہے ہیں، بشمول VMware مطابقت کی فہرست میں نئے سسٹم کو شامل کرنے پر عملی طور پر اتفاق کرنا۔

***

ویسے، نہ صرف روسی بولنے والے طبقے میں بلکہ عالمی سطح پر بھی منعقد کیے گئے ہمارے متعدد ویبنرز کے بارے میں مت بھولنا۔ اپریل کے لیے ویبنارز کی فہرست یہاں پر دستیاب ہے۔ لنک.

ماخذ: www.habr.com

نیا تبصرہ شامل کریں