क्लाउडफ्लेयर दसवीं पीढ़ी के एज सर्वर के लिए एएमडी से प्रोसेसर चुनता है

हर दिन एक अरब से अधिक अद्वितीय आईपी पते क्लाउडफ्लेयर नेटवर्क से गुजरते हैं; यह प्रति सेकंड 11 मिलियन से अधिक HTTP अनुरोधों को पूरा करता है; वह इंटरनेट आबादी के 100% के 95 एमएस के भीतर है। हमारा नेटवर्क 200 से अधिक देशों के 90 शहरों तक फैला हुआ है, और हमारे इंजीनियरों की टीम ने बेहद तेज़ और विश्वसनीय बुनियादी ढाँचा बनाया है।

हमें अपने काम पर बहुत गर्व है और हम इंटरनेट को एक बेहतर और सुरक्षित स्थान बनाने में मदद करने के लिए प्रतिबद्ध हैं। क्लाउडफ्लेयर के हार्डवेयर इंजीनियरों को सर्वर और उनके घटकों की गहरी समझ है, ताकि वे अपने प्रदर्शन को अधिकतम करने के लिए सर्वोत्तम हार्डवेयर को समझ सकें और उसका चयन कर सकें।

हमारा सॉफ़्टवेयर स्टैक उच्च-लोड कंप्यूटिंग को संभालता है और अत्यधिक सीपीयू-निर्भर है, जिससे हमारे इंजीनियरों को स्टैक के हर स्तर पर क्लाउडफ़ेयर की दक्षता और विश्वसनीयता को लगातार अनुकूलित करने की आवश्यकता होती है। सर्वर साइड पर, प्रोसेसिंग पावर बढ़ाने का सबसे आसान तरीका सीपीयू कोर जोड़ना है। एक सर्वर में जितने अधिक कोर फिट होंगे, वह उतना अधिक डेटा संसाधित कर सकता है। यह हमारे लिए महत्वपूर्ण है क्योंकि समय के साथ हमारे उत्पादों और ग्राहकों की विविधता बढ़ रही है, और अनुरोधों की वृद्धि के लिए सर्वर से बेहतर प्रदर्शन की आवश्यकता होती है। उनके प्रदर्शन को बढ़ाने के लिए, हमें कोर के घनत्व को बढ़ाने की आवश्यकता थी - और यही हमने पूरा किया। नीचे हम उन सर्वरों के लिए प्रोसेसर पर विस्तृत डेटा प्रदान करते हैं जिन्हें हमने 2015 से तैनात किया है, जिसमें कोर की संख्या भी शामिल है:

-
Gen 6
Gen 7
Gen 8
Gen 9

प्रारंभ करना
2015
2016
2017
2018

सी पी यू
इंटेल Xeon E5-2630 v3
इंटेल Xeon E5-2630 v4
इंटेल ज़ीओन सिल्वर एक्सएनयूएमएक्स
इंटेल झियोन प्लेटिनम ८१६०

भौतिक कोर
2 एक्स 8
2 एक्स 10
2 एक्स 12
2 एक्स 24

तेदेपा
2 एक्स 85W
2 एक्स 85W
2 एक्स 85W
2 एक्स 150W

प्रति कोर टीडीपी
10.65W
8.50W
7.08W
6.25W

2018 में, हमने Gen 9 के साथ प्रति सर्वर कोर की कुल संख्या में एक बड़ी छलांग लगाई। आठवीं पीढ़ी की तुलना में पर्यावरणीय प्रभाव 33% कम हो गया है, जिससे हमें प्रति रैक वॉल्यूम और कंप्यूटिंग शक्ति बढ़ाने का अवसर मिला है। गर्मी अपव्यय के लिए डिज़ाइन आवश्यकताएँ (थर्मल डिज़ाइन पावर, टीडीपी) का उल्लेख यह उजागर करने के लिए किया गया है कि समय के साथ हमारी ऊर्जा दक्षता में भी वृद्धि हुई है। यह संकेतक हमारे लिए महत्वपूर्ण है: सबसे पहले, हम वायुमंडल में कम कार्बन उत्सर्जित करना चाहते हैं; दूसरे, हम डेटा केंद्रों से ऊर्जा का सर्वोत्तम उपयोग करना चाहते हैं। लेकिन हम जानते हैं कि हमारे पास प्रयास करने के लिए कुछ है।

हमारा मुख्य परिभाषित मीट्रिक प्रति वाट अनुरोधों की संख्या है। हम कोर जोड़कर प्रति सेकंड अनुरोधों की संख्या बढ़ा सकते हैं, लेकिन हमें अपने पावर बजट के भीतर रहना होगा। हम डेटा सेंटर पावर इंफ्रास्ट्रक्चर द्वारा सीमित हैं, जो हमारे चयनित पावर वितरण मॉड्यूल के साथ मिलकर हमें प्रत्येक सर्वर रैक के लिए एक निश्चित ऊपरी सीमा देता है। रैक में सर्वर जोड़ने से बिजली की खपत बढ़ जाती है। यदि हम प्रति-रैक ऊर्जा सीमा को पार कर जाते हैं और नए रैक जोड़ने पड़ते हैं तो परिचालन लागत काफी बढ़ जाएगी। हमें समान बिजली खपत सीमा के भीतर रहते हुए प्रसंस्करण शक्ति बढ़ाने की जरूरत है, जिससे प्रति वाट, हमारी प्रमुख मीट्रिक के लिए अनुरोध बढ़ेंगे।

जैसा कि आपने अनुमान लगाया होगा, हमने डिज़ाइन चरण में ऊर्जा खपत का सावधानीपूर्वक अध्ययन किया है। उपरोक्त तालिका से पता चलता है कि यदि प्रति कोर टीडीपी वर्तमान पीढ़ी की तुलना में अधिक है, तो हमें अधिक ऊर्जा-भूखे सीपीयू को तैनात करने में समय बर्बाद नहीं करना चाहिए - यह हमारे मीट्रिक, प्रति वाट अनुरोधों पर नकारात्मक प्रभाव डालेगा। हमने बाज़ार में अपनी पीढ़ी X के लिए रेडी-टू-रन सिस्टम का सावधानीपूर्वक अध्ययन किया और निर्णय लिया। हम अपने 48-कोर Intel Xeon प्लैटिनम 6162 डुअल-सॉकेट डिज़ाइन से 48-कोर AMD EPYC 7642 सिंगल-सॉकेट डिज़ाइन की ओर बढ़ रहे हैं।

-
इंटेल
एएमडी

सी पी यू
एक्सोन प्लेटिनम एक्सएनयूएमएक्स
EPYC 7642

माइक्रोआर्किटेक्चर
"स्काईलेक"
"ज़ेन 2"

कोड का नाम
स्काईलेक एसपी
"रोम"

तकनीकी प्रक्रिया
14nm
7nm

कोर
2 एक्स 24
48

आवृत्ति
1.9 गीगा
2.4 गीगा

L3 कैश/सॉकेट
24 x 1.375MiB
16 x 16MiB

मेमोरी/सॉकेट
6 चैनल, DDR4-2400 तक
8 चैनल, DDR4-3200 तक

तेदेपा
2 एक्स 150W
225W

पीसीआईई/सॉकेट
48 लेन
128 लेन

ईसा
x86-64
x86-64

विशिष्टताओं से यह स्पष्ट है कि एएमडी की चिप हमें टीडीपी को कम करते हुए समान संख्या में कोर रखने की अनुमति देगी। 9वीं पीढ़ी में प्रति कोर टीडीपी 6,25 वॉट थी, और दसवीं पीढ़ी में यह 4,69 वॉट होगी। 25% की कमी। बढ़ी हुई आवृत्ति और शायद एक सॉकेट के साथ एक सरल डिज़ाइन के लिए धन्यवाद, यह माना जा सकता है कि एएमडी चिप व्यवहार में बेहतर प्रदर्शन करेगी। हम वर्तमान में यह देखने के लिए विभिन्न परीक्षण और सिमुलेशन चला रहे हैं कि एएमडी कितना बेहतर प्रदर्शन करेगा।

अभी के लिए, आइए ध्यान दें कि टीडीपी निर्माता के विनिर्देशों से एक सरलीकृत मीट्रिक है, जिसका उपयोग हमने सर्वर डिज़ाइन और सीपीयू चयन के शुरुआती चरणों में किया था। एक त्वरित Google खोज से पता चलता है कि एएमडी और इंटेल के पास टीडीपी को परिभाषित करने के लिए अलग-अलग दृष्टिकोण हैं, जिससे विनिर्देश अविश्वसनीय हो जाते हैं। वास्तविक सीपीयू बिजली की खपत, और अधिक महत्वपूर्ण रूप से सर्वर बिजली की खपत, वह है जिसे हम अपना अंतिम निर्णय लेते समय वास्तव में उपयोग करते हैं।

पारिस्थितिकी तंत्र की तैयारी

अपना अगला प्रोसेसर चुनने की यात्रा शुरू करने के लिए, हमने विभिन्न निर्माताओं के सीपीयू की एक विस्तृत श्रृंखला को देखा जो हमारे सॉफ़्टवेयर स्टैक और सेवाओं (सी, लुआजिट और गो में लिखित) के लिए उपयुक्त थे। हम पहले ही गति मापने के लिए उपकरणों के एक सेट का विस्तार से वर्णन कर चुके हैं हमारे ब्लॉग लेखों में से एक में. इस मामले में, हमने उसी सेट का उपयोग किया - यह हमें उचित समय में सीपीयू की दक्षता का मूल्यांकन करने की अनुमति देता है, जिसके बाद हमारे इंजीनियर हमारे प्रोग्राम को एक विशिष्ट प्रोसेसर के लिए अनुकूलित करना शुरू कर सकते हैं।

हमने विभिन्न कोर गणनाओं, सॉकेट गणनाओं और आवृत्तियों के साथ विभिन्न प्रकार के प्रोसेसर का परीक्षण किया। चूँकि यह लेख इस बारे में है कि हमने AMD EPYC 7642 पर निर्णय क्यों लिया, इस ब्लॉग के सभी चार्ट इस बात पर ध्यान केंद्रित करते हैं कि AMD प्रोसेसर Intel Xeon प्लैटिनम 6162 की तुलना में कैसा प्रदर्शन करते हैं। हमारी 9वीं पीढ़ी.

परिणाम प्रत्येक प्रोसेसर संस्करण के साथ एक सर्वर के माप के अनुरूप हैं - यानी, इंटेल से दो 24-कोर प्रोसेसर के साथ, या एएमडी से एक 48-कोर प्रोसेसर के साथ (दो सॉकेट के साथ इंटेल के लिए सर्वर और एक के साथ एएमडी ईपीवाईसी के लिए सर्वर) . BIOS में हम चल रहे सर्वर के अनुरूप पैरामीटर सेट करते हैं। यह AMD के लिए 3,03 GHz और Intel के लिए 2,5 GHz है। बहुत अधिक सरलीकरण करते हुए, हम उम्मीद करते हैं कि समान संख्या में कोर के साथ, एएमडी इंटेल की तुलना में 21% बेहतर प्रदर्शन करेगा।

क्रिप्टोग्राफी

एएमडी के लिए आशाजनक लग रहा है। यह सार्वजनिक कुंजी क्रिप्टोग्राफी पर 18% बेहतर प्रदर्शन करता है। एक सममित कुंजी के साथ, यह AES-128-GCM एन्क्रिप्शन विकल्पों को खो देता है, लेकिन कुल मिलाकर तुलनीय प्रदर्शन करता है।

दबाव

एज सर्वर पर, हम बैंडविड्थ बचाने और सामग्री वितरण की गति बढ़ाने के लिए बहुत सारे डेटा को संपीड़ित करते हैं। हम डेटा को C लाइब्रेरीज़ zlib और brotli के माध्यम से पास करते हैं। सभी परीक्षण स्मृति में blog.cloudflare.com HTML फ़ाइल पर चलाए गए थे।

Gzip का उपयोग करते समय AMD ने औसतन 29% की जीत हासिल की। ब्रोटली के मामले में, गुणवत्ता 7 वाले परीक्षणों पर परिणाम और भी बेहतर हैं, जिनका उपयोग हम गतिशील संपीड़न के लिए करते हैं। ब्रॉटली-9 परीक्षण में भारी गिरावट आई है - हम इसे इस तथ्य से समझाते हैं कि ब्रॉटली बहुत अधिक मेमोरी की खपत करता है और कैश को ओवरफ्लो कर देता है। हालाँकि, AMD बड़े अंतर से जीत गया।

हमारी कई सेवाएँ गो में लिखी गई हैं। निम्नलिखित ग्राफ़ में, हम स्ट्रिंग्स लाइब्रेरी का उपयोग करके 32 केबी लाइनों पर रेगएक्सपी के साथ गो में क्रिप्टोग्राफी और संपीड़न की गति को दोबारा जांचते हैं।

क्रिप्टोग्राफी जाओ

संपीड़न जाओ

रेगेक्सप पर जाएं

गो स्ट्रिंग्स

ईसीडीएसए पी256 साइन को छोड़कर गो के साथ सभी परीक्षणों में एएमडी बेहतर प्रदर्शन करता है, जहां यह 38% पीछे था - जो अजीब है, यह देखते हुए कि इसने सी में 24% बेहतर प्रदर्शन किया। यह पता लगाने लायक है कि वहां क्या हो रहा है। कुल मिलाकर, एएमडी ज्यादा जीत नहीं पाता है, लेकिन फिर भी सर्वोत्तम परिणाम दिखाता है।

लुआजीत

हम अक्सर स्टैक पर LuaJIT का उपयोग करते हैं। यह वह गोंद है जो क्लाउडफ्लेयर के सभी हिस्सों को एक साथ रखता है। और हमें खुशी है कि एएमडी ने यहां भी जीत हासिल की।

कुल मिलाकर, परीक्षणों से पता चलता है कि EPYC 7642 दो Xeon प्लैटिनम 6162 से बेहतर प्रदर्शन करता है। AMD कुछ परीक्षणों में हार जाता है - उदाहरण के लिए, AES-128-GCM और Go OpenSSL ECDSA-P256 साइन - लेकिन अन्य सभी पर औसतन जीत हासिल करता है 25% का.

कार्यभार सिमुलेशन

हमारे त्वरित परीक्षणों के बाद, हमने सर्वरों को सिमुलेशन के दूसरे सेट के माध्यम से चलाया जिसमें सॉफ़्टवेयर एज स्टैक पर एक सिंथेटिक लोड लागू किया जाता है। यहां हम विभिन्न प्रकार के अनुरोधों के साथ एक परिदृश्य कार्यभार का अनुकरण करते हैं जिनका वास्तविक कार्य में सामना किया जा सकता है। अनुरोध डेटा वॉल्यूम, HTTP या HTTPS प्रोटोकॉल, WAF स्रोत, वर्कर्स और अन्य कई चर में भिन्न होते हैं। नीचे उन अनुरोधों के प्रकारों के लिए दो सीपीयू के थ्रूपुट की तुलना की गई है जिनका हम अक्सर सामना करते हैं।

चार्ट में परिणाम 9वीं पीढ़ी के इंटेल-आधारित मशीनों की आधार रेखा के विरुद्ध मापा जाता है, जिसे एक्स-अक्ष पर 1,0 के मान पर सामान्यीकृत किया जाता है। उदाहरण के लिए, HTTPS पर सरल 10 KiB अनुरोधों को लेते हुए, हम देख सकते हैं कि AMD प्रति सेकंड अनुरोधों के मामले में Intel से 1,5 गुना बेहतर प्रदर्शन करता है। औसतन, एएमडी ने इन परीक्षणों के लिए इंटेल से 34% बेहतर प्रदर्शन किया। यह देखते हुए कि एक AMD EPYC 7642 के लिए TDP 225 W है, और दो Intel प्रोसेसर के लिए 300 W है, यह पता चलता है कि "प्रति वाट अनुरोध" के संदर्भ में AMD Intel की तुलना में 2 गुना बेहतर परिणाम दिखाता है!

इस बिंदु पर, हम पहले से ही अपने भविष्य के जेन एक्स सीपीयू के रूप में एएमडी ईपीवाईसी 7642 के लिए सिंगल सॉकेट विकल्प की ओर स्पष्ट रूप से झुकाव कर रहे थे। हम यह देखने में बहुत रुचि रखते थे कि एएमडी ईपीवाईसी सर्वर वास्तविक दुनिया में कैसा प्रदर्शन करेंगे, और हमने तुरंत कई भेजे डेटा केंद्रों से कुछ के लिए सर्वर।

असली काम

पहला कदम, स्वाभाविक रूप से, सर्वरों को वास्तविक परिस्थितियों में काम करने के लिए तैयार करना था। हमारे बेड़े की सभी मशीनें समान प्रक्रियाओं और सेवाओं के साथ काम करती हैं, जो प्रदर्शन की सही तुलना करने का उत्कृष्ट अवसर प्रदान करती हैं। अधिकांश डेटा केंद्रों की तरह, हमारे पास सर्वरों की कई पीढ़ियाँ तैनात हैं, और हम अपने सर्वरों को समूहों में एकत्रित करते हैं ताकि प्रत्येक वर्ग में लगभग समान पीढ़ियों के सर्वर हों। कुछ मामलों में, इसके परिणामस्वरूप पुनर्चक्रण वक्र हो सकते हैं जो समूहों के बीच भिन्न होते हैं। लेकिन हमारे साथ नहीं. हमारे इंजीनियरों ने सभी पीढ़ियों के लिए सीपीयू उपयोग को अनुकूलित किया है ताकि चाहे किसी विशेष मशीन के सीपीयू में 8 कोर हों या 24, सीपीयू का उपयोग आम तौर पर बाकी के समान ही होता है।

ग्राफ़ उपयोग की समानता पर हमारी टिप्पणी को दर्शाता है - जेन एक्स पीढ़ी के सर्वर में एएमडी सीपीयू के उपयोग और जेन 9 पीढ़ी के सर्वर में इंटेल प्रोसेसर के उपयोग के बीच कोई महत्वपूर्ण अंतर नहीं है। इसका मतलब है कि परीक्षण और बेसलाइन सर्वर दोनों समान रूप से लोड किए गए हैं . महान। यह वही है जिसके लिए हम अपने सर्वर में प्रयास करते हैं, और निष्पक्ष तुलना के लिए हमें इसकी आवश्यकता है। नीचे दिए गए दो ग्राफ़ एक सीपीयू कोर और सर्वर स्तर पर सभी कोर द्वारा संसाधित अनुरोधों की संख्या दिखाते हैं।

प्रति कोर अनुरोध

सर्वर से अनुरोध

यह देखा जा सकता है कि AMD औसतन 23% अधिक अनुरोधों को संसाधित करता है। बिल्कुल बुरा नही! हमने अक्सर अपने ब्लॉग पर Gen 9 के प्रदर्शन को बढ़ाने के तरीकों के बारे में लिखा है। और अब हमारे पास समान संख्या में कोर हैं, लेकिन AMD कम शक्ति के साथ अधिक काम करता है। कोर और टीडीपी की संख्या के विनिर्देशों से यह तुरंत स्पष्ट है कि एएमडी अधिक ऊर्जा दक्षता के साथ अधिक गति प्रदान करता है।

लेकिन जैसा कि हमने पहले ही उल्लेख किया है, टीडीपी एक मानक विनिर्देश नहीं है और यह सभी निर्माताओं के लिए समान नहीं है, तो आइए वास्तविक ऊर्जा उपयोग को देखें। प्रति सेकंड अनुरोधों की संख्या के समानांतर सर्वर की ऊर्जा खपत को मापकर, हमने निम्नलिखित ग्राफ प्राप्त किया:

प्रति सेकंड प्रति वाट खर्च किए गए अनुरोधों के आधार पर, एएमडी प्रोसेसर पर चलने वाले जेन एक्स सर्वर 28% अधिक कुशल हैं। कोई और अधिक उम्मीद कर सकता है, यह देखते हुए कि एएमडी का टीडीपी 25% कम है, लेकिन यह याद रखना चाहिए कि टीडीपी एक अस्पष्ट विशेषता है। हमने देखा है कि एएमडी की वास्तविक बिजली खपत आधार से कहीं अधिक आवृत्तियों पर बताई गई टीडीपी के लगभग समान है; इंटेल के पास वह नहीं है। यह एक और कारण है कि टीडीपी ऊर्जा खपत का विश्वसनीय अनुमान नहीं है। हमारे जेन 9 सर्वर में इंटेल के सीपीयू एक मल्टी-नोड सिस्टम में एकीकृत हैं, जबकि एएमडी के सीपीयू मानक 1यू फॉर्म फैक्टर सर्वर में काम करते हैं। यह एएमडी के पक्ष में नहीं है, क्योंकि मल्टीनोड सर्वर को प्रति नोड कम बिजली खपत के साथ अधिक घनत्व प्रदान करना चाहिए, लेकिन प्रति नोड बिजली खपत के मामले में एएमडी ने अभी भी इंटेल को पीछे छोड़ दिया है।

विशिष्टताओं, परीक्षण सिमुलेशन और वास्तविक दुनिया के प्रदर्शन में अधिकांश तुलनाओं में, 1P AMD EPYC 7642 कॉन्फ़िगरेशन ने 2P Intel Xeon 6162 की तुलना में काफी बेहतर प्रदर्शन किया। कुछ स्थितियों में, AMD 36% तक बेहतर प्रदर्शन कर सकता है, और हमारा मानना ​​है कि अनुकूलन करके हार्डवेयर और सॉफ्टवेयर, हम निरंतर आधार पर यह सुधार हासिल कर सकते हैं।

यह पता चला कि एएमडी जीत गया।

अतिरिक्त ग्राफ़ 99 घंटे की अवधि में एनजीआईएनएक्स चलाने वाली औसत विलंबता और पी24 विलंबता दिखाते हैं। औसतन, AMD पर प्रक्रियाएँ 25% तेजी से चलती हैं। पी99 पर यह दिन के समय के आधार पर 20-50% तेज चलता है।

निष्कर्ष

क्लाउडफ्लेयर के हार्डवेयर और परफॉर्मेंस इंजीनियर हमारे ग्राहकों के लिए सर्वोत्तम सर्वर कॉन्फ़िगरेशन निर्धारित करने के लिए महत्वपूर्ण मात्रा में परीक्षण और शोध करते हैं। हमें यहां काम करना पसंद है क्योंकि हम इस तरह की बड़ी समस्याओं को हल कर सकते हैं, और हम सर्वर रहित एज कंप्यूटिंग जैसी सेवाओं और मैजिक ट्रांजिट, आर्गो टनल और डीडीओएस सुरक्षा जैसे सुरक्षा समाधानों की एक श्रृंखला के साथ आपकी समस्याओं को हल करने में आपकी मदद कर सकते हैं। क्लाउडफ़ेयर नेटवर्क में सभी सर्वर विश्वसनीय रूप से प्रदर्शन करने के लिए कॉन्फ़िगर किए गए हैं, और हम हमेशा प्रत्येक अगली पीढ़ी के सर्वर को पिछली पीढ़ी से बेहतर बनाने का प्रयास कर रहे हैं। हमारा मानना ​​है कि जब जेन एक्स प्रोसेसर की बात आती है तो AMD EPYC 7642 इसका उत्तर है।

क्लाउडफ्लेयर वर्कर्स का उपयोग करके, डेवलपर्स दुनिया भर में हमारे विस्तारित नेटवर्क पर अपने एप्लिकेशन तैनात करते हैं। हमें गर्व है कि हम अपने ग्राहकों को कोड लिखने पर ध्यान केंद्रित करने देते हैं जबकि हम क्लाउड में सुरक्षा और विश्वसनीयता पर ध्यान केंद्रित करते हैं। और आज हमें यह घोषणा करते हुए और भी खुशी हो रही है कि उनका काम दूसरी पीढ़ी के एएमडी ईपीवाईसी प्रोसेसर पर चलने वाले हमारे जेन एक्स पीढ़ी के सर्वर पर तैनात किया जाएगा।

EPYC 7642 प्रोसेसर, कोडनेम "रोम" [रोम]

AMD के EPYC 7642 का उपयोग करके, हम अपना प्रदर्शन बढ़ाने और नए शहरों में अपने नेटवर्क का विस्तार करना आसान बनाने में सक्षम थे। रोम एक दिन में नहीं बना, लेकिन जल्द ही यह आप में से कई लोगों के करीब होगा।

पिछले कुछ वर्षों में हम Intel और AMD के कई x86 चिप्स के साथ-साथ ARM के प्रोसेसर के साथ प्रयोग कर रहे हैं। हम उम्मीद करते हैं कि ये सीपीयू निर्माता भविष्य में भी हमारे साथ काम करना जारी रखेंगे ताकि हम सब मिलकर एक बेहतर इंटरनेट बना सकें।

स्रोत: www.habr.com