Bidh còrr air billean seòladh IP sònraichte a’ dol tro Lìonra Cloudflare a h-uile latha; bidh e a’ frithealadh còrr air 11 millean iarrtas HTTP gach diog; tha i taobh a-staigh 100ms de 95% de shluagh an eadar-lìn. Tha an lìonra againn a’ dol thairis air bailtean-mòra 200 ann an còrr air 90 dùthaich, agus tha an sgioba innleadairean againn air bun-structar air leth luath agus earbsach a thogail.
Tha sinn moiteil às ar n-obair agus tha sinn dealasach a thaobh cuideachadh gus an eadar-lìon a dhèanamh na àite nas fheàrr agus nas sàbhailte. Tha tuigse dhomhainn aig innleadairean bathar-cruaidh Cloudflare air frithealaichean agus na co-phàirtean aca gus am bathar-cruaidh as fheàrr a thuigsinn agus a thaghadh gus a choileanadh a mheudachadh.
Bidh an stac bathar-bog againn a’ làimhseachadh coimpiutaireachd làn luchd agus tha e gu mòr an urra ri CPU, ag iarraidh air ar n-innleadairean an-còmhnaidh èifeachdas agus earbsachd Cloudflare a bharrachadh aig gach ìre den chruach. Air taobh an fhrithealaiche, is e an dòigh as fhasa air cumhachd giollachd àrdachadh le bhith a’ cur coraichean CPU ris. Mar as motha de choraichean as urrainn do fhrithealaiche a bhith iomchaidh, is ann as motha de dhàta as urrainn dha a phròiseasadh. Tha seo cudromach dhuinn leis gu bheil am measgachadh de thoraidhean agus de ar teachdaichean a’ fàs thar ùine, agus tha fàs iarrtasan a’ feumachdainn barrachd coileanaidh bho luchd-frithealaidh. Gus an coileanadh àrdachadh, dh'fheumadh sinn dùmhlachd nan coraichean àrdachadh - agus is e seo dìreach a choilean sinn. Gu h-ìosal bheir sinn seachad dàta mionaideach air pròiseasairean airson na frithealaichean a tha sinn air a bhith a’ cleachdadh bho 2015, a’ toirt a-steach an àireamh de choraichean:
-
Gen 6
Gen 7
Gen 8
Gen 9
Getting Started
2015
2016
2017
2018
CPU
Intel Xeon E5-2630 v3
Intel Xeon E5-2630 v4
Intel Xeon Silver 4116
Platinum Intel Xeon 6162
Coimeas corporra
2 x 8
2 x 10
2 x 12
2 x 24
TDP
2 x 85W
2 x 85W
2 x 85W
2 x 150W
TDP gach cridhe
10.65W
8.50W
7.08W
6.25W
Ann an 2018, rinn sinn leum mòr anns an àireamh iomlan de choraichean gach frithealaiche le Gen 9. Chaidh a’ bhuaidh àrainneachdail a lùghdachadh 33% an taca ris an 8mh ginealach, a’ toirt cothrom dhuinn meud agus cumhachd coimpiutaireachd a mheudachadh gach raca. Riatanasan dealbhaidh airson sgaoileadh teas (, TDP) gus sealltainn gu bheil ar n-èifeachdas lùtha air a dhol suas thar ùine. Tha an comharra seo cudromach dhuinne: an toiseach, tha sinn airson nas lugha de ghualain a chuir a-mach dhan àile; san dàrna h-àite, tha sinn airson am feum as fheàrr a dhèanamh den lùth bho na h-ionadan dàta. Ach tha fios againn gu bheil rudeigin againn ri strì.
Is e ar prìomh mheatrach mìneachaidh an àireamh de dh’ iarrtasan gach watt. Is urrainn dhuinn an àireamh de dh’ iarrtasan gach diog àrdachadh le bhith a’ cur coraichean ris, ach feumaidh sinn fuireach taobh a-staigh ar buidseit cumhachd. Tha sinn cuingealaichte le bun-structar cumhachd an ionaid dàta, a tha, còmhla ris na modalan cuairteachaidh cumhachd taghte againn, a’ toirt dhuinn crìoch àrd sònraichte airson gach raca frithealaiche. Le bhith a’ cur luchd-frithealaidh ri raca a’ meudachadh caitheamh cumhachd. Meudaichidh cosgaisean obrachaidh gu mòr ma thèid sinn thairis air a’ chrìoch lùtha per-raic agus gum feum sinn racaichean ùra a chuir ris. Feumaidh sinn cumhachd giollachd àrdachadh fhad ‘s a chumas sinn taobh a-staigh an aon raon caitheamh cumhachd, a mheudaicheas iarrtasan gach watt, ar prìomh mheatrach.
Mar is dòcha gu robh thu air smaoineachadh, rinn sinn sgrùdadh faiceallach air caitheamh lùtha aig ìre dealbhaidh. Tha an clàr gu h-àrd a’ sealltainn nach bu chòir dhuinn ùine a chaitheamh a’ cleachdadh barrachd CPUan acrach le lùth ma tha an TDP gach cridhe nas àirde na an ginealach gnàthach - bheir seo droch bhuaidh air na h-iarrtasan meatrach againn gach watt. Rinn sinn sgrùdadh faiceallach air na siostaman deiseil airson ar ginealach X air a’ mhargaidh agus rinn sinn co-dhùnadh. Tha sinn a’ gluasad bhon dealbhadh socaid dùbailte 48-cridhe Intel Xeon Platinum 6162 againn gu dealbhadh aon-socaid 48-cridhe AMD EPYC 7642.
-
Intel
AMD
CPU
Platinum Xeon 6162
EPYC 7642
Microarchitecture
"Skylake"
"Zen 2"
Codename
Skylake SP
"An Ròimh"
Pròiseas teicnigeach
14nm
7nm
coraichean
2 x 24
48
Gu tric
1.9 GHz
2.4 GHz
L3 tasgadan / socaid
24 x 1.375MiB
16 x 16MiB
Cuimhne/socaid
6 seanalan, suas gu DDR4-2400
8 seanalan, suas gu DDR4-3200
TDP
2 x 150W
225W
PCIe / socaid
48 lann
128 lann
ISA
x86-64
x86-64
Bho na mion-chomharrachaidhean tha e soilleir gun leig a’ chip bho AMD leinn an aon àireamh de choraichean a chumail fhad ‘s a tha sinn a’ lughdachadh an TDP. Bha TDP gach cridhe de 9 W aig an 6,25mh ginealach, agus an Xmh ginealach bidh e 4,69 W. Lùghdachadh le 25%. Mar thoradh air an àrdachadh tricead, agus is dòcha dealbhadh nas sìmplidh le aon socaid, faodar gabhail ris gum bi a ’chip AMD a’ coileanadh nas fheàrr ann an cleachdadh. Tha sinn an-dràsta a’ ruith diofar dheuchainnean agus atharrais gus faicinn dè cho math sa choileanas AMD.
Airson a-nis, bheir sinn an aire gu bheil TDP na mheatrach nas sìmplidhe bho shònrachaidhean an neach-dèanamh, a chleachd sinn anns na tràth ìrean de dhealbhadh frithealaiche agus taghadh CPU. Tha sgrùdadh sgiobalta Google a’ nochdadh gu bheil dòighean eadar-dhealaichte aig AMD agus Intel airson TDP a mhìneachadh, a’ dèanamh an sònrachadh neo-earbsach. Is e fìor chaitheamh cumhachd CPU, agus nas cudromaiche caitheamh cumhachd frithealaiche, na bhios sinn a’ cleachdadh gu fìor nuair a nì sinn ar co-dhùnadh deireannach.
Ullachadh eag-shiostam
Gus tòiseachadh air ar turas gu bhith a’ taghadh an ath phròiseasar againn, choimhead sinn air raon farsaing de CPUan bho luchd-saothrachaidh eadar-dhealaichte a bha gu math iomchaidh airson ar stac bathar-bog agus seirbheisean (sgrìobhte ann an C, LuaJIT agus Go). Tha sinn mu thràth air cunntas mionaideach a thoirt air seata innealan airson astar a thomhas . Anns a ’chùis seo, chleachd sinn an aon sheata - leigidh e leinn èifeachdas an CPU a mheasadh ann an ùine reusanta, às deidh sin faodaidh na h-innleadairean againn tòiseachadh air na prògraman againn atharrachadh gu pròiseasar sònraichte.
Rinn sinn deuchainn air grunn phròiseasan le measgachadh de phrìomh chunntasan, cunntadh socaid, agus tricead. Leis gu bheil an artaigil seo mu dheidhinn carson a shocraich sinn air an AMD EPYC 7642, tha a h-uile clàr sa bhlog seo a ’cuimseachadh air mar a bhios pròiseasairean AMD a’ coileanadh an coimeas ris an Intel Xeon Platinum 6162 bho .
Tha na toraidhean a rèir tomhas aon fhrithealaiche le gach caochladh pròiseasar - is e sin, le dà phròiseasar 24-core bho Intel, no le aon phròiseasar 48-core bho AMD (frithealaiche airson Intel le dà socaid agus frithealaiche airson AMD EPYC le aon) . Anns an BIOS shuidhich sinn na paramadairean a tha co-chosmhail ris na frithealaichean ruith. Is e seo 3,03 GHz airson AMD agus 2,5 GHz airson Intel. A’ dèanamh sìmpleachadh mòr, tha sinn an dùil, leis an aon àireamh de choraichean, gun dèan AMD 21% nas fheàrr na Intel.
Crioptaireachd
A ’coimhead gealltanach airson AMD. Bidh e a’ coileanadh 18% nas fheàrr air crioptachadh iuchrach poblach. Le iuchair cho-chothromach, bidh e a’ call airson na roghainnean crioptachaidh AES-128-GCM, ach gu h-iomlan a’ coileanadh coimeasach.
Compression
Air frithealaichean iomaill, bidh sinn a’ teannachadh tòrr dàta gus sàbhaladh air leud-bann agus àrdachadh astar lìbhrigeadh susbaint. Bidh sinn a’ dol seachad air an dàta tro leabharlannan C zlib agus brotli. Chaidh a h-uile deuchainn a ruith air faidhle HTML blog.cloudflare.com mar chuimhneachan.
Bhuannaich AMD cuibheasachd de 29% nuair a bha e a’ cleachdadh gzip. A thaobh brotli, tha na toraidhean eadhon nas fheàrr air deuchainnean le càileachd 7, a bhios sinn a’ cleachdadh airson teannachadh fiùghantach. Air an deuchainn brotli-9 tha tuiteam geur - bidh sinn a’ mìneachadh seo leis gu bheil Brotli ag ithe tòrr cuimhne agus a’ cur thairis air an tasgadan. Ach, bidh AMD a’ buannachadh le iomall mòr.
Tha mòran de na seirbheisean againn sgrìobhte ann an Go. Anns na grafaichean a leanas, bidh sinn a’ dèanamh sgrùdadh dùbailte air astar cryptography agus teannachadh ann an Go with RegExp air loidhnichean 32 KB a’ cleachdadh an leabharlann sreang.
Rach gu cryptography
Rach compression
Rach gu Regexp
Rach Strings
Bidh AMD a’ coileanadh nas fheàrr anns a h-uile deuchainn le Go ach a-mhàin ECDSA P256 Sign, far an robh e 38% air dheireadh - rud a tha neònach, leis gun do rinn e 24% nas fheàrr ann an C. Is fhiach faighinn a-mach dè a tha a’ dol an sin. Gu h-iomlan, chan eil AMD a 'buannachadh mòran, ach tha e fhathast a' sealltainn nan toraidhean as fheàrr.
LuaJIT
Bidh sinn tric a’ cleachdadh LuaJIT air a’ chruaich. Is e seo an glaodh a chumas a h-uile pàirt de Cloudflare còmhla. Agus tha sinn toilichte gun do bhuannaich AMD an seo cuideachd.
Gu h-iomlan, tha na deuchainnean a 'sealltainn gu bheil an EPYC 7642 a' coileanadh nas fheàrr na dà Xeon Platinum 6162. AMD a 'call air deuchainn no dhà - mar eisimpleir, AES-128-GCM agus Go OpenSSL ECDSA-P256 Sign - ach a' buannachadh air a h-uile càil eile, gu cuibheasach de 25%.
Samhlachadh uallach obrach
Às deidh na deuchainnean sgiobalta againn, ruith sinn na frithealaichean tro sheata eile de shamhlaidhean anns a bheil luchd synthetigeach air a chuir a-steach don chruach iomall bathar-bog. An seo bidh sinn a ’dèanamh atharrais air eallach obrach suidheachadh le diofar sheòrsaichean iarrtasan a dh’ fhaodar a choinneachadh ann an obair fhìor. Bidh iarrtasan ag atharrachadh a thaobh meud dàta, protocolaidhean HTTP no HTTPS, stòran WAF, Luchd-obrach, agus mòran chaochladairean eile. Gu h-ìosal tha coimeas eadar trochur an dà CPU airson na seòrsaichean iarrtasan a choinnicheas sinn as trice.
Tha na toraidhean sa chairt air an tomhas a rèir bun-loidhne innealan 9mh ginealach stèidhichte air Intel, àbhaisteach gu luach 1,0 air an x-axis. Mar eisimpleir, a’ gabhail iarrtasan sìmplidh 10 KiB thairis air HTTPS, chì sinn gu bheil AMD a’ dèanamh 1,5 uair nas fheàrr na Intel a thaobh iarrtasan gach diog. Gu cuibheasach, rinn AMD 34% nas fheàrr na Intel airson nan deuchainnean sin. Leis gur e 7642 W an TDP airson aon AMD EPYC 225, agus airson dà phròiseasar Intel tha 300 W, tha e a’ tionndadh a-mach, a thaobh “iarrtasan gach watt” tha AMD a’ sealltainn toraidhean 2 uair nas fheàrr na Intel!
Aig an ìre seo, bha sinn mar-thà gu soilleir a’ lùbadh a dh’ionnsaigh an roghainn socaid shingilte airson an AMD EPYC 7642 mar na CPUan Gen X againn san àm ri teachd. frithealaichean gu cuid bho ionadan dàta.
Fìor obair
B ’e a’ chiad cheum, gu nàdarra, na frithealaichean ullachadh airson obair ann an suidheachaidhean fìor. Bidh a h-uile inneal sa chabhlach againn ag obair leis na h-aon phròiseasan agus seirbheisean, a tha a’ toirt cothrom math coimeas a dhèanamh eadar coileanadh. Mar a’ mhòr-chuid de ionadan dàta, tha grunn ghinealaichean de luchd-frithealaidh againn air an cleachdadh, agus bidh sinn a’ tional ar frithealaichean ann an cruinneachaidhean gus am bi frithealaichean timcheall air na h-aon ghinealaichean anns gach clas. Ann an cuid de chùisean, dh’ fhaodadh seo leantainn gu lùban ath-chuairteachaidh a tha eadar-dhealaichte eadar buidhnean. Ach chan ann leinn. Tha na h-innleadairean againn air cleachdadh CPU as fheàrr a dhèanamh airson a h-uile ginealach gus am bi cleachdadh CPU mar as trice co-ionann ris a’ chòrr, ge bith a bheil 8 cores no 24 aig CPU inneal sònraichte.
Tha an graf a’ sealltainn ar beachd air cho coltach ‘s a tha cleachdadh - chan eil eadar-dhealachadh mòr eadar cleachdadh CPUan AMD ann an frithealaichean ginealach Gen X agus cleachdadh pròiseasairean Intel ann an frithealaichean ginealach Gen 9. Tha seo a’ ciallachadh gu bheil an dà chuid frithealaichean deuchainn agus bun-loidhne air an luchdachadh gu co-ionann. . Sgoinneil. Is e seo dìreach a bhios sinn a’ strì air a shon nar frithealaichean, agus feumaidh sinn seo airson coimeas cothromach. Tha an dà ghraf gu h-ìosal a’ sealltainn an àireamh de dh’iarrtasan air an giullachd le aon chridhe CPU agus a h-uile cores aig ìre an fhrithealaiche.
Iarrtasan airson gach cridhe
Iarrtasan chun an fhrithealaiche
Chithear gu bheil AMD gu cuibheasach a’ pròiseasadh 23% barrachd iarrtasan. Nach dona idir! Tha sinn gu tric air sgrìobhadh air ar blog mu dhòighean air coileanadh Gen 9 a mheudachadh. Agus a-nis tha an aon àireamh de choraichean againn, ach bidh AMD a ’dèanamh barrachd obrach le nas lugha de chumhachd. Tha e soilleir sa bhad bho na mion-chomharrachadh airson an àireamh de choraichean agus TDP gu bheil AMD a’ toirt seachad astar nas luaithe le barrachd èifeachdais lùtha.
Ach mar a thuirt sinn mu thràth, chan e sònrachadh àbhaisteach a th’ ann an TDP agus chan eil e an aon rud airson a h-uile neach-saothrachaidh, mar sin leig dhuinn sùil a thoirt air an fhìor chleachdadh lùtha. Le bhith a’ tomhas caitheamh lùtha an fhrithealaiche ann an co-shìnte ris an àireamh de dh’ iarrtasan gach diog, fhuair sinn an graf a leanas:
Stèidhichte air iarrtasan gach diog gach watt a chaidh a chaitheamh, tha frithealaichean Gen X a tha a’ ruith air pròiseasairean AMD 28% nas èifeachdaiche. Dh’ fhaodadh dùil a bhith aig barrachd, leis gu bheil TDP AMD 25% nas ìsle, ach bu chòir cuimhneachadh gur e feart teagmhach a th’ ann an TDP. Tha sinn air faicinn gu bheil fìor chaitheamh cumhachd AMD cha mhòr co-ionann ris an TDP ainmichte aig triceadan mòran nas àirde na a’ bhunait; Chan eil sin aig Intel. Is e seo adhbhar eile nach eil TDP na tuairmse earbsach air caitheamh lùtha. Tha CPUan bho Intel anns na frithealaichean Gen 9 againn air am filleadh a-steach do shiostam ioma-nòd, fhad ‘s a bhios CPUan bho AMD ag obair ann am frithealaichean àbhaisteach foirm 1U. Chan eil seo airson AMD, oir bu chòir do luchd-frithealaidh multinode barrachd dùmhlachd a thoirt seachad le nas lugha de chaitheamh cumhachd gach nód, ach bha AMD fhathast a’ dol seachad air Intel a thaobh caitheamh cumhachd gach nód.
Anns a’ mhòr-chuid de choimeasan thar specs, samhlaidhean deuchainn, agus coileanadh san t-saoghal fhìor, rinn an rèiteachadh 1P AMD EPYC 7642 gu math nas fheàrr na an 2P Intel Xeon 6162. Ann an cuid de shuidheachaidhean, faodaidh AMD coileanadh suas ri 36% nas fheàrr, agus tha sinn den bheachd le bhith a’ dèanamh an fheum as fheàrr. bathar-cruaidh is bathar-bog, is urrainn dhuinn an leasachadh seo a choileanadh gu leantainneach.
Tha e a’ tionndadh a-mach gun do bhuannaich AMD.
Tha grafaichean a bharrachd a’ sealltainn latency cuibheasach agus latency p99 a’ ruith NGINX thar ùine 24-uair. Gu cuibheasach, ruith pròiseasan air AMD 25% nas luaithe. Air td99 bidh e a’ ruith 20-50% nas luaithe a rèir àm an latha.
co-dhùnadh
Bidh innleadairean Bathar-cruaidh is Coileanaidh Cloudflare a’ dèanamh mòran deuchainn agus rannsachadh gus faighinn a-mach dè an rèiteachadh frithealaiche as fheàrr airson ar teachdaichean. Is toil leinn a bhith ag obair an seo oir is urrainn dhuinn duilgheadasan mòra mar seo fhuasgladh, agus is urrainn dhuinn do chuideachadh le bhith a’ fuasgladh do dhuilgheadasan le seirbheisean leithid coimpiutaireachd iomall gun fhrithealaiche agus sreath de fhuasglaidhean tèarainteachd leithid Magic Transit, Argo Tunnel, agus dìon DDoS. . Tha a h-uile frithealaiche ann an lìonra Cloudflare air an rèiteachadh gus coileanadh gu earbsach, agus tha sinn an-còmhnaidh a’ feuchainn ri gach ath ghinealach de luchd-frithealaidh a dhèanamh nas fheàrr na an tè roimhe. Tha sinn den bheachd gur e an AMD EPYC 7642 am freagairt nuair a thig e gu pròiseasairean Gen X.
A’ cleachdadh Cloudflare Workers, bidh luchd-leasachaidh a’ cleachdadh na tagraidhean aca air an lìonra leudachaidh againn air feadh an t-saoghail. Tha sinn moiteil leigeil le ar teachdaichean fòcas a chuir air còd sgrìobhaidh fhad ‘s a tha sinn a’ cuimseachadh air tèarainteachd agus earbsachd san sgòth. Agus an-diugh tha sinn eadhon nas toilichte ainmeachadh gun tèid an obair aca a chuir a-steach air na frithealaichean ginealach Gen X againn a tha a’ ruith pròiseasairean AMD EPYC an dàrna ginealach.
Pròiseasaran EPYC 7642, codename "An Ròimh" [An Ròimh]
Le bhith a’ cleachdadh EPYC 7642 aig AMD, bha e comasach dhuinn ar coileanadh àrdachadh agus a dhèanamh nas fhasa ar lìonra a leudachadh gu bailtean-mòra ùra. Cha deach an Ròimh a thogail ann an latha, ach a dh'aithghearr bidh e nas fhaisge air mòran agaibh.
Anns an dà bhliadhna a dh ’fhalbh tha sinn air a bhith a’ feuchainn a-mach mòran de chips x86 bho Intel agus AMD, a bharrachd air pròiseasairean bho ARM. Tha sinn an dùil gun lean an luchd-dèanaidh CPU seo ag obair còmhla rinn san àm ri teachd gus an urrainn dhuinn uile eadar-lìn nas fheàrr a thogail còmhla.
Source: www.habr.com