Mae mwy na biliwn o gyfeiriadau IP unigryw yn mynd trwy'r Rhwydwaith Cloudflare bob dydd; mae'n gwasanaethu mwy na 11 miliwn o geisiadau HTTP yr eiliad; mae hi o fewn 100ms i 95% o boblogaeth y rhyngrwyd. Mae ein rhwydwaith yn rhychwantu 200 o ddinasoedd mewn dros 90 o wledydd, ac mae ein tîm o beirianwyr wedi adeiladu seilwaith hynod gyflym a dibynadwy.
Rydym yn ymfalchïo yn ein gwaith ac rydym wedi ymrwymo i helpu i wneud y Rhyngrwyd yn lle gwell a mwy diogel. Mae gan beirianwyr caledwedd Cloudflare ddealltwriaeth ddofn o weinyddion a'u cydrannau i ddeall a dewis y caledwedd gorau i wneud y gorau o'i berfformiad.
Mae ein pentwr meddalwedd yn ymdrin â chyfrifiadura llwyth uchel ac mae'n ddibynnol iawn ar CPU, gan ei gwneud yn ofynnol i'n peirianwyr wneud y gorau o effeithlonrwydd a dibynadwyedd Cloudflare yn barhaus ar bob lefel o'r pentwr. Ar ochr y gweinydd, y ffordd hawsaf o gynyddu pŵer prosesu yw trwy ychwanegu creiddiau CPU. Po fwyaf o greiddiau y gall gweinydd eu ffitio, y mwyaf o ddata y gall ei brosesu. Mae hyn yn bwysig i ni oherwydd bod amrywiaeth ein cynnyrch a'n cleientiaid yn tyfu dros amser, ac mae twf ceisiadau yn gofyn am berfformiad cynyddol gan weinyddion. Er mwyn cynyddu eu perfformiad, roedd angen i ni gynyddu dwysedd y creiddiau - a dyma'n union yr ydym wedi'i gyflawni. Isod rydym yn darparu data manwl ar broseswyr ar gyfer gweinyddwyr yr ydym wedi'u defnyddio ers 2015, gan gynnwys nifer y creiddiau:
-
Gen 6
Gen 7
Gen 8
Gen 9
Dechrau Arni
2015
2016
2017
2018
CPU
Intel Xeon E5-2630 v3
Intel Xeon E5-2630 v4
Intel Xeon Arian 4116
Platinwm Intel Xeon 6162
creiddiau corfforol
2 8 x
2 10 x
2 12 x
2 24 x
TDP
2 x 85W
2 x 85W
2 x 85W
2 x 150W
TDP fesul craidd
10.65W
8.50W
7.08W
6.25W
Yn 2018, gwnaethom naid fawr yng nghyfanswm nifer y creiddiau fesul gweinydd gyda Gen 9. Mae'r effaith amgylcheddol wedi'i leihau 33% o'i gymharu â'r 8fed genhedlaeth, gan roi cyfle i ni gynyddu cyfaint a phŵer cyfrifiadurol fesul rac. Gofynion dylunio ar gyfer afradu gwres (, TDP) i amlygu bod ein heffeithlonrwydd ynni hefyd wedi cynyddu dros amser. Mae'r dangosydd hwn yn bwysig i ni: yn gyntaf, rydym am allyrru llai o garbon i'r atmosffer; yn ail, rydym am wneud y defnydd gorau o'r ynni o'r canolfannau data. Ond rydyn ni'n gwybod bod gennym ni rywbeth i ymdrechu amdano.
Ein prif fetrig diffiniol yw nifer y ceisiadau fesul wat. Gallwn gynyddu nifer y ceisiadau yr eiliad drwy ychwanegu creiddiau, ond mae angen inni aros o fewn ein cyllideb bŵer. Rydym wedi'n cyfyngu gan seilwaith pŵer y ganolfan ddata, sydd, ynghyd â'n modiwlau dosbarthu pŵer dethol, yn rhoi terfyn uchaf penodol i ni ar gyfer pob rac gweinydd. Mae ychwanegu gweinyddion at rac yn cynyddu'r defnydd o bŵer. Bydd costau gweithredu yn cynyddu'n sylweddol os byddwn yn mynd dros y terfyn ynni fesul rac ac yn gorfod ychwanegu raciau newydd. Mae angen inni gynyddu pŵer prosesu wrth aros o fewn yr un ystod defnydd pŵer, a fydd yn cynyddu ceisiadau fesul wat, ein metrig allweddol.
Fel y gallech fod wedi dyfalu, buom yn astudio'r defnydd o ynni yn ofalus yn ystod y cam dylunio. Mae'r tabl uchod yn dangos na ddylem wastraffu amser yn defnyddio mwy o CPUs sy'n defnyddio llawer o ynni os yw'r TDP fesul craidd yn uwch na'r genhedlaeth bresennol - bydd hyn yn effeithio'n negyddol ar ein ceisiadau metrig fesul wat. Fe wnaethom astudio'n ofalus y systemau parod i'w rhedeg ar gyfer ein cenhedlaeth X ar y farchnad a gwneud penderfyniad. Rydyn ni'n symud o'n dyluniad soced ddeuol 48-craidd Intel Xeon Platinum 6162 i ddyluniad soced sengl AMD EPYC 48 7642-craidd.
-
Intel
AMD
CPU
Xeon Platinwm 6162
EPYC 7642
microbensaernïaeth
"Skylake"
"Zen 2"
Codename
“Skylake SP”
“Rhufain”
Proses dechnegol
14nm
7nm
Cnewyllyn
2 24 x
48
Amlder
1.9 GHz
2.4 GHz
L3 Cache/soced
24 x 1.375MiB
16 x 16MiB
Cof/soced
6 sianel, hyd at DDR4-2400
8 sianel, hyd at DDR4-3200
TDP
2 x 150W
225W
PCIe/soced
48 lôn
128 lôn
ISA
x86-64
x86-64
O'r manylebau mae'n amlwg y bydd y sglodyn gan AMD yn caniatáu inni gadw'r un nifer o greiddiau wrth ostwng y TDP. Roedd gan y 9fed genhedlaeth TDP fesul craidd o 6,25 W, a'r Xfed genhedlaeth bydd yn 4,69 W. Gostyngiad o 25%. Diolch i'r amlder cynyddol, ac efallai dyluniad symlach gydag un soced, gellir tybio y bydd y sglodyn AMD yn perfformio'n well yn ymarferol. Ar hyn o bryd rydym yn cynnal profion ac efelychiadau amrywiol i weld faint yn well y bydd AMD yn perfformio.
Am y tro, gadewch i ni nodi bod TDP yn fetrig symlach o fanylebau'r gwneuthurwr, a ddefnyddiwyd gennym yn ystod camau cynnar dylunio gweinydd a dewis CPU. Mae chwiliad cyflym gan Google yn datgelu bod gan AMD ac Intel wahanol ddulliau o ddiffinio TDP, gan wneud y fanyleb yn annibynadwy. Defnydd pŵer CPU go iawn, ac yn bwysicach, defnydd pŵer gweinyddwr, yw'r hyn rydyn ni'n ei ddefnyddio mewn gwirionedd wrth wneud ein penderfyniad terfynol.
Parodrwydd ecosystem
I ddechrau ar ein taith i ddewis ein prosesydd nesaf, buom yn edrych ar ystod eang o CPUs o wahanol wneuthurwyr a oedd yn addas iawn ar gyfer ein pentwr meddalwedd a gwasanaethau (ysgrifennwyd yn C, LuaJIT a Go). Rydym eisoes wedi disgrifio'n fanwl set o offer ar gyfer mesur cyflymder . Yn yr achos hwn, gwnaethom ddefnyddio'r un set - mae'n caniatáu inni werthuso effeithlonrwydd y CPU mewn amser rhesymol, ac ar ôl hynny gall ein peirianwyr ddechrau addasu ein rhaglenni i brosesydd penodol.
Fe wnaethon ni brofi amrywiaeth o broseswyr gydag amrywiaeth o gyfrifiadau craidd, cyfrif soced, ac amleddau. Gan fod yr erthygl hon yn ymwneud â pham y gwnaethom setlo ar yr AMD EPYC 7642, mae pob siart yn y blog hwn yn canolbwyntio ar sut mae proseswyr AMD yn perfformio o'i gymharu â'r Intel Xeon Platinum 6162 o .
Mae'r canlyniadau'n cyfateb i fesuriadau un gweinydd gyda phob amrywiad prosesydd - hynny yw, gyda dau brosesydd 24-craidd o Intel, neu gydag un prosesydd 48-craidd gan AMD (gweinydd ar gyfer Intel gyda dau soced a gweinydd ar gyfer AMD EPYC gydag un). Yn y BIOS rydym yn gosod y paramedrau sy'n cyfateb i'r gweinyddwyr rhedeg. Mae hyn yn 3,03 GHz ar gyfer AMD a 2,5 GHz ar gyfer Intel. Gan symleiddio'n fawr, rydym yn disgwyl, gyda'r un nifer o greiddiau, y bydd AMD yn perfformio 21% yn well nag Intel.
Cryptograffeg
Edrych yn addawol ar gyfer AMD. Mae'n perfformio 18% yn well ar cryptograffeg allwedd gyhoeddus. Gydag allwedd gymesur, mae'n colli ar gyfer yr opsiynau amgryptio AES-128-GCM, ond yn gyffredinol mae'n perfformio'n gymharol.
Cywasgiad
Ar weinyddion ymyl, rydym yn cywasgu llawer o ddata i arbed ar led band a chynyddu cyflymder cyflwyno cynnwys. Rydym yn trosglwyddo'r data trwy'r llyfrgelloedd C zlib a brotli. Cynhaliwyd yr holl brofion ar ffeil HTML blog.cloudflare.com er cof.
Enillodd AMD 29% ar gyfartaledd wrth ddefnyddio gzip. Yn achos brotli, mae'r canlyniadau hyd yn oed yn well ar brofion gydag ansawdd 7, a ddefnyddiwn ar gyfer cywasgu deinamig. Ar y prawf brotli-9 mae gostyngiad sydyn - rydym yn esbonio hyn gan y ffaith bod Brotli yn defnyddio llawer o gof ac yn gorlifo'r storfa. Fodd bynnag, mae AMD yn ennill o gryn dipyn.
Mae llawer o'n gwasanaethau wedi'u hysgrifennu yn Go. Yn y graffiau canlynol, rydym yn gwirio cyflymder cryptograffeg a chywasgu ddwywaith yn Go with RegExp ar linellau 32 KB gan ddefnyddio'r llyfrgell llinynnau.
Ewch cryptograffeg
Ewch Cywasgu
Ewch Regexp
Ewch Llinynnau
Mae AMD yn perfformio'n well ym mhob prawf gyda Go ac eithrio Arwydd ECDSA P256, lle roedd 38% ar ei hôl hi - sy'n rhyfedd, o ystyried ei fod yn perfformio 24% yn well yn C. Mae'n werth darganfod beth sy'n digwydd yno. Ar y cyfan, nid yw AMD yn ennill llawer, ond mae'n dal i ddangos y canlyniadau gorau.
LuaJIT
Rydym yn aml yn defnyddio LuaJIT ar y pentwr. Dyma'r glud sy'n dal holl rannau Cloudflare gyda'i gilydd. Ac rydym yn falch bod AMD wedi ennill yma hefyd.
Ar y cyfan, mae'r profion yn dangos bod yr EPYC 7642 yn perfformio'n well na dau Xeon Platinum 6162. Mae AMD yn colli ar gwpl o brofion - er enghraifft, AES-128-GCM a Go OpenSSL ECDSA-P256 Sign - ond yn ennill ar bob un arall, ar gyfartaledd o 25%.
Efelychu Llwyth Gwaith
Ar ôl ein profion cyflym, fe wnaethom redeg y gweinyddwyr trwy set arall o efelychiadau lle mae llwyth synthetig yn cael ei roi ar bentwr ymyl y meddalwedd. Yma rydym yn efelychu llwyth gwaith senario gyda gwahanol fathau o geisiadau y gellir dod ar eu traws mewn gwaith go iawn. Mae ceisiadau'n amrywio o ran cyfaint data, protocolau HTTP neu HTTPS, ffynonellau WAF, Gweithwyr, a llawer o newidynnau eraill. Isod mae cymhariaeth o fewnbwn y ddau CPU ar gyfer y mathau o geisiadau y byddwn yn dod ar eu traws amlaf.
Mae'r canlyniadau yn y siart yn cael eu mesur yn erbyn llinell sylfaen peiriannau Intel 9fed cenhedlaeth, wedi'u normaleiddio i werth o 1,0 ar yr echelin x. Er enghraifft, gan gymryd ceisiadau 10 KiB syml dros HTTPS, gallwn weld bod AMD yn gwneud 1,5 gwaith yn well nag Intel o ran ceisiadau yr eiliad. Ar gyfartaledd, perfformiodd AMD 34% yn well nag Intel ar gyfer y profion hyn. O ystyried mai'r TDP ar gyfer un AMD EPYC 7642 yw 225 W, ac ar gyfer dau brosesydd Intel yw 300 W, mae'n ymddangos, o ran “ceisiadau fesul wat” mae AMD yn dangos canlyniadau 2 gwaith yn well nag Intel!
Ar y pwynt hwn, roeddem eisoes yn amlwg yn pwyso tuag at yr opsiwn soced sengl ar gyfer yr AMD EPYC 7642 fel ein CPUs Gen X yn y dyfodol. Roedd gennym ddiddordeb mawr mewn gweld sut y byddai gweinyddwyr AMD EPYC yn perfformio mewn gwaith go iawn, ac fe wnaethom anfon sawl gweinydd i rhai o ganolfannau data.
Gwaith go iawn
Y cam cyntaf, yn naturiol, oedd paratoi'r gweinyddion ar gyfer gwaith mewn amodau real. Mae pob peiriant yn ein fflyd yn gweithio gyda'r un prosesau a gwasanaethau, sy'n rhoi cyfle gwych i gymharu perfformiad yn gywir. Fel y rhan fwyaf o ganolfannau data, mae gennym sawl cenhedlaeth o weinyddion yn cael eu defnyddio, ac rydym yn casglu ein gweinyddion yn glystyrau fel bod pob dosbarth yn cynnwys gweinyddwyr o tua'r un cenedlaethau. Mewn rhai achosion, gall hyn arwain at gromliniau ailgylchu sy'n amrywio rhwng clystyrau. Ond nid gyda ni. Mae ein peirianwyr wedi optimeiddio'r defnydd CPU ar gyfer pob cenhedlaeth fel bod y defnydd o CPUau yn gyffredinol yr un fath â'r gweddill, ni waeth a oes gan CPU peiriant penodol 8 craidd neu 24.
Mae'r graff yn dangos ein sylw ar debygrwydd defnydd - nid oes gwahaniaeth arwyddocaol rhwng y defnydd o CPUs AMD mewn gweinyddwyr cenhedlaeth Gen X a'r defnydd o broseswyr Intel mewn gweinyddwyr cenhedlaeth Gen 9. Mae hyn yn golygu bod gweinyddwyr prawf a llinell sylfaen yn cael eu llwytho'n gyfartal. . Gwych. Dyma'n union yr hyn yr ydym yn ymdrechu amdano yn ein gweinyddion, ac mae angen hyn arnom i gael cymhariaeth deg. Mae'r ddau graff isod yn dangos nifer y ceisiadau a broseswyd gan un craidd CPU a'r holl graidd ar lefel y gweinydd.
Ceisiadau fesul craidd
Ceisiadau i'r gweinydd
Gellir gweld bod AMD yn prosesu 23% yn fwy o geisiadau ar gyfartaledd. Ddim yn ddrwg o gwbl! Rydym wedi ysgrifennu'n aml ar ein blog am ffyrdd o gynyddu perfformiad Gen 9. Ac yn awr mae gennym yr un nifer o greiddiau, ond mae AMD yn gwneud mwy o waith gyda llai o bŵer. Mae'n amlwg ar unwaith o'r manylebau ar gyfer nifer y creiddiau a TDP bod AMD yn darparu mwy o gyflymder gyda mwy o effeithlonrwydd ynni.
Ond fel y soniasom eisoes, nid yw TDP yn fanyleb safonol ac nid yw yr un peth ar gyfer pob gweithgynhyrchydd, felly gadewch i ni edrych ar y defnydd ynni gwirioneddol. Trwy fesur defnydd ynni'r gweinydd ochr yn ochr â nifer y ceisiadau yr eiliad, cawsom y graff canlynol:
Yn seiliedig ar geisiadau yr eiliad fesul wat a wariwyd, mae gweinyddwyr Gen X sy'n rhedeg ar broseswyr AMD 28% yn fwy effeithlon. Gallai rhywun ddisgwyl mwy, o ystyried bod TDP AMD 25% yn is, ond dylid cofio bod TDP yn nodwedd amwys. Rydym wedi gweld bod defnydd pŵer gwirioneddol AMD bron yn union yr un fath â'r TDP a nodwyd ar amleddau llawer uwch na'r sylfaen; Nid oes gan Intel hynny. Dyma reswm arall pam nad yw TDP yn amcangyfrif dibynadwy o'r defnydd o ynni. Mae CPUs o Intel yn ein gweinyddwyr Gen 9 wedi'u hintegreiddio i system aml-nôd, tra bod CPUs o AMD yn gweithredu mewn gweinyddwyr ffactor ffurf 1U safonol. Nid yw hyn o blaid AMD, gan y dylai gweinyddwyr multinode ddarparu dwysedd uwch gyda llai o ddefnydd pŵer fesul nod, ond roedd AMD yn dal i oddiweddyd Intel o ran defnydd pŵer fesul nod.
Yn y rhan fwyaf o gymariaethau ar draws manylebau, efelychiadau prawf, a pherfformiad byd go iawn, perfformiodd cyfluniad 1P AMD EPYC 7642 yn sylweddol well na'r 2P Intel Xeon 6162. Mewn rhai amodau, gall AMD berfformio hyd at 36% yn well, a chredwn hynny trwy optimeiddio caledwedd a meddalwedd, gallwn gyflawni'r gwelliant hwn yn barhaus.
Mae'n troi allan AMD enillodd.
Mae graffiau ychwanegol yn dangos hwyrni cyfartalog a hwyrni p99 yn rhedeg NGINX dros gyfnod o 24 awr. Ar gyfartaledd, rhedodd prosesau ar AMD 25% yn gyflymach. Ar t99 mae'n rhedeg 20-50% yn gyflymach yn dibynnu ar yr amser o'r dydd.
Casgliad
Mae peirianwyr Caledwedd a Pherfformiad Cloudflare yn gwneud cryn dipyn o brofion ac ymchwil i bennu'r cyfluniad gweinydd gorau ar gyfer ein cwsmeriaid. Rydyn ni wrth ein bodd yn gweithio yma oherwydd gallwn ddatrys problemau mawr fel y rhain, a gallwn eich helpu i ddatrys eich problemau gyda gwasanaethau fel cyfrifiadura ymyl heb weinydd ac amrywiaeth o atebion diogelwch fel Magic Transit, Twnnel Argo, ac amddiffyniad DDoS. . Mae pob gweinydd yn rhwydwaith Cloudflare wedi'i ffurfweddu i berfformio'n ddibynadwy, ac rydym bob amser yn ceisio gwneud pob cenhedlaeth nesaf o weinyddion yn well na'r un flaenorol. Credwn mai'r AMD EPYC 7642 yw'r ateb o ran proseswyr Gen X.
Gan ddefnyddio Cloudflare Workers, mae datblygwyr yn defnyddio eu cymwysiadau ar ein rhwydwaith ehangu ledled y byd. Rydym yn falch o adael i'n cwsmeriaid ganolbwyntio ar ysgrifennu cod wrth i ni ganolbwyntio ar ddiogelwch a dibynadwyedd yn y cwmwl. A heddiw rydym hyd yn oed yn fwy falch o gyhoeddi y bydd eu gwaith yn cael ei ddefnyddio ar ein gweinyddwyr cenhedlaeth Gen X sy'n rhedeg proseswyr AMD EPYC ail genhedlaeth.
Proseswyr EPYC 7642, enw cod "Rhufain" [Rhufain]
Trwy ddefnyddio EPYC 7642 AMD, roeddem yn gallu cynyddu ein perfformiad a'i gwneud hi'n haws ehangu ein rhwydwaith i ddinasoedd newydd. Ni chafodd Rhufain ei hadeiladu mewn diwrnod, ond cyn bo hir bydd yn nes at lawer ohonoch.
Yn ystod yr ychydig flynyddoedd diwethaf rydym wedi bod yn arbrofi gyda llawer o sglodion x86 gan Intel ac AMD, yn ogystal â phroseswyr o ARM. Disgwyliwn i'r gwneuthurwyr CPU hyn barhau i weithio gyda ni yn y dyfodol fel y gallwn ni i gyd adeiladu Rhyngrwyd gwell gyda'n gilydd.
Ffynhonnell: hab.com