Adiresy IP miavaka maherin'ny arivo tapitrisa no mandalo ao amin'ny Cloudflare Network isan'andro; manolotra fangatahana HTTP mihoatra ny 11 tapitrisa isan-tsegondra; ao anatin'ny 100ms amin'ny 95% amin'ny mponina amin'ny aterineto izy. Manodidina ny tanΓ na 200 any amin'ny firenena 90 mahery ny tambajotranay, ary nanangana fotodrafitrasa haingana sy azo antoka ny ekipanay injeniera.
Tena mirehareha amin'ny asantsika izahay ary manolo-tena hanampy amin'ny fanaovana ny Internet ho toerana tsara kokoa sy azo antoka kokoa. Ny injeniera hardware an'ny Cloudflare dia manana fahatakarana lalina momba ny lohamilina sy ny singa ao aminy mba hahatakarana sy hifidianana ny fitaovana tsara indrindra hanamafisana ny fahombiazany.
Ny rindrankajy rindrambaiko dia mitantana ny informatika be entana ary miankina betsaka amin'ny CPU, mitaky ny injenieranay hanatsara hatrany ny fahombiazan'ny Cloudflare sy ny fahatokisana amin'ny ambaratonga rehetra amin'ny stack. Eo amin'ny lafiny mpizara, ny fomba tsotra indrindra hampitomboana ny herin'ny fanodinana dia amin'ny alΓ lan'ny fampidirana ireo cores CPU. Arakaraky ny mahabetsaka ny cores azon'ny mpizara iray, no betsaka kokoa ny angona azony atao. Zava-dehibe ho anay izany satria mitombo ny isan-karazany amin'ny vokatra sy ny mpanjifanay rehefa mandeha ny fotoana, ary ny fitomboan'ny fangatahana dia mitaky fampitomboana ny fahombiazan'ny mpizara. Mba hampitomboana ny fahombiazan'izy ireo dia nila nampitombo ny hakitroky ny cores izahay - ary izany indrindra no vitanay. Ity ambany ity dia manome angon-drakitra amin'ny antsipiriany momba ny processeurs ho an'ny server izay napetrakay hatramin'ny taona 2015, anisan'izany ny isan'ny cores:
-
Gen 6
Gen 7
Gen 8
Gen 9
fanombohana
2015
2016
2017
2018
UnitΓ© centrale
Intel Xeon E5-2630 v3
Intel Xeon E5-2630 v4
Intel Xeon Silver 4116
Intel Xeon Platinum 6162
Cores ara-batana
2 X 8
2 X 10
2 X 12
2 X 24
TDP
2 x 85W
2 x 85W
2 x 85W
2 x 150W
TDP isaky ny core
10.65W
8.50W
7.08W
6.25W
Tamin'ny taona 2018, dia nanao fitsangantsanganana lehibe izahay tamin'ny fitambaran'ny cores isaky ny mpizara miaraka amin'ny Gen 9. Nihena 33% ny fiantraikan'ny tontolo iainana raha oharina amin'ny taranaka faha-8, manome antsika fahafahana hampitombo ny volume sy ny herin'ny informatika isaky ny rack. Fepetra takiana amin'ny fanaparitahana hafanana (, TDP) dia voalaza hanasongadinana fa nitombo ihany koa ny fahombiazan'ny angovoy rehefa mandeha ny fotoana. Zava-dehibe ho antsika ity tondro ity: voalohany, tiantsika ny hamoaka karbaona kely kokoa ho any amin'ny atmosfera; faharoa, tianay ny hampiasa tsara indrindra ny angovo avy amin'ny ivontoerana data. Fantatsika anefa fa manana zavatra hiezaka isika.
Ny metrika tena mamaritra anay dia ny isan'ny fangatahana isaky ny watt. Afaka mampitombo ny isan'ny fangatahana isan-tsegondra isika amin'ny fampidirana cores, saingy mila mijanona ao anatin'ny teti-bolan-kery. Voafetran'ny fotodrafitrasa herinaratra ivom-pamokarana izahay, izay, miaraka amin'ireo maodely fitsinjarana herinaratra voafantina, dia manome fetra ambony ho an'ny fitoeran'ny mpizara tsirairay. Mampitombo ny fanjifana herinaratra ny fampidirana mpizara amin'ny fitoeran-jiro. Hiakatra be ny vidin'ny fampandehanana raha toa ka mihoatra ny fetran'ny angovo isaky ny rack isika ary tsy maintsy manampy vata vaovao. Mila mampitombo ny herin'ny fanodinana isika raha mijanona ao anatin'ny fetran'ny fanjifana herinaratra mitovy, izay hampitombo ny fangatahana isaky ny watt, ny metrika fototra ananantsika.
Araka ny efa noeritreretinao dia nandinika tsara ny fanjifana angovo izahay teo amin'ny sehatry ny famolavolana. Ny tabilao etsy ambony dia mampiseho fa tsy tokony handany fotoana amin'ny fametrahana CPU noana angovo bebe kokoa isika raha avo kokoa noho ny taranaka ankehitriny ny TDP isaky ny fototra - hisy fiantraikany ratsy amin'ny metrika, fangatahana isaky ny watt izany. Nandinika tsara ireo rafitra efa vonona ho an'ny taranaka X eo amin'ny tsena izahay ary nandray fanapahan-kevitra. Mifindra avy amin'ny 48-fototra Intel Xeon Platinum 6162 endrika roa socket izahay mankany amin'ny famolavolana socket tokana 48-fototra AMD EPYC 7642.
-
Intel
AMD
UnitΓ© centrale
Xeon Platinum 6162
EPYC 7642
Microarchitecture
"Skylake"
"Zen 2"
Codename
"Skylake SP"
βRomaβ
Dingana teknika
14nm
7nm
Cores
2 X 24
48
hatetika
1.9 GHz
2.4 GHz
L3 Cache/fantsona
24 x 1.375MiB
16 x 16MiB
Memory/fantsona
6 fantsona, hatramin'ny DDR4-2400
8 fantsona, hatramin'ny DDR4-3200
TDP
2 x 150W
225W
PCIe / socket
Lalana 48
Lalana 128
Isa
x86-64
x86-64
Avy amin'ny famaritana mazava tsara fa ny chip avy amin'ny AMD dia hamela antsika hitazona ny isan'ny cores rehefa mampidina ny TDP. Ny taranaka faha-9 dia manana TDP isaky ny core amin'ny 6,25 W, ary ny taranaka Xth dia 4,69 W. Nihena 25%. Noho ny fampitomboana matetika, ary angamba ny endrika tsotra kokoa miaraka amin'ny socket iray, dia azo heverina fa ny chip AMD dia hanao tsara kokoa amin'ny fampiharana. Manao andrana sy simulation isan-karazany izahay amin'izao fotoana izao mba hahitana hoe hatraiza ny hanatontosan'ny AMD.
Amin'izao fotoana izao, andeha homarihintsika fa ny TDP dia metrika notsorina avy amin'ny famaritan'ny mpanamboatra, izay nampiasainay tany am-piandohan'ny famolavolana server sy ny fisafidianana CPU. Ny fikarohana Google haingana dia manambara fa ny AMD sy Intel dia manana fomba fiasa samihafa amin'ny famaritana ny TDP, ka mahatonga ny famaritana tsy azo ianteherana. Ny fanjifana herinaratra tena izy amin'ny CPU, ary ny tena zava-dehibe dia ny fanjifana herinaratra amin'ny serivisy, no tena ampiasaintsika rehefa mandray fanapahan-kevitra farany.
Fahavononana ny tontolo iainana
Mba hanombohana ny dianay hisafidianana ny processeur manaraka, dia nijery CPU isan-karazany avy amin'ny mpanamboatra samihafa izahay izay mety tsara amin'ny fametrahana rindrambaiko sy serivisy (voasoratra amin'ny C, LuaJIT ary Go). Efa nofaritanay tamin'ny antsipiriany ny fitaovana fandrefesana ny hafainganam-pandeha . Amin'ity tranga ity, nampiasa andiana mitovy izahay - mamela antsika hanombantombana ny fahombiazan'ny CPU ao anatin'ny fotoana mety, aorian'izay ny injeniera dia afaka manomboka mampifanaraka ny programa amin'ny processeur manokana.
Nanandrana karazana processeur isan-karazany izahay miaraka amin'ny isa fototra isan-karazany, isa socket ary matetika. Satria ity lahatsoratra ity dia momba ny antony nipetrahanay tamin'ny AMD EPYC 7642, ny tabilao rehetra ato amin'ity bilaogy ity dia mifantoka amin'ny fomba fiasan'ny processeur AMD raha oharina amin'ny Intel Xeon Platinum 6162 avy amin'ny .
Ny valiny dia mifanandrify amin'ny fandrefesana mpizara tokana miaraka amin'ny variana processeur tsirairay - izany hoe, miaraka amin'ny processeur roa 24-core avy amin'ny Intel, na miaraka amin'ny processeur iray 48-core avy amin'ny AMD (server ho an'ny Intel misy socket roa ary mpizara ho an'ny AMD EPYC misy iray) . Ao amin'ny BIOS dia mametraka ny mari-pamantarana mifanaraka amin'ireo mpizara mihazakazaka. Ity dia 3,03 GHz ho an'ny AMD ary 2,5 GHz ho an'ny Intel. Ny fanatsorana be dia be, manantena izahay fa miaraka amin'ny isan'ny cores mitovy, ny AMD dia hanao 21% tsara kokoa noho ny Intel.
Fifidianana Akama
Toa mampanantena ny AMD. Manao 18% tsara kokoa izy amin'ny kriptografika fanalahidy ho an'ny daholobe. Miaraka amin'ny lakile symmetrika, very izy amin'ny safidy fanafenana AES-128-GCM, saingy amin'ny ankapobeny dia mitovitovy amin'izany.
famatrarana
Amin'ireo mpizara sisiny, manindry angon-drakitra be dia be izahay mba hitehirizana ny bandwidth ary hampitombo ny hafainganam-pandehan'ny atiny. Mampita ny angona amin'ny alΓ lan'ny tranomboky C zlib sy brotli izahay. Ny fitsapana rehetra dia natao tao amin'ny rakitra HTML blog.cloudflare.com ho fahatsiarovana.
Nandresy tamin'ny 29% ny AMD tamin'ny fampiasana gzip. Raha ny brotli, ny valiny dia tsara kokoa amin'ny fitsapana amin'ny kalitao 7, izay ampiasainay amin'ny fanerena mavitrika. Ao amin'ny fitsapana brotli-9 dia misy fitetezana maranitra - manazava izany izahay amin'ny hoe mandany fahatsiarovana be dia be i Brotli ary manondraka ny cache. Na izany aza, mandresy amin'ny isa lehibe ny AMD.
Maro amin'ireo serivisy ataonay no voasoratra ao amin'ny Go. Amin'ireto grafika manaraka ireto, dia manamarina indroa ny hafainganam-pandehan'ny kriptografika sy ny famatrarana ao amin'ny Go with RegExp amin'ny tsipika 32 KB amin'ny alΓ lan'ny tranomboky strings.
Mandehana cryptography
Mandehana Compression
Mandehana Regexp
Mandehana Strings
Ny AMD dia manao tsara kokoa amin'ny fitsapana rehetra miaraka amin'ny Go afa-tsy ny ECDSA P256 Sign, izay 38% tao aoriana - izay hafahafa, raha toa ka nahavita 24% tsara kokoa tao amin'ny C. Tena ilaina ny mamantatra ny zava-mitranga any. Amin'ny ankapobeny, tsy maharesy firy ny AMD, fa mbola mampiseho vokatra tsara indrindra.
LuaJIT
Matetika izahay no mampiasa LuaJIT amin'ny stack. Ity no lakaoly izay mitazona ny ampahany rehetra amin'ny Cloudflare. Ary faly izahay fa nandresy teto koa ny AMD.
Amin'ny ankapobeny, ny fitsapana dia mampiseho fa ny EPYC 7642 dia mahavita tsara kokoa noho ny roa Xeon Platinum 6162. Ny AMD dia resy amin'ny fitsapana roa - ohatra, AES-128-GCM sy Go OpenSSL ECDSA-P256 Sign - fa mandresy amin'ny hafa rehetra, amin'ny salanisa. ny 25%.
Workload Simulation
Taorian'ny fitsapana haingana nataonay, dia nihazakazaka ny lohamilina tamin'ny alΓ lan'ny andiana simulation hafa izay nampiharana entana synthetic amin'ny rindrankajy sisiny rindrambaiko. Eto izahay dia maka tahaka ny enta-mavesatry ny scenario miaraka amin'ireo karazana fangatahana samihafa izay mety ho hita amin'ny asa tena izy. Ny fangatahana dia miovaova amin'ny habetsaky ny angona, protocols HTTP na HTTPS, loharano WAF, Mpiasa, ary ireo karazany maro hafa. Ity ambany ity ny fampitahana ny fampandehanan'ny CPU roa ho an'ireo karazana fangatahana izay sendra anay matetika.
Ny vokatra ao amin'ny tabilao dia refesina amin'ny tsipika fototra amin'ny milina miorina amin'ny Intel amin'ny taranaka faha-9, natao ho sanda 1,0 amin'ny x-axis. Ohatra, maka fangatahana tsotra 10 KiB amin'ny HTTPS, dia hitantsika fa ny AMD dia 1,5 heny kokoa noho ny Intel amin'ny resaka fangatahana isan-tsegondra. Amin'ny ankapobeny, ny AMD dia nahavita 34% tsara kokoa noho ny Intel tamin'ireo fitsapana ireo. Raha jerena fa ny TDP ho an'ny AMD EPYC 7642 tokana dia 225 W, ary ho an'ny processeur roa Intel dia 300 W, dia hita fa amin'ny resaka "fangatahana isaky ny watt" AMD dia mampiseho vokatra avo roa heny noho ny Intel!
Amin'izao fotoana izao, efa nirona mazava tsara tamin'ny safidy socket tokana ho an'ny AMD EPYC 7642 ho CPU Gen X ho avy izahay. Tena liana izahay ny hahita ny fomba fiasan'ireo mpizara AMD EPYC amin'ny asa tena izy, ary nandefa mpizara maromaro avy hatrany izahay. ny sasany avy amin'ny foibe data.
Asa tena izy
Ny dingana voalohany, mazava ho azy, dia ny manomana ireo mpizara amin'ny asa amin'ny toe-javatra tena izy. Ny milina rehetra ao amin'ny andian-tsambonay dia miasa miaraka amin'ny dingana sy serivisy mitovy, izay manome fotoana tsara hampitahana tsara ny zava-bita. Tahaka ny ankamaroan'ny foibe angona, manana mpizara taranaka maromaro napetraka izahay, ary manangona ny mpizara anay ho vondrona izahay ka ny kilasy tsirairay dia misy mpizara mitovy taranaka. Amin'ny toe-javatra sasany, mety hiteraka fiolahana fanodinana izay tsy mitovy amin'ny cluster izany. Saingy tsy miaraka aminay. Ny injenieranay dia nanatsara ny fampiasana CPU ho an'ny taranaka rehetra, ka na inona na inona CPU an'ny milina iray dia manana core 8 na 24, dia mitovy amin'ny ambiny amin'ny ankapobeny ny fampiasana CPU.
Ny tabilao dia maneho ny fanehoan-kevitray momba ny fitoviana amin'ny fampiasana - tsy misy fahasamihafana lehibe eo amin'ny fampiasana ny CPU AMD amin'ny serivera taranaka Gen X sy ny fampiasana ny processeur Intel amin'ny serivera taranaka Gen 9. Midika izany fa ny servera fitsapana sy ny baseline dia mitovy. . Mahafinaritra. Izany indrindra no iezahanay amin'ny mpizara anay, ary mila izany izahay mba hampitahana marina. Ny tabilao roa etsy ambany dia mampiseho ny isan'ny fangatahana nokarakarain'ny core CPU iray sy ny cores rehetra eo amin'ny sehatra mpizara.
Fangatahana isaky ny core
Fangatahana amin'ny mpizara
Hita fa amin'ny salan'isa AMD dia 23% ny fangatahana bebe kokoa. Tsy ratsy mihitsy! Matetika izahay no nanoratra tao amin'ny bilaoginay momba ny fomba hampitomboana ny fahombiazan'ny Gen 9. Ary ankehitriny dia mitovy ny isan'ny cores, fa ny AMD dia miasa bebe kokoa amin'ny hery kely kokoa. Mazava avy hatrany amin'ny famaritana ny isan'ny cores sy TDP fa ny AMD dia manome haingana kokoa miaraka amin'ny fahombiazan'ny angovo lehibe kokoa.
Saingy araka ny efa voalazantsika, ny TDP dia tsy famaritana mahazatra ary tsy mitovy amin'ny mpanamboatra rehetra, ka andeha hojerentsika ny tena fampiasana angovo. Amin'ny fandrefesana ny fanjifana angovon'ny mpizara mifanandrify amin'ny isan'ny fangatahana isan-tsegondra, dia nahazo izao kisary manaraka izao izahay:
Miorina amin'ny fangatahana isan-tsegondra isaky ny watt lany, ny mpizara Gen X mandeha amin'ny processeur AMD dia 28% mahomby kokoa. Ny iray dia afaka manantena bebe kokoa, satria ny TDP an'ny AMD dia 25% ambany, saingy tokony ho tsaroana fa ny TDP dia toetra tsy mazava. Hitanay fa ny tena fanjifana herinaratra an'ny AMD dia saika mitovy amin'ny TDP voalaza amin'ny frequence avo kokoa noho ny fototra; Tsy manana an'izany i Intel. Izany no antony iray hafa mahatonga ny TDP tsy tombanana azo antoka amin'ny fanjifana angovo. Ny CPU avy amin'ny Intel ao amin'ny mpizara Gen 9 antsika dia ampidirina ao anaty rafitra misy node maro, raha ny CPU avy amin'ny AMD kosa dia miasa amin'ny serivisy 1U form factor mahazatra. Tsy mankasitraka ny AMD izany, satria ny mpizara multinode dia tokony hanome hakitroky bebe kokoa miaraka amin'ny fanjifana herinaratra kely isaky ny node, fa ny AMD dia mbola nahatratra ny Intel amin'ny resaka fanjifana herinaratra isaky ny node.
Amin'ny ankamaroan'ny fampitahana amin'ny specs, simulation andrana ary ny zava-bita tena izy, ny 1P AMD EPYC 7642 dia nahavita tsara kokoa noho ny 2P Intel Xeon 6162. Amin'ny toe-javatra sasany, AMD dia afaka mahavita hatramin'ny 36% tsara kokoa, ary mino izahay fa amin'ny fanatsarana fitaovana sy lozisialy, afaka manatratra izany fanatsarana izany hatrany isika.
Hita fa nandresy ny AMD.
Ny grafika fanampiny dia mampiseho ny faharetan'ny salan'isa sy ny latency p99 mihazakazaka NGINX mandritra ny 24 ora. Amin'ny ankapobeny, ny fizotran'ny AMD dia nihazakazaka 25% haingana kokoa. Amin'ny p99 dia mihazakazaka 20-50% haingana kokoa izy io arakaraka ny andro.
famaranana
Ny injeniera amin'ny Hardware sy Performance an'ny Cloudflare dia manao fitiliana sy fikarohana be dia be mba hamaritana ny fandrindrana mpizara tsara indrindra ho an'ny mpanjifantsika. Tianay ny miasa eto satria afaka mamaha olana lehibe tahaka ireny izahay, ary afaka manampy anao hamaha ny olanao amin'ny tolotra toy ny informatika tsy misy mpizara sy ny vahaolana fiarovana toy ny Magic Transit, Argo Tunnel, ary fiarovana DDoS. . Ny lohamilina rehetra ao amin'ny tambajotra Cloudflare dia natsangana mba hanao asa azo itokisana, ary miezaka hatrany izahay hanatsara ny serivera manaraka ho tsara kokoa noho ny teo aloha. Mino izahay fa ny AMD EPYC 7642 no valiny raha ny momba ny processeur Gen X.
Amin'ny fampiasana Cloudflare Workers, ny mpamorona dia mametraka ny rindranasany amin'ny tambajotra miitatra manerana izao tontolo izao. Faly izahay mamela ny mpanjifanay hifantoka amin'ny fanoratana kaody raha mifantoka amin'ny fiarovana sy ny fahamendrehana ao amin'ny rahona izahay. Ary ankehitriny dia faly kokoa izahay manambara fa ny asany dia hapetraka ao amin'ny serivera taranaka Gen X mitondra ny processeur AMD EPYC andiany faharoa.
EPYC 7642 processeurs, codename "Rome" [Roma]
Tamin'ny fampiasana ny EPYC 7642 an'ny AMD, dia afaka nampitombo ny zava-bitanay izahay ary nanamora ny fanitarana ny tambajotranay tany amin'ny tanΓ na vaovao. Tsy naorina tao anatin'ny iray andro i Roma, fa tsy ho ela dia ho akaiky kokoa ny maro aminareo.
Tao anatin'ny roa taona farany dia nanandrana chips x86 maro avy amin'ny Intel sy AMD izahay, ary koa ireo processeur avy amin'ny ARM. Manantena izahay fa ireo mpanamboatra CPU ireo dia hanohy hiara-miasa aminay amin'ny ho avy mba hahafahantsika rehetra manangana Internet tsara kokoa miaraka.
Source: www.habr.com