E sili atu ma le piliona tuatusi IP tulaga ese e pasia le Cloudflare Network i aso uma; e sili atu nai lo le 11 miliona HTTP talosaga i le sekone; o lo'o i totonu ole 100ms ole 95% ole faitau aofa'i ole initaneti. O la matou feso'ota'iga e 200 'a'ai i le silia ma le 90 atunu'u, ma o la matou 'au o inisinia na fausia se atina'e sili ona vave ma fa'atuatuaina.
Matou te mitamita tele i la matou galuega ma matou te naunau e fesoasoani i le faia o le Initaneti o se nofoaga sili atu ma saogalemu. E i ai le malamalama loloto o inisinia masini a Cloudflare i 'au'aunaga ma a latou vaega e malamalama ma filifili meafaigaluega sili ona lelei e fa'ateleina ai lona fa'atinoga.
O la matou fa'aputuga faakomepiuta e fa'atautaia le tele o uta ma fa'alagolago tele i le PPU, e mana'omia ai a matou inisinia e fa'aauau pea ona fa'asili le lelei ma le fa'atuatuaina o Cloudflare i tulaga uma o le faaputuga. I luga o le itu o le server, o le auala pito sili ona faigofie e faʻateleina ai le malosi o le faʻaogaina o le faʻaopoopoina o pusa CPU. O le tele o cores e mafai e le server ona ofi, o le tele o faʻamaumauga e mafai ona faʻagasolo. E taua tele lenei mea ia i matou ona o le tele o a matou oloa ma tagata faʻatau o loʻo faʻatupulaia i luga o le taimi, ma o le faʻatupulaia o talosaga e manaʻomia ai le faʻateleina o le faʻatinoga mai 'auʻaunaga. Ina ia faʻateleina a latou faʻatinoga, matou te manaʻomia le faʻateleina o le mamafa o 'au - ma o le mea tonu lea na matou ausia. I lalo ifo matou te tuʻuina atu faʻamatalaga auʻiliʻili i luga o faʻasalalauga mo 'auʻaunaga na matou faʻapipiʻiina talu mai le 2015, e aofia ai le numera o cores:
-
Gen 6
Gen 7
Gen 8
Gen 9
Amataina
2015
2016
2017
2018
CPU
Intel Xeon E5-2630 v3
Intel Xeon E5-2630 v4
Intel Xeon Silver 4116
Intel Xeon Platinum 6162
Autu faaletino
2 x 8
2 x 10
2 x 12
2 x 24
TDP
2 x 85W
2 x 85W
2 x 85W
2 x 150W
TDP i le autu
10.65W
8.50W
7.08W
6.25W
I le 2018, na matou faia se osofaʻiga tele i le aofaʻi o cores i le server ma Gen 9. O le aʻafiaga o le siosiomaga ua faʻaitiitia i le 33% pe a faʻatusatusa i le 8th augatupulaga, ma maua ai le avanoa e faʻateleina ai le voluma ma le faʻaogaina o le mana i le fata. Fuafuaga mana'omia mo le fa'a'ese'ese o le vevela (, TDP) o loʻo taʻua e faʻamaonia ai o lo tatou malosi malosi ua faʻateleina foi i le taimi. E taua lenei fa'ailoga mo i tatou: muamua, tatou te manana'o e fa'aitiitia le kaponi i totonu o le ea; lona lua, matou te mananaʻo e faʻaoga lelei le malosi mai nofoaga autu o faʻamatalaga. Ae ua tatou iloa e iai se mea tatou te taumafai i ai.
O la matou fa'amatalaga autu o le numera o talosaga ile watt. E mafai ona matou faʻateleina le numera o talosaga i le sekone e ala i le faʻaopoopoina o cores, ae e manaʻomia ona matou tumau i totonu o la matou paketi malosi. O lo'o fa'atapula'aina i matou i fa'amaumauga o le eletise, lea, fa'atasi ai ma a matou fa'aputuga o le tufatufaina atu o le eletise, matou te maua ai se tapula'a maualuga mo fata ta'itasi. O le fa'aopoopoina o 'au'aunaga i se fata e fa'ateleina ai le fa'aogaina o le eletise. Ole tau fa'agaioiga ole a fa'atupula'ia tele pe a tatou sili atu i le fa'atapula'a o le malosi o le fata ma fa'aopoopo ni fata fou. Matou te manaʻomia le faʻateleina o le mana faʻagaioiga aʻo tumau i totonu o le laina tutusa o le faʻaaogaina o le eletise, lea o le a faʻateleina ai talosaga i le watt, la matou metric autu.
E pei ona e mateina, sa matou suʻesuʻeina ma le totoa le faʻaaogaina o le malosi i le tulaga o le mamanu. O le laulau o loʻo i luga o loʻo faʻaalia ai e le tatau ona tatou faʻaumatia le taimi e faʻapipiʻi ai le tele o PPU fiaaai pe afai o le TDP i le autu e maualuga atu nai lo le augatupulaga o loʻo i ai nei - o le a afaina ai a tatou metric, talosaga i le watt. Sa matou su'esu'eina ma le toto'a faiga fa'atonu mo le matou tupulaga X i luga o le maketi ma faia se fa'ai'uga. O lo'o matou si'itia mai la matou 48-core Intel Xeon Platinum 6162 fa'ailoga lua-socket i le 48-core AMD EPYC 7642 fa'ailoga tasi-socket.
-
Intel
AMD
CPU
Xeon Platinum 6162
EPYC 7642
Microarchitecture
"Skylake"
"Zen 2"
Codename
Skylake SP
“Roma”
Faʻaaogaina tekonolosi
14nm
7nm
fatu
2 x 24
48
E masani lava
1.9 GHz
2.4 GHz
L3 Cache/socket
24 x 1.375MiB
16 x 16MiB
Manatu/lauga
6 auala, e oʻo atu i le DDR4-2400
8 auala, e oʻo atu i le DDR4-3200
TDP
2 x 150W
225W
PCIe/socket
48 laina
128 laina
ISA
x86-64
x86-64
Mai faʻamatalaga o loʻo manino mai o le pu mai le AMD o le a faʻatagaina i matou e tausia le numera tutusa o cores aʻo faʻaititia le TDP. O le 9th tupulaga sa i ai le TDP i le autu o le 6,25 W, ma le Xth augatupulaga o le a 4,69 W. Fa'aitiitia i le 25%. Faʻafetai i le faʻateleina o taimi, ma atonu o se mamanu faigofie ma le tasi socket, e mafai ona manatu o le AMD chip o le a sili atu ona lelei i le faʻatinoga. O loʻo matou faʻatautaia nei suʻega eseese ma faʻataʻitaʻiga e iloa ai le sili atu le lelei o le AMD.
Mo le taimi nei, ia tatou maitauina o le TDP o se metric faʻafaigofie mai faʻamatalaga a le gaosiga, lea na matou faʻaaogaina i le amataga o le mamanu o le server ma le filifilia o le CPU. O se suʻesuʻega vave a Google e faʻaalia ai o le AMD ma le Intel e eseese auala e faʻamalamalamaina ai le TDP, e le faʻamaonia ai le faʻamatalaga. O le fa'aaogaina moni o le malosi o le PPU, ae sili atu le taua o le fa'aogaina o le eletise, o le mea tonu lea tatou te fa'aaogaina pe a fai la tatou fa'ai'uga mulimuli.
Sauniuni fa'anatura
Ina ia amata la matou faigamalaga i le filifilia o le isi gaioiga, sa matou vaʻavaʻai i le tele o PPU mai fale gaosi eseese e fetaui lelei mo la matou faʻapipiʻi polokalama ma auaunaga (tusia i le C, LuaJIT ma le Go). Ua uma ona matou faʻamatalaina auiliili se seti o meafaigaluega mo le fuaina o le saoasaoa . I lenei tulaga, matou te faʻaaogaina le seti tutusa - e mafai ai ona matou iloiloina le lelei o le PPU i se taimi talafeagai, pe a maeʻa ona mafai lea e a matou inisinia ona amata faʻafetaui a matou polokalame i se masini faʻapitoa.
Sa matou fa'ata'ita'iina le tele o masini fa'asolo ma le tele o numera autu, fa'asologa o socket, ma alaleo. Talu ai o lenei tusiga e uiga i le mafuaʻaga na matou nofo ai i le AMD EPYC 7642, o siata uma i lenei blog e taulaʻi i le faʻaogaina o le AMD processors pe a faʻatusatusa i le Intel Xeon Platinum 6162 mai. .
O faʻaiʻuga e fetaui ma fuataga o se tasi sapalai faʻatasi ai ma suiga taʻitasi - o lona uiga, e lua 24-core processors mai Intel, poʻo le tasi le 48-core processor mai le AMD (server mo Intel e lua sockets ma le server mo AMD EPYC ma le tasi) . I totonu o le BIOS matou te setiina faʻamaufaʻailoga e fetaui ma faʻaumau taʻavale. Ole 3,03 GHz lea mo AMD ma le 2,5 GHz mo Intel. Faʻafaigofie tele, matou te faʻamoemoe o le numera tutusa o cores, AMD o le a faia le 21% sili atu nai lo Intel.
Cryptography
E foliga manuia mo AMD. E 18% sili atu lona fa'atinoina i fa'amatalaga autu lautele. Faatasi ai ma se ki fa'atusa, e leiloa mo filifiliga fa'ailoga AES-128-GCM, ae o le aotelega e fa'atusalia.
Faʻamalosi
I luga o faʻaumau pito, matou te faʻapipiʻiina le tele o faʻamaumauga e teu ai luga o le bandwidth ma faʻateleina le saoasaoa o le tuʻuina atu o mea. Matou te pasi atu faʻamaumauga i totonu o le C libraries zlib ma brotli. O su'ega uma na fa'atino ile blog.cloudflare.com HTML faila ile manatua.
AMD na manumalo ile averesi ole 29% pe a faʻaaoga le gzip. I le tulaga o le brotli, o taunuuga e sili atu ona lelei i suʻega ma le lelei 7, lea matou te faʻaaogaina mo le faʻamalosi malosi. I luga o le suʻega brotli-9 o loʻo i ai se pa'ū mataʻutia - matou te faʻamatalaina lenei mea i le mea moni e faʻaaogaina e Brotli le tele o manatuaga ma faʻafefe ai le cache. Ae ui i lea, e manumalo le AMD i se vaega tele.
O le tele o a matou tautua o loʻo tusia i le Go. I kalafi o loʻo mulimuli mai, matou te faaluaina le siakiina o le saoasaoa o faʻamatalaga ma le faʻamalosi i le Go with RegExp i luga o laina 32 KB e faʻaaoga ai le potutusi o manoa.
Alu cryptography
Alu Compression
Alu Regexp
Alu Noai
E sili atu le fa'atinoga o le AMD i su'ega uma ma le Go se'i vagana ai le ECDSA P256 Sign, lea e 38% i tua - o se mea uiga ese, ona e 24% sili atu i le C. E aoga le su'eina o mea o lo'o tupu iina. Aotelega, AMD e le manumalo tele, ae o loʻo faʻaalia pea iʻuga sili ona lelei.
LuaJIT
E masani ona matou faʻaogaina le LuaJIT i luga o le faaputuga. O le kelu lea e faʻapipiʻi uma vaega o Cloudflare. Ma matou te fiafia ua manumalo foi le AMD iinei.
I le aotelega, o suʻega o loʻo faʻaalia ai o le EPYC 7642 e sili atu le lelei nai lo le lua Xeon Platinum 6162. E leiloa le AMD i ni nai suʻega - mo se faʻataʻitaʻiga, AES-128-GCM ma Go OpenSSL ECDSA-P256 Sign - ae manumalo i isi uma, i se averesi o le 25% .
Fa'ata'ita'iga o Galuega
Ina ua mae'a a matou su'ega vave, sa matou fa'atautaia le 'au'aunaga e ala i se isi seti o fa'ata'ita'iga lea e fa'aogaina ai se uta fa'anenefu i le fa'aputuga pito o polokalama. O iinei tatou te faʻataʻitaʻiina ai se faʻataʻitaʻiga o galuega mamafa ma ituaiga eseese o talosaga e mafai ona faʻafeiloaʻi i galuega moni. O talosaga e fesuisuiai i le tele o faʻamaumauga, HTTP poʻo HTTPS protocols, WAF puna, Tagata faigaluega, ma isi tele fesuiaiga. O loʻo i lalo se faʻatusatusaga o le gaosiga o PPU e lua mo ituaiga o talosaga tatou te masani ai.
O faʻaiʻuga i le siata o loʻo fuaina i le laina faʻavae o le 9th generation Intel-based machines, faʻamautu i le tau o le 1,0 i luga o le x-axis. Mo se faʻataʻitaʻiga, ave 10 KiB talosaga faigofie ile HTTPS, e mafai ona tatou vaʻaia o le AMD e 1,5 taimi sili atu nai lo Intel i tulaga o talosaga ile sekone. I le averesi, AMD na faia le 34% sili atu nai lo Intel mo nei suʻega. Mafaufau o le TDP mo le AMD EPYC 7642 e tasi o le 225 W, ma mo le lua Intel processors o le 300 W, e foliga mai e tusa ai ma le "talosaga i le watt" AMD o loʻo faʻaalia 2 taimi sili atu iʻuga nai lo Intel!
I le taimi nei, ua uma ona matou faʻalagolago i le filifiliga socket tasi mo le AMD EPYC 7642 e avea ma a matou PPU Gen X i le lumanaʻi. Matou te matua fiafia lava e vaʻai pe faʻafefea ona faʻatino e le AMD EPYC 'auʻaunaga i galuega moni i le lalolagi, ma na vave ona matou auina atu ni nai mea. 'au'aunaga i nisi mai nofoaga autu o fa'amaumauga.
Galuega moni
O le laasaga muamua, e masani lava, o le saunia lea o sapalai mo galuega i tulaga moni. O masini uma i totonu oa tatou vaʻa e galulue faʻatasi ma faiga tutusa ma auaunaga, lea e maua ai se avanoa sili e faʻatusatusa saʻo ai le faʻatinoga. E pei o le tele o nofoaga autu o faʻamatalaga, e tele a matou augatupulaga o sapalai o loʻo faʻapipiʻiina, ma matou aoina a matou 'auʻaunaga i fuifui ina ia tofu vasega ma 'auʻaunaga e tusa ma tupulaga tutusa. I nisi tulaga, e ono i'u ai i le toe fa'aaogaina o pi'o e 'ese'ese i le va o fuifui. Ae le o i tatou. O a matou inisinia ua fa'amalieina le fa'aogaina o le PPU mo augatupulaga uma e tusa lava po'o le PPU a se masini e 8 po'o le 24, o le fa'aogaina o le PPU e masani lava ona tutusa ma isi.
O le kalafi o loʻo faʻaalia ai la matou faʻamatalaga i le tutusa o le faʻaaogaina - e leai se eseesega tele i le va o le faʻaogaina o le AMD CPUs i le Gen X generation servers ma le faʻaogaina o Intel processors i le Gen 9 generation servers. . Matagofie. O le mea tonu lea matou te taumafai i ai i totonu o matou 'auʻaunaga, ma matou te manaʻomia lenei mea mo se faʻatusatusaga talafeagai. O kalafi e lua o loʻo i lalo o loʻo faʻaalia ai le aofaʻi o talosaga na faʻatautaia e le tasi CPU core ma cores uma i le tulaga o le server.
Talosaga mo le autu
Talosaga i le server
E mafai ona vaʻaia i le averesi AMD faʻagasologa 23% sili atu talosaga. E leai se leaga! E masani ona matou tusia i luga o la matou blog e uiga i auala e faʻaleleia ai le faʻatinoga o le Gen 9. Ma o lea ua tutusa le numera o 'au, ae o le AMD e sili atu galuega ma le mana itiiti. E vave ona manino mai faʻamatalaga mo le numera o cores ma le TDP o le AMD e maua ai le saoasaoa sili atu ma sili atu le malosi.
Ae pei ona uma ona matou taʻua, o le TDP e le o se faʻamatalaga masani ma e le tutusa mo tagata gaosi uma, o lea seʻi o tatou vaʻavaʻai i le faʻaaogaina moni o le malosi. E ala i le fuaina o le faʻaogaina o le malosi o le 'auʻaunaga faʻatasi ma le numera o talosaga ile sekone, na matou maua ai le kalafi lea:
Faʻavae i luga o talosaga ile sekone ile watt na faʻaalu, Gen X servers o loʻo faʻaogaina i luga ole AMD processors e 28% sili atu le lelei. E mafai e se tasi ona faʻamoemoe atili, ona o le AMD's TDP e 25% maualalo, ae e tatau ona manatua o le TDP o se uiga faʻapitoa. Ua matou va'aia o le fa'aogaina moni o le eletise a le AMD e toetoe lava a tutusa ma le TDP o lo'o ta'ua i laina e sili atu le maualuga nai lo le fa'avae; E le maua e Intel lena mea. O le isi lea mafua'aga e le'o fa'alagolago ai le TDP i le fa'aaogaina o le malosi. O PPU mai le Intel i totonu o matou Gen 9 servers o loʻo tuʻufaʻatasia i totonu o le tele-node system, ae o PPU mai le AMD o loʻo faʻaogaina i tulaga masani 1U form factor servers. E le fiafia lenei mea i le AMD, talu ai e tatau i le multinode servers ona tuʻuina atu le tele o le mamafa ma le faʻaitiitia o le eletise i le node, ae o loʻo faʻaogaina e le AMD le Intel i tulaga o le faʻaaogaina o le eletise i le node.
I le tele o faʻatusatusaga i faʻamatalaga, faʻataʻitaʻiga faʻataʻitaʻiga, ma faʻatinoga moni o le lalolagi, o le 1P AMD EPYC 7642 faʻatulagaina na sili atu le lelei nai lo le 2P Intel Xeon 6162. I nisi tulaga, AMD e mafai ona faʻatinoina i le 36% sili atu, ma matou te talitonu e ala i le faʻaleleia atili. meafaigaluega ma polokalama, e mafai ona tatou ausia lenei faʻaleleia i luga o se faʻavae faifaipea.
E foliga mai ua manumalo le AMD.
O ata fa'aopoopo e fa'aalia ai le averesi o le latency ma le p99 latency o lo'o fa'aogaina le NGINX i luga o le 24 itula. I le averesi, o faʻagasologa i luga ole AMD e 25% vave. I luga ole p99 e 20-50% vave e fa'atatau ile taimi ole aso.
iʻuga
Cloudflare's Hardware and Performance engineers e faia le tele o su'ega ma su'esu'ega e fa'amautu ai le fa'atulagaina o le server sili mo a tatou tagata fa'atau. Matou te fiafia e galulue iinei ona e mafai ona matou foia faafitauli tetele e pei o nei, ma e mafai ona matou fesoasoani ia te oe e foia ou faafitauli i auaunaga e pei o le serverless edge computing ma le tele o fofo saogalemu e pei o Magic Transit, Argo Tunnel, ma DDoS puipuiga. . O 'auʻaunaga uma i totonu o le Cloudflare network ua faʻatulagaina e faʻatino faʻamaoni, ma o loʻo matou taumafai pea e faʻalelei atu isi augatupulaga o sapalai nai lo le muamua. Matou te talitonu o le AMD EPYC 7642 o le tali lea pe a oʻo mai i le Gen X processors.
I le faʻaaogaina o Cloudflare Workers, e faʻapipiʻi e le au atinaʻe a latou talosaga i luga o la matou faʻalauteleina fesoʻotaʻiga i le lalolagi atoa. Matou te mitamita e faʻatagaina a matou tagata faʻatau e taulaʻi i le tusiaina o tulafono aʻo matou taulaʻi i le saogalemu ma le faʻamaoni i le ao. Ma i aso nei ua sili atu lo matou fiafia e faʻasalalau atu o la latou galuega o le a faʻapipiʻiina i luga oa matou Gen X generation servers o loʻo faʻatautaia le faʻasologa lona lua AMD EPYC processors.
EPYC 7642 processors, codename "Roma" [Roma]
I le fa'aogaina o le AMD's EPYC 7642, na mafai ai ona fa'ateleina la matou fa'atinoga ma fa'afaigofie ona fa'alautele la matou feso'ota'iga i 'a'ai fou. E le'i fausia Roma i se aso, ae o le a latalata atu i le toatele o outou.
I le lua tausaga talu ai sa matou faʻataʻitaʻia ai le tele o meataalo x86 mai le Intel ma le AMD, faʻapea foʻi ma le gaosiga mai le ARM. Matou te faʻamoemoe o nei tagata fai CPU e faʻaauau pea ona galulue faʻatasi ma i matou i le lumanaʻi ina ia mafai ai ona matou fausia faʻatasi se Initaneti sili atu.
puna: www.habr.com