L-ottimizzazzjoni tad-distribuzzjoni tas-servers fuq l-ixkafef

F'waħda miċ-chats ġejt mistoqsija mistoqsija:

— Hemm xi ħaġa li nista' naqra dwar kif nippakkja sew is-servers fi xtillieri?

Irrealizzajt li ma kontx naf test bħal dan, għalhekk ktibt tiegħi stess.

L-ewwelnett, dan it-test huwa dwar servers fiżiċi f'ċentri tad-dejta fiżiċi (DCs). It-tieni nett, nemmnu li hemm ħafna servers: mijiet-eluf; għal numru iżgħar dan it-test ma jagħmilx sens. It-tielet nett, aħna nqisu li għandna tliet restrizzjonijiet: spazju fiżiku fl-ixkafef, provvista ta 'enerġija għal kull rack, u ħalli l-ixkafef joqgħod f'ringieli sabiex inkunu nistgħu nużaw swiċċ ToR wieħed biex nikkonnettjaw servers f'xtillieri ħdejn xulxin.

It-tweġiba għall-mistoqsija tiddependi ħafna fuq liema parametru qed ottimizzaw u dak li nistgħu nvarjaw biex niksbu l-aħjar riżultat. Pereżempju, jeħtieġ biss li nieħdu spazju minimu sabiex inħallu aktar għal aktar tkabbir. Jew forsi għandna libertà fl-għażla tal-għoli tal-ixtillieri, qawwa għal kull rack, sokits fil-PDU, in-numru ta 'xtillieri fi grupp ta' swiċċijiet (swiċċ wieħed għal 1, 2 jew 3 xtillieri), tul ta 'wajers u xogħol ta' ġbid ( dan huwa kritiku fit-truf tar-ringieli: b'10 xtillieri fil-filliera u 3 xtillieri għal kull swiċċ, ser ikollok tiġbed il-wajers għal ringiela oħra jew tuża biżżejjed il-portijiet fis-swiċċ), eċċ., eċċ. Stejjer separati: għażla ta 'servers u għażla ta' DCs, se nassumu li huma magħżula.

Ikun tajjeb li nifhmu xi wħud mill-sfumaturi u d-dettalji, b'mod partikolari, il-konsum medju/massimu tas-servers, u kif l-elettriku jiġi fornut lilna. Allura, jekk ikollna provvista ta 'enerġija Russa ta' 230V u fażi waħda għal kull rack, allura magna 32A tista 'timmaniġġja ~ 7kW. Ejja ngħidu li nominalment inħallsu għal 6kW għal kull rack. Jekk il-fornitur ikejjel il-konsum tagħna biss għal ringiela ta '10 xtillieri, u mhux għal kull xtilliera, u jekk il-magna tkun issettjata f'limitu ta' 7 kW kondizzjonali, allura teknikament nistgħu nikkunsmaw 6.9 kW f'rack wieħed, 5.1 kW f'ieħor u kollox se jkun ok - mhux punibbli.

Normalment l-għan ewlieni tagħna huwa li nimminimizzaw l-ispejjeż. L-aħjar kriterju biex jitkejjel huwa tnaqqis fit-TCO (ispiża totali tas-sjieda). Tikkonsisti fil-biċċiet li ġejjin:

  • CAPEX: xiri ta' infrastruttura DC, servers, ħardwer tan-netwerk u kejbils
  • OPEX: Kiri DC, konsum tal-elettriku, manutenzjoni. OPEX jiddependi fuq il-ħajja tas-servizz. Huwa raġonevoli li wieħed jassumi li huwa 3 snin.

L-ottimizzazzjoni tad-distribuzzjoni tas-servers fuq l-ixkafef

Skont kemm ikunu kbar il-biċċiet individwali fit-torta ġenerali, irridu nottimizzaw l-aktar għaljin, u nħallu lill-bqija juża r-riżorsi kollha li jifdal bl-aktar mod effiċjenti possibbli.

Ejja ngħidu li għandna DC eżistenti, hemm għoli ta 'rack ta' unitajiet H (per eżempju, H = 47), elettriku għal kull rack Prack (Prack = 6kW), u ddeċidejna li nużaw servers ta 'żewġ unitajiet h = 2U. Se nneħħu 2..4 unitajiet mir-rack għal swiċċijiet, patch panels u organizzaturi. Dawk. fiżikament, għandna Sh=rounddown((H-2..4)/h) servers fir-rack tagħna (jiġifieri Sh = rounddown((47-4)/2)=21 servers għal kull rack). Ejja niftakru dan Sh.

Fil-każ sempliċi, is-servers kollha f'rack huma identiċi. B'kollox, jekk nimlew rack b'servers, allura fuq kull server nistgħu jonfqu bħala medja l-qawwa Pserv=Prack/Sh (Pserv = 6000W/21 = 287W). Għas-sempliċità, aħna ninjoraw il-konsum tal-iswiċċ hawn.

Ejja nieħdu pass imwarrba u niddeterminaw x'inhu l-konsum massimu tas-server Pmax. Jekk huwa sempliċi ħafna, ineffettiv ħafna u kompletament sikur, allura naqraw dak li hu miktub fuq il-provvista tal-enerġija tas-server - dan hu.

Jekk huwa aktar ikkumplikat, aktar effiċjenti, allura nieħdu t-TDP (pakkett tad-disinn termali) tal-komponenti kollha u niġbruh fil-qosor (dan mhux veru ħafna, iżda huwa possibbli).

Normalment ma nafux it-TDP tal-komponenti (ħlief għas-CPU), għalhekk nieħdu l-aktar approċċ korrett, iżda wkoll l-aktar kumpless (neħtieġu laboratorju) - nieħdu server sperimentali tal-konfigurazzjoni meħtieġa u tagħbijah, pereżempju, b'Linpack (CPU u memorja) u fio (diski) , aħna nkejlu l-konsum. Jekk nieħduha bis-serjetà, jeħtieġ ukoll li noħolqu l-iktar ambjent sħun fil-kuritur kiesaħ waqt it-testijiet, minħabba li dan jaffettwa kemm il-konsum tal-fann kif ukoll il-konsum tas-CPU. Aħna niksbu l-konsum massimu ta 'server speċifiku b'konfigurazzjoni speċifika f'dawn il-kundizzjonijiet speċifiċi taħt din it-tagħbija speċifika. Aħna sempliċiment infisser li l-firmware tas-sistema l-ġdida, verżjoni tas-software differenti, u kundizzjonijiet oħra jistgħu jaffettwaw ir-riżultat.

Allura, lura għal Pserv u kif inqabbluha ma 'Pmax. Hija kwistjoni li tifhem kif jaħdmu s-servizzi u kemm huma b'saħħithom in-nervituri tad-direttur tekniku tiegħek.

Jekk ma nieħdu l-ebda riskju, nemmnu li s-servers kollha jistgħu fl-istess ħin jibdew jikkunsmaw il-massimu tagħhom. Fl-istess mument, jista 'jseħħ input wieħed fid-DC. Anke taħt dawn il-kundizzjonijiet, infra għandu jipprovdi servizz, għalhekk Pserv ≡ Pmax. Dan huwa approċċ fejn l-affidabbiltà hija assolutament importanti.

Jekk id-direttur tat-teknoloġija jaħseb mhux biss dwar is-sigurtà ideali, iżda wkoll dwar il-flus tal-kumpanija u huwa kuraġġuż biżżejjed, allura tista 'tiddeċiedi li

  • Qed nibdew jimmaniġġjaw il-bejjiegħa tagħna, b'mod partikolari, qed nipprojbixxu l-manutenzjoni skedata f'ħinijiet ta 'tagħbija massima ppjanata biex innaqqsu t-tnaqqis f'input wieħed;
  • u/jew l-arkitettura tagħna tippermettilek li titlef rack/filliera/DC, iżda s-servizzi jkomplu jaħdmu;
  • u/jew inxerrdu t-tagħbija sew orizzontalment madwar l-ixkafef, sabiex is-servizzi tagħna qatt ma jaqbżu għall-konsum massimu f'rack wieħed kollha flimkien.

Hawnhekk huwa utli ħafna mhux biss biex tissemma, iżda biex tissorvelja l-konsum u tkun taf kif is-servers attwalment jikkunsmaw l-elettriku f'kundizzjonijiet normali u tal-ogħla livell. Għalhekk, wara xi analiżi, id-direttur tat-teknoloġija jagħfas dak kollu li għandu u jgħid: "nieħdu deċiżjoni volontarja li l-medja massima li tista' tintlaħaq tal-konsum massimu tas-server għal kull rack hija **tant** taħt il-konsum massimu," kondizzjonalment Pserv = 0.8* Pmax.

U mbagħad rack ta '6kW ma jistax jakkomoda aktar 16-il server b'Pmax = 375W, iżda 20 server b'Pserv = 375W * 0.8 = 300W. Dawk. 25% aktar servers. Dan huwa iffrankar kbir ħafna - wara kollox, għandna bżonn immedjatament 25% inqas xtillieri (u se niffrankaw ukoll fuq PDUs, swiċċijiet u kejbils). Żvantaġġ serju ta’ soluzzjoni bħal din huwa li rridu nissorveljaw kontinwament li s-suppożizzjonijiet tagħna għadhom korretti. Li l-verżjoni l-ġdida tal-firmware ma tbiddilx b'mod sinifikanti l-operat tal-fannijiet u l-konsum, li l-iżvilupp f'daqqa bir-rilaxx il-ġdid ma bediex juża s-servers b'mod ħafna aktar effiċjenti (aqra: kisbu tagħbija akbar u konsum akbar fuq is-server). Wara kollox, allura kemm is-suppożizzjonijiet inizjali tagħna kif ukoll il-konklużjonijiet immedjatament isiru żbaljati. Dan huwa riskju li għandu jittieħed b'mod responsabbli (jew evitat u mbagħad tħallas għal xtillieri ovvjament sottoutilizzati).

Nota importanti - għandek tipprova tqassam servers minn servizzi differenti orizzontalment fuq xtillieri, jekk possibbli. Dan huwa meħtieġ sabiex ma jseħħux sitwazzjonijiet meta jasal lott wieħed ta 'servers għal servizz wieħed, l-ixkafef huma ppakkjati vertikalment magħha biex tiżdied id- "densità" (għax huwa aktar faċli b'dan il-mod). Fir-realtà, jirriżulta li rack wieħed huwa mimli b'servers identiċi ta 'tagħbija baxxa tal-istess servizz, u l-ieħor huwa mimli b'servers b'tagħbija daqstant għolja. Il-probabbiltà tat-tieni waqgħa hija ogħla b'mod sinifikanti, minħabba li il-profil tat-tagħbija huwa l-istess, u s-servers kollha flimkien f'dan ir-rack jibdew jikkunsmaw l-istess ammont bħala riżultat ta 'tagħbija miżjuda.

Ejja nerġgħu lura għad-distribuzzjoni tas-servers fi xtillieri. Ħaresna lejn l-ispazju fiżiku tar-rack u l-limitazzjonijiet tal-qawwa, issa ejja nħarsu lejn in-netwerk. Tista 'tuża swiċċijiet b'24/32/48 N portijiet (per eżempju, għandna swiċċijiet ToR ta' 48 port). Fortunatament, m'hemmx ħafna għażliet jekk ma taħsibx dwar kejbils tal-break-out. Qed nikkunsidraw xenarji meta jkollna swiċċ wieħed għal kull rack, swiċċ wieħed għal żewġ jew tliet xtillieri fil-grupp Rnet. Jidhirli li aktar minn tliet xtillieri fi grupp diġà huma wisq, għax... il-problema tal-kejbils bejn l-ixkafef issir ħafna akbar.

Allura, għal kull xenarju tan-netwerk (1, 2 jew 3 xtillieri fi grupp), aħna nqassmu s-servers fost l-ixkafef:

Srack = min (Sh, rounddown (Prack/Pserv), rounddown (N/Rnet))

Għalhekk, għall-għażla b'2 xtillieri fi grupp:

Srack2 = min(21, rounddown(6000/300), rounddown(48/2)) = min(21, 20, 24) = 20 server għal kull rack.

Aħna nqisu l-għażliet li fadal bl-istess mod:

Srack1 = 20
Srack3 = 16

U kważi qegħdin hemm. Aħna ngħoddu n-numru ta 'xtillieri biex iqassmu s-servers kollha tagħna S (ħalliha tkun 1000):

R = roundup (S / (Srack * Rnet)) * Rnet

R1 = roundup (1000 / (20 * 1)) * 1 = 50 * 1 = 50 xtilliera

R2 = roundup (1000 / (20 * 2)) * 2 = 25 * 2 = 50 xtilliera

R3 = roundup (1000 / (16 * 3)) * 3 = 25 * 2 = 63 xtilliera

Sussegwentement, aħna nikkalkulaw it-TCO għal kull għażla bbażata fuq in-numru ta 'xtillieri, in-numru meħtieġ ta' swiċċijiet, kejbils, eċċ. Aħna nagħżlu l-għażla fejn it-TCO huwa aktar baxx. Qligħ!

Innota li għalkemm in-numru meħtieġ ta 'xtillieri għall-għażliet 1 u 2 huwa l-istess, il-prezz tagħhom se jkun differenti, għaliex in-numru ta 'swiċċijiet għat-tieni għażla huwa nofs, u t-tul tal-kejbils meħtieġa huwa itwal.

P.S. Jekk tista 'tilgħab bil-qawwa għal kull rack u l-għoli tar-rack, il-varjabbiltà tiżdied. Iżda l-proċess jista 'jitnaqqas għal dak deskritt hawn fuq billi sempliċement tgħaddi mill-għażliet. Iva, se jkun hemm aktar kombinazzjonijiet, iżda xorta numru limitat ħafna - il-provvista tal-enerġija għar-rack għall-kalkolu tista 'tiżdied f'passi ta' 1 kW, xtillieri tipiċi jidħlu f'numru limitat ta 'daqsijiet standard: 42U, 45U, 47U, 48U , 52U. U hawn l-analiżi What-If ta 'Excel fil-modalità Tabella tad-Data tista' tgħin bil-kalkoli. Inħarsu lejn il-pjanċi riċevuti u nagħżlu l-minimu.

Sors: www.habr.com

Żid kumment