VienÄ no tÄrzÄÅ”anas sarunÄm man uzdeva jautÄjumu:
ā Vai es varu kaut ko izlasÄ«t par to, kÄ pareizi iepakot serverus plauktos?
Es sapratu, ka nezinu Å”Ädu tekstu, tÄpÄc uzrakstÄ«ju savu.
PirmkÄrt, Å”is teksts ir par fiziskiem serveriem fiziskajos datu centros (DC). OtrkÄrt, mÄs uzskatÄm, ka serveru ir diezgan daudz: simtiem tÅ«kstoÅ”u, mazÄkam skaitam Å”im tekstam nav jÄgas. TreÅ”kÄrt, mÄs uzskatÄm, ka mums ir trÄ«s ierobežojumi: fiziskÄ vieta plauktos, strÄvas padeve katram plauktam un ļaut plauktiem stÄvÄt rindÄs, lai mÄs varÄtu izmantot vienu ToR slÄdzi, lai savienotu serverus blakus esoÅ”ajos plauktos.
Atbilde uz jautÄjumu lielÄ mÄrÄ ir atkarÄ«ga no tÄ, kÄdu parametru mÄs optimizÄjam un ko varam mainÄ«t, lai sasniegtu vislabÄko rezultÄtu. PiemÄram, mums vienkÄrÅ”i ir nepiecieÅ”ams aizÅemt minimÄlu vietu, lai vairÄk atstÄtu tÄlÄkai izaugsmei. Vai varbÅ«t mums ir brÄ«vÄ«ba izvÄlÄties statÄ«vu augstumu, jaudu uz statÄ«vu, ligzdas PDU, statÄ«vu skaitu slÄdžu grupÄ (viens slÄdzis 1, 2 vai 3 statÄ«viem), vadu garumu un vilkÅ”anas darbu ( tas ir ļoti svarÄ«gi rindu galos: ja ir 10 statÄ«vi pÄc kÄrtas un 3 statÄ«vi uz vienu slÄdzi, jums bÅ«s jÄvelk vadi uz citu rindu vai nepietiekami jÄizmanto slÄdža pieslÄgvietas) utt., utt. AtseviŔķi stÄsti: serveru izvÄle un DC izvÄle, mÄs pieÅemsim, ka tie ir atlasÄ«ti.
BÅ«tu labi saprast dažas nianses un detaļas, jo Ä«paÅ”i serveru vidÄjo/maksimÄlo patÄriÅu un to, kÄ mums tiek piegÄdÄta elektrÄ«ba. TÄtad, ja mums ir krievu baroÅ”anas avots 230V un viena fÄze uz statÄ«va, tad 32A maŔīna var tikt galÄ ar ~7kW. PieÅemsim, ka mÄs nominÄli maksÄjam par 6 kW uz vienu statÄ«vu. Ja pakalpojumu sniedzÄjs mÄra mÅ«su patÄriÅu tikai 10 statÄ«vu rindai, nevis katram statÄ«vs, un ja iekÄrta ir iestatÄ«ta uz nosacÄ«ti 7 kW robežu, tad tehniski mÄs varam patÄrÄt 6.9 kW vienÄ statÄ«vÄ, 5.1 kW citÄ un viss bÅ«s ok - nav sodÄms.
Parasti mÅ«su galvenais mÄrÄ·is ir samazinÄt izmaksas. LabÄkais mÄrÄ«Å”anas kritÄrijs ir TCO (kopÄjÄs Ä«paÅ”umtiesÄ«bu izmaksas) samazinÄjums. Tas sastÄv no Å”ÄdÄm daļÄm:
- CAPEX: lÄ«dzstrÄvas infrastruktÅ«ras, serveru, tÄ«kla aparatÅ«ras un kabeļu iegÄde
- OPEX: LÄ«dzstrÄvas noma, elektroenerÄ£ijas patÄriÅÅ”, apkope. OPEX ir atkarÄ«gs no kalpoÅ”anas laika. Ir saprÄtÄ«gi pieÅemt, ka tas ir 3 gadi.
AtkarÄ«bÄ no tÄ, cik lieli ir atseviŔķi gabali kopÄjÄ pÄ«rÄgÄ, mums ir jÄoptimizÄ dÄrgÄkais, bet pÄrÄjiem jÄļauj izmantot visus atlikuÅ”os resursus pÄc iespÄjas efektÄ«vÄk.
PieÅemsim, ka mums ir lÄ«dzstrÄva, ir H vienÄ«bu statÄ«va augstums (piemÄram, H=47), elektrÄ«ba uz vienu statÄ«vu Prack (Prack=6kW), un mÄs nolÄmÄm izmantot h=2U divu vienÄ«bu serverus. No slÄdžu, plÄksteru paneļu un organizatoru plaukta noÅemsim 2..4 vienÄ«bas. Tie. fiziski mÅ«su statÄ«vajÄ ir Sh=rounddown((H-2..4)/h) serveri (t.i., Sh = rounddown((47-4)/2)=21 serveri uz statÄ«va). AtcerÄsimies Å”o Å .
VienkÄrÅ”Ä gadÄ«jumÄ visi plauktÄ esoÅ”ie serveri ir identiski. KopumÄ, ja uzpildÄm plauktu ar serveriem, tad uz katra servera varam vidÄji iztÄrÄt jaudu Pserv=Prack/Sh (Pserv = 6000W/21 = 287W). VienkÄrŔības labad mÄs ignorÄjam slÄdža patÄriÅu.
PaÅemsim soli malÄ un noteiksim, kÄds ir maksimÄlais servera patÄriÅÅ” Pmax. Ja tas ir ļoti vienkÄrÅ”i, ļoti neefektÄ«vi un pilnÄ«gi droÅ”i, tad mÄs lasÄm, kas rakstÄ«ts uz servera baroÅ”anas avota - tas ir tas.
Ja tas ir sarežģītÄks un efektÄ«vÄks, tad mÄs Åemam visu komponentu TDP (termiskÄ dizaina paketi) un summÄjam (tas nav Ä«sti patiesi, bet tas ir iespÄjams).
Parasti mÄs nezinÄm komponentu TDP (izÅemot CPU), tÄpÄc mÄs izmantojam vispareizÄko, bet arÄ« sarežģītÄko pieeju (mums ir nepiecieÅ”ama laboratorija) - Åemam vajadzÄ«gÄs konfigurÄcijas eksperimentÄlo serveri un ielÄdÄjam to, piemÄram, ar Linpack (CPU un atmiÅa) un fio (diski) mÄs izmÄrÄm patÄriÅu. Ja mÄs to uztveram nopietni, tad arÄ« testu laikÄ aukstajÄ koridorÄ ir jÄrada siltÄkÄ vide, jo tas ietekmÄs gan ventilatora patÄriÅu, gan CPU patÄriÅu. MÄs iegÅ«stam maksimÄlo konkrÄta servera patÄriÅu ar noteiktu konfigurÄciju Å”ajos konkrÄtajos apstÄkļos pie Ŕīs konkrÄtÄs slodzes. MÄs vienkÄrÅ”i domÄjam, ka rezultÄtu var ietekmÄt jauna sistÄmas programmaparatÅ«ra, cita programmatÅ«ras versija un citi apstÄkļi.
TÄtad, atpakaļ pie Pserv un kÄ mÄs to salÄ«dzinÄm ar Pmax. Tas ir jÄsaprot, kÄ darbojas pakalpojumi un cik stipri ir jÅ«su tehniskÄ direktora nervi.
Ja mÄs vispÄr neuzÅemamies nekÄdu risku, mÄs uzskatÄm, ka visi serveri vienlaikus var sÄkt patÄrÄt maksimÄlo. TajÄ paÅ”Ä brÄ«dÄ« var notikt viena ievade lÄ«dzstrÄvÄ. Pat Å”Ädos apstÄkļos infra ir jÄnodroÅ”ina pakalpojums, tÄpÄc Pserv ā” Pmax. Å Ä« ir pieeja, kurÄ uzticamÄ«ba ir absolÅ«ti svarÄ«ga.
Ja tehnoloÄ£iju direktors domÄ ne tikai par ideÄlu droŔību, bet arÄ« par uzÅÄmuma naudu un ir pietiekami drosmÄ«gs, tad varat izlemt, ka
- MÄs sÄkam pÄrvaldÄ«t savus pÄrdevÄjus, jo Ä«paÅ”i mÄs aizliedzam plÄnoto apkopi plÄnotÄs maksimÄlÄs slodzes laikÄ, lai samazinÄtu vienas ievades samazinÄÅ”anos;
- un/vai mÅ«su arhitektÅ«ra ļauj pazaudÄt plauktu/rindu/DC, taÄu pakalpojumi turpina darboties;
- un/vai mÄs labi sadalÄm kravu horizontÄli pa plauktiem, lai mÅ«su pakalpojumi nekad nesasniegs maksimÄlo patÄriÅu vienÄ plauktÄ kopÄ.
Å eit ir ļoti noderÄ«gi ne tikai uzminÄt, bet arÄ« uzraudzÄ«t patÄriÅu un zinÄt, kÄ serveri faktiski patÄrÄ elektroenerÄ£iju normÄlos un maksimÄlÄs slodzes apstÄkļos. TÄpÄc pÄc nelielas analÄ«zes tehnoloÄ£iju direktors izspiež visu, kas viÅam ir, un saka: "MÄs pieÅemam lÄmumu, ka maksimÄlais vidÄjais maksimÄlais servera patÄriÅÅ” uz vienu plauktu ir **tik daudz** mazÄks par maksimÄlo patÄriÅu," nosacÄ«ti Pserv = 0.8* Pmaks.
Un tad 6kW plaukts vairs nevar uzÅemt 16 serverus ar Pmax = 375W, bet 20 serverus ar Pserv = 375W * 0.8 = 300W. Tie. Par 25% vairÄk serveru. Tas ir ļoti liels ietaupÄ«jums ā galu galÄ mums uzreiz vajag par 25% mazÄk statÄ«vu (un arÄ« ietaupÄ«sim uz PDU, slÄdžiem un kabeļiem). Nopietns Å”Äda risinÄjuma trÅ«kums ir tas, ka mums pastÄvÄ«gi jÄuzrauga, vai mÅ«su pieÅÄmumi joprojÄm ir pareizi. Ka jaunÄ programmaparatÅ«ras versija bÅ«tiski nemaina ventilatoru darbÄ«bu un patÄriÅu, ka attÄ«stÄ«ba pÄkÅ”Åi ar jauno laidienu nesÄka daudz efektÄ«vÄk izmantot serverus (lasi: tie panÄca lielÄku slodzi un lielÄku patÄriÅu serverÄ«). Galu galÄ gan mÅ«su sÄkotnÄjie pieÅÄmumi, gan secinÄjumi uzreiz kļūst nepareizi. Tas ir risks, kas jÄuzÅemas atbildÄ«gi (vai jÄizvairÄs un pÄc tam jÄmaksÄ par acÄ«mredzami nepietiekami izmantotiem plauktiem).
SvarÄ«ga piezÄ«me - ja iespÄjams, mÄÄ£iniet sadalÄ«t dažÄdu pakalpojumu serverus horizontÄli pa plauktiem. Tas ir nepiecieÅ”ams, lai nerastos situÄcijas, kad vienam servisam pienÄk viena serveru partija, ar to vertikÄli tiek sapakoti statÄ«vi, lai palielinÄtu āblÄ«vumuā (jo tÄ ir vieglÄk). RealitÄtÄ izrÄdÄs, ka viens statÄ«vs ir piepildÄ«ts ar identiskiem viena un tÄ paÅ”a servisa zemas slodzes serveriem, bet otrs ar tikpat augstas slodzes serveriem. OtrÄ kritiena iespÄjamÄ«ba ir ievÄrojami lielÄka, jo slodzes profils ir vienÄds, un visi serveri kopÄ Å”ajÄ plauktÄ sÄk patÄrÄt vienÄdu daudzumu palielinÄtas slodzes rezultÄtÄ.
AtgriezÄ«simies pie serveru sadales plauktos. MÄs esam apskatÄ«juÅ”i fizisko plauktu vietu un jaudas ierobežojumus, tagad apskatÄ«sim tÄ«klu. Varat izmantot slÄdžus ar 24/32/48 N portiem (piemÄram, mums ir 48 portu ToR slÄdži). Par laimi, nav daudz iespÄju, ja nedomÄjat par kabeļiem. MÄs apsveram scenÄrijus, kad mums ir viens slÄdzis katram plauktam, viens slÄdzis diviem vai trim plauktiem Rnet grupÄ. Man Ŕķiet, ka vairÄk nekÄ trÄ«s plaukti grupÄ jau ir par daudz, jo... kabeļu problÄma starp statÄ«viem kļūst daudz lielÄka.
TÄtad katram tÄ«kla scenÄrijam (1, 2 vai 3 plaukti grupÄ) mÄs sadalÄm serverus starp statÄ«viem:
Srack = min(Sh, rounddown(Prack/Pserv), rounddown(N/Rnet))
TÄdÄjÄdi opcijai ar 2 plauktiem grupÄ:
Srack2 = min(21, rounddown(6000/300), rounddown(48/2)) = min(21, 20, 24) = 20 serveri vienÄ plauktÄ.
PÄrÄjÄs iespÄjas mÄs apsveram tÄdÄ paÅ”Ä veidÄ:
Srack1 = 20
Srack3 = 16
Un mÄs esam gandrÄ«z klÄt. MÄs saskaitÄm statÄ«vu skaitu, lai izplatÄ«tu visus mÅ«su serverus S (lai tas bÅ«tu 1000):
R = roundup (S / (Srack * Rnet)) * Rnet
R1 = noapaļoŔana (1000 / (20 * 1)) * 1 = 50 * 1 = 50 plaukti
R2 = noapaļoŔana (1000 / (20 * 2)) * 2 = 25 * 2 = 50 plaukti
R3 = noapaļoŔana (1000 / (16 * 3)) * 3 = 25 * 2 = 63 plaukti
TÄlÄk mÄs aprÄÄ·inÄm TCO katrai opcijai, pamatojoties uz statÄ«vu skaitu, nepiecieÅ”amo slÄdžu skaitu, kabeļiem utt. MÄs izvÄlamies opciju, kur TCO ir zemÄka. PeļÅa!
Å emiet vÄrÄ, ka, lai gan nepiecieÅ”amais statÄ«vu skaits 1. un 2. opcijai ir vienÄds, to cena bÅ«s atŔķirÄ«ga, jo slÄdžu skaits otrajai opcijai ir uz pusi mazÄks, un nepiecieÅ”amo kabeļu garums ir lielÄks.
PS Ja jums ir iespÄja spÄlÄt ar jaudu uz statÄ«vu un plaukta augstumu, mainÄ«ba palielinÄs. Bet procesu var samazinÄt lÄ«dz iepriekÅ” aprakstÄ«tajam, vienkÄrÅ”i izpÄtot iespÄjas. JÄ, bÅ«s vairÄk kombinÄciju, bet tomÄr ļoti ierobežots skaits - baroÅ”anas padevi statnei aprÄÄ·inam var palielinÄt ar 1 kW soli, tipiski statÄ«vi ir ierobežotÄ skaitÄ standarta izmÄru: 42U, 45U, 47U, 48U , 52U. Un Å”eit Excel What-If analÄ«ze datu tabulas režīmÄ var palÄ«dzÄt aprÄÄ·inos. ApskatÄm saÅemtÄs plÄksnes un izvÄlamies minimumu.
Avots: www.habr.com