
Posvećujem ovu objavu onim ljudima koji su lagali o svojim certifikatima, zbog čega smo skoro postavili prskalice u naše hodnike.
Ova priča je stara više od četiri godine, ali objavljujem je sada jer je istekao ugovor o tajnosti podataka. Tada smo shvatili da smo gotovo u potpunosti iskoristili podatkovni centar (koji unajmljujemo), ali njegova energetska učinkovitost se nije puno poboljšala. Prije smo pretpostavljali da što ga više napunimo, to bolje, jer su inženjerski radovi bili podijeljeni među svima. Ali ispostavilo se da smo se zavaravali i da je čak i uz dobru iskorištenost, negdje ipak bilo gubitaka. Radili smo na mnogim frontovima, ali naš hrabri tim usredotočio se na hlađenje.
Podatkovni centri u stvarnom životu prilično se razlikuju od dizajna. Operacije stalno prilagođavaju sustav kako bi poboljšale učinkovitost i optimizirale postavke za nove zadatke. Uzmimo za primjer mitski srednji stalak. U praksi on ne postoji; raspodjela opterećenja je neravnomjerna, neki stalci su prenatrpani, a drugi nedovoljno iskorišteni. Stoga su morale biti napravljene neke prilagodbe radi poboljšanja energetske učinkovitosti.
Naš podatkovni centar Kompressor opslužuje širok raspon korisnika. Stoga bi među uobičajenim ormarima od dva do četiri kilovata mogla postojati jedinica od 23 kilovata ili više. Posljedično, klima uređaji su bili konfigurirani da ih hlade, a manje snažni ormari su jednostavno propuštali zrak pored njih.
Druga hipoteza bila je da se topli i hladni prolazi ne miješaju. Nakon mjerenja mogu potvrditi da je to iluzija i da se stvarna aerodinamika razlikuje od modela u gotovo svakom pogledu.
Ispit
Prvo smo počeli promatrati protok zraka u sobama. Zašto smo se uopće trudili? Jer smo znali da je podatkovni centar dizajniran za pet do šest kW po racku, ali znali smo da se stvarni protok zraka kreće od 0 do 25 kW. Reguliranje svega toga pločicama gotovo je nemoguće: prva mjerenja pokazala su da struje gotovo jednako. A pločice od 25 kW jednostavno ne postoje; moraju biti ne samo prazne, već ispunjene tekućim vakuumom.
Kupili smo anemometar i počeli mjeriti protok zraka između i iznad regala. To je u osnovi GOST (državni standard) i hrpa drugih standarda koje je teško postići bez gašenja turbinske dvorane. Nije nas zanimala točnost, već opća slika. Dakle, mjerili smo otprilike.
Prema mjerenjima, od 100 posto zraka ispuštenog iz pločica, 60 posto dospijeva do regala; ostatak se gubi. To je zbog teških regala od 15-25 kW koji se koriste za hlađenje.
Ne možemo samo smanjiti temperaturu klima uređaja jer će topli regali blizu gornjih servera biti pretoplu. U tom trenutku shvaćamo da moramo izolirati nešto od nečega drugog kako bismo spriječili prelazak zraka iz jednog reda u drugi i osigurali da se izmjena topline unutar jedinice i dalje odvija.
Istovremeno se pitamo je li to financijski izvedivo.
Iznenađeni smo kada otkrijemo da imamo podatke o ukupnoj potrošnji energije podatkovnog centra, ali jednostavno ne možemo izračunati ventilokonvektore za određenu prostoriju. To jest, možemo to učiniti analitički, ali ne i u praksi. I ne možemo procijeniti uštede. Problem postaje sve zanimljiviji. Ako uštedimo 10% kapaciteta klima uređaja, koliko novca možemo izdvojiti za izolaciju? Kako to izračunati?
Otišli smo do inženjera za automatizaciju koji su dovršavali sustav praćenja. Svaka im čast: imali su sve senzore; samo smo trebali dodati malo koda. Počeli su zasebno pratiti hladnjake, UPS i rasvjetu. S ovim novim uređajem sada smo mogli pratiti kako se komponente sustava mijenjaju.
Eksperimenti sa zavjesama
Istovremeno smo počeli eksperimentirati sa zavjesama (pregradama). Odlučili smo ih pričvrstiti na klinove kabelskih polica (ionako ih nije bilo na što drugo pričvrstiti), budući da su morale biti lagane. Brzo smo se odlučili za tende ili češljeve.


Problem je što smo već surađivali s hrpom dobavljača. Svi imaju rješenja za vlastite podatkovne centre, ali za komercijalne podatkovne centre u biti ne postoje gotova rješenja. Naši klijenti se stalno sele. Mi smo jedan od rijetkih "teških" podatkovnih centara bez ograničenja širine racka i s mogućnošću smještaja ovih "vraćenih" servera do 25 kW. Nema unaprijed planiranja infrastrukture. Dakle, ako koristimo modularne sustave kaveza od dobavljača, uvijek će biti prekida u trajanju od dva mjeseca. Drugim riječima, podatkovni centar nikada neće biti energetski učinkovit.
Odlučili smo to napraviti sami, srećom imamo vlastite inženjere.
Prvo što smo zgrabili bila je industrijska ljepljiva traka za hladnjak. To su one fleksibilne polietilenske šmrklje koje možete koristiti za razbijanje stvari. Vjerojatno ste ih negdje vidjeli na ulazu u odjel mesa većine velikih trgovina mješovitom robom. Počeli smo tražiti netoksične i nezapaljive materijale. Pronašli smo neke, kupili dva reda, objesili ih i počeli vidjeti što se događa.
Znali smo da neće biti baš dobro. Ali ispalo je stvarno, stvarno loše. Počeli su lepršati uokolo u strujama, poput špageta. Pronašli smo neke magnetske trake, poput magneta za hladnjak. Zalijepili smo ih na ove trake, zalijepili ih zajedno i zid je ispao prilično monolitan.
Počeli smo smišljati što će se dogoditi s dvoranom.
Otišli smo do građevinara i pokazali im naš projekt. Pogledali su nas i rekli: "Vaše zavjese su stvarno teške. 700 kilograma po cijeloj strojarnici." "Idite dovraga", rekli su, "dobri ljudi." Ili bolje rečeno, SKS ekipi. Neka broje koliko rezanaca imaju u posudicama, jer je 120 kg po kvadratnom metru maksimum.
SCS kaže: sjećate se onog velikog kupca kojeg smo imali? Imao je desetke tisuća portova u jednoj sobi. Rubovi računalne sobe bili su u redu, ali bliže području križnog spajanja, više ih ne bi mogli montirati: ladice bi otpale.
Graditelji su također tražili certifikat za materijal. Napominjem da smo prethodno radili na časnoj riječi dobavljača, budući da je ovo bila samo probna izvedba. Kontaktirali smo ovog dobavljača i rekli: "U redu, spremni smo za beta testiranje, idemo prikupiti svu papirologiju." Poslali su nam nešto što nije bilo baš u ustaljenom formatu.
Kažemo: "Slušajte, gdje ste nabavili ovaj komad papira?" Oni kažu: "Naš kineski proizvođač nam ga je poslao kao odgovor na naše upite. Prema papiru, ova stvar uopće ne gori."
U tom trenutku shvatili smo da je vrijeme da stanemo i provjerimo činjenice. Otišli smo do cura iz odjela za zaštitu od požara podatkovnog centra i one su nam rekle za laboratorij koji testira zapaljivost. Cijena i vremenski okvir bili su sasvim razumni (iako smo sve proklinjali dok smo ispunjavali potrebnu papirologiju). Znanstvenici tamo su rekli: donesite materijale, provest ćemo testove.
U zaključku je navedeno da kilogram tvari daje približno 50 grama pepela. Ostatak gori jarko, teče i vrlo dobro podržava izgaranje u lokvi.
Razumijemo - dobro je da ga nismo kupili. Počeli smo tražiti drugi materijal.
Pronašli smo polikarbonat. Pokazao se krućim. Prozirna ploča je debela dva milimetra, vrata su debela četiri milimetra. To je u biti pleksiglas. Počeli smo razgovarati s proizvođačem o protupožarnoj sigurnosti: dajte nam certifikat. Poslali su ga. Potpisao ga je isti institut. Nazvali smo ih i rekli: "Pa, dečki, jeste li ikada ovo testirali?"
Kažu: da, testirali su ga. Prvo su ga spalili, a zatim donijeli na testiranje. Kilogram materijala (ako ga spalite bakljom) proizvodi oko 930 grama pepela. Topi se i kaplje, ali lokva neće gorjeti.
Odmah provjeravamo naše magnete (na polimernoj su podlozi). Iznenađujuće, slabo gore.
zbor
Počinjemo s montažom od ovoga. Polikarbonat je odličan jer je lakši od polietilena i puno manje fleksibilan. Međutim, isporučuju ploče 2,5 puta 3 metra, a dobavljaču je svejedno što će s njima. Ali nama treba 2,8 metara širine 20-25 centimetara. Vrata su poslana tvrtkama koje režu ploče po potrebi. A letvice smo sami rezali. Sam proces rezanja košta dvostruko više od ploče.
Evo što se dogodilo:

Zaključak je da se sustav kaveznog smještaja isplati za manje od godinu dana. Kontinuirano smo uštedjeli 200-250 kW na ventilokonvektorima. Još nešto na rashladnim uređajima, ali ne znamo točan iznos. Serveri uvlače zrak konstantnom brzinom, dok ventilokonvektori pušu zrak. A rashladni uređaji se uključuju i isključuju češljem: teško je izvući podatke iz njega. Strojarnica se ne može isključiti radi testiranja.
Drago nam je što je u jednom trenutku pravilo bilo rasporediti regale u module 5x5 tako da im je prosječna potrošnja bila maksimalno šest kW. To je značilo da toplina nije bila koncentrirana na otoku, već raspoređena po strojarnici. Ali postoji situacija u kojoj postoji 10 regala od 15 kilovatnih stalaka jedan do drugoga, ali preko puta ulice je skladište. Hladno je. Uravnoteženo je.
Tamo gdje nema štanda, potrebna je ograda duljine do poda.
Također imamo neke klijente koji koriste rešetke za izolaciju. I s njima je bilo nekoliko problema.
Letvice režemo jer širina nosača nije fiksna, ali uzorak pričvršćivanja je fiksan: tri do četiri centimetra desno ili lijevo uvijek će biti tu. Ako imate blok od 600 mm ispod prostora za nosače, postoji 85 posto šanse da neće stati. Kratke i duge letvice koegzistiraju i lijepe se zajedno. Ponekad letvice režemo u obliku slova L prateći konture nosača.

senzori
Prije smanjenja kapaciteta ventilokonvektora, morali smo postaviti vrlo precizno praćenje temperature na različitim točkama u prostoriji kako bismo izbjegli bilo kakva iznenađenja. Tako su nastali bežični senzori. Žičani senzori zahtijevaju zaseban uređaj za svaki red za spajanje tih senzora, a ponekad se dodaju i produžni kabeli. Pretvara se u vijenac od svjetala. Vrlo loše. A kada te žice uđu u kaveze kupaca, zaštitarsko osoblje se odmah uzruja i traži certifikat kako bi objasnilo što se snima kroz te žice. Živce zaštitarskog osoblja treba zaštititi. Iz nekog razloga, ne diraju bežične senzore.
I stalci dolaze i odlaze. Magnetski senzor je lakše ponovno montirati jer ga svaki put treba objesiti više ili niže. Ako su poslužitelji u donjoj trećini stalka, treba ga objesiti niže, a ne standardnih 1,5 metara od poda na vratima stalka u hladnom prolazu. Mjerenje tamo je beskorisno; morate izmjeriti hardver.
Jedan senzor na tri stalka - ne morate ga češće instalirati. Temperatura ne fluktuira. Brinuli smo se da će zrak prolaziti kroz same stalke, ali to se nije dogodilo. Ali i dalje isporučujemo malo više hladnog zraka nego što smo očekivali. Napravili smo prozore u letvicama 3, 7 i 12 te rupu iznad stalka. U njega ugrađujemo anemometar tijekom obilazaka kako bismo osigurali da protok zraka ide tamo gdje treba.

Zatim su objesili neke jarko obojene niti: stara snajperska praksa. Izgleda čudno, ali omogućuje brže otkrivanje potencijalnih problema.

Smiješno
Dok smo mi sve to šutke radili, stigao je dobavljač koji proizvodi inženjerske sustave za podatkovne centre. Rekao je: "Dođimo i razgovarajmo o energetskoj učinkovitosti." Stigli su i počeli razgovarati o neoptimalnoj prostoriji i protoku zraka. Kimnuli smo glavom u znak razumijevanja. Jer imamo to instalirano već tri godine.
Instaliraju tri senzora po racku. Slike praćenja su zapanjujuće i prekrasne. Više od polovice cijene ovog rješenja je softver. Slično je Zabbix alarmima, ali je vlasničko i vrlo skupo. Kvaka je u tome što imaju senzore i softver, a zatim moraju pronaći izvođača radova na licu mjesta: nema internih dobavljača za kaveze.
Ispostavilo se da su njihove ruke koštale pet do sedam puta više od onoga što smo mi koštali.
reference
- .
- .
- .
- .
- .
- Moj email: PGoryunov@croc.ru
Izvor: www.habr.com
