
Ezt a bejegyzést azoknak az embereknek szentelem, akik hamis nyilatkozatokat tettek a tanúsítványokban, ami miatt majdnem bengáli tüzeket telepítettünk volna a termekbe.
A történetek több mint négy éve kezdődtek, de most publikálom, mert lejárt az NDA. Akkor rájöttünk, hogy a bérelt adatközpontunk majdnem teljesen megtelt, és az energiahatékonysága nem javult valami jól. Korábban azon a hipotézisen alapultunk, hogy minél jobban megtöltjük, annál jobb, mert a mérnöki megoldások mindenki között eloszlanak. De kiderült, hogy ebben a tekintetben átvertük magunkat, és a jó terhelés mellett valahol veszteségek adódtak. Sok területen dolgoztunk, de bátor csapatunk a hűtéssel foglalkozott.
Az adatközpont valódi élete kissé eltér a projekttől. Folyamatos finomítások az üzemeltetési szolgáltatástól a hatékonyság növelése érdekében és a beállítások optimalizálása új feladatokhoz. Vegyük csak a mitikus átlagos állványt. A gyakorlatban ilyen nem létezik, a terheléseloszlás egyenlőtlen, valahol sűrűn, valahol üresen. Így néhány dolgot újra be kellett állítanunk a jobb energiahatékonyság érdekében.
A Kompresszor adatközpontunk különböző megrendelők számára szükséges. Ezért a szokásos két–négy kilowattos állványok között egy teljesen 23 kilowattos vagy annál nagyobb is megtalálható. Ennek megfelelően a klímaberendezéseket úgy állították be, hogy ezeket hűtsék, és a gyengébb állványokon a levegő egyszerűen elsuhant.
A második hipotézis az volt, hogy a meleg és hideg folyosók nem keverednek. A mérések után elmondhatom, hogy ez illúzió, és a valódi aerodinamika lényegében eltér a modelltől.
Vizsgálat
Először a levegőáramokat kezdtük el nézni a termekben. Miért vágtunk bele? Mert tudtuk, hogy az adatközpont öt-hat kW-ra van tervezve állványonként, de tudtuk, hogy ezek ténylegesen 0-tól 25 kW-ig terjednek. Ezt a rendszert szinte lehetetlen a lapokkal szabályozni: az első mérések azt mutatták, hogy majdnem egyformán engednek át. A 25 kW-os lapok pedig egyáltalán nem léteznek, nemcsak üresek kell, hogy legyenek, hanem folyadékvákuummal töltve.
Vásároltunk egy anemométert, és kezdtük mérni az áramlásokat az állványok között és felett. Ezzel egyébként a GOST-nak és sok szabványnak megfelelően kell dolgozni, amelyeket nehéz végrehajtani a gépterem leállítása nélkül. Minket nem a pontosság érdekelt, hanem a lényegi kép. Azaz nagyjából mértük.
A légtechnikai mérések alapján a csempékből kiáramló levegő 100 százalékából 60 százalék jut be a szekrényekbe, a többi elrepül mellettük. Ennek oka, hogy nehéz állványok találhatók 15–25 kW között, amelyekre a hűtés van kialakítva.
Nem tudjuk egyszerűen leállítani a légkondicionálókat, mert a meleg állványok környékén az felső szervereknél nagyon meleg lenne. Ilyenkor tudatosítjuk, hogy valamit el kell szigetelni, hogy a levegő ne ugráljon egyik sorból a másikba, és a hőcsere a blokkban mégis megtörténhessen.
Közben felmerül a kérdés, hogy pénzügyileg ez mennyire indokolt.
Meglepetten tapasztaljuk, hogy az adatközpontunk energiafogyasztását pontosan tudjuk, de a különböző terek fan coiljainak a kiszámítása egyszerűen nem lehetséges. Tehát elméletben tudnánk, de a gyakorlatban nem. És nem tudjuk megbecsülni a megtakarítást sem. A feladat egyre érdekesebbé válik. Ha 10 % -ot spórolunk a légkondicionálók teljesítményén, mennyi pénzt tudnánk szigetelésre félretenni? Hogyan számoljunk?
Elmentünk az automatikásokhoz, akik éppen a monitorozó rendszer finomításán dolgoztak. Köszönet a srácoknak: minden érzékelőjük megvolt, csak a kódot kellett kiegészíteni. Külön-külön elkezdtek megjeleníteni a hűtőgépeket, UPS-t, világítást. Az új eszközzel lehetőség nyílt arra, hogy nyomon követhessük, hogyan változik a helyzet a rendszer elemein.
Kísérletek a függönyökkel
Párhuzamosan elkezdjük a kísérleteket a függönyökkel (válaszfalakkal). Úgy döntünk, hogy a kábelcsatornák pálcáira rögzítjük őket (többre úgysem lesz szükség), ami jó, mert könnyűnek kell lenniük. A tetők és a fogantyúk gyorsan eldőltek.


A helyzet az, hogy korábban sokféle beszállítóval dolgoztunk. Mindegyiknek van megoldása a saját céges adatközpontokhoz, de kereskedelmi adatközponthoz kész megoldások szinte nincsenek. Az ügyfeleink folyamatosan jönnek és mennek. Mi vagyunk az egyik kevés "nehéz" adatközpont, amelynek nincs szélességi korlátozása, és lehetősége van az ilyen, 25 kW-ig terjedő szerverek fogadására. Nincs előzetes infrastruktúra-tervezés. Tehát ha moduláris cage rendszereket venni, mindig lesznek két hónapos lyukak. Tehát az adatközpont soha nem lesz energiatakarékos elvileg.
Úgy döntöttünk, hogy magunk készítjük el, szerencsére van saját mérnökünk.
Az első, amit beszereztünk, az ipari hűtőszekrényekből származó szalagok voltak. Ezek olyan rugalmas polietilén szálak, amelyekkel odabent sok mindent el lehet érni. Valószínűleg látták őket már a legnagyobb élelmiszerboltok húsrészlegén. Kerestünk nem-toxikus és nem éghető anyagokat. Megtaláltuk, megvettük két sorban. Félretettük, és néztük, hogy áll össze a kép.
Tudtuk, hogy nem lesz túl jó. De igazából nagyon-nagyon nem lett jó. Olyanok kezdtek lenni, mint a tészták, szépen illetve hullámzóan.
Kezdtük mérlegelni, hogy mi lesz a teremben.
Elmentünk az építőkhöz, megmutattuk nekik a tervünket. Ők megnézték, mondták: a függönyeitek valami nagyon nehezek. 700 kilogramm az egész gépteremben. Menjetek, mondják, jó emberek, a francba. Pontosabban, a SCS csapatához. Hogy számolják ki, mennyi tészta van a tálcákban, mert 120 kg négyzetméterenként — a maximum.
Az SCS azt mondta: emlékeznek, hogy egy nagy megrendelőnk jött hozzánk? Tízezrek vannak egy teremben. A gépterem szélein még rendben van, de közelebb a keresztmetszethez már nem lehet: a tálcák le fognak esni.
Az építők még kértek egy anyagtanúsítványt. Megjegyzem, hogy korábban tiszta szavakkal dolgoztunk a beszállítónkkal, hiszen csak egy tesztfutás volt. Megkerestük ezt a beszállítót, mondtuk: rendben, készen állunk a bétára, jöjjenek az összes papírral. Küldtek nekünk valamit, ami nem éppen szabványos formátumú.
Mondtuk: figyeljenek, hol szerezték ezt a papírt? Ők: ezt a kínai gyártónk küldte válaszként a megkeresésekre. A papír szerint ez az anyag egyáltalán nem ég.
Ebben a pillanatban rájöttünk, hogy ideje megállni és ellenőrizni a tényeket. Elmegyünk a hölgyekhez a CO2 tűzvédelmi osztályhoz, ők ajánlanak egy laboratóriumot, amely teszteli az éghetőséget. Teljesen elérhető árakkal és határidőkkel (mentálisan átverve éreztük magunkat, amíg összegyűjtöttük a szükséges papírokat). Ott a tudósok mondták: hozzák az anyagot, tesztelni fogunk.
A következtetésben az állt, hogy egy kilogramm anyagból körülbelül 50 gramm hamu marad. A többi élénken ég, lefolyik, és nagyon jól támogatja a lángot a tócsában.
Megértettük — jól tettük, hogy nem vásároltunk. Elkezdünk más anyagokat keresni.
Megtaláltuk a poliésztert. Szigorúbbnak bizonyult. Az átlátszó lap – két mm, az ajtók – négy mm vastagból készülnek. Alapvetően ez akrilüveg. Elkezdjük a beszélgetést a gyártóval a tűzbiztonságról: küldjetek certifikátot. Küldik. Ugyanazon intézet által aláírva. Felhívjuk őket, mondjuk: mi van, fiúk, ezt ellenőrizték nálatok?
Azt mondják: igen, ellenőrizték. Először náluk elégették, csak utána vitték a tesztre. Egy kilogramm anyagból (ha lánggal égetjük) körülbelül 930 gramm hamu marad. Megolvadhat és csepeghet, de a tócsán nem fog égni.
Azonnal ellenőrizzük a mágneseket (műanyag alaplapon vannak). Meglepetésünkre rosszul égnek.
Összeállítás
Ebből kezdtük összerakni. A poliészter csodás, mert könnyebb, mint a polietilén, és sokkal nehezebben hajlik. Igaz, 2,5 x 3 méteres lapokat szállítanak, és a szállító nem érdekli, hogy mit kezdjünk vele. Nekünk 2,8 cm széles, 20-25 cm hosszú kell. Az ajtókat olyan cégekhez küldtük, amelyek megfelelően tudják vágni a lapot. A lamellákat mi vágtuk. Maga a vágási folyamat körülbelül kétszer drágább, mint a lap.
Itt van, amit kaptunk:

Az eredmény – a kábelkezelő rendszer kevesebb mint egy év alatt megtérül. Folyamatosan 200-250 KWh-t spóroltunk a fan coilok teljesítményén. Még valamennyit a hűtőgépeken, pontosan nem tudjuk mennyit. A kiszolgálók folyamatosan szívnak, a fan coilok fújnak. A hűtőgépek pedig váltakozva kapcsolódnak be és ki: az adatok kiemelése bonyolult. A gépterem nem állhat le a teszteléshez.
Örülünk, hogy valamikor volt egy szabály, hogy a 5x5 modulok állványait úgy kell elhelyezni, hogy az átlagos teljesítményük legfeljebb hat kW legyen. Ezért a meleg nem koncentrálódik szigetekre, hanem eloszlik a gépteremben. De van olyan helyzet, ahol 10 db 15 kW-os állvány van egymás mellett, de szemben – egy tároló, ami hideg. Ezt egyensúlyban tartják.
Ahol nincs állvány – ott padlószegélyre van szükség.
És van néhány ügyfelünk, akiket rácsokkal izoláltak. Velük is volt néhány sajátosság.
A lamellák vágása azért történt, mert az állványok szélessége nem rögzített, a rögzítő gerenda periódusos távolsága pedig meghatározott: három-négy cm, vagy jobbra, vagy balra, mindig így lesz. Ha van egy 600-as blokk az állványhely alatt, akkor 85 százalékos valószínűséggel nem fog elférni. A rövid és hosszú lamellák együtt léteznek és ragasztódnak. Néha a lamellát L alakúra vágjuk az állványok kontúrvonalai mentén.

Érzékelők
Mielőtt csökkentettük volna a ventilátorok teljesítményét, nagyon pontos hőmérséklet-figyelést kellett beállítani a terem különböző pontjain, hogy ne érjenek meglepetések. Így születtek meg a vezeték nélküli érzékelők. A vezetékeseknél minden sorra fel kell akasztani egy-egy darabot a szenzorok keresztbe kötésére, és néha hosszabbítókat is. Ez igazi zagyvaság lesz. Nagyon rossz. Amikor ezek a vezetékek a megrendelő sejtekbe kerülnek, a biztonsági személyzet azonnal reagál, és kérik, hogy bizonyítékkal magyarázzuk meg, hogy mi történik a vezetékeken. Tisztelnünk kell a biztonságiak idegállapotát. Furcsa módon a vezeték nélküli érzékelőket nem bántják.
Aztán a rack-ek jönnek-mennek. A mágneses érzékelőt könnyebb átszerelni, mert azt minden alkalommal fel kell akasztani magasabbra vagy alacsonyabbra. Ha a szerverek a rack alsó harmadában vannak – akkor lent kell akasztani, nem pedig az ajtós magasságban másfél méterre a padlótól a hideg folyosón. Ott nem érdemes mérni, azt kell mérni, ami a vasban van.
Egy érzékelő három rackhez – gyakrabban nem szükséges felakasztani. A hőmérséklet nem különbözik. Attól féltünk, hogy a levegő elmozdulása a rackeken keresztül fog történni – de ez nem történt meg. De még mindig több hideg levegőt adunk, mint a számított értékek. Kisebb nyílásokat készítettünk a lamellákban 3, 7 és 12, a rack fölött lyukat készítünk. Ebbe a lyukba anemométert állítunk a bejárás során: nézzük, hogy az áramlás oda megy, ahová kell.

Aztán fényes fonalakat akasztottunk fel: régi gyakorlat a mesterlövészek számára. Furcsán néz ki, de lehetővé teszi a lehetséges problémák gyorsabb észlelését.

Vicces
Míg mindezt csendben csináltuk, érkezett egy szállító, aki mérnöki megoldásokat gyárt adatközpontok számára. Azt mondta: gyertek, mesélünk az energiahatékonyságról. Megérkeztek, és elkezdtek beszélni az optimális teremről, a légáramlatokról. Megértően bólintottunk. Mert már három éve beállítottuk.
Minden rack-re három érzékelőt akasztanak fel. A nyomon követési képek fantasztikusak, gyönyörűek. Ennek a megoldásnak több mint felét az ár jelenti – a szoftver. Az alert a Zabbix szintjén, de sajátos és nagyon drága. Az a probléma, hogy van érzékelőjük, szoftverük, és most helyben keresnek alvállalkozót: nincsenek saját beszállítóik a ketrecsekhez.
Kiderül, hogy amit ők csinálnak, az ötször-hatszor olyan drága, mint amit mi készítettünk.
Hivatkozások
- .
- .
- .
- .
- .
- Az e-mail címem: PGoryunov@croc.ru
Forrás: habr.com
