У людині все має бути чудово, а в сучасному дата-центрі все має працювати, як швейцарський годинник. Жоден компонент складної архітектури інженерних систем ЦОД не повинен залишатися поза увагою служби експлуатації. Саме цими міркуваннями керувалися ми на майданчику Linxdatacenter у Санкт-Петербурзі, готуючись до сертифікації Uptime Management & Operations у 2018 році та приводячи всі системи дата-центру у відповідність до найкращих світових стандартів.
Сьогодні я розповім, як і навіщо ми впроваджували систему віддаленого контролю тиску та «підпору» повітря в серверних. Нагадаю, що в процесі підготовки до аудиту Uptime Institute одним із завдань було питання чистоти. Наша команда працювала за двома напрямками: клінінг (раніше мій колега про те, як ми боролися з пилом у серверних приміщеннях) та контроль за тиском у серверних залах. Мені, як головному інженеру компанії, саме доручили друге.
Про що мова
У будь-якому серверному приміщенні є система загальнообмінної вентиляції. Вона влаштована дуже просто: одна вентиляційна машина працює на приплив повітря всередину, друга на його витяжку назовні. Обидва двигуни керуються частотними регуляторами, тобто можна змінювати частоту їх обертів і тим самим регулювати обсяги повітря, що подається/видаляється.
Задач у цієї системи дві:
- Забезпечити необхідний повітрообмін для комфортного перебування людей у серверній (кількість людей задається виходячи зі специфіки приміщення),
- Забезпечити надлишковий тиск повітря в серверній, щоб не втягувати в приміщення частинки пилу через відчинені двері та підтримувати необхідну чистоту.
Приточна машина повинна подавати в серверну більше повітря, ніж виводиться витяжкою. Так забезпечується надлишковий тиск у серверній по відношенню до сусідніх приміщень — так званий «підпор» повітря. При такій системі повітря потрапляє в серверну тільки через фільтри вентиляції припливу, і надходження нефільтрованого повітря в серверну виключено.
Якщо раптом все відбувається навпаки – витяжна вентиляція видаляє більше повітря, ніж подає припливна, – то нефільтроване повітря починає надходити в серверну із суміжних приміщень, що часто є причиною наявності пилу на поверхнях та устаткуванні.
Без контролю
Начебто все просто. Однак на момент початку робіт з підвищення якості клінінгу в ЦОДі ми не мали ефективного інструменту контролю за наявністю підпору. Ми встановлювали частоту подачі більше, ніж частоту витяжки, і далі проводили доналаштування «на око». Двері на серверну відкриваються важко (начебто притягуються всередину) - підпір негативний. Якщо навпаки - доводчик не справляється із закриттям - значить, підпір дуже сильний. Намацуючи якийсь баланс між цими двома станами, десь посередині ми й зупинялися.
Однак цей підхід ненадійний, і ми вважали за неможливе далі покладатися на нього.
Чому? Працюючи «на око», неможливо враховувати вплив стану повітряних фільтрів на потужність вентиляції, що подає. Якщо фільтр чистий – ми побачимо певні показники опору та об'єму повітря, що подається, якщо ж фільтр забруднений, то ці показники будуть помітно відрізнятися. За динамікою відкриття-закриття дверей ці нюанси не відстежиш.
Зазвичай заміна фільтра відбувається за штатним механічним диференціальним манометром, який відключає вентиляцію на певній стадії забруднення фільтра (різниця тисків до і після фільтра не повинна перевищувати певний показник, що відповідає нормі чистоти фільтра).
Виходить, що є тривалий період життя фільтра, поки він поступово забруднюється, а штатний диференціальний вентиляційний манометр вважає його придатним до роботи. Але потужність вентиляції і, отже, сила підпору змінюються залежно стану фільтра.
Штатний диффманометр вентиляції.
У результаті ми дійшли висновку, що процес налаштування та контролю підпору за такого сценарію занадто складний і знову ж таки неефективний для ЦОДу.
Рішення
За відповіддю на запитання «І як же нам вчинити?» ми звернулися до найкращих світових практик, у чому допомогла поїздка до Стокгольма з екскурсією місцевими ЦОДами.
В одному з дата-центрів ми побачили потрібне рішення – механічний диффманометр був встановлений на вході в серверну і показував різницю тисків «серверна/коридор».
Що цікаво, шведські колеги використовують диффманометри біля входу в серверні та для контролю забрудненості вентиляційного фільтра: вони змінюють фільтри при зниженні підпору, не чекали сигналу від штатного диффманометра системи вентиляції. Показання маномента візуально контролюють чергові на обходах.
Повернувшись, ми почали шукати подібне обладнання у Росії. Виявилося, що подібні диффманометри застосовуються у нас у так званих чистих приміщеннях, тобто в операційних, лабораторіях і т.п. Через особливий статус приміщень ціни на це обладнання виявилися захмарними.
Крім того, нам потрібен був не аналоговий прилад, а цифровий, бажано з виходом 4-20мА, щоб можна було підключити його до системи моніторингу ЦОДу. Це було важливо для встановлення порогових показників для надсилання оповіщень, і для збору та аналізу статистики.
Хто шукає той завжди знайде
Нам пощастило – невдовзі після початку пошуків вдалося знайти необхідний прилад: цифровий диференціальний манометр з екраном та виходом для підключення до BMS за бюджету близько 10 000 рублів за одиницю.
Встановили, налаштували та дивуємося лише одному – чому ми раніше до такого самі не здогадалися, і чому це рішення не є стандартним у проектах ЦОД.
Виглядає це так:
Електронний диффманометр у коридорі зовні серверного залу, трубка одного вимірювального каналу заведена в серверний зал, другий канал вимірює тиск у коридорі.
А ось так пристрій відображається у системі моніторингу ЦОДу:
Так виглядає статистика показань манометра у системі моніторингу:
Відповідно до ГОСТу Р ІСО 14644-4-2002 «Чисті приміщення та пов'язані з ними контрольовані середовища», взятому нами за орієнтир, «для безперешкодного відчинення дверей та виключення непередбаченого зустрічного потоку повітря через турбулентність, як правило, перепад тиску між чистими приміщеннями або чистими зонами з різними класами чистоти має бути від 5 до 20 Па».
Саме цей діапазон взятий нами як норма в ЦОДі. Як тільки відбувається відхилення, це відразу реєструється в системі, як показано на графіці нижче.
Різке падіння тиску на графіці – це відчинені двері до серверної.
Якщо показання датчика нижче за уставку більше 5 хвилин – значить щось із фільтром, сталася якась аварія, словом, щось позаштатне. Саме на цьому графіку причиною є тривале відкриття дверей для завезення обладнання до приміщення.
Що ми отримали
По-перше, новий рівень контролю та прозорості роботи інженерних систем дата-центру.
По-друге, Контроль за чистотою став ще більш ефективним: система дозволяє попереджати зниження підпору та заздалегідь змінювати повітряні фільтри або усувати інші причини його зниження.
По-третє, всі ці процеси контролюються математично точними інструментами. Ми збираємо історію спостережень у динаміці та маємо статистику щодо реального терміну експлуатації повітряних фільтрів та всіх позаштатних ситуацій.
Пройдений аудит Management & Operations і наш нещодавній візит до європейських ЦОДів показав, що ми є піонерами у цьому напрямку не лише в Росії, а й у ЄС – такі рішення трапляються далеко не у кожного лідера ринку дата-центрів у Європі.
Звичайно, ця система не є ключовою для роботи інженерних систем майданчика. У той же час, це надзвичайно корисне доповнення для служби експлуатації та чудова ілюстрація відповідності нашого ЦОДу високим стандартам. У нашій галузі дрібниць не буває.
Джерело: habr.com