АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра

В предишния пост обсъждахме PDU факта, че в някои ракли е инсталиран АВР — автоматичен превключвател за резервно захранване. Но всъщност в ЦОД АВР се поставя не само в ръкава, но и по целия път на електричеството. На различни места те решават различни задачи:

  • в главните разпределителни щити (ГРЩ) АВР превключва натоварването между въвеждането от града и резервното захранване от дизеловите генераторни установки (ДГУ); 
  • в източниците на непрекъснато захранване (ИБП) АВР превключва натоварването от основното въвеждане на байпас (производството ще бъде разказано по-долу); 
  • в стойките АВР превключва натоварването от един вход на друг при наличие на проблеми с един от входовете. 

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра
АВР в стандартната схема за захранване на дата-центровете DataLine.

Днес ще разгледаме какви АВР и къде се използват. 

Основните типове АВР са два: ATS (автоматичен превключвател) и STS (статичен превключвател). Те се различават по принципите на работа и елементната база и се използват за различни задачи. Ако накратко, STS е по-„умен“ ATS. Той по-бързо превключва натоварването и най-често се използва за големи натоварвания/токове. Той е по-гъвкав при настройките, но е „капризен“ към мрежата: може да откаже да работи, ако 2 входа се захранват от различни източници, например: от трансформатор и ДГУ.  

АВР в ГРЩ

 
Главният АВР на дата-центъра преди двадесет години изглеждаше като сложна система от контактори и релета.

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра
АВР от началото на 2000-те.

Сега АВР е компактно многофункционално устройство.

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра

Системата АВР в ГРЩ управлява входните автоматични системи и дава команди за стартиране и спиране на ДГУ. При натоварване над 2 МВт на нивото на ГРЩ не е разумно да се гони скорост. Дори ако превключи бързо, ще отнеме време, преди ДГУ да се стартира. В тази система се използват по-бавни ATS и се задават закъснения (уставки). Работи така: когато захранването на дата-центъра от трансформаторите спре, АВР нарежда на устройствата: „Трансформатор, изключи се. Сега чакаме 10 секунди (уставка), ДГУ, включи се, чакаме още 10 секунди“. 

АВР в ИБП  

На примера на ИБП ще видим как работи вторият тип АВР — STS или статичен превключвател.

В ИБП променливият ток се преобразува в постоянен на изправител. След това на инвертора той отново се превръща в променлив ток, но вече със стабилни параметри. Това премахва смущения и повишава качеството на енергията. При изключване на основния източник на захранване ИБП превключва на акумулаторни батерии и захранва дата центъра, докато в работа се включват ДГУ. 

Но какво, ако някой от елементите: правоток, инвертор или акумулаторни батерии се повреди? В такъв случай, всеки ИБП разполага с механизъм за обходен път или байпас. С него устройството продължава работа, заобикаляйки основните елементи, директно от входното напрежение. Също така, байпасът се използва, когато е необходимо да се изключи ИБП и да се постави в ремонт. 

STS в ИБП е необходим, за да премине безопасно на байпасен вход. Ако кратко, STS контролира параметрите на мрежата на входа и изхода, изчаквайки тяхното съвпадение и превключвайки в безопасни условия. 

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра

АВР в статив 

И така, към статива са подведени два входа за електрическо захранване. Ако вашето оборудване има два блока захранване, спокойно го свързвате към различни PDU и загубата на един вход не ви притеснява. А какво ако вашият сървър има един блок захранване? 
В статива АВР се използва, за да не се изгубят ползите от двата входа. При проблеми с един от входовете, АВР прехвърля товара на другия вход.

Дисклеймер: Ако е възможно, избягвайте оборудване с един блок захранване, за да не създавате точка на отказ в системата. По-нататък ще покажем какви са недостатъците на такава схема на свързване. 

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра

Задачата на АВР в статива е да прехвърли оборудването на работния вход толкова бързо, че да няма прекъсвания в работата му. Нужната за това скорост е открита експериментално: не повече от 20 мс. Нека видим как това е установено.

Сблъсъците в работата на сървърното оборудване се случват заради спадове на напрежението (поради работа на подстанции, свързване на мощни натоварвания или аварии). За да илюстрират как оборудването издържа различна амплитуда и продължителност на спадовете на напрежението, са разработени криви за безопасна работа на електрооборудването CBEMA (Асоциация на производителите на компютри и бизнес оборудване). В момента те са известни като криви ITIC (Съвет за индустрията на информационните технологии), техните варианти са включени в стандартите IEEE 446 ANSI (това е аналог на нашите ГОСТ-ове).

Нека се сверим с графика. Нашата задача е устройствата да работят в "зелената зона". На кривата ITIC виждаме, че оборудването е готово да "търпи" спад максимум 20 мс. Поради това се ориентираме така, че АВР в статива да работи за 20 мс, а още по-добре — още по-бързо.   

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра
Източник: meandr.ru.

Устройството АВР. Стандартният АВР (ATS) в стелажа на нашия ЦОД заема 1 юнит и понася натоварване от 16 А. 

На дисплея виждаме от кой вход получава захранване АВР и колко от свързаните устройства консумират в ампери. С отделен бутон избираме да дадем приоритет на първия или втория вход. От дясно — портове за свързване към АВР: 

  • Ethernet порт — за свързване на мониторинг;
  • Сериен порт — да влезем с лаптоп и да видим в лог файловете какво се случва; 
  • USB — да свържем флашка и да обновим фърмуера. 

Портовете са взаимозаменяеми: можем да извършваме всички тези операции, ако имаме достъп поне до един от тях. 

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра

На задната страна — гнезда за свързване на основния и резервния вход и група контакти за свързване на ИТ оборудването.

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра

Подробните характеристики на АВР можем да видим през уеб интерфейса. Там се настройва чувствителността на превключване и се виждат логовете. 

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра
Уеб интерфейс на АВР.

Инсталиране и свързване на АВР. Най-добре е да инсталирате АВР на височина в средата на стелажа. Ако предварително не знаем конфигурацията на стелажа, то така оборудването с един захранващ блок ще може да достигне до всяка част — горната или долната.  

Но тук има нюанси: дълбочината на стандартния стелаж е значително по-голяма от дълбочината на АВР. Препоръчваме да го инсталирате възможно най-близо до студения коридор по две причини:

  1. Достъп до предния панел. Ако инсталирате АВР по-близо до горещия коридор, ще видим индикацията, но няма да можем да се свържем с него през портовете. Тоест, няма да можем да видим логовете или да рестартираме устройството.

    АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра

    АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра
    Някъде дълбоко, мига АВР — до порта вече не може да се достигне.

  2. Охлаждане. АВР се препоръчва да се използва при температура не повече от 45°С. В същото време той няма свои вентилатори за охлаждане, а е просто метално устройство с електронна част. Поддържа нужната температура по два начина: 

  • с въздушни потоци, които духат отвън; 
  • с крепежи, които отвеждат излишното топлина.

Ако инсталирате АВР от страната на горещия коридор и в допълнение го затиснете с купчина сървъри, ще получим печка. В най-добрия случай АВР ще изгори микропроцесора си и ще загуби връзка с външния свят, в най-лошия — ще започне хаотично да превключва натоварването или да го загуби.

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра
АВР гледа към горещия коридор.

Имаше случай. Инженер, който обикаляше, чу необичайни щракания.
В недрата на горещия коридор под купчина от сървъри беше открит АВР, който постоянно преминаваше от основно захранване на резервно. 

АВР беше заменен. Логовете показаха, че през цялата седмица е преминавал на всеки секунда — общо над половин милион комутации. Ето как. е било

Какви още АВР-системи съществуват в шкафа

Входен ATS за шкафа. В нашия ЦОД този АВР служи като единствен източник на разпределение на захранване в шкафа: работи като АВР+PDU. Заема няколко юнита, издържа натоварване от 32 А, свързва се с индустриални конектори и може да захранва до 6 кВт оборудване. Може да се използва, когато няма възможност да се монтират стандартни PDU, а един блоково оборудване в шкафа не обслужва критични натоварвания. 

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра

Стойков STS. STS в шкафа се използва за оборудване, чувствително на колебания в напрежението. Този АВР превключва по-бързо от ATS. 
 
АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра
Този конкретен STS заема 6 юнита и има малко "винтидж" интерфейс.

Мини-АВР. Има и такива малки, но в нашия ЦОД такива няма. Това е мини-АВР за един сървър. 

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра
Този АВР се свързва директно към захранването на сървъра.

Как търсим идеалния АВР

Тестим много различни АВР и проверяваме как се държат при високи температури.

Ето как тестваме АВР, за да го проверим: 

  • свързваме към него регистратор на качество на мрежата, сървър и още няколко устройства за натоварване;
  • изолираме шкафа с щепсели или фолио, за да достигнем висока температура;
  • нагреем до 50°С;
  • поетапно изключваме входовете по 20 пъти;
  • следим дали е имало спадове в захранването, как се чувства сървърът;
  • ако АВР премине теста — нагреем до 70°С.

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра
Снимка с термовизионен уред от едно от изпитанията.

АВР и всичко, всичко, всичко: автоматичен вход на резервиране в дата центъра
Анализаторът на мрежата регистрира напрежението с времето. На записа виждаме колко време е продължило превключването: в този момент синусоидата беше прекъсната.

Между другото, вземаме АВР на тест: ще проверим вашето устройство за здравина и ще ви кажем какво се получи 😉 

АВР в шкафа: скрита заплаха

Основният проблем с АВР в шкафа е, че той само прехвърля натоварването от основния на резервния вход, но не предпазва от късо съединение или претоварване. Ако в захранващия блок настъпи късо съединение, защитата свързва автоматичния прекъсвач на по-високото ниво: на PDU или в разпределителното табло. В резултат един вход се изключва, АВР разбира това и превключва на втория вход. Ако късото съединение все още е налице, автоматичният прекъсвач на втория вход ще сработи. В крайна сметка, заради проблем с едно оборудване може да остане без ток целият шкаф.

Така че отново ще повторя: помислете хиляда пъти, преди да инсталирате АВР в шкафа и да използвате оборудване с един захранващ блок.

Източник: habr.com

Купете надежден хостинг за сайтове със защита от DDoS, VPS и VDS сървъри 🔥 Купете надежден хостинг за сайтове със защита от DDoS, VPS и VDS сървъри | ProHoster