АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра

В предишния пост говорихме за PDU че в някои стелажи е инсталиран АВР — автоматичен преход към резервно захранване. Но в действителност в ЦОД АВР се поставя не само в стелажите, а и по целия маршрут на електричеството. На различни места те решават различни задачи:

  • в главните разпределителни шкафове (ГРЩ) АВР превключва натоварването между захранването от града и резервното захранване от дизел генератори (ДГУ); 
  • в източниците на непрекъсваемо захранване (ИБП) АВР превключва натоварването от основното захранване на байпас (по-долу ще разкажем малко повече); 
  • в стелажите АВР превключва натоварването от един вход на друг в случай на проблем с един от входовете. 

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра
АВР в стандартната схема на електрозахранване на дата центровете DataLine.

Днес ще говорим за това какви АВР и къде се използват. 

Основните типове АВР са два: ATS (автоматичен превключвател) и STS (статичен превключвател). Те се различават по принципите на работа и елементната база и се използват за различни задачи. В краткост, STS е по 'умен' ATS. Той превключва натоварването по-бързо и по-често се използва за големи натоварвания/токове. Той е по-гъвкав в настройките, но е 'капризен' към мрежата: може да откаже работа, ако 2 входа получават захранване от различни източници, например: от трансформатор и ДГУ.  

АВР в ГРЩ

 
Главният АВР на дата центъра преди двадесет години изглеждаше като сложна система от контактors и реле.

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра
АВР от началото на 2000-те.

Сега АВР е компактно многофункционално устройство.

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра

Системата АВР в ГРЩ управлява входните автоматични устройства и дава команди за стартиране и спиране на ДГУ. При натоварване над 2 MW на ниво ГРЩ не е целесъобразно да се бърза. Дори ако се превключи быстро, ще отнеме време докато ДГУ се стартира. В тази система се използват 'по-бавни' ATS и се задават закъснения (устойки). Работи така: когато захранването на дата центъра от трансформаторите прекъсне, АВР нарежда на устройството: 'Трансформатор, изключи се. Сега чакаме 10 секунди (устойка), ДГУ, включи се, чакаме още 10 секунди'. 

АВР в ИБП  

На примера на ИБП ще видим как работи вторият тип АВР — STS или статичен превключвател.

В ИБП променливото текущо преминава в постоянно на изправителя. След това на инвертора отново се преобразува в променливо захранване, но с вече стабилни параметри. Това премахва смущенията и подобрява качеството на енергията. При прекъсване на основния източник на захранване ИБП се превключва на акумулаторни батерии и захранва дата-центъра, докато се включват ДГУ. 

Но какво, ако се провали някой от елементите: правец, инвертор или акумулатори? За този случай, във всеки ИБП има механизъм за обходен път, или байпас. С него устройството продължава работа, заобикаляйки основните елементи, директно от входното напрежение. Също така байпасът се използва, когато е необходимо да се изключи ИБП и да се изпрати за ремонт. 

STS в ИБП е необходим, за да се премине безопасно на байпасния вход. В кратце, STS контролира параметрите на мрежата на входа и изхода, изчаква, докато те съвпаднат, и превключва при безопасни условия. 

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра

Автоматичен превключвател (АП) в шкафа 

И така, в шкафа са свързани два източника на електрическа енергия. Ако вашето оборудване има два блока за захранване, спокойно го свързвате към различни PDU и изключването на един източник не е проблем. А ако вашият сървър има един блок за захранване? 
В шкафа АП се използва, за да не изгубите потенциала от двата източника. При проблеми с един от входовете, АП превключва натоварването на другия вход.

Дисклеймер: Ако можете, избягвайте оборудване с един блок за захранване, за да не създавате точка на отказ в системата. След това ще покажем какви са недостатъците на такава схема на свързване. 

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра

Задължението на АП в шкафа е да превключи оборудването на работния вход толкова бързо, че в работата му да няма прекъсвания. Нужната скорост е била установена експериментално: не повече от 20 мс. Нека видим как това е открито.

Проблемите в работата на сървърното оборудване се случват поради спадове на напрежението (в резултат на работа по подстанции, свързване на мощни натоварвания или аварии). За да илюстрират как оборудването понася различна амплитуда и продължителност на спадове на напрежение, бяха разработени криви на безопасна работа на електронното оборудване CBEMA (Асоциация на производителите на компютри и бизнес оборудване). Сега те са известни като криви ITIC (Съвет за информационни технологии), техни варианти са включени в стандартите IEEE 446 ANSI (което е аналог на нашите ГОСТ).

Нека се съобразим с графика. Наша задача е устройствата да работят в „зелена зона“. На кривата ITIC виждаме, че оборудването е готово да „търпи“ спад максимум 20 мс. Следователно, целим АП в шкафа да реагира за 20 мс, а още по-добре — по-бързо.   

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра
Източник: meandr.ru.

Устройство АПСтандартният АВР (ATS) в нашия ЦОД заема 1 юнит и издържа натоварване от 16 А. 

На дисплея виждаме от кой вход захранва АВР и колко ампери потребяват свързаните устройства. С отделен бутон избираме дали да дадем приоритет на първия или втория вход. Отдясно — портове за свързване към АВР: 

  • Ethernet порт — за свързване на мониторинг;
  • Сериен порт — да влезем през лаптоп и да видим в логовете какво се случва; 
  • USB — да включим флашка и да актуализираме фърмуера. 

Портовете са взаимозаменяеми: можем да извършим всички тези операции, ако имаме достъп поне до един от тях. 

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра

На задната страна — щепсели за свързване на основния и резервния вход и електрическа група за свързване на ИТ оборудване.

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра

Подробните характеристики на АВР разглеждаме през уеб интерфейса. Там се настройва чувствителността на превключване и се виждат логовете. 

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра
Уеб интерфейс на АВР.

Инсталиране и свързване на АВРПо-височина е най-добре да инсталирате АВР в средата на стелажа. Ако предварително не знаем конфигурацията на стелажа, то оборудването с един блок захранване ще може да достигне с кабелите до долната и горната част.  

Но следва да се имат предвид нюанси: дълбочината на стандартния стелаж е значително по-голяма, отколкото дълбочината на АВР. Препоръчваме да го инсталирате колкото се може по-близо до студения коридор по две причини:

  1. Достъп до предния панел. Ако инсталирате АВР по-близо до горещия коридор, ще виждаме индикацията, но няма да можем да се свържем с него чрез портовете. А това означава, че не можем да проверим логовете или да рестартираме устройството.

    АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра

    АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра
    Някъде там, в дълбочина, мига АВР — до порта вече не можем да се доберем.

  2. Охлаждане. Препоръчва се АВР да се използва при температура не по-висока от 45°С. При това той няма свои вентилатори за охлаждане, а просто е метално устройство с електронна наченка. Поддържат необходимата температура по два метода: 

  • с въздушни потоци, които духат на него от вън; 
  • с крепежи, които отвеждат излишната топлина.

Ако инсталирате АВР от страната на горещия коридор и допълнително го притиснете с пирог от сървъри, то ще получите печка. В най-добрия случай мозъците на АВР ще изгорят и той ще загуби връзка с външния свят, в най-лошия — ще започне хаотично да превключва натоварването или изцяло ще го прекъсне.

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра
АВР е насочен с лице към горещия коридор.

Имаше случай. Инженер по време на обход чу необичайни щракания.
В дълбините на горещия коридор, под купчината сървъри, открихме АВР, който постоянно превключваше от основния вход на резервния. 

АВР беше сменен. Логовете показаха, че в продължение на седмица е превключвал на всяка секунда — общо над половин милион превключвания. Ето как е това. да има

Какви други АВР съществуват в рафта

Входен ATS за рафта. В нашия ЦОД такъв АВР служи като единствен източник на разпределение на електрическата енергия в рафта: работи като АВР+PDU. Зает е няколко юнита, издържа натоварване от 32 А, свързва се с индустриални конектори и може да захранва до 6 кВт оборудване. Може да се използва, когато няма възможност за монтаж на стандартни PDU, а едноблочното оборудване в рафта не обслужва критични натоварвания. 

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра

Рафтов STS. STS в рафта се използва за оборудване, чувствително към колебания в напрежението. Този АВР превключва по-бързо от ATS. 
 
АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра
Този конкретен STS заема 6 юнита и има малко "винтидж" интерфейс.

Мини-АВР. Има и такива малчугани, но при нас в ЦОД такъв не се среща. Това е мини-АВР за един сървър. 

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра
Този АВР се свързва директно в захранващия блок на сървъра.

Как търсим идеалния АВР

Тестуваме много различни АВР и проверяваме как се държат при високи температури.

Ето как се подиграваме с АВР, за да го тестваме: 

  • свързваме към него регистратор на качеството на мрежата, сървър и още няколко устройства за натоварване;
  • изолираме рафта с капаци или филм, за да постигнем висока температура;
  • нагреем до 50°С;
  • поетапно изключваме входовете по 20 пъти;
  • следим дали е имало пропуски в захранването, как се чувства сървърът;
  • ако АВР премине теста — нагряваме до 70°С.

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра
Снимка с термовизор от едно от изпитанията.

АВР и всичко, всичко, всичко: автоматично въвеждане на резерв в дата-центъра
Анализаторът на мрежата записва напрежението с течение на времето. На записа виждаме колко дълго е продължило превключването: в този момент синусоидата е прекъсната.

Между другото, вземаме АВР на тест: ще проверим вашето устройство за здравина и ще ви кажем какво стана 😉 

АВР в рафта: скрита заплаха

Основният проблем с АВР в стелажите е, че той може само да превключва товара от основното към резервното захранване, но не предпазва от късо съединение или претоварване. Ако в захранващия блок се случи късо съединение, защитата ще задейства автоматичен прекъсвач на по-високо ниво: в PDU или в разпределителната кутия. В резултат един вход се изключва, АВР го разбира и преминава на втория вход. Ако късото съединение все още остава, автоматичният прекъсвач на втория вход ще се задейства. В крайна сметка, заради проблем с едно оборудване, може да бъде захранвана цялата стелажна система.

Пак ще повторя: помислете хиляди пъти, преди да инсталирате АВР в стелаж и да използвате оборудване с един захранващ блок.

Източник: habr.com

Купете надежден хостинг за сайтове с защита от DDoS, VPS VDS сървъри 🔥 Купете надежден хостинг за сайтове с защита от DDoS, VPS VDS сървъри | ProHoster