In de vorige post over spraken we over het feit dat in sommige racks een AVR is geïnstalleerd — automatische omschakeling van de voeding. Maar in feite wordt de AVR in het datacenter niet alleen in het rack, maar ook op de gehele stroomroute geplaatst. Op verschillende plaatsen lossen ze verschillende taken op:
- In de hoofdverdeelstations (GVN) schakelt de AVR de belasting tussen de stadsvoeding en de noodvoeding van diesel-generatoren (DG);
- In ononderbroken voedingen (UPS) schakelt de AVR de belasting van de hoofdvoeding naar de bypass (daarover later meer);
- In de racks schakelt de AVR de belasting van de ene invoer naar de andere in het geval van problemen met een van de invoeringen.

De AVR in het standaard energievoorzieningsschema van DataLine-datacenters.
Waar en welke AVRs worden gebruikt, daarover gaan we het vandaag hebben.
Er zijn twee hoofdtypen AVRs: ATS (automatic transfer switch) en STS (static transfer switch). Ze verschillen in hun werking en componenten en worden voor verschillende taken gebruikt. Kort gezegd, STS is een 'slimmere' ATS. Het schakelt de belasting sneller over en wordt vaker gebruikt voor grotere belastingen/stromen. Het is flexibeler in de instellingen, maar is ook 'gevoelig' voor het netwerk: kan weigeren te werken als 2 invoeren van verschillende bronnen komen, bijvoorbeeld: van een transformator en DG.
AVR in GVN
De hoofd-AVR van het datacenter zag er twintig jaar geleden uit als een complex systeem van contactoren en relais.

AVR uit het begin van de jaren 2000.
Tegenwoordig is de AVR een compact multifunctioneel apparaat.

Het AVR-systeem in de GVN beheert de invoerautomaten en geeft opdrachten voor het starten en stoppen van de DG. Bij een belasting van meer dan 2 MW is het niet zinvol om achter snelheid aan te jagen op het niveau van de GVN. Zelfs als het snel schakelt, duurt het even voordat de DG opstart. In dit systeem worden 'langzamere' ATS gebruikt en worden vertragingen (instelbare waarden) ingesteld. Het werkt als volgt: wanneer de voeding van het datacenter van de transformatoren verdwijnt, geeft de AVR het apparaat het commando: 'Transformator, schakel uit. We wachten nu 10 seconden (instelbare waarde), DG, schakel in, wacht nog eens 10 seconden.'
AVR in UPS
Aan de hand van de UPS kijken we hoe het tweede type AVR werkt — STS of static transfer switch.
In de UPS wordt wisselstroom omgezet in gelijkstroom met de gelijkrichter. Vervolgens wordt het op de omvormer weer omgevormd tot wisselstroom, maar met stabiele parameters. Dit elimineert storingen en verbetert de energiekwaliteit. Bij het uitvallen van de hoofdzakelijke stroombron op accu’s en voedt het datacentrum terwijl de dieselgenerator wordt ingeschakeld.
Maar wat als een van de componenten defect gaat: de gelijkrichter, omvormer of accu’s? In dat geval heeft elke UPS een bypass-mechanisme. Hiermee blijft het apparaat functioneren door over de hoofdcomponenten heen te schakelen, rechtstreeks vanaf de ingangsspanning. Bypass wordt ook gebruikt wanneer de UPS moet worden uitgeschakeld voor onderhoud.
STS in de UPS is nodig om veilig over te schakelen naar de bypass-ingang. Kort samengevat, STS controleert de netparameters aan zowel de ingang als de uitgang, wacht tot ze overeenkomen, en schakelt onder veilige omstandigheden over.

AVR in de rack
Twee voedingsinvoeren zijn aangesloten op de rack. Als uw apparatuur twee voedingen heeft, kunt u het rustig aansluiten op verschillende PDU's, en hoeft u zich geen zorgen te maken als een invoer wegvalt. Maar wat als uw server slechts één voeding heeft?
In de rack wordt AVR gebruikt om de voordelen van twee invoeren te benutten. Bij problemen met een van de invoeren schakelt AVR de belasting over naar de andere invoer.
Disclaimer: Als het mogelijk is, vermijd apparatuur met één voeding om een enkel punt van falen in het systeem te voorkomen. Later zullen we laten zien wat de nadelen zijn van deze aansluitconfiguratie.

De taak van AVR in de rack is om de apparatuur zo snel mogelijk over te schakelen op de werkende invoer, zodat er geen onderbreking in de werking is. De benodigde snelheid is experimenteel vastgesteld: niet meer dan 20 ms. Laten we bekijken hoe dit werd ontdekt.
Storingen in serverapparatuur komen voor door spanningsdips (door werkzaamheden op transformatorstations, aansluitingen van zware lasten of ongevallen). Om te illustreren hoe apparatuur verschillende amplitudes en duur van spanningsvariaties kan weerstaan, zijn er veilige werkcurves ontwikkeld door de CBEMA (Computer and Business Equipment Manufacturers Association). Tegenwoordig staan ze bekend als de ITIC-curves (Information Technology Industry Council) en hun varianten zijn opgenomen in de IEEE 446 ANSI-normen (deze zijn vergelijkbaar met onze GOST-normen).
Laten we de grafiek bekijken. Onze taak is ervoor te zorgen dat de apparaten in de "groene zone" functioneren. Op de ITIC-curve zien we dat de apparatuur maximaal 20 ms dips kan verdragen. Daarom streven we ernaar dat de AVR in de rack binnen 20 ms werkt, bij voorkeur nog sneller.

Bron: .
AVR-apparaat. Een typische AVR (ATS) in de rack van onze datacenter neemt 1 eenheid in beslag en kan een belasting van 16 A aan.
Op het display zien we van welke invoer de AVR wordt gevoed en hoeveel aangesloten apparaten in ampère verbruiken. Met een aparte knop kiezen we de prioriteit tussen de eerste of tweede invoer. Aan de rechterkant bevinden zich de aansluitpoorten voor de AVR:
- Ethernetpoort — voor het aansluiten van monitoring;
- Seriële poort — om via een laptop in te loggen en te zien wat er in de logs gebeurt;
- USB — steek een USB-stick in en update de firmware.
De poorten zijn uitwisselbaar: we kunnen al deze handelingen uitvoeren als we toegang hebben tot ten minste één daarvan.

Aan de achterzijde — stekkers voor de aansluiting van de primaire en reservetoevoer en een aansluitgroep voor de IT-apparatuur.

Gedetailleerde specificaties van de AVR bekijken we via de webinterface. Daar kunnen we de gevoeligheid van de overschakeling instellen en zijn de logs zichtbaar.

Webinterface van de AVR.
Installatie en aansluiting van de AVR. Het is beter om de AVR in het midden van het rack te installeren. Als we de configuratie van het rack van tevoren niet weten, kan de apparatuur met één voeding de kabels zowel naar de boven- als de onderkant reiken.
Maar verder zijn er nuances: de diepte van een standaard rack is veel groter dan de diepte van de AVR. We raden aan om deze zo dicht mogelijk bij de koude gang te installeren om twee redenen:
- Toegang tot de frontpaneel. Als de AVR dichter bij de warme gang wordt geïnstalleerd, kunnen we de indicatie zien, maar kunnen we hem niet via de poorten aansluiten. Dat betekent dat we de logs niet kunnen bekijken of het apparaat niet kunnen herstarten.


Daar, diep binnen, knippert de AVR — de poort is al niet meer te bereiken. - Koeling. De AVR wordt aanbevolen om te worden gebruikt bij temperaturen van niet meer dan 45°C. Het heeft geen eigen ventilatoren voor koeling; het is gewoon een metalen apparaat met elektronische componenten. De benodigde temperatuur wordt op twee manieren gehandhaafd:
- door luchtstromen die van buitenaf op hem worden geblazen;
- door bevestigingsmiddelen die overtollige warmte afvoeren.
Als je de AVR aan de kant van de warme gang installeert en bovendien omringt met een stapel servers, krijgen we een heater. In het beste geval verbrandt de AVR en verliest hij het contact met de buitenwereld, in het ergste geval schakelt hij de belasting chaotisch of laat hij deze vallen.

De AVR staat met zijn gezicht naar de warme gang.
Er was een geval. Een engineer hoorde tijdens de inspectie ongebruikelijke klikgeluiden.
In de diepten van de hete gang onder een berg servers werd een UPS ontdekt die constant overschakelde van de hoofdvoeding naar de reserve.De UPS is vervangen. Logbestanden toonden aan dat hij een hele week elke seconde overschakelde — in totaal meer dan een half miljoen schakelingen. Zo gaat dat.
Welke andere UPS'en zijn er in de rack?
Invoer ATS voor het rack. In ons datacenter fungeert deze UPS als de enige energieverdelingsbron in het rack: het werkt als UPS+PDU. Het neemt enkele eenheden in beslag, weerstaat een belasting van 32 A, wordt aangesloten met industriële connectoren en kan tot 6 kW aan apparatuur van stroom voorzien. Het kan worden gebruikt wanneer het niet mogelijk is om standaard PDU's te installeren en als eenbloksapparatuur in het rack geen kritieke lasten bedient.

Rack STS. STS in het rack wordt gebruikt voor apparatuur die gevoelig is voor spanningsschommelingen. Deze UPS schakelt sneller dan de ATS.

Deze specifieke STS neemt 6 eenheden in beslag en heeft een beetje een "vintage" interface.
Mini-UPS. Er zijn ook zulke kleintjes, maar in ons datacenter hebben we die niet. Dit is een mini-UPS voor één server.

Deze UPS wordt rechtstreeks op de voeding van de server aangesloten.
Hoe wij de ideale UPS zoeken
We testen veel verschillende UPS'en en kijken hoe ze zich gedragen onder hoge temperaturen.
Zo testen we de UPS om dit te controleren:
- we sluiten een netwerkwaliteitslogger, een server en nog een paar apparaten voor belasting aan;
- we isoleren het rack met pluggen of folie om een hoge temperatuur te bereiken;
- we verwarmen tot 50 °C;
- we schakelen de ingangen om de beurt 20 keer uit;
- we kijken of er spanningsonderbrekingen zijn geweest, hoe de server zich voelt;
- als de UPS de test doorstaat, verwarmen we tot 70 °C.

Foto met een thermische camera van een van de testen.

De netwerkanalysator registreert de spanning in de tijd. We zien op de opname hoe lang de overschakeling duurde: op dat moment was de sinusgolf onderbroken.
Overigens, we nemen de UPS voor een test: we testen uw apparaat op sterkte en vertellen wat eruit is gekomen 😉
UPS in het rack: een verborgen bedreiging
Het grootste probleem met een AWR in de rack is dat het alleen de belasting van de primaire naar de secundaire voeding kan schakelen, maar het biedt geen bescherming tegen kortsluiting of overbelasting. Als er een kortsluiting optreedt in de voeding, zal de beveiliging de automatische schakelaar hoger activeren: op de PDU of in het distributiepaneel. Hierdoor wordt een invoer uitgeschakeld, begrijpt de AWR dit en schakelt over naar de tweede invoer. Als er nog steeds een kortsluiting is, zal de automatische schakelaar van de tweede invoer afgaan. Uiteindelijk kan door een probleem met één apparaat de hele rack zonder stroom komen te zitten.
Dus ik herhaal nogmaals: denk duizend keer na voordat je een AWR in een rack installeert en apparatuur met één voedingsunit gebruikt.
Bron: habr.com


