Über das Rechenzentrum in aller Klarheit: Wie wir das Staubproblem in den Serverräumen des Rechenzentrums gelöst haben.

Über das Rechenzentrum in aller Klarheit: Wie wir das Staubproblem in den Serverräumen des Rechenzentrums gelöst haben.

Hallo, Habr! Ich bin Taras Chirkov, Direktor des Rechenzentrums Linxdatacenter in Sankt Petersburg. Heute werde ich in unserem Blog darüber sprechen, welche Rolle die Sauberkeit in einem modernen Rechenzentrum für den reibungslosen Betrieb spielt, wie man sie richtig misst, erreicht und auf dem gewünschten Niveau hält.

Sauberkeitstrigger

Eines Tages wandte sich ein Kunde des Rechenzentrums in Sankt Petersburg wegen einer Staubschicht am unteren Ende des Rack mit der Ausrüstung an uns. Dies wurde der Ausgangspunkt für die Untersuchung, deren erste Hypothesen folgendes vermuteten:

  • Staub gelangt durch die Schuhe der Mitarbeiter und Kunden in die Serverräume,
  • er wird durch das Belüftungssystem eingeschleppt,
  • beides.

Blaue Überschuhe – Müll der Geschichte

Wir begannen mit dem Schuhwerk. Zu diesem Zeitpunkt wurde das Sauberkeitsproblem auf die traditionelle Weise gelöst: ein Behälter mit Überschuhen am Eingang. Die Effektivität dieses Ansatzes erreichte nicht das gewünschte Niveau: Es war schwierig, die Verwendung durch die Besucher des Rechenzentrums zu kontrollieren, und das Format selbst war unpraktisch. Wir haben schnell zugunsten fortschrittlicherer Technologien in Form einer Überschuhmaschine aufgegeben. Das erste bei uns installierte Modell dieser Maschine fiel durch: Die Maschine riss die Überschuhe viel zu oft, als sie versucht wurden, über die Schuhe gezogen zu werden, ihre Verwendung störte mehr, als sie das Leben erleichterte.

Die Rücksprache mit den Kollegen in Warschau und Moskau löste das Problem nicht, und letztendlich fiel die Entscheidung zugunsten der Technologie des Thermofolienaufbringens auf das Schuhwerk. Mit Hilfe der Thermofolie kann man "Überschuhe" auf Schuhen mit jeder Sohle tragen – sogar auf dünnen Frauenabsätzen. Ja, die Folie rutscht auch manchmal ab, aber viel seltener als die klassischen blauen Überschuhe, und die Technologie selbst ist um ein Vielfaches komfortabler für die Besucher und zeitgemäßer. Ein weiterer wichtiger (für mich) Vorteil – die Folie deckt leicht die größten Schuhgrößen ab, im Gegensatz zu traditionellen Überschuhen, die beim Versuch, sie auf Größe 45 zu ziehen, reißen. Um den Prozess noch moderner zu gestalten, haben wir Mülleimer mit automatischer Deckelöffnung durch einen Bewegungssensor installiert.

So sieht dieser Prozess aus:  

Über das Rechenzentrum in aller Klarheit: Wie wir das Staubproblem in den Serverräumen des Rechenzentrums gelöst haben.
Die Gäste schätzten die Neuerung sofort.

Staub im Wind

Nachdem wir den offensichtlichsten Kanal möglicher Raumverschmutzung in Ordnung gebracht hatten, widmeten wir uns der feiner abgestimmten Materie – der Luft. Es ist durchaus möglich, dass ein erheblicher Teil des Staubs über die Belüftung in die Serverräume gelangt, bedingt durch unzureichende Filterung, oder von draußen hereingetragen wird. Oder liegt es am schlechten Reinigungsstandard? Die Untersuchung wurde fortgesetzt.

Wir beschlossen, die Partikelkonzentration in der Luft innerhalb des Rechenzentrums zu messen und luden ein Labor ein, das sich auf die Luftqualitätskontrolle in speziellen Reinräumen spezialisiert hat, um diese Arbeiten durchzuführen.

Die Labormitarbeiter maßen die Anzahl der Kontrollpunkte (20), erstellten einen Zeitplan für die Probenentnahme zur Überwachung der Dynamik und zur Schaffung eines möglichst genauen Bildes. Die gesamten Kosten für den Messprozess durch das Labor betrugen etwa 1 Million Rubel, was uns völlig unangemessen erschien, jedoch eine Reihe von Ideen für die selbständige Umsetzung lieferte. Gleichzeitig wurde klar, dass ein Labor gut ist, aber Analysen in der Dynamik durchgeführt werden müssen und es äußerst unangenehm ist, ständig auf deren Dienste zurückzugreifen.

Nachdem wir uns die geplanten Maßnahmen des Labors angesehen hatten, entschieden wir uns, nützlichere Geräte für die eigene Arbeit zu betrachten. Letztendlich fanden wir das notwendige Werkzeug für diese Aufgabe – einen Luftqualitätsanalysator. So sieht er aus:

Über das Rechenzentrum in aller Klarheit: Wie wir das Staubproblem in den Serverräumen des Rechenzentrums gelöst haben.
Das Gerät zeigt den Gehalt an Partikeln unterschiedlicher Durchmesser (in Mikrometern) an.

Überprüfung der Standards

Dieses Gerät analysiert die Anzahl der Partikel, die Temperatur, die Luftfeuchtigkeit und zeigt die Ergebnisse in entsprechenden Maßeinheiten gemäß den ISO-Standards für diesen Parameter an. Auf dem Display sind die Gehalte von Partikeln mit unterschiedlichen Durchmessern in der Luftprobe sichtbar.

Parallel dazu machten wir die Filter verantwortlich: Zu diesem Zeitpunkt verwendeten wir in den Serverräumen Filtermodelle der Klasse G4. Dieses Modell sorgt für eine grobe Luftreinigung, weshalb wir die Möglichkeit in Betracht zogen, dass Partikel, die zur Verschmutzung führten, durchgelassen werden. Wir entschieden uns, zur Probe F5-Filter für die Feinstfiltration zu kaufen, die in Klimaanlagen und Belüftungssystemen als Filter der zweiten Reinigungsstufe (Nachreinigung) eingesetzt werden.

Die Untersuchung wurde durchgeführt – nun können wir mit den Kontrollen beginnen. Als Orientierungsmaßstab haben wir die Anforderungen des Standards ISO 14644-1 zur Anzahl der gewogenen Partikel festgelegt.

Über das Rechenzentrum in aller Klarheit: Wie wir das Staubproblem in den Serverräumen des Rechenzentrums gelöst haben.
Klassifizierung von Reinräumen nach Anzahl der gewogenen Partikel.

Auf den ersten Blick könnte man messen und nach Tabelle vergleichen. Doch so einfach ist es nicht: In der Praxis stellte sich heraus, dass es recht schwierig ist, Standards für die Luftreinheit in Serverräumen von Rechenzentren zu finden. Offen gesagt, nirgendwo ist dies schriftlich festgehalten, von keiner Organisation oder Brancheninstitut. Lediglich in einem internen Forum von Uptime Inside Track (Zugang haben Personen, die Schulungen durch das Uptime Institute absolviert haben) gab es eine separate Diskussion zu diesem Thema. Nach eingehender Prüfung neigten wir dazu, uns am Standard ISO 8 zu orientieren – dem vorletzten in der Klassifizierung.

Die ersten Messungen zeigten, dass wir uns selbst unterschätzt hatten – die Ergebnisse der Luftüberprüfungen entsprachen den Anforderungen von ISO 5 in den Innenräumen, was die von den Teilnehmern von Uptime Inside Track gewünschten Normen deutlich überstieg. Dabei hatten wir einen großen Spielraum. Wir haben ein Rechenzentrum, keine biologischen Labore, natürlich, aber damit die Partikelkonzentration in der Luft dem ISO 8 entspricht, müsste es sich um einen Standort der Klasse mindestens „Zementwerk“ handeln. Und wie man denselben Standard auf ein Rechenzentrum anwenden kann, ist nicht ganz klar. Dennoch haben wir das Ergebnis von ISO 5 erzielt, während wir die Messungen unter Verwendung von G4-Filtern durchführten. Das heißt, Staub kann nicht durch die Luft in die Racks gelangen, die F5-Filter waren überflüssig und wurden nicht einmal verwendet.

Ein negatives Ergebnis ist ebenfalls ein Ergebnis: Wir setzten unsere Suche nach der Ursache der Kontamination in anderen Richtungen fort und integrierten die Qualitätssicherung der Luft in die vierteljährlichen Kontrollen, kombiniert mit den Prüfungen der BMS-Sensoren durch zertifizierte Geräte (Anforderungen ISO 9000 und Kunden-Audits).

Unten finden Sie ein Beispiel für einen Bericht, der auf Grundlage der bei der Messung erhaltenen Daten ausgefüllt wird. Um eine höhere Genauigkeit zu erzielen, werden die Messungen mit zwei Geräten durchgeführt – Testo 610 und BMS-Sensor. In der Kopfzeile der Tabelle sind die Grenzwerte für die Geräte angegeben. Abweichungen der angegebenen Parameter werden automatisch farblich hervorgehoben, um die Identifizierung problematischer Bereiche oder Zeiträume zu erleichtern.
Über das Rechenzentrum in aller Klarheit: Wie wir das Staubproblem in den Serverräumen des Rechenzentrums gelöst haben.
Bei uns ist alles klar: Der Unterschied in den Messwerten der Geräte ist minimal, und die Konzentration der Partikel liegt weit unter der Grenzgrenze.

Durch den Hintereingang

Da es neben dem Haupteingang für Kunden auch andere Eingänge zu den sauberen Räumen gab, wo wir eine Überschuhmaschine installiert haben, bestand die Notwendigkeit, das Eindringen von Schmutz in das Rechenzentrum zu verhindern.

Es ist unbequem, während der Verfahren zur Entlastung der Ausrüstung Überschuhe anzuziehen oder abzunehmen, daher haben wir einen Automat zur Fußsohlenreinigung gefunden. Praktisch, funktional, aber der menschliche Faktor spielt eine Rolle in Form von Nachlässigkeit im Umgang mit diesem Gerät. Im Grunde dasselbe wie mit den Überschuhen am Haupteingang.

Über das Rechenzentrum in aller Klarheit: Wie wir das Staubproblem in den Serverräumen des Rechenzentrums gelöst haben.

Um das Problem zu lösen, haben wir nach Reinigungsoptionen gesucht, denen man sich nicht entziehen kann: Dabei kommen am besten spezielle Klebeläufer mit abziehbaren Schichten zum Einsatz. Während der Autorisierung an den Eingangstüren steht der Besucher unbedingt auf einem solchen Teppich und entfernt den überschüssigen Staub von den Schuhsohlen.

Über das Rechenzentrum in aller Klarheit: Wie wir das Staubproblem in den Serverräumen des Rechenzentrums gelöst haben.
Die Reinigungskräfte reißen täglich die oberste Schicht dieses Teppichs ab, insgesamt hat er 60 Schichten – das reicht für etwa 2 Monate.

Bei meinem Besuch des Rechenzentrums von Ericsson in Stockholm fiel mir unter anderem auf, wie diese Fragen dort gelöst werden: Neben den abziehbaren Schichten kommen in Schweden auch wiederverwendbare antibakterielle Teppiche von Dycem zum Einsatz. Die Idee gefiel mir aufgrund des Wiederverwendbarkeitprinzips und der Möglichkeit, eine größere Fläche zu bedecken.

Über das Rechenzentrum in aller Klarheit: Wie wir das Staubproblem in den Serverräumen des Rechenzentrums gelöst haben.
Der magische antibakterielle Teppich. Schade, es ist kein Flugzeug, es könnte aber eines sein – bei so einem Preis!

Wir haben mit Mühe einen Vertreter der Firma in Russland gefunden und eine Kostenschätzung für unsere Datenzentrale vorgenommen. Schließlich erhielten wir eine Zahl, die fast 100 Mal teurer war als die Lösung mit den mehrschichtigen Teppichen – etwa die gleichen 1 Million Rubel wie im Projekt zur Messung der Luftreinheit. Außerdem stellte sich heraus, dass spezielle Reinigungsmittel erforderlich sind, die natürlich nur von diesem Hersteller erhältlich sind. Somit fiel die Lösung auch ganz aus und wir entschieden uns für die mehrschichtige Variante.

Manuelle Arbeit

Besonders hervorzuheben ist, dass alle genannten Maßnahmen die Arbeit der Reinigungskräfte nicht aufgehoben haben. Im Rahmen der Vorbereitung auf die Zertifizierung des Rechenzentrums Linxdatacenter nach dem Standard Uptime Institute Management & Operations war es erforderlich, die Handlungen des Reinigungspersonals im Rechenzentrum klar zu regeln. Es wurden ausführliche Anleitungen erstellt, die vorschreiben, wo und wie die Mitarbeiter handeln müssen.

Ein paar Auszüge aus den Anweisungen:

Über das Rechenzentrum in aller Klarheit: Wie wir das Staubproblem in den Serverräumen des Rechenzentrums gelöst haben.

Über das Rechenzentrum in aller Klarheit: Wie wir das Staubproblem in den Serverräumen des Rechenzentrums gelöst haben.

Wie zu sehen ist, wird alles festgelegt, buchstäblich jeder Aspekt der Arbeit in einem bestimmten Raum, die zulässigen Reinigungsmittel, Materialien usw. Keine Detail bleibt unbeachtet, selbst die kleinsten. Die Unterweisung erfolgt gegen Unterschrift jedes Mitarbeiters der Reinigungsabteilung. In Serverräumen, Elektrozonen usw. wird nur in Anwesenheit von autorisierten Mitarbeitern des Rechenzentrums, wie beispielsweise dem anwesenden Ingenieur, gereinigt.

Aber das ist noch nicht alles.

Auch im Maßnahmenkatalog, der die Sauberkeit im Rechenzentrum gewährleistet, sind Rundgänge mit Sichtkontrollen der Räume, einschließlich wöchentlicher Überprüfungen der Racks auf verbleibende Drahtreste, Verpackungsreste von Geräten und Komponenten. Zu jedem solchen Vorfall wird ein Ereignisprotokoll erstellt, und der Kunde erhält eine Benachrichtigung über die Notwendigkeit, die Verstöße umgehend zu beseitigen.

Für das Auspacken und Einrichten von Geräten haben wir zudem einen separaten Raum eingerichtet – dies ist ebenfalls Teil der Reinigungsrichtlinien des Unternehmens.  

Eine weitere Maßnahme, die wir aus der Praxis von Ericsson übernommen haben, ist die Aufrechterhaltung eines konstanten Luftdrucks in den Serverräumen: Der Druck im Inneren der Räume ist höher als im Freien, um keinen Luftzug nach innen zu erzeugen – über diese Lösung werden wir in einem separaten Beitrag ausführlicher berichten.

Schließlich haben wir Roboterassistenten für Räume eingerichtet, die von Reinigungspersonal nicht betreten werden dürfen.

Über das Rechenzentrum in aller Klarheit: Wie wir das Staubproblem in den Serverräumen des Rechenzentrums gelöst haben.
Das Gitter oben bietet nicht nur +10 zum Schutz des Roboters, sondern sorgt auch dafür, dass er nicht unter vertikalen Kabelkanälen der Racks stecken bleibt.

Unerwartete Entdeckung als Fazit.

Sauberkeit im Rechenzentrum ist wichtig für den Betrieb von Server- und Netzwerkausrüstung, die Luft ansaugt. Das Überschreiten der zulässigen Staubwerte führt zur Ansammlung von Staub auf den Komponenten und zu einem Anstieg der Temperatur um bis zu 1 Grad Celsius. Staub verringert die Kühlleistung, was sich über ein Jahr hinweg in erheblichen indirekten Kosten niederschlagen kann und die Ausfallresistenz des Objekts insgesamt beeinflusst.

Man könnte sagen, dass dies eine theoretische Annahme ist, doch die Experten des Uptime Institute, die das Rechenzentrum Linxdatacenter nach den Qualitätsstandards für Betrieb und Management (Management & Operations) zertifiziert haben, legen größten Wert auf Sauberkeit. Umso erfreulicher war es, in dieser Hinsicht die besten Bewertungen zu erhalten: Die Anforderungen der Zertifizierung werden von unserem Rechenzentrum in Sankt Petersburg deutlich übertroffen. Der Experte des Instituts bezeichnete uns als "das sauberste Rechenzentrum, das er je gesehen hat". Darüber hinaus wird unser Rechenzentrum von Uptime als Beispiel für die Lösung des Problems der Sauberkeit in Serverräumen verwendet. Außerdem bestehen wir problemlos jede Kundenprüfung zu diesem Parameter – die strengsten Anforderungen selbst der anspruchsvollsten Kunden werden mit Bravour erfüllt.

Kehren wir zum Anfang der Geschichte zurück. Woher stammen die Verunreinigungen aus der erwähnten Beschwerde zu Beginn des Artikels? Der Teil des Kundenracks, der Anlass für das gesamte Projekt "Sauberkeit im Rechenzentrum" war, war seit der Einfuhr und Installation im Rechenzentrum verunreinigt. Der Kunde hatte das Rack vor der Einlagerung im Serverraum nicht gereinigt – bei der Überprüfung benachbarter Racks, die zur gleichen Zeit installiert wurden, stellte sich ebenfalls heraus, dass dort die Staublage gleich war. Diese Situation führte zur Aufnahme eines Reinigungsüberwachungspunkts in die Installations-Checkliste für Kunden. Über die Wahrscheinlichkeit solcher Dinge darf man ebenfalls nie vergessen = Wer gewarnt ist, ist gewappnet. Das ist alles über "Sauberkeit und Disziplin" in unserem Rechenzentrum. Im nächsten Artikel werde ich über Drucksensoren berichten; bis dahin können Sie Fragen in den Kommentaren stellen.

Quelle: habr.com

60GB SSD 8Gb DDR4