{"id":38966,"date":"2019-10-31T22:27:03","date_gmt":"2019-10-31T19:27:03","guid":{"rendered":"https:\/\/prohoster.info\/blog\/admin-bez-ruk-giperkonvergentsiya\/"},"modified":"2019-10-31T22:27:03","modified_gmt":"2019-10-31T19:27:03","slug":"admin-bez-ruk-giperkonvergentsiya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/de\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya","title":{"rendered":"Admin ohne H\u00e4nde = Hyperkonvergenz?","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Admin ohne H\u00e4nde = Hyperkonvergenz?\" src=\"\/wp-content\/uploads\/2019\/10\/ea1763132185c97bb4edf0e67640d58f.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<img decoding=\"async\" alt=\"Admin ohne H\u00e4nde = Hyperkonvergenz?\" src=\"\/wp-content\/uploads\/2019\/10\/b6355c444c310570e1f2619cd931e1ca.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nDies ist ein Mythos, der im Bereich der Serverhardware weit verbreitet ist. In der Praxis sind hyperkonvergente L\u00f6sungen (alles in einem) jedoch f\u00fcr viele Zwecke erforderlich. Historisch gesehen wurden die ersten Architekturen von Amazon und Google f\u00fcr ihre eigenen Dienste entwickelt. Die Idee war damals, einen Rechenfarm aus identischen Knoten zu schaffen, von denen jeder eigene Festplatten hat. All dies wurde mit einer Art systembildenden Software (Hypervisor) verbunden und dann in virtuelle Maschinen unterteilt. Die Hauptaufgabe besteht darin, den Aufwand f\u00fcr die Wartung eines einzelnen Knotens auf ein Minimum zu reduzieren und Probleme beim Skalieren zu vermeiden: Man kauft einfach eine weitere tausend oder zwei solcher Server und schlie\u00dft sie daneben an. In der Praxis sind dies jedoch Einzelf\u00e4lle, und viel h\u00e4ufiger geht es um eine geringere Anzahl von Knoten und eine leicht andere Architektur. <\/p>\n<p>Der Vorteil bleibt derselbe \u2013 unglaubliche Einfachheit beim Skalieren und Verwalten. Der Nachteil ist, dass verschiedene Aufgaben unterschiedlich Ressourcen verbrauchen, sodass es irgendwo viele lokale Festplatten, woanders wenig RAM und so weiter gibt. Das hei\u00dft, bei verschiedenen Arten von Aufgaben wird die Ressourcennutzung sinken. <\/p>\n<p>Es stellte sich heraus, dass man f\u00fcr den Komfort der Einrichtung 10-15% mehr bezahlt. Das hat den Mythos aus der \u00dcberschrift hervorgerufen. Wir haben lange gesucht, wo diese Technologie optimal eingesetzt werden kann, und sie gefunden. Tatsache ist, dass Cisco keine eigenen Speicherl\u00f6sungen hatte, aber den vollst\u00e4ndigen Servermarkt wollte. Und so haben sie Cisco Hyperflex geschaffen \u2013 eine L\u00f6sung mit lokalen Speichern auf den Knoten. <\/p>\n<p>Und damit hat sich pl\u00f6tzlich eine sehr gute L\u00f6sung f\u00fcr Backup-Rechenzentren (Disaster Recovery) ergeben. Warum und wie \u2013 das werde ich jetzt erkl\u00e4ren. Und ich werde die Cluster-Tests zeigen. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/p>\n<h3>Wo n\u00f6tig<\/h3>\n<p>\nHyperkonvergenz ist: <\/p>\n<ol>\n<li>Verschiebung der Festplatten in die Rechenknoten.<\/li>\n<li>Vollst\u00e4ndige Integration des Storage-Subsystems mit dem Virtualisierungs-Subsystem.<\/li>\n<li>Verschiebung\/Integration mit dem Netzwerk-Subsystem.<\/li>\n<\/ol>\n<p>\nSolch eine Kombination erm\u00f6glicht die Umsetzung vieler Funktionen von Speichersystemen auf der Ebene der Virtualisierung und alles aus einem einzigen Verwaltungsfenster.<\/p>\n<p>In unserem Unternehmen sind Projekte zur Planung von Backup-Rechenzentren sehr gefragt, und oft wird tats\u00e4chlich eine hyperkonvergente L\u00f6sung wegen der Vielzahl an Replikationsoptionen (bis hin zu Metro-Clustern) aus der Box gew\u00e4hlt. <\/p>\n<p>Bei redundanten Rechenzentren handelt es sich in der Regel um einen entfernten Standort an einem anderen Ende der Stadt oder sogar in einer anderen Stadt. Es erm\u00f6glicht die Wiederherstellung kritischer Systeme im Falle eines teilweisen oder vollst\u00e4ndigen Ausfalls des prim\u00e4ren Rechenzentrums. Daten werden kontinuierlich von der Produktionsumgebung repliziert, und diese Replikation kann auf Anwendungsebene oder auf Ebene des Blockspeichers (SAN) erfolgen.<\/p>\n<p>Deshalb werde ich jetzt \u00fcber die Systemarchitektur und Tests sprechen, und danach \u00fcber einige Szenarien f\u00fcr den praktischen Einsatz mit Daten zu Einsparungen. <\/p>\n<h3>Tests<\/h3>\n<p>\nUnser Exemplar besteht aus vier Servern, in jedem davon befinden sich 10 SSD-Laufwerke mit 960 GB. Es gibt eine dedizierte Festplatte zum Caching von Schreibvorg\u00e4ngen und zur Speicherung der Dienstvirtualmaschine. Die L\u00f6sung selbst ist die vierte Version. Die erste war offensichtlich unausgereift (laut Feedback), die zweite war noch etwas unausgereift, die dritte bereits ausreichend stabil, und diese kann man als Release nach Abschluss der \u00f6ffentlichen Betatests bezeichnen. W\u00e4hrend der Testphase habe ich keine Probleme festgestellt, alles funktioniert einwandfrei.<\/p>\n<p><b class=\"spoiler_title\">\u00c4nderungen in v4<\/b>Eine Menge Bugs wurden behoben. <\/p>\n<p>Urspr\u00fcnglich konnte die Plattform nur mit dem Hypervisor VMware ESXi arbeiten und unterst\u00fctzte nur eine geringe Anzahl von Knoten. Au\u00dferdem endete der Bereitstellungsprozess nicht immer erfolgreich, man musste einige Schritte neu starten, es gab Probleme beim Aktualisieren von \u00e4lteren Versionen, die Daten im GUI wurden nicht immer korrekt angezeigt (obwohl ich auch jetzt nicht begeistert von der Darstellung der Leistungsdiagramme bin), manchmal traten Probleme mit der Virtualisierung auf.<\/p>\n<p>Derzeit sind alle Kinderkrankheiten behoben. HyperFlex unterst\u00fctzt sowohl ESXi als auch Hyper-V, au\u00dferdem ist Folgendes m\u00f6glich:<\/p>\n<ol>\n<li>Erstellung eines ausgedehnten Clusters. <\/li>\n<li>Erstellung eines Clusters f\u00fcr B\u00fcros ohne Verwendung von Fabric Interconnect, von zwei bis vier Knoten (wir kaufen nur die Server).<\/li>\n<li>M\u00f6glichkeit zur Arbeit mit externen Speichersystemen.<\/li>\n<li>Unterst\u00fctzung f\u00fcr Container und Kubernetes.<\/li>\n<li>Erstellung von Verf\u00fcgbarkeitszonen.<\/li>\n<li>Integration mit VMware SRM, wenn die integrierte Funktionalit\u00e4t nicht ausreicht.<\/li>\n<\/ol>\n<p>Die Architektur unterscheidet sich nicht wesentlich von den L\u00f6sungen der Hauptkonkurrenten, das Rad wurde nicht neu erfunden. Alles l\u00e4uft auf der Virtualisierungsplattform VMware oder Hyper-V. Hardwareseitig kommt es auf Cisco UCS-Servern zum Einsatz, die intern entwickelt wurden. Es gibt diejenigen, die die Plattform wegen der relativen Komplexit\u00e4t der Ersteinrichtung, der Vielzahl an Kn\u00f6pfen, des nicht-trivialen Systems von Vorlagen und Abh\u00e4ngigkeiten hassen, aber es gibt auch die, die ihre Zen-Erleuchtung erreicht haben, sich mit der Idee identifizieren und nicht mehr mit anderen Servern arbeiten wollen. <\/p>\n<p>Wir betrachten hier die L\u00f6sung f\u00fcr VMware, da diese urspr\u00fcnglich daf\u00fcr entwickelt wurde und mehr Funktionalit\u00e4t bietet. Hyper-V wurde nachtr\u00e4glich angepasst, um mit den Konkurrenten Schritt zu halten und den Markterwartungen zu entsprechen.<\/p>\n<p>Es gibt einen Cluster aus Servern, die mit Festplatten ausgestattet sind. Es sind Festplatten f\u00fcr die Datenspeicherung vorhanden (SSD oder HDD \u2013 je nach Vorliebe und Bedarf), und es gibt eine SSD-Festplatte f\u00fcr das Caching. Bei der Datenspeicherung auf dem Datenspeicher erfolgt die Sicherung der Daten auf der Cache-Ebene (dedizierte SSD-Festplatte und RAM der Service-VM). Parallel wird der Datenblock an die Knoten im Cluster gesendet (die Anzahl der Knoten h\u00e4ngt vom Replikationsfaktor des Clusters ab). Nach der Best\u00e4tigung aller Knoten \u00fcber die erfolgreiche Speicherung wird die Best\u00e4tigung an den Hypervisor und weiter an die VM gesendet. Die gespeicherten Daten werden im Hintergrund dedupliziert, komprimiert und auf die Speichermedien geschrieben. Dabei wird immer ein gro\u00dfer Block an die Speichermedien sequenziell geschrieben, was die Belastung der Speichermedien reduziert.<\/p>\n<p>Deduplizierung und Kompression sind st\u00e4ndig aktiviert und k\u00f6nnen nicht deaktiviert werden. Der Datenzugriff erfolgt direkt von den Speichermedien oder aus dem RAM-Cache. Wenn eine hybride Konfiguration verwendet wird, wird der Zugriff auch auf der SSD-Festplatte zwischengespeichert.<\/p>\n<p>Die Daten sind nicht an den aktuellen Standort der virtuellen Maschine gebunden und werden gleichm\u00e4\u00dfig zwischen den Knoten verteilt. Dieser Ansatz erm\u00f6glicht es, alle Festplatten und Netzwerkinterfaces gleichm\u00e4\u00dfig zu belasten. Ein offensichtlicher Nachteil ergibt sich: Wir k\u00f6nnen die Leseverz\u00f6gerung nicht auf ein Minimum reduzieren, da keine Garantie besteht, dass die Daten lokal verf\u00fcgbar sind. Ich halte dies jedoch f\u00fcr ein geringf\u00fcgiges Opfer im Vergleich zu den erhaltenen Vorteilen. Zumal die Netzwerklatenzen mittlerweile derart sind, dass sie den Gesamtergebnis kaum beeinflussen.<\/p>\n<p>Die gesamte Logik der Funktionsweise des Speichersystems wird von einer speziellen Service-VM, dem Cisco HyperFlex Data Platform Controller, \u00fcbernommen, die auf jeder Speicher-Node erstellt wird. In unserer Konfiguration wurden der Service-VM acht vCPU und 72 GB RAM zugewiesen, was nicht wenig ist. Ich erinnere daran, dass der Host \u00fcber 28 physische Kerne und 512 GB RAM verf\u00fcgt.<\/p>\n<p>Die Service-VM hat direkten Zugriff auf die physischen Festplatten \u00fcber das Durchreichen des SAS-Controllers in die VM. Die Kommunikation mit dem Hypervisor erfolgt \u00fcber ein spezielles Modul namens IOVisor, das Eingabe- und Ausgabeoperationen abf\u00e4ngt, und \u00fcber einen Agenten, der es erm\u00f6glicht, Befehle an die API des Hypervisors zu senden. Der Agent ist zust\u00e4ndig f\u00fcr die Arbeit mit HyperFlex-Snapshots und Klonen.<\/p>\n<p>Im Hypervisor werden die Speicherressourcen als NFS- oder SMB-Freigabe eingebunden (je nach Typ des Hypervisors, erraten Sie, welcher wo ist). Unter der Haube handelt es sich um ein verteiltes Dateisystem, das die Funktionen eines vollwertigen Speichersystems erm\u00f6glicht: Thin Provisioning, Kompression und Deduplication, Snapshots mit der Technologie Redirect-on-Write, synchrone\/asynchrone Replikation.<\/p>\n<p>Die Service-VM bietet Zugang zu einer WEB-Oberfl\u00e4che zur Verwaltung des HyperFlex-Systems. Es gibt eine Integration mit vCenter, und die meisten allt\u00e4glichen Aufgaben k\u00f6nnen daraus durchgef\u00fchrt werden, aber Datastores lassen sich beispielsweise einfacher aus einer separaten Weboberfl\u00e4che abschneiden, wenn Sie bereits auf die schnelle HTML5-Oberfl\u00e4che umgestiegen sind, oder einen vollwertigen Flash-Client mit vollst\u00e4ndiger Integration verwenden. In der Service-Weboberfl\u00e4che kann die Leistung und der detaillierte Status des Systems eingesehen werden.<\/p>\n<p><img decoding=\"async\" alt=\"Admin ohne H\u00e4nde = Hyperkonvergenz?\" src=\"\/wp-content\/uploads\/2019\/10\/4f603b38d6489836892bebc76663eb2f.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nEs gibt auch eine andere Art von Nodes im Cluster \u2013 Compute-Nodes. Dies k\u00f6nnen Rack- oder Blade-Server ohne integrierte Festplatten sein. Auf diesen Servern k\u00f6nnen VMs ausgef\u00fchrt werden, deren Daten auf Servern mit Festplatten gespeichert sind. Aus Sicht des Datenzugriffs gibt es keinen Unterschied zwischen den Typen von Nodes, da die Architektur eine Abstraktion vom physischen Standort der Daten vorsieht. Das maximale Verh\u00e4ltnis von Compute-Nodes zu Storage-Nodes betr\u00e4gt 2:1.<\/p>\n<p>Die Nutzung von Compute-Nodes erh\u00f6ht die Flexibilit\u00e4t beim Skalieren der Clusterressourcen: Wir m\u00fcssen keine Nodes mit Festplatten zus\u00e4tzlich kaufen, wenn wir nur einen Bedarf an CPU\/RAM haben. Au\u00dferdem k\u00f6nnen wir ein Blade-Geh\u00e4use hinzuf\u00fcgen und dabei Kosten f\u00fcr die Unterbringung der Server im Rack sparen.<\/p>\n<p>Somit haben wir eine hyperkonvergente Plattform mit folgenden Funktionen:<\/p>\n<ul>\n<li>Bis zu 64 Knoten im Cluster (bis zu 32 Speicherknoten).<\/li>\n<li>Die minimale Anzahl an Knoten im Cluster betr\u00e4gt drei (zwei f\u00fcr den Edge-Cluster).<\/li>\n<li>Datenredundanzmechanismus: Spiegelung mit einer Replikationsfaktor von 2 und 3.<\/li>\n<li>Metro-Cluster.<\/li>\n<li>Asynchrone Replikation von VMs auf einen anderen HyperFlex-Cluster.<\/li>\n<li>Orchestrierung des VM-Umstiegs in ein entferntes Rechenzentrum.<\/li>\n<li>Native Snapshots mit Redirect-on-Write-Technologie.<\/li>\n<li>Bis zu 1 PB n\u00fctzlicher Speicherplatz bei einem Replikationsfaktor von 3 und ohne Ber\u00fccksichtigung der Deduplizierung. Den Replikationsfaktor 2 lassen wir au\u00dfen vor, da dies keine Option f\u00fcr ernsthaften Vertrieb ist.<\/li>\n<\/ul>\n<p>\nEin weiterer gro\u00dfer Vorteil ist die Einfachheit der Verwaltung und Bereitstellung. Alle Komplexit\u00e4ten der UCS-Serverkonfiguration \u00fcbernimmt eine spezialisierte VM, die von Ingenieuren von Cisco vorbereitet wurde. <\/p>\n<h3>Konfiguration des Teststandes:<\/h3>\n<p><\/p>\n<ul>\n<li>2 x Cisco UCS Fabric Interconnect 6248UP als Steuerungsknoten und Netzkomponenten (48 Ports, die im Ethernet-Modus 10G\/FC 16G betrieben werden).<\/li>\n<li>Vier Server Cisco UCS HXAF240 M4.<\/li>\n<\/ul>\n<p>\nSpezifikationen der Server:<\/p>\n<p><\/p>\n<p>CPU<\/p>\n<p>2 x Intel \u00ae Xeon \u00ae E5-2690 v4<\/p>\n<p>RAM<\/p>\n<p>16 x 32GB DDR4-2400-MHz RDIMM\/PC4-19200\/dual rank\/x4\/1.2v<\/p>\n<p>Netzwerk<\/p>\n<p>UCSC-MLOM-CSC-02 (VIC 1227). 2 Ports 10G Ethernet<\/p>\n<p>Storage HBA<\/p>\n<p>Cisco 12G Modular SAS Durchgangscontroller<\/p>\n<p>Speichermedien<\/p>\n<p>1 x SSD Intel S3520 120 GB, 1 x SSD Samsung MZ-IES800D, 10 x SSD Samsung PM863a 960 GB<\/p>\n<p>\n<b class=\"spoiler_title\">Weitere Konfigurationsm\u00f6glichkeiten<\/b>Neben der gew\u00e4hlten Hardware stehen derzeit folgende Optionen zur Verf\u00fcgung:<\/p>\n<ul>\n<li>HXAF240c M5.<\/li>\n<li>Ein oder zwei CPUs von Intel Silver 4110 bis Intel Platinum I8260Y. Zweite Generation verf\u00fcgbar.<\/li>\n<li>24 Speicherslots, Riegel von 16 GB RDIMM 2600 bis 128 GB LRDIMM 2933.<\/li>\n<li>Von 6 bis 23 Festplatten f\u00fcr Daten, eine Cache-Festplatte, eine Systemfestplatte und eine Startfestplatte.<\/li>\n<\/ul>\n<p>\n<b>Kapazit\u00e4tslaufwerke<\/b><\/p>\n<ul>\n<li>HX-SD960G61X-EV 960GB 2.5 Zoll Enterprise Value 6G SATA SSD (1X Haltbarkeit) SAS 960 GB.<\/li>\n<li>HX-SD38T61X-EV 3.8TB 2.5 Zoll Enterprise Value 6G SATA SSD (1X Haltbarkeit) SAS 3.8 TB.<\/li>\n<li>Caching-Laufwerke<\/li>\n<li>HX-NVMEXPB-I375 375GB 2.5 Zoll Intel Optane-Laufwerk, Extreme Leistung &amp; Haltbarkeit.<\/li>\n<li>HX-NVMEHW-H1600* 1.6TB 2.5 Zoll Ent. Perf. NVMe SSD (3X Haltbarkeit) NVMe 1.6 TB.<\/li>\n<li>HX-SD400G12TX-EP 400GB 2.5 Zoll Ent. Perf. 12G SAS SSD (10X Haltbarkeit) SAS 400 GB.<\/li>\n<li>HX-SD800GBENK9** 800GB 2.5 Zoll Ent. Perf. 12G SAS SED SSD (10X Haltbarkeit) SAS 800 GB.<\/li>\n<li>HX-SD16T123X-EP 1.6TB 2.5 Zoll Enterprise Performance 12G SAS SSD (3X Haltbarkeit).<\/li>\n<\/ul>\n<p>\n<b>System-\/Protokolldatenlaufwerke<\/b><\/p>\n<ul>\n<li>HX-SD240GM1X-EV 240GB 2.5 Zoll Enterprise Value 6G SATA SSD (Upgrade erforderlich).<\/li>\n<\/ul>\n<p>\n<b>Startlaufwerke<\/b><\/p>\n<ul>\n<li>HX-M2-240GB 240GB SATA M.2 SSD SATA 240 GB.<\/li>\n<\/ul>\n<p>Netzwerkanbindung \u00fcber 40G, 25G oder 10G Ethernet-Ports. <\/p>\n<p>Als FI k\u00f6nnen HX-FI-6332 (40G), HX-FI-6332-16UP (40G), HX-FI-6454 (40G\/100G) verwendet werden.<\/p>\n<h3>Der Test<\/h3>\n<p>\nF\u00fcr die Testung des Speichersystems habe ich HCIBench 2.2.1 verwendet. Dies ist ein kostenloses Tool, das die Automatisierung der Lastgenerierung aus mehreren virtuellen Maschinen erm\u00f6glicht. Die Last selbst wird mit dem \u00fcblichen fio erzeugt. <\/p>\n<p>Unser Cluster besteht aus vier Knoten, Replikationsfaktor 3, alle Festplatten sind Flash.<\/p>\n<p>Zur Testdurchf\u00fchrung habe ich vier Datenspeicher und acht virtuelle Maschinen erstellt. F\u00fcr die Schreibtests wird angenommen, dass der Cache-Disk nicht \u00fcberl\u00e4uft.<\/p>\n<p>Die Testergebnisse sind wie folgt:<\/p>\n<p>100 % Lesen 100 % Zuf\u00e4llig<\/p>\n<p>0 % Lesen 100 % Zuf\u00e4llig<\/p>\n<p>Block\/Tiefe der Warteschlange<\/p>\n<p>128<\/p>\n<p>256<\/p>\n<p>512<\/p>\n<p>1024<\/p>\n<p>2048<\/p>\n<p>128<\/p>\n<p>256<\/p>\n<p>512<\/p>\n<p>1024<\/p>\n<p>2048<\/p>\n<p>4K<\/p>\n<p>0,59 ms 213804 IOPS<\/p>\n<p>0,84 ms 303540 IOPS<\/p>\n<p>1,36 ms 374348 IOPS<\/p>\n<p>2,47 ms 414116 IOPS<\/p>\n<p><b>4,86 ms 420180 IOPS<\/b><\/p>\n<p>2,22 ms 57408 IOPS<\/p>\n<p>3,09 ms 82744 IOPS<\/p>\n<p>5,02 ms 101824 IOPS<\/p>\n<p>8,75 ms 116912 IOPS<\/p>\n<p><b>17,2 ms 118592 IOPS<\/b><\/p>\n<p>8K<\/p>\n<p>0,67 ms 188416 IOPS<\/p>\n<p>0,93 ms 273280 IOPS<\/p>\n<p>1,7 ms 299932 IOPS<\/p>\n<p>2,72 ms 376484 IOPS<\/p>\n<p><b>5,47 ms 373176 IOPS<\/b><\/p>\n<p>3,1 ms 41148 IOPS<\/p>\n<p>4,7 ms 54396 IOPS<\/p>\n<p>7,09 ms 72192 IOPS<\/p>\n<p><b>12,77 ms 80132 IOPS<\/b><\/p>\n<p>16K<\/p>\n<p>0,77 ms 164116 IOPS<\/p>\n<p>1,12 ms 228328 IOPS<\/p>\n<p>1,9 ms 268140 IOPS<\/p>\n<p><b>3,96 ms 258480 IOPS<\/b><\/p>\n<p>3,8 ms 33640 IOPS<\/p>\n<p>6,97 ms 36696 IOPS<\/p>\n<p><b>11,35 ms 45060 IOPS<\/b><\/p>\n<p>32K<\/p>\n<p>1,07 ms 119292 IOPS<\/p>\n<p>1,79 ms 142888 IOPS<\/p>\n<p><b>3,56 ms 143760 IOPS<\/b><\/p>\n<p>7,17 ms 17810 IOPS<\/p>\n<p><b>11,96 ms 21396 IOPS<\/b><\/p>\n<p>64K<\/p>\n<p>1,84 ms 69440 IOPS<\/p>\n<p>3,6 ms 71008 IOPS<\/p>\n<p><b>7,26 ms 70404 IOPS<\/b><\/p>\n<p><b>11,37 ms 11248 IOPS<\/b><\/p>\n<p><i>Fett markierte Werte zeigen an, nach denen es kein Leistungswachstum gibt, manchmal ist sogar eine Verschlechterung sichtbar. Dies h\u00e4ngt damit zusammen, dass wir an der Leistung des Netzwerks\/Controllers\/Festplatten sto\u00dfen.<\/i><\/p>\n<ul>\n<li>Sequentielles Lesen 4432 MB\/s.<\/li>\n<li>Sequentielles Schreiben 804 MB\/s.<\/li>\n<li>Bei einem Ausfall eines Controllers (Ausfall der virtuellen Maschine oder des Hosts) sinkt die Leistung um die H\u00e4lfte.<\/li>\n<li>Bei einem Ausfall der Speicherplatte sinkt die Leistung um ein Drittel. Der Rebuild der Festplatte ben\u00f6tigt 5 % der Ressourcen jedes Controllers.<\/li>\n<\/ul>\n<p>\nBei kleinen Bl\u00f6cken sto\u00dfen wir auf die Leistung des Controllers (virtuelle Maschine), dessen CPU ist zu 100 % ausgelastet, bei gr\u00f6\u00dferen Bl\u00f6cken sto\u00dfen wir auf die Portbandbreite. 10 Gbit\/s sind nicht ausreichend, um das Potenzial eines All-Flash-Systems auszusch\u00f6pfen. Leider erlauben die Parameter des bereitgestellten Demostands nicht, dies auf 40 Gbit\/s zu testen.<\/p>\n<p>Eindruck von den Tests und der Architektur: Durch den Algorithmus, der die Daten zwischen allen Hosts verteilt, erhalten wir eine skalierbare vorhersagbare Leistung, dies ist jedoch auch eine Einschr\u00e4nkung beim Lesen, da man von lokalen Festplatten mehr herausholen k\u00f6nnte. Hier k\u00f6nnte ein leistungsst\u00e4rkeres Netzwerk helfen, zum Beispiel verf\u00fcgbare FI mit 40 Gbit\/s.<\/p>\n<p>Ebenfalls k\u00f6nnte eine einzige Festplatte f\u00fcr Caching und Deduplizierung eine Einschr\u00e4nkung darstellen; in diesem Stand k\u00f6nnen wir effektiv auf vier SSDs schreiben. Es w\u00e4re hervorragend, die Anzahl der Caching-Disk zu erh\u00f6hen und den Unterschied zu sehen.<\/p>\n<h3>Echtzeitnutzung<\/h3>\n<p>\nF\u00fcr die Organisation eines Backup-Rechenzentrums kann man zwei Ans\u00e4tze verwenden (die Platzierung von Backups an einem entfernten Standort wird nicht betrachtet):<\/p>\n<ol>\n<li>Active-Passiv. Alle Anwendungen werden im Hauptrechenzentrum gehostet. Die Replikation ist synchron oder asynchron. Im Falle eines Ausfalls des Hauptrechenzentrums m\u00fcssen wir das Backup aktivieren. Dies kann manuell\/mit Skripten oder Orchestrierungsanwendungen erfolgen. Hier erhalten wir ein RPO, das mit der Replikationsfrequenz vergleichbar ist, und das RTO h\u00e4ngt von der Reaktion und den F\u00e4higkeiten des Administrators sowie von der Qualit\u00e4t der Ausarbeitung\/\u00dcberpr\u00fcfung des Failover-Plans ab.<\/li>\n<li>Active-Active. In diesem Fall gibt es nur synchrone Replikation, die Verf\u00fcgbarkeit der Rechenzentren wird durch ein Quorum\/Schiedsrichter bestimmt, der streng an einem dritten Standort untergebracht ist. RPO = 0, und RTO kann 0 erreichen (wenn die Anwendung dies zul\u00e4sst) oder der Zeit f\u00fcr die Bearbeitung des Ausfalls eines Knotens im Virtualisierungscluster entsprechen. Auf der Virtualisierungsebene wird ein gestreckter (Metro) Cluster erstellt, der eine Active-Active Storage Area Network (SAN) erfordert.<\/li>\n<\/ol>\n<p>\nIn der Regel sehen wir bei Kunden bereits eine implementierte Architektur mit einer klassischen SAN im Hauptrechenzentrum, weshalb wir eine weitere f\u00fcr die Replikation entwerfen. Wie bereits erw\u00e4hnt, bietet Cisco HyperFlex asynchrone Replikation und die Erstellung eines gestreckten Virtualisierungsclusters an. Dabei ben\u00f6tigen wir keine dedizierte SAN der Kategorie Midrange oder h\u00f6her mit teuren Replikationsfunktionen und Active-Active-Datenzugriff auf zwei SAN.<\/p>\n<p><b>Szenario 1:<\/b> Wir haben ein Haupt- und ein Backup-Rechenzentrum, die Virtualisierungsplattform basiert auf VMware vSphere. Alle produktiven Systeme befinden sich im Hauptrechenzentrum, und die Replikation der virtuellen Maschinen erfolgt auf der Hypervisorebene, was es erm\u00f6glicht, die VMs im Backup-Rechenzentrum nicht eingeschaltet zu lassen. Datenbanken und spezielle Anwendungen replizieren wir mit integrierten Mitteln und halten die VMs eingeschaltet. Im Falle eines Ausfalls des Hauptrechenzentrums starten wir Systeme im Backup-Rechenzentrum. Wir gehen davon aus, dass wir etwa 100 virtuelle Maschinen haben. Solange das Hauptrechenzentrum aktiv ist, k\u00f6nnen wir im Backup-Rechenzentrum Testumgebungen und andere Systeme starten, die im Falle eines Failovers des Hauptrechenzentrums abgeschaltet werden k\u00f6nnen. Es ist auch m\u00f6glich, dass wir eine bidirektionale Replikation verwenden. Aus Sicht der Hardware \u00e4ndert sich nichts.<\/p>\n<p>Im Falle der klassischen Architektur werden wir in jedem Rechenzentrum ein hybrides SAN mit FibreChannel-Zugang, Tiering, Deduplizierung und Kompression (aber nicht online), 8 Server pro Standort sowie 2 FibreChannel- und 10G-Ethernet-Switches einrichten. F\u00fcr die Replikation und das Umschalten in der klassischen Architektur k\u00f6nnen wir VMware-Tools (Replication + SRM) oder externe Tools verwenden, die etwas g\u00fcnstiger und manchmal praktischer sind.<\/p>\n<p>Das Diagramm zeigt das Schema.<\/p>\n<p><img decoding=\"async\" alt=\"Admin ohne H\u00e4nde = Hyperkonvergenz?\" src=\"\/wp-content\/uploads\/2019\/10\/e7a1ef66c0ae1a8cbb60d0411007d822.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nIm Falle der Nutzung von Cisco HyperFlex ergibt sich folgende Architektur:<\/p>\n<p><img decoding=\"async\" alt=\"Admin ohne H\u00e4nde = Hyperkonvergenz?\" src=\"\/wp-content\/uploads\/2019\/10\/71d58163728f37a163ec914b81dc73ab.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nF\u00fcr HyperFlex habe ich Server mit gro\u00dfen CPU-\/RAM-Ressourcen verwendet, da ein Teil der Ressourcen f\u00fcr die VM des HyperFlex-Controllers ben\u00f6tigt wird. Bei CPU und RAM habe ich sogar etwas in der HyperFlex-Konfiguration \u00fcbersch\u00fcssige Ressourcen eingeplant, um nicht in Richtung Cisco zur\u00fcckzustehen und die Ressourcen f\u00fcr die anderen VMs zu garantieren. So k\u00f6nnen wir auf die FibreChannel-Switches verzichten, und es sind keine Ethernet-Ports f\u00fcr jeden Server erforderlich; der lokale Traffic wird innerhalb des FI geschaltet.<\/p>\n<p>Schlie\u00dflich ergab sich folgende Konfiguration f\u00fcr jedes Rechenzentrum:<\/p>\n<p>Die Server<\/p>\n<p>8 x 1U Server (384 GB RAM, 2 x Intel Gold 6132, FC HBA)<\/p>\n<p>8 x HX240C-M5L (512 GB RAM, 2 x Intel Gold 6150, 3,2 GB SSD, 10 x 6 TB NL-SAS)<\/p>\n<p>Speichersystem<\/p>\n<p>Hybrides SAN mit FC Front-End (20TB SSD, 130 TB NL-SAS)<\/p>\n<p>\u2014<\/p>\n<p>LAN<\/p>\n<p>2 x Ethernet Switch 10G mit 12 Ports<\/p>\n<p>\u2014<\/p>\n<p>SAN<\/p>\n<p>2 x FC Switch 32\/16Gb mit 24 Ports<\/p>\n<p>2 x Cisco UCS FI 6332<\/p>\n<p>Lizenzen<\/p>\n<p>VMware Ent Plus<\/p>\n<p><\/p>\n<p>Replikation und\/oder Orchestrierung des VM-Umschaltens<\/p>\n<p>VMware Ent Plus<\/p>\n<p>F\u00fcr HyperFlex habe ich keine Lizenzen f\u00fcr die Replikationssoftware eingeplant, da dies bei uns standardm\u00e4\u00dfig verf\u00fcgbar ist.<\/p>\n<p>F\u00fcr die klassische Architektur habe ich einen Anbieter ausgew\u00e4hlt, der sich als qualitativ hochwertig und kosteng\u00fcnstig etabliert hat. F\u00fcr beide Varianten habe ich den spezifischen Standardrabatt angewendet und echte Preise erhalten. <\/p>\n<p>Die L\u00f6sung auf Cisco HyperFlex war 13% g\u00fcnstiger.<\/p>\n<p><b>Szenario 2:<\/b> Schaffung von zwei aktiven Rechenzentren. In diesem Szenario entwerfen wir einen gestreckten Cluster auf VMware. <\/p>\n<p>Die klassische Architektur besteht aus Virtualisierungsservern, SAN (FC-Protokoll) und zwei SANs, die in der Lage sind, auf dem zu lesen und zu schreiben, was zwischen ihnen gestreckt ist. F\u00fcr jedes SAN planen wir die n\u00fctzliche Kapazit\u00e4t f\u00fcr den Standort ein.<\/p>\n<p><img decoding=\"async\" alt=\"Admin ohne H\u00e4nde = Hyperkonvergenz?\" src=\"\/wp-content\/uploads\/2019\/10\/c3830f5bab128b724d94e727218b21b5.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n <br \/>\nBei HyperFlex erstellen wir einfach einen Stretch-Cluster mit der gleichen Anzahl an Knoten an beiden Standorten. In diesem Fall wird ein Replikationsfaktor von 2+2 verwendet.<\/p>\n<p><img decoding=\"async\" alt=\"Admin ohne H\u00e4nde = Hyperkonvergenz?\" src=\"\/wp-content\/uploads\/2019\/10\/6351c830c3fba60dc4e71a9a4245ec6f.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n <br \/>\nEs ergab sich folgende Konfiguration:<\/p>\n<p>Klassische Architektur<\/p>\n<p>HyperFlex<\/p>\n<p>Die Server<\/p>\n<p>16 x 1U Server (384 GB RAM, 2 x Intel Gold 6132, FC HBA, 2 x 10G NIC)<\/p>\n<p>16 x HX240C-M5L (512 GB RAM, 2 x Intel Gold 6132, 1,6 TB NVMe, 12 x 3,8 TB SSD, VIC 1387)<\/p>\n<p>Speichersystem<\/p>\n<p>2 x All-Flash SAN (150 TB SSD)<\/p>\n<p>\u2014<\/p>\n<p>LAN<\/p>\n<p>4 x Ethernet Switch 10G mit 24 Ports<\/p>\n<p>\u2014<\/p>\n<p>SAN<\/p>\n<p>4 x FC Switch 32\/16Gb mit 24 Ports<\/p>\n<p>4 x Cisco UCS FI 6332<\/p>\n<p>Lizenzen<\/p>\n<p>VMware Ent Plus<\/p>\n<p>VMware Ent Plus<\/p>\n<p>In allen Berechnungen habe ich die Netzwerkinfrastruktur, die Kosten f\u00fcr das Rechenzentrum usw. nicht ber\u00fccksichtigt: Diese werden sowohl f\u00fcr die klassische Architektur als auch f\u00fcr die HyperFlex-L\u00f6sung gleich sein.<\/p>\n<p>In Bezug auf die Kosten war HyperFlex um 5 % teurer. Hier ist zu beachten, dass die Ressourcen CPU\/RAM bei Cisco unausgewogen waren, da ich die Kan\u00e4le der Speichercontroller gleichm\u00e4\u00dfig konfiguriert habe. Die Kosten sind etwas h\u00f6her, aber nicht exorbitant, was eindeutig darauf hindeutet, dass Hyperkonvergenz nicht unbedingt ein \"Spielzeug f\u00fcr Reiche\" ist, sondern mit dem Standardansatz zum Aufbau eines Rechenzentrums konkurrieren kann. Dies k\u00f6nnte auch f\u00fcr diejenigen interessant sein, die bereits Cisco UCS-Server und die entsprechende Infrastruktur daf\u00fcr haben. <\/p>\n<p>Zu den Vorteilen geh\u00f6ren das Fehlen von Kosten f\u00fcr die Verwaltung von SAN und Speicherl\u00f6sungen, Online-Kompression und Deduplizierung, ein einziger Zugangspunkt f\u00fcr den Support (Virtualisierung, Server, ebenfalls Speicherl\u00f6sungen), Platzersparnis (aber nicht in allen Szenarien) und vereinfachte Betriebsf\u00fchrung.<\/p>\n<p>In Bezug auf den Support erhalten Sie diesen von einem Anbieter \u2013 Cisco. Aufgrund meiner Erfahrungen mit Cisco UCS-Servern bin ich damit zufrieden, bei HyperFlex musste ich nicht eingreifen; alles funktionierte problemlos. Die Ingenieure antworten schnell und k\u00f6nnen nicht nur Standardprobleme l\u00f6sen, sondern auch komplexe Grenzf\u00e4lle. Manchmal wende ich mich mit Fragen an sie: \"Kann man das so machen, das hier anbringen?\" oder \"Ich habe hier etwas konfiguriert, und es will nicht funktionieren. Helfen Sie mir!\" \u2013 sie helfen mir geduldig, den richtigen Leitfaden zu finden und die richtigen Schritte aufzuzeigen; sie werden nicht einfach sagen: \"Wir l\u00f6sen nur Hardwareprobleme.\"<\/p>\n<h3>Links<\/h3>\n<p><\/p>\n<ul>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/www.cisco.com\/c\/dam\/en\/us\/products\/collateral\/hyperconverged-infrastructure\/hyperflex-hx-series\/hxaf-240c-m5-specsheet.pdf\">Spezifikationen<\/a><\/noindex><\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/croc\/blog\/146536\/\">Virtuelles Rechenzentrum<\/a><\/noindex><\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/croc\/blog\/342820\/\">Rechenzentrum in einer Schublade<\/a><\/noindex><\/li>\n<li>Meine E-Mail ist StGeneralov@croc.ru<\/li>\n<\/ul>\n<p>Quelle: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/croc\/blog\/471508\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>\u042d\u0442\u043e \u043c\u0438\u0444, \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0439 \u0432 \u0441\u0444\u0435\u0440\u0435 \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u043e\u0433\u043e \u0436\u0435\u043b\u0435\u0437\u0430. \u041d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0436\u0435 \u0433\u0438\u043f\u0435\u0440\u043a\u043e\u043d\u0432\u0435\u0440\u0433\u0435\u043d\u0442\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f (\u043a\u043e\u0433\u0434\u0430 \u0432\u0441\u0451 \u0432 \u043e\u0434\u043d\u043e\u043c) \u043d\u0443\u0436\u043d\u044b \u043c\u043d\u043e\u0433\u043e \u0434\u043b\u044f \u0447\u0435\u0433\u043e. \u0418\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u0438 \u0441\u043b\u043e\u0436\u0438\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u043f\u0435\u0440\u0432\u044b\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0431\u044b\u043b\u0438 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u044b Amazon \u0438 Google \u043f\u043e\u0434 \u0441\u0432\u043e\u0438 \u0441\u0435\u0440\u0432\u0438\u0441\u044b. \u0422\u043e\u0433\u0434\u0430 \u0438\u0434\u0435\u044f \u0431\u044b\u043b\u0430 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e\u0431\u044b \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u0444\u0435\u0440\u043c\u0443 \u0438\u0437 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u0443\u0437\u043b\u043e\u0432, \u0443 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0435\u0441\u0442\u044c \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435 \u0434\u0438\u0441\u043a\u0438. \u0412\u0441\u0451 \u044d\u0442\u043e [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29233,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[688],"tags":[],"class_list":["post-38966","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-administrirovanie"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.1.1 - aioseo.com -->\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/de\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya\" \/>\n\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.1.1\" \/>\n\t\t<meta property=\"og:locale\" content=\"de_DE\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u0410\u0434\u043c\u0438\u043d \u0431\u0435\u0437 \u0440\u0443\u043a = \u0433\u0438\u043f\u0435\u0440\u043a\u043e\u043d\u0432\u0435\u0440\u0433\u0435\u043d\u0446\u0438\u044f? | ProHoster\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/de\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T19:27:03+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T19:27:03+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Admin ohne H\u00e4nde = Hyperkonvergenz? | ProHoster","description":"","canonical_url":"https:\/\/prohoster.info\/de\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"de_DE","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u0410\u0434\u043c\u0438\u043d \u0431\u0435\u0437 \u0440\u0443\u043a = \u0433\u0438\u043f\u0435\u0440\u043a\u043e\u043d\u0432\u0435\u0440\u0433\u0435\u043d\u0446\u0438\u044f? | ProHoster","og:url":"https:\/\/prohoster.info\/de\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T19:27:03+00:00","article:modified_time":"2019-10-31T19:27:03+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"38966","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-24 00:12:19","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 00:59:27","updated":"2026-01-24 00:12:19","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/posts\/38966","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/comments?post=38966"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/posts\/38966\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/media\/29233"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/media?parent=38966"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/categories?post=38966"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/de\/wp-json\/wp\/v2\/tags?post=38966"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}