{"id":38966,"date":"2019-10-31T22:27:03","date_gmt":"2019-10-31T19:27:03","guid":{"rendered":"https:\/\/prohoster.info\/blog\/admin-bez-ruk-giperkonvergentsiya\/"},"modified":"2019-10-31T22:27:03","modified_gmt":"2019-10-31T19:27:03","slug":"admin-bez-ruk-giperkonvergentsiya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sv\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya","title":{"rendered":"Admin utan h\u00e4nder = hyperkonvergens?","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Admin utan h\u00e4nder = hyperkonvergens?\" src=\"\/wp-content\/uploads\/2019\/10\/ea1763132185c97bb4edf0e67640d58f.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<img decoding=\"async\" alt=\"Admin utan h\u00e4nder = hyperkonvergens?\" src=\"\/wp-content\/uploads\/2019\/10\/b6355c444c310570e1f2619cd931e1ca.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nDetta \u00e4r en myt, ganska utbredd inom serverhardware. I praktiken beh\u00f6vs hyperkonvergerande l\u00f6sningar (n\u00e4r allt finns i ett) f\u00f6r m\u00e5nga olika \u00e4ndam\u00e5l. Historiskt sett s\u00e5 utvecklades de f\u00f6rsta arkitekturerna av Amazon och Google f\u00f6r sina tj\u00e4nster. Id\u00e9n var d\u00e5 att skapa en ber\u00e4kningsfarm best\u00e5ende av identiska noder, d\u00e4r var och en har sina egna diskar. Allt detta kopplades samman av n\u00e5gon form av systemorienterad mjukvara (hypervisor) och delades sedan upp i virtuella maskiner. Huvudsyftet var att minimera anstr\u00e4ngningen f\u00f6r att underh\u00e5lla en nod och minimera problem vid skalning: man k\u00f6pte helt enkelt ytterligare tusen av liknande servrar och kopplade dem bredvid. I praktiken handlar det om enskilda fall, och oftare r\u00f6r det sig om ett mindre antal noder och en n\u00e5got annorlunda arkitektur. <\/p>\n<p>Men f\u00f6rdelen f\u00f6rblir densamma \u2013 otrolig enkelhet i skalning och hantering. Nackdelen \u2013 olika uppgifter konsumerar resurser p\u00e5 olika s\u00e4tt, och p\u00e5 vissa st\u00e4llen kommer det att finnas gott om lokala diskar, medan andra har f\u00f6r lite RAM och s\u00e5 vidare, vilket inneb\u00e4r att resursutnyttjandet kommer att falla vid olika typer av uppgifter. <\/p>\n<p>Det visade sig att man betalar 10\u201315 % mer f\u00f6r bekv\u00e4mligheten med konfigurationen. Detta skapade myten i rubriken. Vi letade l\u00e4nge efter var teknologin skulle till\u00e4mpas optimalt, och vi fann det. Faktum \u00e4r att Cisco inte hade sina egna lagringssystem, men de ville ha hela servermarknaden. Och de skapade Cisco Hyperflex \u2013 en l\u00f6sning med lokala lagringssystem p\u00e5 noder. <\/p>\n<p>Och pl\u00f6tsligt blev detta en mycket bra l\u00f6sning f\u00f6r backupdatacenter (Disaster Recovery). Varf\u00f6r och hur \u2013 det ber\u00e4ttar jag nu. Och jag kommer att visa tester av klustret. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/p>\n<h3>D\u00e4r det beh\u00f6vs<\/h3>\n<p>\nHyperkonvergens \u00e4r: <\/p>\n<ol>\n<li>\u00d6verflyttning av diskar till ber\u00e4kningsnoder.<\/li>\n<li>Fullst\u00e4ndig integration av lagringssystemet med virtualiseringssystemet.<\/li>\n<li>\u00d6verf\u00f6ring\/integration med n\u00e4tverksystemet.<\/li>\n<\/ol>\n<p>\nDenna koppling m\u00f6jligg\u00f6r implementering av m\u00e5nga funktioner i lagringssystem p\u00e5 virtualiseringsniv\u00e5 och allt fr\u00e5n ett och samma hanteringsf\u00f6nster.<\/p>\n<p>I v\u00e5rt f\u00f6retag \u00e4r projekt f\u00f6r design av backupdatacenter mycket efterfr\u00e5gade, och man v\u00e4ljer ofta just hyperkonvergerande l\u00f6sningar p\u00e5 grund av sina m\u00e5nga replikationsalternativ (\u00e4nda till metrokluster) direkt ur l\u00e5dan. <\/p>\n<p>N\u00e4r det g\u00e4ller backup-datacenter handlar det vanligtvis om en avl\u00e4gsen plats i en annan del av staden eller till och med i en annan stad. Det till\u00e5ter \u00e5terst\u00e4llning av kritiska system vid delvis eller total nedg\u00e5ng av det prim\u00e4ra datacentret. Data fr\u00e5n f\u00f6rs\u00e4ljningen replikeras st\u00e4ndigt dit, och denna replikering kan ske antingen p\u00e5 applikationsniv\u00e5 eller p\u00e5 blocklagringsenhetsniv\u00e5 (SAN).<\/p>\n<p>D\u00e4rf\u00f6r kommer jag nu att ber\u00e4tta om systemets struktur och tester, och sedan om n\u00e5gra scenarier f\u00f6r verklig till\u00e4mpning med data om besparingar. <\/p>\n<h3>Tester<\/h3>\n<p>\nV\u00e5r instans best\u00e5r av fyra servrar, d\u00e4r varje server har 10 SSD-diskar p\u00e5 960 GB. Det finns en dedikerad disk f\u00f6r cachning av skrivoperationer och lagring av en service virtuell maskin. Sj\u00e4lva l\u00f6sningen \u00e4r den fj\u00e4rde versionen. Den f\u00f6rsta var uppenbarligen ganska bristf\u00e4llig (enligt recensionerna), den andra var ocks\u00e5 lite bristf\u00e4llig, den tredje \u00e4r redan tillr\u00e4ckligt stabil, och denna kan kallas en release efter att beta-testningen avslutats offentligt. Under testningen s\u00e5g jag inga problem, allt fungerar som en klocka.<\/p>\n<p><b class=\"spoiler_title\">\u00c4ndringar i v4<\/b>En m\u00e4ngd buggar har fixats. <\/p>\n<p>Ursprungligen kunde plattformen endast arbeta med hypervisorn VMware ESXi och st\u00f6dde ett begr\u00e4nsat antal noder. Dessutom avslutades inte alltid distributionsprocessen framg\u00e5ngsrikt, vissa steg fick startas om, det fanns problem med att uppdatera fr\u00e5n \u00e4ldre versioner och datan i GUI visades inte alltid korrekt (\u00e4ven om jag fortfarande inte \u00e4r imponerad av hur prestandadiagrammen visas), ibland uppstod problem i samband med virtualisering.<\/p>\n<p>Nu \u00e4r alla barnsjukdomar \u00e5tg\u00e4rdade, HyperFlex kan hantera b\u00e5de ESXi och Hyper-V, plus att det \u00e4r m\u00f6jligt att:<\/p>\n<ol>\n<li>Skapa ett distribuerat kluster. <\/li>\n<li>Skapa ett kontor-kluster utan att anv\u00e4nda Fabric Interconnect, fr\u00e5n tv\u00e5 till fyra noder (vi k\u00f6per bara servrar).<\/li>\n<li>M\u00f6jlighet att arbeta med externa SAN.<\/li>\n<li>St\u00f6d f\u00f6r containrar och Kubernetes.<\/li>\n<li>Skapa tillg\u00e4nglighetszoner.<\/li>\n<li>Integration med VMware SRM, om den inbyggda funktionen inte \u00e4r tillfredsst\u00e4llande.<\/li>\n<\/ol>\n<p>Arkitekturen skiljer sig inte mycket fr\u00e5n konkurrenternas l\u00f6sningar, s\u00e5 vi skapade inte n\u00e5got nytt. Allt k\u00f6rs p\u00e5 virtualiseringsplattformen VMware eller Hyper-V. Det \u00e4r fysiskt placerat p\u00e5 servrar av egen design, Cisco UCS. Det finns de som hatar plattformen p\u00e5 grund av den relativt komplexa initiala konfigurationen, m\u00e5nga knappar, en icke-trivial system av mallar och beroenden, men det finns ocks\u00e5 de som har upplevt zen, f\u00f6rst\u00e5tt konceptet och inte l\u00e4ngre vill arbeta med andra servrar. <\/p>\n<p>Vi kommer att titta p\u00e5 l\u00f6sningen f\u00f6r VMware, eftersom den ursprungligen skapades f\u00f6r detta och har mer funktionalitet. Hyper-V har utvecklats under v\u00e4gen f\u00f6r att inte halka efter konkurrenterna och f\u00f6r att motsvara marknadens f\u00f6rv\u00e4ntningar.<\/p>\n<p>Det finns en kluster av servrar fyllda med diskar. Det finns diskar f\u00f6r datalagring (SSD eller HDD - efter eget val och behov), och en SSD-disk f\u00f6r cachning. Vid skrivning av data p\u00e5 datalagringen sker lagring av data p\u00e5 cachningslagret (dedikerad SSD-disk och RAM fr\u00e5n service-VM). Samtidigt skickas en datablokk till noderna i klustret (antalet noder beror p\u00e5 faktorn f\u00f6r klustrets replikering). Efter bekr\u00e4ftelse fr\u00e5n alla noder om framg\u00e5ngsrik skrivning skickas bekr\u00e4ftelsen till hypervisorn och vidare till VM. Skrivna data dedupliceras, komprimeras och lagras p\u00e5 lagringsdiskar i bakgrunden. Under detta skrivs alltid ett stort block p\u00e5 lagringsdiskarna sekventiellt, vilket minskar belastningen p\u00e5 lagringsdiskarna.<\/p>\n<p>Deduplicering och komprimering \u00e4r st\u00e4ndigt aktiverat och kan inte st\u00e4ngas av. L\u00e4sning av data sker direkt fr\u00e5n lagringsdiskarna eller fr\u00e5n RAM-cache. Om en hybridkonfiguration anv\u00e4nds cachas \u00e4ven l\u00e4sning p\u00e5 SSD-disk.<\/p>\n<p>Data \u00e4r inte bundna till den aktuella platsen f\u00f6r den virtuella maskinen och f\u00f6rdelas j\u00e4mnt mellan noderna. Denna metod g\u00f6r det m\u00f6jligt att belasta alla diskar och n\u00e4tverksgr\u00e4nssnitt lika. Det finns en uppenbar nackdel: vi kan inte maximalt minska l\u00e4sf\u00f6rdr\u00f6jningen, eftersom det inte finns n\u00e5gon garanti f\u00f6r att data finns lokalt. Men jag anser att detta \u00e4r en obetydlig uppoffring j\u00e4mf\u00f6rt med de f\u00f6rdelar vi f\u00e5r. Dessutom har n\u00e4tverksf\u00f6rdr\u00f6jningar n\u00e5tt s\u00e5dana niv\u00e5er att de n\u00e4stan inte p\u00e5verkar det slutgiltiga resultatet.<\/p>\n<p>En specialiserad tj\u00e4nste-VM, Cisco HyperFlex Data Platform-kontrollern, ansvarar f\u00f6r hela logiken i diskresursens arbete och skapas p\u00e5 varje lagringsnod. I v\u00e5r konfiguration tilldelades tj\u00e4nste-VM \u00e5tta vCPU och 72 GB RAM, vilket inte \u00e4r s\u00e5 lite. Jag p\u00e5minner om att v\u00e4rden sj\u00e4lv har 28 fysiska k\u00e4rnor och 512 GB RAM.<\/p>\n<p>Tj\u00e4nste-VM har direkt \u00e5tkomst till de fysiska diskarna genom att passera SAS-kontroller till VM:en. Kommunikation med hypervisorn sker via en specialmodul, IOVisor, som f\u00e5ngar in- och utdataoperationer, och en agent som g\u00f6r det m\u00f6jligt att skicka kommandon till hypervisorns API. Agenten hanterar arbete med HyperFlex-snapshots och kloner.<\/p>\n<p>I hypervisorn monteras diskresurser som NFS- eller SMB-delar (beroende p\u00e5 hypervisorns typ; gissa vilken som \u00e4r vilken). Under huven finns ett distribuerat filsystem som m\u00f6jligg\u00f6r till\u00e4gg av funktioner som vuxna, fullfj\u00e4drade lagringssystem: finjustering av volymer, komprimering och deduplicering, snapshots med Redirect-on-Write-teknik samt synkron och asynkron replikering.<\/p>\n<p>Tj\u00e4nste-VM ger \u00e5tkomst till webbgr\u00e4nssnittet f\u00f6r hantering av HyperFlex-systemet. Det finns integration med vCenter, och de flesta rutinuppgifter kan utf\u00f6ras d\u00e4rifr\u00e5n, men datastores \u00e4r l\u00e4ttare att sk\u00e4ra fr\u00e5n ett separat webbl\u00e4ge om du redan har \u00f6verg\u00e5tt till den snabba HTML5-gr\u00e4nssnittet, eller anv\u00e4nda den fullst\u00e4ndiga Flash-klienten med full integration. I det tj\u00e4nste-webbl\u00e4get kan du se systemets prestanda och detaljerad status.<\/p>\n<p><img decoding=\"async\" alt=\"Admin utan h\u00e4nder = hyperkonvergens?\" src=\"\/wp-content\/uploads\/2019\/10\/4f603b38d6489836892bebc76663eb2f.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nDet finns en annan typ av noder i klustret - ber\u00e4kningsnoder. Dessa kan vara rack- eller bladservrar utan inbyggda diskar. P\u00e5 dessa servrar kan VM k\u00f6ras vars data lagras p\u00e5 servrar med diskar. Ur datatillg\u00e5ngens perspektiv finns det ingen skillnad mellan nodtyperna, eftersom arkitekturen f\u00f6ruts\u00e4tter en abstrahering fr\u00e5n datans fysiska placering. Det maximala f\u00f6rh\u00e5llandet mellan ber\u00e4knings- och lagringsnoder \u00e4r 2:1.<\/p>\n<p>Anv\u00e4ndningen av ber\u00e4kningsnoder \u00f6kar flexibiliteten vid skalning av klustrets resurser: vi beh\u00f6ver inte n\u00f6dv\u00e4ndigtvis k\u00f6pa noder med diskar om vi bara har behov av CPU\/RAM. Dessutom kan vi l\u00e4gga till en bladkorg och f\u00e5 besparingar p\u00e5 serverplacering i sk\u00e5pet.<\/p>\n<p>Som resultat har vi en hyperkonvergerad plattform med f\u00f6ljande funktioner:<\/p>\n<ul>\n<li>Upp till 64 noder i klustret (upp till 32 lagringsnoder).<\/li>\n<li>Det minimi antal noder i klustret \u00e4r tre (tv\u00e5 f\u00f6r Edge-klustret).<\/li>\n<li>Data redundansmekanism: spegling med replikationsfaktor 2 och 3.<\/li>\n<li>Metro-kluster.<\/li>\n<li>Asynkron replikation av VM till ett annat HyperFlex-kluster.<\/li>\n<li>Orkestrering av VM-f\u00f6rskjutning till en avl\u00e4gsen datacenter.<\/li>\n<li>Naturliga snapshots med tekniken Redirect-on-Write.<\/li>\n<li>Upp till 1 PB nyttjandeutrymme med replikationsfaktor 3 och utan att ta h\u00e4nsyn till deduplicering. Replikationsfaktor 2 beaktas inte, eftersom det inte \u00e4r ett alternativ f\u00f6r allvarlig f\u00f6rs\u00e4ljning.<\/li>\n<\/ul>\n<p>\nYtterligare en stor f\u00f6rdel \u2014 enkelhet i hantering och distribution. Allt kr\u00e5ngel med inst\u00e4llningar av UCS-servrar hanteras av en specialiserad VM, f\u00f6rberedd av ingenj\u00f6rer fr\u00e5n Cisco. <\/p>\n<h3>Konfiguration av testmilj\u00f6:<\/h3>\n<p><\/p>\n<ul>\n<li>2 x Cisco UCS Fabric Interconnect 6248UP som styrande kluster och n\u00e4tverkskomponenter (48 portar som arbetar i Ethernet 10G\/FC 16G-l\u00e4ge).<\/li>\n<li>Fyra servera Cisco UCS HXAF240 M4.<\/li>\n<\/ul>\n<p>\nServerns specifikationer:<\/p>\n<p><\/p>\n<p>CPU<\/p>\n<p>2 x Intel \u00ae Xeon \u00ae E5-2690 v4<\/p>\n<p>RAM<\/p>\n<p>16 x 32GB DDR4-2400-MHz RDIMM\/PC4-19200\/dual rank\/x4\/1.2v<\/p>\n<p>N\u00e4tverk<\/p>\n<p>UCSC-MLOM-CSC-02 (VIC 1227). 2 portar 10G Ethernet<\/p>\n<p>Lagrings HBA<\/p>\n<p>Cisco 12G Modular SAS Pass through Controller<\/p>\n<p>Lagringsdiskar<\/p>\n<p>1 x SSD Intel S3520 120 GB, 1 x SSD Samsung MZ-IES800D, 10 x SSD Samsung PM863a 960 GB<\/p>\n<p>\n<b class=\"spoiler_title\">Fler konfigurationsalternativ<\/b>F\u00f6rutom den valda h\u00e5rdvaran finns f\u00f6ljande alternativ tillg\u00e4ngliga:<\/p>\n<ul>\n<li>HXAF240c M5.<\/li>\n<li>En eller tv\u00e5 CPU:er fr\u00e5n Intel Silver 4110 till Intel Platinum I8260Y. Andra generationen \u00e4r tillg\u00e4nglig.<\/li>\n<li>24 minnesplatser, minnesmoduler fr\u00e5n 16 GB RDIMM 2600 till 128 GB LRDIMM 2933.<\/li>\n<li>Fr\u00e5n 6 till 23 diskar f\u00f6r data, en cache-disk, en systemdisk och en boot-disk.<\/li>\n<\/ul>\n<p>\n<b>Kapacitetsdrivande<\/b><\/p>\n<ul>\n<li>HX-SD960G61X-EV 960GB 2.5 Inch Enterprise Value 6G SATA SSD (1X h\u00e5llbarhet) SAS 960 GB.<\/li>\n<li>HX-SD38T61X-EV 3.8TB 2.5 inch Enterprise Value 6G SATA SSD (1X h\u00e5llbarhet) SAS 3.8 TB.<\/li>\n<li>Cache-drivande<\/li>\n<li>HX-NVMEXPB-I375 375GB 2.5 inch Intel Optane Drive, Extreme Perf &amp; H\u00e5llbarhet.<\/li>\n<li>HX-NVMEHW-H1600* 1.6TB 2.5 inch Ent. Perf. NVMe SSD (3X h\u00e5llbarhet) NVMe 1.6 TB.<\/li>\n<li>HX-SD400G12TX-EP 400GB 2.5 inch Ent. Perf. 12G SAS SSD (10X h\u00e5llbarhet) SAS 400 GB.<\/li>\n<li>HX-SD800GBENK9** 800GB 2.5 inch Ent. Perf. 12G SAS SED SSD (10X h\u00e5llbarhet) SAS 800 GB.<\/li>\n<li>HX-SD16T123X-EP 1.6TB 2.5 inch Enterprise performance 12G SAS SSD (3X h\u00e5llbarhet).<\/li>\n<\/ul>\n<p>\n<b>System-\/loggdrivande<\/b><\/p>\n<ul>\n<li>HX-SD240GM1X-EV 240GB 2.5 inch Enterprise Value 6G SATA SSD (uppgradering kr\u00e4vs).<\/li>\n<\/ul>\n<p>\n<b>Bootdrivande<\/b><\/p>\n<ul>\n<li>HX-M2-240GB 240GB SATA M.2 SSD SATA 240 GB.<\/li>\n<\/ul>\n<p>Anslutning till n\u00e4tverket via 40G, 25G eller 10G Ethernet-portar. <\/p>\n<p>Som FI kan HX-FI-6332 (40G), HX-FI-6332-16UP (40G), HX-FI-6454 (40G\/100G) anv\u00e4ndas.<\/p>\n<h3>Sj\u00e4lva testet<\/h3>\n<p>\nF\u00f6r att testa lagringssystemet anv\u00e4nde jag HCIBench 2.2.1. Detta \u00e4r ett gratis verktyg som automatiserar belastningen av flera virtuella maskiner. Sj\u00e4lva belastningen genereras av vanlig fio. <\/p>\n<p>V\u00e5rt kluster best\u00e5r av fyra noder, replikationsfaktor 3, alla diskar \u00e4r Flash.<\/p>\n<p>F\u00f6r testning har jag skapat fyra datalager och \u00e5tta virtuella maskiner. F\u00f6r skrivtesterna f\u00f6rutsattes ett scenario d\u00e4r cachdisken inte blir \u00f6verfull.<\/p>\n<p>Testresultaten \u00e4r f\u00f6ljande:<\/p>\n<p>100 % L\u00e4s 100 % Slumptal<\/p>\n<p>0 % L\u00e4s 100 % Slumptal<\/p>\n<p>Block\/djuplek<\/p>\n<p>128<\/p>\n<p>256<\/p>\n<p>512<\/p>\n<p>1024<\/p>\n<p>2048<\/p>\n<p>128<\/p>\n<p>256<\/p>\n<p>512<\/p>\n<p>1024<\/p>\n<p>2048<\/p>\n<p>4K<\/p>\n<p>0,59 ms 213804 IOPS<\/p>\n<p>0,84 ms 303540 IOPS<\/p>\n<p>1,36 ms 374348 IOPS<\/p>\n<p>2,47 ms 414116 IOPS<\/p>\n<p><b>4,86 ms 420180 IOPS<\/b><\/p>\n<p>2,22 ms 57408 IOPS<\/p>\n<p>3,09 ms 82744 IOPS<\/p>\n<p>5,02 ms 101824 IOPS<\/p>\n<p>8,75 ms 116912 IOPS<\/p>\n<p><b>17,2 ms 118592 IOPS<\/b><\/p>\n<p>8K<\/p>\n<p>0,67 ms 188416 IOPS<\/p>\n<p>0,93 ms 273280 IOPS<\/p>\n<p>1,7 ms 299932 IOPS<\/p>\n<p>2,72 ms 376484 IOPS<\/p>\n<p><b>5,47 ms 373176 IOPS<\/b><\/p>\n<p>3,1 ms 41148 IOPS<\/p>\n<p>4,7 ms 54396 IOPS<\/p>\n<p>7,09 ms 72192 IOPS<\/p>\n<p><b>12,77 ms 80132 IOPS<\/b><\/p>\n<p>16K<\/p>\n<p>0,77 ms 164116 IOPS<\/p>\n<p>1,12 ms 228328 IOPS<\/p>\n<p>1,9 ms 268140 IOPS<\/p>\n<p><b>3,96 ms 258480 IOPS<\/b><\/p>\n<p>3,8 ms 33640 IOPS<\/p>\n<p>6,97 ms 36696 IOPS<\/p>\n<p><b>11,35 ms 45060 IOPS<\/b><\/p>\n<p>32K<\/p>\n<p>1,07 ms 119292 IOPS<\/p>\n<p>1,79 ms 142888 IOPS<\/p>\n<p><b>3,56 ms 143760 IOPS<\/b><\/p>\n<p>7,17 ms 17810 IOPS<\/p>\n<p><b>11,96 ms 21396 IOPS<\/b><\/p>\n<p>64K<\/p>\n<p>1,84 ms 69440 IOPS<\/p>\n<p>3,6 ms 71008 IOPS<\/p>\n<p><b>7,26 ms 70404 IOPS<\/b><\/p>\n<p><b>11,37 ms 11248 IOPS<\/b><\/p>\n<p><i>Fetmarkerade v\u00e4rden indikerar efter vilka punkter det inte finns n\u00e5gon \u00f6kning i prestanda, ibland ser man till och med en nedgradering. Detta beror p\u00e5 att vi n\u00e5r kapacitetstaket f\u00f6r n\u00e4tverket\/kontrollerna\/diskarna.<\/i><\/p>\n<ul>\n<li>Sekventiell l\u00e4sning 4432 MB\/s.<\/li>\n<li>Sekventiell skrivning 804 MB\/s.<\/li>\n<li>Vid ett fel p\u00e5 en kontroller (antingen en virtuell maskin eller v\u00e4rd) minskar prestandan med h\u00e4lften.<\/li>\n<li>Vid ett lagringsdiskfel minskar prestandan med 1\/3. \u00c5teruppbyggnaden av disken tar 5% av varje kontrollers resurser.<\/li>\n<\/ul>\n<p>\nMed en liten blockstorlek n\u00e5r vi kapaciteten f\u00f6r kontrollerna (virtuell maskin), vilket medf\u00f6r att CPU \u00e4r maxad p\u00e5 100%, och med st\u00f6rre block n\u00e5r vi portarnas bandbredd. 10 Gbit\/s \u00e4r inte tillr\u00e4ckligt f\u00f6r att utnyttja potentialen hos AllFlash-systemet. Tyv\u00e4rr kan vi inte kontrollera arbetet p\u00e5 40 Gbit\/s p\u00e5 grund av den tillg\u00e4ngliga demostandens specifikationer.<\/p>\n<p>Enligt min erfarenhet fr\u00e5n tester och studier av arkitekturen, tack vare algoritmen som distribuerar data mellan alla v\u00e4rdar, f\u00e5r vi en skalbar och f\u00f6ruts\u00e4gbar prestanda, men detta \u00e4r ocks\u00e5 en begr\u00e4nsning vid l\u00e4sning, eftersom vi skulle kunna pressa ut mer fr\u00e5n lokala diskar, h\u00e4r skulle en mer kraftfull n\u00e4tverksl\u00f6sning kunna hj\u00e4lpa, till exempel finns FI f\u00f6r 40 Gbit\/s.<\/p>\n<p>En enda disk f\u00f6r caching och deduplicering kan ocks\u00e5 vara en begr\u00e4nsning; i denna setup kan vi faktiskt skriva till fyra SSD-diskar. Det skulle vara utm\u00e4rkt att kunna \u00f6ka antalet cachdiskar och se skillnaden.<\/p>\n<h3>Verklig anv\u00e4ndning<\/h3>\n<p>\nF\u00f6r att organisera en s\u00e4kerhetskopierings-DC kan man anv\u00e4nda tv\u00e5 metoder (vi beaktar inte backup-lagring p\u00e5 en avl\u00e4gsen plats):<\/p>\n<ol>\n<li>Aktiv-Passiv. Alla applikationer placeras i det huvudsakliga datacentret. Replikation \u00e4r synkron eller asynkron. I h\u00e4ndelse av att det huvudsakliga datacentret faller, m\u00e5ste vi aktivera det reservdatacentret. Detta kan g\u00f6ras manuellt\/scripting\/applikationer f\u00f6r orkestrering. H\u00e4r f\u00e5r vi RPO, som \u00e4r j\u00e4mf\u00f6rbar med replikationsfrekvensen, och RTO beror p\u00e5 reaktionen och administratorns f\u00e4rdigheter samt kvaliteten p\u00e5 att arbeta igenom\/testa failover-planen.<\/li>\n<li>Aktiv-Aktiv. I det h\u00e4r fallet finns det endast synkron replikation, tillg\u00e5ngen till datacentren best\u00e4ms av kvorum\/arbitrator som \u00e4r placerad strikt p\u00e5 en tredje plats. RPO = 0, och RTO kan n\u00e5 0 (om applikationen till\u00e5ter) eller vara lika med tiden f\u00f6r att hantera en nodfel i virtualiseringsklustret. P\u00e5 virtualiseringsniv\u00e5 skapas ett str\u00e4ckt (Metro) kluster som kr\u00e4ver Active-Active lagring.<\/li>\n<\/ol>\n<p>\nVi ser vanligtvis att kunderna redan har implementerat en arkitektur med klassisk lagring i det huvudsakliga datacentret, s\u00e5 vi designar en till f\u00f6r replikation. Som jag n\u00e4mnde, erbjuder Cisco HyperFlex asynkron replikation och skapande av ett str\u00e4ckt virtualiseringskluster. Vi beh\u00f6ver inte en dedikerad lagring p\u00e5 Midrange-niv\u00e5 eller h\u00f6gre med dyra replikationsfunktioner och Active-Active \u00e5tkomst till data i tv\u00e5 lagringssystem.<\/p>\n<p><b>Scenario 1:<\/b> Vi har ett huvudsakligt och ett reservdatacenter, virtualiseringsplattformen p\u00e5 VMware vSphere. Alla produktiva system finns i det huvudsakliga datacentret, och replikationen av virtuella maskiner utf\u00f6rs p\u00e5 hypervisor-niv\u00e5, vilket g\u00f6r att vi inte beh\u00f6ver h\u00e5lla VM:ar ig\u00e5ng i reservdatacentret. Databaser och speciella applikationer replikerar vi med inbyggda verktyg och h\u00e5ller VM:arna ig\u00e5ng. Vid ett fel p\u00e5 det huvudsakliga datacentret startar vi systemen i reservdatacentret. Vi r\u00e4knar med att ha cirka 100 virtuella maskiner. S\u00e5 l\u00e4nge det huvudsakliga datacentret \u00e4r aktivt kan vi k\u00f6ra testmilj\u00f6er och andra system i reservdatacentret som kan st\u00e4ngas av vid failover av det huvudsakliga datacentret. Det \u00e4r ocks\u00e5 m\u00f6jligt att vi anv\u00e4nder tv\u00e5v\u00e4gsreplikation. Med avseende p\u00e5 utrustningen kommer det inte att bli n\u00e5gra f\u00f6r\u00e4ndringar.<\/p>\n<p>Vid klassisk arkitektur installerar vi en hybridlagring i varje datacenter med \u00e5tkomst via FibreChannel, tiering, deduplicering och komprimering (men inte online), 8 servrar p\u00e5 varje plats, samt 2 FibreChannel- och 10G Ethernet-switchar. F\u00f6r replikering och omkoppling i klassisk arkitektur kan vi anv\u00e4nda VMware-verktyg (Replication + SRM) eller externa verktyg som \u00e4r n\u00e5got billigare och ibland mer praktiska.<\/p>\n<p>Diagrammet visar schemat.<\/p>\n<p><img decoding=\"async\" alt=\"Admin utan h\u00e4nder = hyperkonvergens?\" src=\"\/wp-content\/uploads\/2019\/10\/e7a1ef66c0ae1a8cbb60d0411007d822.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nVid anv\u00e4ndning av Cisco HyperFlex ser vi f\u00f6ljande arkitektur:<\/p>\n<p><img decoding=\"async\" alt=\"Admin utan h\u00e4nder = hyperkonvergens?\" src=\"\/wp-content\/uploads\/2019\/10\/71d58163728f37a163ec914b81dc73ab.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nF\u00f6r HyperFlex anv\u00e4nde jag servrar med stora resurser f\u00f6r CPU\/RAM, eftersom en del av resurserna g\u00e5r till VM-kontrollern f\u00f6r HyperFlex. Jag har till och med lite \u00f6verdimensionerat konfigurationen f\u00f6r HyperFlex f\u00f6r att inte ge f\u00f6rdelar \u00e5t Cisco och f\u00f6r att garantera resurser f\u00f6r \u00f6vriga VM. Dessutom kan vi avst\u00e5 fr\u00e5n FibreChannel-switchar, och vi beh\u00f6ver inga Ethernet-portar f\u00f6r varje server, den lokala trafiken hanteras internt i FI.<\/p>\n<p>Resultatet blev f\u00f6ljande konfiguration f\u00f6r varje datacenter:<\/p>\n<p>Servrar<\/p>\n<p>8 x 1U Server (384 GB RAM, 2 x Intel Gold 6132, FC HBA)<\/p>\n<p>8 x HX240C-M5L (512 GB RAM, 2 x Intel Gold 6150, 3,2 GB SSD, 10 x 6 TB NL-SAS)<\/p>\n<p>Lagring<\/p>\n<p>Hybridlagring med FC Front-End (20TB SSD, 130 TB NL-SAS)<\/p>\n<p>\u2014<\/p>\n<p>LAN<\/p>\n<p>2 x Ethernet-switch 10G med 12 portar<\/p>\n<p>\u2014<\/p>\n<p>SAN<\/p>\n<p>2 x FC-switch 32\/16Gb med 24 portar<\/p>\n<p>2 x Cisco UCS FI 6332<\/p>\n<p>Licenser<\/p>\n<p>VMware Ent Plus<\/p>\n<p><\/p>\n<p>Replikering och\/eller orkestrering av VM-omkoppling<\/p>\n<p>VMware Ent Plus<\/p>\n<p>F\u00f6r HyperFlex har jag inte planerat licenser f\u00f6r replikationsprogramvara, eftersom detta \u00e4r tillg\u00e4ngligt ur l\u00e5dan.<\/p>\n<p>F\u00f6r den klassiska arkitekturen valde jag en leverant\u00f6r som har bevisat sig vara en kvalitativ och prisv\u00e4rd producent. F\u00f6r b\u00e5da alternativen till\u00e4mpade jag standardrabatten f\u00f6r den specifika l\u00f6sningen och fick verkliga priser. <\/p>\n<p>L\u00f6sningen p\u00e5 Cisco HyperFlex blev 13% billigare.<\/p>\n<p><b>Scenario 2:<\/b> skapa tv\u00e5 aktiva datacenter. I detta scenario designar vi en distribuerad kluster p\u00e5 VMware. <\/p>\n<p>Den klassiska arkitekturen best\u00e5r av virtualiseringsservrar, SAN (FC-protokoll) och tv\u00e5 lagringssystem som kan l\u00e4sa och skriva p\u00e5 det distribuerade mellan dem. Vi planerar anv\u00e4ndbar lagringskapacitet p\u00e5 varje lagringssystem f\u00f6r lokalisering.<\/p>\n<p><img decoding=\"async\" alt=\"Admin utan h\u00e4nder = hyperkonvergens?\" src=\"\/wp-content\/uploads\/2019\/10\/c3830f5bab128b724d94e727218b21b5.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n <br \/>\nMed HyperFlex skapar vi enkelt ett stretchkluster med lika m\u00e5nga noder p\u00e5 b\u00e5da platserna. I detta fall anv\u00e4nds en replikationsfaktor p\u00e5 2+2.<\/p>\n<p><img decoding=\"async\" alt=\"Admin utan h\u00e4nder = hyperkonvergens?\" src=\"\/wp-content\/uploads\/2019\/10\/6351c830c3fba60dc4e71a9a4245ec6f.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n <br \/>\nVi fick f\u00f6ljande konfiguration:<\/p>\n<p>Klassisk arkitektur<\/p>\n<p>HyperFlex<\/p>\n<p>Servrar<\/p>\n<p>16 x 1U Server (384 GB RAM, 2 x Intel Gold 6132, FC HBA, 2 x 10G NIC)<\/p>\n<p>16 x HX240C-M5L (512 GB RAM, 2 x Intel Gold 6132, 1,6 TB NVMe, 12 x 3,8 TB SSD, VIC 1387)<\/p>\n<p>Lagring<\/p>\n<p>2 x AllFlash-lagringssystem (150 TB SSD)<\/p>\n<p>\u2014<\/p>\n<p>LAN<\/p>\n<p>4 x Ethernet-switch 10G med 24 portar<\/p>\n<p>\u2014<\/p>\n<p>SAN<\/p>\n<p>4 x FC-switch 32\/16Gb med 24 portar<\/p>\n<p>4 x Cisco UCS FI 6332<\/p>\n<p>Licenser<\/p>\n<p>VMware Ent Plus<\/p>\n<p>VMware Ent Plus<\/p>\n<p>I alla ber\u00e4kningar har jag inte tagit h\u00e4nsyn till n\u00e4tverksinfrastruktur, kostnader f\u00f6r datacenter osv.: de kommer att vara desamma f\u00f6r klassisk arkitektur och f\u00f6r l\u00f6sningen p\u00e5 HyperFlex.<\/p>\n<p>Kostnaden f\u00f6r HyperFlex blev 5% h\u00f6gre. H\u00e4r b\u00f6r det noteras att jag f\u00f6r Cisco fick en \u00f6vervikt vad g\u00e4ller CPU\/RAM-resurser, eftersom jag i konfigurationen fyllde minneskontrollernas kanaler j\u00e4mt. Kostnaden \u00e4r n\u00e5got h\u00f6gre, men inte i en annan klass, vilket tydligt indikerar att hyperkonvergens inte n\u00f6dv\u00e4ndigtvis \u00e4r \"en leksak f\u00f6r rika\", utan kan konkurrera med standardmetoden f\u00f6r att bygga datacenter. Detta kan ocks\u00e5 vara intressant f\u00f6r dem som redan har servrar fr\u00e5n Cisco UCS och den motsvarande infrastrukturen. <\/p>\n<p>Bland f\u00f6rdelarna f\u00e5r vi inga kostnader f\u00f6r administration av SAN och lagringssystem, online-komprimering och deduplicering, en enhetlig kontaktpunkt f\u00f6r support (virtualisering, servrar, de \u00e4r ocks\u00e5 lagringssystem), platsbesparing (men inte i alla scenarier), och f\u00f6renkling av driften.<\/p>\n<p>N\u00e4r det g\u00e4ller support f\u00e5r ni den fr\u00e5n en leverant\u00f6r \u2014 Cisco. Utifr\u00e5n min erfarenhet av att arbeta med servrar fr\u00e5n Cisco UCS tycker jag att det \u00e4r bra, jag beh\u00f6vde aldrig \u00f6ppna HyperFlex, allt fungerade redan. Ingenj\u00f6rer svarar snabbt och kan l\u00f6sa inte bara typiska problem, utan \u00e4ven komplexa gr\u00e4nsfall. Ibland kontaktar jag dem med fr\u00e5gor som: \"\u00c4r det m\u00f6jligt att g\u00f6ra s\u00e5 h\u00e4r, koppla p\u00e5 detta?\" eller \"Jag har konfigurerat n\u00e5got, och det vill inte fungera. Hj\u00e4lp mig!\" \u2014 de kommer t\u00e5lmodigt att hitta r\u00e4tt guide och peka ut de korrekta stegen, de kommer inte att svara: \"Vi l\u00f6ser bara h\u00e5rdvaruproblem.\"<\/p>\n<h3>L\u00e4nkar<\/h3>\n<p><\/p>\n<ul>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/www.cisco.com\/c\/dam\/en\/us\/products\/collateral\/hyperconverged-infrastructure\/hyperflex-hx-series\/hxaf-240c-m5-specsheet.pdf\">Specifikationer<\/a><\/noindex><\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/croc\/blog\/146536\/\">Virtuellt datacenter<\/a><\/noindex><\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/croc\/blog\/342820\/\">Datacenter i skrivbordsl\u00e5dan<\/a><\/noindex><\/li>\n<li>Min e-post \u00e4r StGeneralov@croc.ru<\/li>\n<\/ul>\n<p>K\u00e4lla: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/croc\/blog\/471508\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>\u042d\u0442\u043e \u043c\u0438\u0444, \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0439 \u0432 \u0441\u0444\u0435\u0440\u0435 \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u043e\u0433\u043e \u0436\u0435\u043b\u0435\u0437\u0430. \u041d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0436\u0435 \u0433\u0438\u043f\u0435\u0440\u043a\u043e\u043d\u0432\u0435\u0440\u0433\u0435\u043d\u0442\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f (\u043a\u043e\u0433\u0434\u0430 \u0432\u0441\u0451 \u0432 \u043e\u0434\u043d\u043e\u043c) \u043d\u0443\u0436\u043d\u044b \u043c\u043d\u043e\u0433\u043e \u0434\u043b\u044f \u0447\u0435\u0433\u043e. \u0418\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u0438 \u0441\u043b\u043e\u0436\u0438\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u043f\u0435\u0440\u0432\u044b\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0431\u044b\u043b\u0438 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u044b Amazon \u0438 Google \u043f\u043e\u0434 \u0441\u0432\u043e\u0438 \u0441\u0435\u0440\u0432\u0438\u0441\u044b. \u0422\u043e\u0433\u0434\u0430 \u0438\u0434\u0435\u044f \u0431\u044b\u043b\u0430 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e\u0431\u044b \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u0444\u0435\u0440\u043c\u0443 \u0438\u0437 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u0443\u0437\u043b\u043e\u0432, \u0443 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0435\u0441\u0442\u044c \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435 \u0434\u0438\u0441\u043a\u0438. \u0412\u0441\u0451 \u044d\u0442\u043e [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29233,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[688],"tags":[],"class_list":["post-38966","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-administrirovanie"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.4 - aioseo.com -->\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/sv\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya\" \/>\n\t\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.4\" \/>\n\t\t<meta property=\"og:locale\" content=\"sv_SE\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u0410\u0434\u043c\u0438\u043d \u0431\u0435\u0437 \u0440\u0443\u043a = \u0433\u0438\u043f\u0435\u0440\u043a\u043e\u043d\u0432\u0435\u0440\u0433\u0435\u043d\u0446\u0438\u044f? | ProHoster\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/sv\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T19:27:03+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T19:27:03+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Admin utan h\u00e4nder = hyperkonvergens? | ProHoster","description":"","canonical_url":"https:\/\/prohoster.info\/sv\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"sv_SE","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u0410\u0434\u043c\u0438\u043d \u0431\u0435\u0437 \u0440\u0443\u043a = \u0433\u0438\u043f\u0435\u0440\u043a\u043e\u043d\u0432\u0435\u0440\u0433\u0435\u043d\u0446\u0438\u044f? | ProHoster","og:url":"https:\/\/prohoster.info\/sv\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T19:27:03+00:00","article:modified_time":"2019-10-31T19:27:03+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"38966","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-24 00:12:19","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 00:59:27","updated":"2026-01-24 00:12:19","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/posts\/38966","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/comments?post=38966"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/posts\/38966\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/media\/29233"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/media?parent=38966"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/categories?post=38966"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/tags?post=38966"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}