{"id":38966,"date":"2019-10-31T22:27:03","date_gmt":"2019-10-31T19:27:03","guid":{"rendered":"https:\/\/prohoster.info\/blog\/admin-bez-ruk-giperkonvergentsiya\/"},"modified":"2019-10-31T22:27:03","modified_gmt":"2019-10-31T19:27:03","slug":"admin-bez-ruk-giperkonvergentsiya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pt\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya","title":{"rendered":"Admin sem m\u00e3os = hiperconverg\u00eancia?","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Admin sem m\u00e3os = hiperconverg\u00eancia?\" src=\"\/wp-content\/uploads\/2019\/10\/ea1763132185c97bb4edf0e67640d58f.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<img decoding=\"async\" alt=\"Admin sem m\u00e3os = hiperconverg\u00eancia?\" src=\"\/wp-content\/uploads\/2019\/10\/b6355c444c310570e1f2619cd931e1ca.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nEsse \u00e9 um mito, bastante comum no setor de hardware de servidores. Na pr\u00e1tica, no entanto, solu\u00e7\u00f5es hiperconvergentes (quando tudo est\u00e1 em um s\u00f3 lugar) s\u00e3o necess\u00e1rias por muitos motivos. Historicamente, as primeiras arquiteturas foram desenvolvidas pela Amazon e Google para seus servi\u00e7os. Naquela \u00e9poca, a ideia era criar uma fazenda computacional com n\u00f3s id\u00eanticos, cada um com seus pr\u00f3prios discos. Tudo isso era unido por algum software sistema (hipervisor) e dividido em m\u00e1quinas virtuais. O objetivo principal era minimizar o esfor\u00e7o na manuten\u00e7\u00e3o de um \u00fanico n\u00f3 e minimizar os problemas de escalabilidade: simplesmente comprava-se mais mil ou duas mil de servidores semelhantes e conectava-se ao lado. Na pr\u00e1tica, isso \u00e9 uma exce\u00e7\u00e3o, e muito mais frequentemente fala-se de um n\u00famero menor de n\u00f3s e uma arquitetura um pouco diferente. <\/p>\n<p>Mas a vantagem continua a mesma \u2014 uma incr\u00edvel simplicidade de escalabilidade e gerenciamento. A desvantagem \u00e9 que diferentes tarefas consomem recursos de maneira diferente, e em alguns lugares haver\u00e1 muitos discos locais, em outros, pouca mem\u00f3ria operacional, e assim por diante, ou seja, dependendo do tipo de tarefas, a utiliza\u00e7\u00e3o dos recursos pode cair. <\/p>\n<p>Acontece que voc\u00ea paga de 10 a 15% a mais pelo conforto da configura\u00e7\u00e3o. Isso gerou o mito do t\u00edtulo. N\u00f3s procuramos muito onde a tecnologia poderia ser utilizada de forma ideal, e encontramos. O fato \u00e9 que a Cisco n\u00e3o tinha suas pr\u00f3prias solu\u00e7\u00f5es de armazenamento, mas queria todo o mercado de servidores. E eles desenvolveram o Cisco Hyperflex \u2014 uma solu\u00e7\u00e3o com armazenamento local nos n\u00f3s. <\/p>\n<p>E a partir disso, surgiu uma solu\u00e7\u00e3o muito boa para data centers de backup (Disaster Recovery). Por que e como \u2014 vou explicar agora. E vou mostrar os testes do cluster. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/p>\n<h3>Onde necess\u00e1rio<\/h3>\n<p>\nHiperconverg\u00eancia \u00e9: <\/p>\n<ol>\n<li>Transfer\u00eancia de discos para n\u00f3s computacionais.<\/li>\n<li>Integra\u00e7\u00e3o completa do subsistema de armazenamento de dados com o subsistema de virtualiza\u00e7\u00e3o.<\/li>\n<li>Transfer\u00eancia\/integrac\u00e3o com o subsistema de rede.<\/li>\n<\/ol>\n<p>\nEsse tipo de combina\u00e7\u00e3o permite implementar muitos recursos de armazenamento no n\u00edvel da virtualiza\u00e7\u00e3o, tudo a partir de uma \u00fanica interface de gerenciamento.<\/p>\n<p>Na nossa empresa, projetos de design de data centers de backup s\u00e3o muito procurados, e frequentemente opta-se pela solu\u00e7\u00e3o hiperconvergente devido \u00e0 variedade de op\u00e7\u00f5es de replica\u00e7\u00e3o (inclusive at\u00e9 metroc\u00f3modos) prontamente dispon\u00edveis. <\/p>\n<p>Nos casos de data centers de backup, geralmente se refere a um local remoto na cidade oposta ou at\u00e9 mesmo em outra cidade. Isso permite a recupera\u00e7\u00e3o de sistemas cr\u00edticos em caso de falha parcial ou total do data center principal. Dados s\u00e3o constantemente replicados do ambiente de produ\u00e7\u00e3o, e essa replica\u00e7\u00e3o pode ocorrer no n\u00edvel da aplica\u00e7\u00e3o ou no n\u00edvel do dispositivo de armazenamento (SDS).<\/p>\n<p>Portanto, agora irei falar sobre a estrutura do sistema e os testes, e depois sobre alguns cen\u00e1rios de aplica\u00e7\u00e3o real com dados sobre economia. <\/p>\n<h3>Testes<\/h3>\n<p>\nNossa configura\u00e7\u00e3o consiste em quatro servidores, cada um equipado com 10 discos SSD de 960 GB. H\u00e1 um disco dedicado para o cache de opera\u00e7\u00f5es de escrita e para armazenar a m\u00e1quina virtual de servi\u00e7o. A pr\u00f3pria solu\u00e7\u00e3o \u00e9 a quarta vers\u00e3o. A primeira era visivelmente inacabada (de acordo com o feedback), a segunda ainda era um pouco crua, a terceira j\u00e1 era bastante est\u00e1vel, e esta pode ser chamada de vers\u00e3o final ap\u00f3s o t\u00e9rmino dos testes beta para o p\u00fablico. Durante o per\u00edodo de teste, n\u00e3o encontrei problemas, tudo funciona como um rel\u00f3gio.<\/p>\n<p><b class=\"spoiler_title\">Mudan\u00e7as na v4<\/b>Um monte de bugs foi corrigido. <\/p>\n<p>Inicialmente, a plataforma s\u00f3 funcionava com o hipervisor VMware ESXi e suportava um n\u00famero limitado de n\u00f3s. Al\u00e9m disso, o processo de implanta\u00e7\u00e3o nem sempre terminava com sucesso, precisando reiniciar algumas etapas, havia problemas na atualiza\u00e7\u00e3o de vers\u00f5es anteriores, e os dados na GUI nem sempre eram exibidos corretamente (embora ainda n\u00e3o esteja totalmente satisfeito com a exibi\u00e7\u00e3o dos gr\u00e1ficos de desempenho); \u00e0s vezes, surgiam problemas na interse\u00e7\u00e3o com a virtualiza\u00e7\u00e3o.<\/p>\n<p>Agora todas as doen\u00e7as infantis foram corrigidas, o HyperFlex suporta tanto ESXi quanto Hyper-V, al\u00e9m disso, \u00e9 poss\u00edvel:<\/p>\n<ol>\n<li>Criar um cluster estendido. <\/li>\n<li>Criar um cluster para escrit\u00f3rios sem a necessidade de Fabric Interconnect, com de dois a quatro n\u00f3s (compramos apenas os servidores).<\/li>\n<li>Trabalhar com SDS externos.<\/li>\n<li>Suporte a cont\u00eaineres e Kubernetes.<\/li>\n<li>Criar zonas de disponibilidade.<\/li>\n<li>Integra\u00e7\u00e3o com VMware SRM, caso a funcionalidade embutida n\u00e3o seja satisfat\u00f3ria.<\/li>\n<\/ol>\n<p>A arquitetura n\u00e3o difere muito das solu\u00e7\u00f5es dos principais concorrentes, n\u00e3o se reinventou a roda. Tudo isso opera na plataforma de virtualiza\u00e7\u00e3o VMware ou Hyper-V. O hardware est\u00e1 hospedado em servidores desenvolvidos pela pr\u00f3pria Cisco UCS. H\u00e1 quem odeie a plataforma devido \u00e0 relativa complexidade da configura\u00e7\u00e3o inicial, a multitude de bot\u00f5es, e um sistema de modelos e depend\u00eancias n\u00e3o triviais, mas h\u00e1 tamb\u00e9m quem tenha encontrado o zen, compreendido a ideia e n\u00e3o deseje mais trabalhar com outros servidores. <\/p>\n<p>Vamos analisar especificamente a solu\u00e7\u00e3o para VMware, pois a solu\u00e7\u00e3o foi criada originalmente para ela e possui funcionalidades mais avan\u00e7adas, enquanto que a Hyper-V foi aprimorada ao longo do tempo para acompanhar a concorr\u00eancia e atender \u00e0s expectativas do mercado.<\/p>\n<p>H\u00e1 um cluster de servidores equipados com discos. Existem discos para armazenamento de dados (SSD ou HDD \u2014 a sua escolha e necessidades), al\u00e9m de um disco SSD para cache. Ao gravar dados no datastore, os dados s\u00e3o armazenados na camada de cache (um disco SSD dedicado e RAM da VM de servi\u00e7o). Paralelamente, um bloco de dados \u00e9 enviado para os n\u00f3s do cluster (o n\u00famero de n\u00f3s depende do fator de replica\u00e7\u00e3o do cluster). Ap\u00f3s a confirma\u00e7\u00e3o de todos os n\u00f3s sobre a grava\u00e7\u00e3o bem-sucedida, a confirma\u00e7\u00e3o \u00e9 enviada ao hipervisor e, em seguida, \u00e0 VM. Os dados gravados s\u00e3o desduplicados, comprimidos e gravados nos discos de armazenamento em segundo plano. Nesse processo, grandes blocos s\u00e3o gravados sequencialmente nos discos de armazenamento, reduzindo a carga sobre eles.<\/p>\n<p>A deduplica\u00e7\u00e3o e compress\u00e3o est\u00e3o sempre ativadas e n\u00e3o podem ser desativadas. A leitura de dados ocorre diretamente dos discos de armazenamento ou do cache da RAM. Se for utilizada uma configura\u00e7\u00e3o h\u00edbrida, a leitura tamb\u00e9m \u00e9 armazenada no disco SSD.<\/p>\n<p>Os dados n\u00e3o est\u00e3o vinculados \u00e0 localiza\u00e7\u00e3o atual da m\u00e1quina virtual e s\u00e3o distribu\u00eddos uniformemente entre os n\u00f3s. Essa abordagem permite que todos os discos e interfaces de rede sejam igualmente carregados. Surge uma desvantagem \u00f3bvia: n\u00e3o conseguimos minimizar a lat\u00eancia de leitura, j\u00e1 que n\u00e3o h\u00e1 garantia de que os dados est\u00e3o localmente dispon\u00edveis. Mas considero que essa \u00e9 uma sacrif\u00edcio insignificante em compara\u00e7\u00e3o com os benef\u00edcios obtidos. Al\u00e9m disso, as lat\u00eancias na rede alcan\u00e7aram valores que praticamente n\u00e3o afetam o resultado geral.<\/p>\n<p>Toda a l\u00f3gica de funcionamento do subsistema de disco \u00e9 gerida por uma m\u00e1quina virtual de servi\u00e7o especializada, o controlador Cisco HyperFlex Data Platform, que \u00e9 criada em cada n\u00f3 de armazenamento. Na nossa configura\u00e7\u00e3o, a m\u00e1quina virtual de servi\u00e7o foi alocada com oito vCPUs e 72 GB de RAM, o que n\u00e3o \u00e9 pouco. Lembro que o pr\u00f3prio host possui 28 n\u00facleos f\u00edsicos e 512 GB de RAM.<\/p>\n<p>A m\u00e1quina virtual de servi\u00e7o tem acesso direto aos discos f\u00edsicos atrav\u00e9s do passthrough do controlador SAS na VM. A comunica\u00e7\u00e3o com o hipervisor ocorre atrav\u00e9s de um m\u00f3dulo especial chamado IOVisor, que intercepta opera\u00e7\u00f5es de entrada e sa\u00edda, e com um agente que permite enviar comandos para a API do hipervisor. O agente \u00e9 respons\u00e1vel pelo trabalho com snapshots e clones do HyperFlex.<\/p>\n<p>No hipervisor, os recursos de disco s\u00e3o montados como compartilhamentos NFS ou SMB (dependendo do tipo de hipervisor, adivinhe qual \u00e9 onde). E, por tr\u00e1s disso, est\u00e1 um sistema de arquivos distribu\u00eddo, que permite adicionar funcionalidades de storage avan\u00e7adas: provisionamento fino de volumes, compress\u00e3o e deduplica\u00e7\u00e3o, snapshots utilizando a tecnologia Redirect-on-Write, replica\u00e7\u00e3o s\u00edncrona\/ass\u00edncrona.<\/p>\n<p>A m\u00e1quina virtual de servi\u00e7o fornece acesso \u00e0 interface web de gerenciamento do subsistema HyperFlex. Existe integra\u00e7\u00e3o com o vCenter, e a maior parte das tarefas do dia a dia pode ser executada a partir dele, mas as datastores, por exemplo, s\u00e3o mais facilmente configuradas a partir de uma interface web separada, se voc\u00ea j\u00e1 mudou para a r\u00e1pida interface HTML5, ou pode usar o cliente Flash completo com integra\u00e7\u00e3o total. Na interface web de servi\u00e7o, voc\u00ea pode ver o desempenho e o status detalhado do sistema.<\/p>\n<p><img decoding=\"async\" alt=\"Admin sem m\u00e3os = hiperconverg\u00eancia?\" src=\"\/wp-content\/uploads\/2019\/10\/4f603b38d6489836892bebc76663eb2f.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nExiste tamb\u00e9m outro tipo de n\u00f3 no cluster \u2014 n\u00f3s de computa\u00e7\u00e3o. Estes podem ser servidores em rack ou blade sem discos embutidos. Nestes servidores, \u00e9 poss\u00edvel iniciar VMs cujos dados s\u00e3o armazenados em servidores com discos. Em termos de acesso a dados, n\u00e3o h\u00e1 diferen\u00e7a entre os tipos de n\u00f3s, pois a arquitetura implica uma abstra\u00e7\u00e3o da localiza\u00e7\u00e3o f\u00edsica dos dados. A m\u00e1xima propor\u00e7\u00e3o de n\u00f3s de computa\u00e7\u00e3o para n\u00f3s de armazenamento \u00e9 de 2:1.<\/p>\n<p>O uso de n\u00f3s de computa\u00e7\u00e3o aumenta a flexibilidade ao escalar recursos do cluster: n\u00e3o precisamos necessariamente comprar n\u00f3s com discos, se a nossa necessidade \u00e9 apenas de CPU\/RAM. Al\u00e9m disso, podemos adicionar uma blade chassis e obter economia em coloca\u00e7\u00e3o de servidores no rack.<\/p>\n<p>Como resultado, temos uma plataforma hiperconvergente com as seguintes caracter\u00edsticas:<\/p>\n<ul>\n<li>At\u00e9 64 n\u00f3s no cluster (at\u00e9 32 n\u00f3s de armazenamento).<\/li>\n<li>O n\u00famero m\u00ednimo de n\u00f3s no cluster \u00e9 tr\u00eas (dois para o cluster Edge).<\/li>\n<li>Mecanismo de redund\u00e2ncia de dados: espelhamento com fator de replica\u00e7\u00e3o 2 e 3.<\/li>\n<li>Metro-cluster.<\/li>\n<li>Replica\u00e7\u00e3o ass\u00edncrona de VMs para outro cluster HyperFlex.<\/li>\n<li>Orquestra\u00e7\u00e3o de failover de VMs para o data center remoto.<\/li>\n<li>Snapshots nativos com tecnologia Redirect-on-Write.<\/li>\n<li>At\u00e9 1 PB de espa\u00e7o \u00fatil com fator de replica\u00e7\u00e3o 3 e sem considerar deduplica\u00e7\u00e3o. O fator de replica\u00e7\u00e3o 2 n\u00e3o \u00e9 considerado, pois n\u00e3o \u00e9 uma op\u00e7\u00e3o para vendas s\u00e9rias.<\/li>\n<\/ul>\n<p>\nOutro grande benef\u00edcio \u00e9 a simplicidade de gerenciamento e implanta\u00e7\u00e3o. Todas as complexidades na configura\u00e7\u00e3o dos servidores UCS s\u00e3o feitas por uma VM especializada, preparada por engenheiros da Cisco. <\/p>\n<h3>Configura\u00e7\u00e3o do ambiente de testes:<\/h3>\n<p><\/p>\n<ul>\n<li>2 x Cisco UCS Fabric Interconnect 6248UP como cluster de controle e componentes de rede (48 portas funcionando no modo Ethernet 10G\/FC 16G).<\/li>\n<li>Quatro servidores Cisco UCS HXAF240 M4.<\/li>\n<\/ul>\n<p>\nCaracter\u00edsticas dos servidores:<\/p>\n<p><\/p>\n<p>CPU<\/p>\n<p>2 x Intel \u00ae Xeon \u00ae E5-2690 v4<\/p>\n<p>RAM<\/p>\n<p>16 x 32GB DDR4-2400-MHz RDIMM\/PC4-19200\/rank duplo\/x4\/1.2v<\/p>\n<p>Rede<\/p>\n<p>UCSC-MLOM-CSC-02 (VIC 1227). 2 portas de 10G Ethernet<\/p>\n<p>Storage HBA<\/p>\n<p>Controlador SAS Modular de Passagem de 12G da Cisco<\/p>\n<p>Discos de Armazenamento<\/p>\n<p>1 x SSD Intel S3520 120 GB, 1 x SSD Samsung MZ-IES800D, 10 x SSD Samsung PM863a 960 GB<\/p>\n<p>\n<b class=\"spoiler_title\">Mais op\u00e7\u00f5es de configura\u00e7\u00e3o<\/b>Al\u00e9m do hardware selecionado, atualmente est\u00e3o dispon\u00edveis as seguintes op\u00e7\u00f5es:<\/p>\n<ul>\n<li>HXAF240c M5.<\/li>\n<li>Um ou dois CPUs, de Intel Silver 4110 a Intel Platinum I8260Y. A segunda gera\u00e7\u00e3o est\u00e1 dispon\u00edvel.<\/li>\n<li>24 slots de mem\u00f3ria, m\u00f3dulos de 16 GB RDIMM 2600 at\u00e9 128 GB LRDIMM 2933.<\/li>\n<li>De 6 a 23 discos para dados, um disco de cache, um disco do sistema e um disco de inicializa\u00e7\u00e3o.<\/li>\n<\/ul>\n<p>\n<b>Discos de Capacidade<\/b><\/p>\n<ul>\n<li>HX-SD960G61X-EV 960GB 2.5 Inch Enterprise Value 6G SATA SSD (1X endurance) SAS 960 GB.<\/li>\n<li>HX-SD38T61X-EV 3.8TB 2.5 inch Enterprise Value 6G SATA SSD (1X endurance) SAS 3.8 TB.<\/li>\n<li>Discos de Cache<\/li>\n<li>HX-NVMEXPB-I375 375GB 2.5 inch Intel Optane Drive, Desempenho Extremo &amp; Endurance.<\/li>\n<li>HX-NVMEHW-H1600* 1.6TB 2.5 inch Ent. Perf. NVMe SSD (3X endurance) NVMe 1.6 TB.<\/li>\n<li>HX-SD400G12TX-EP 400GB 2.5 inch Ent. Perf. 12G SAS SSD (10X endurance) SAS 400 GB.<\/li>\n<li>HX-SD800GBENK9** 800GB 2.5 inch Ent. Perf. 12G SAS SED SSD (10X endurance) SAS 800 GB.<\/li>\n<li>HX-SD16T123X-EP 1.6TB 2.5 inch Enterprise performance 12G SAS SSD (3X endurance).<\/li>\n<\/ul>\n<p>\n<b>Discos do Sistema \/ Log<\/b><\/p>\n<ul>\n<li>HX-SD240GM1X-EV 240GB 2.5 inch Enterprise Value 6G SATA SSD (Requer atualiza\u00e7\u00e3o).<\/li>\n<\/ul>\n<p>\n<b>Discos de Inicializa\u00e7\u00e3o<\/b><\/p>\n<ul>\n<li>HX-M2-240GB 240GB SATA M.2 SSD SATA 240 GB.<\/li>\n<\/ul>\n<p>Conex\u00e3o \u00e0 rede atrav\u00e9s de portas Ethernet de 40G, 25G ou 10G. <\/p>\n<p>Como FI, podem ser HX-FI-6332 (40G), HX-FI-6332-16UP (40G), HX-FI-6454 (40G\/100G).<\/p>\n<h3>O teste<\/h3>\n<p>\nPara testar o subsistema de disco, usei o HCIBench 2.2.1. Esta \u00e9 uma ferramenta gratuita que automatiza a cria\u00e7\u00e3o de carga a partir de v\u00e1rias m\u00e1quinas virtuais. A pr\u00f3pria carga \u00e9 gerada pelo fio normal. <\/p>\n<p>Nosso cluster \u00e9 composto por quatro n\u00f3s, fator de replica\u00e7\u00e3o 3, todos os discos Flash.<\/p>\n<p>Para os testes, criei quatro datastores e oito m\u00e1quinas virtuais. Para os testes de grava\u00e7\u00e3o, considera-se a situa\u00e7\u00e3o em que o disco de cache n\u00e3o fica cheio.<\/p>\n<p>Os resultados dos testes s\u00e3o os seguintes:<\/p>\n<p>100 % Leitura 100 % Aleat\u00f3ria<\/p>\n<p>0 % Leitura 100% Aleat\u00f3ria<\/p>\n<p>Bloco\/profundidade da fila<\/p>\n<p>128<\/p>\n<p>256<\/p>\n<p>512<\/p>\n<p>1024<\/p>\n<p>2048<\/p>\n<p>128<\/p>\n<p>256<\/p>\n<p>512<\/p>\n<p>1024<\/p>\n<p>2048<\/p>\n<p>4K<\/p>\n<p>0,59 ms 213804 IOPS<\/p>\n<p>0,84 ms 303540 IOPS<\/p>\n<p>1,36 ms 374348 IOPS<\/p>\n<p>2,47 ms 414116 IOPS<\/p>\n<p><b>4,86 ms 420180 IOPS<\/b><\/p>\n<p>2,22 ms 57408 IOPS<\/p>\n<p>3,09 ms 82744 IOPS<\/p>\n<p>5,02 ms 101824 IOPS<\/p>\n<p>8,75 ms 116912 IOPS<\/p>\n<p><b>17,2 ms 118592 IOPS<\/b><\/p>\n<p>8K<\/p>\n<p>0,67 ms 188416 IOPS<\/p>\n<p>0,93 ms 273280 IOPS<\/p>\n<p>1,7 ms 299932 IOPS<\/p>\n<p>2,72 ms 376484 IOPS<\/p>\n<p><b>5,47 ms 373176 IOPS<\/b><\/p>\n<p>3,1 ms 41148 IOPS<\/p>\n<p>4,7 ms 54396 IOPS<\/p>\n<p>7,09 ms 72192 IOPS<\/p>\n<p><b>12,77 ms 80132 IOPS<\/b><\/p>\n<p>16K<\/p>\n<p>0,77 ms 164116 IOPS<\/p>\n<p>1,12 ms 228328 IOPS<\/p>\n<p>1,9 ms 268140 IOPS<\/p>\n<p><b>3,96 ms 258480 IOPS<\/b><\/p>\n<p>3,8 ms 33640 IOPS<\/p>\n<p>6,97 ms 36696 IOPS<\/p>\n<p><b>11,35 ms 45060 IOPS<\/b><\/p>\n<p>32K<\/p>\n<p>1,07 ms 119292 IOPS<\/p>\n<p>1,79 ms 142888 IOPS<\/p>\n<p><b>3,56 ms 143760 IOPS<\/b><\/p>\n<p>7,17 ms 17810 IOPS<\/p>\n<p><b>11,96 ms 21396 IOPS<\/b><\/p>\n<p>64K<\/p>\n<p>1,84 ms 69440 IOPS<\/p>\n<p>3,6 ms 71008 IOPS<\/p>\n<p><b>7,26 ms 70404 IOPS<\/b><\/p>\n<p><b>11,37 ms 11248 IOPS<\/b><\/p>\n<p><i>Os valores em negrito indicam os pontos ap\u00f3s os quais n\u00e3o h\u00e1 aumento de desempenho, e \u00e0s vezes at\u00e9 h\u00e1 uma degrada\u00e7\u00e3o percept\u00edvel. Isso est\u00e1 relacionado ao fato de que estamos limitados pelo desempenho da rede\/controladores\/discos.<\/i><\/p>\n<ul>\n<li>Leitura sequencial 4432 MB\/s.<\/li>\n<li>Grava\u00e7\u00e3o sequencial 804 MB\/s.<\/li>\n<li>Ao falhar um controlador (falha da m\u00e1quina virtual ou do host), a queda de desempenho \u00e9 de duas vezes.<\/li>\n<li>Ao falhar o disco de armazenamento, a queda \u00e9 de 1\/3. O rebuild do disco consome 5% dos recursos de cada controlador.<\/li>\n<\/ul>\n<p>\nEm blocos pequenos, estamos limitados pelo desempenho do controlador (m\u00e1quina virtual), cujo CPU est\u00e1 carregado em 100%; ao aumentar o bloco, estamos limitados pela largura de banda das portas. 10 Gbps n\u00e3o s\u00e3o suficientes para explorar todo o potencial do sistema AllFlash. Infelizmente, o fornecimento de 40 Gbps n\u00e3o \u00e9 permitido pelas especifica\u00e7\u00f5es do demo fornecido.<\/p>\n<p>Nas minhas impress\u00f5es dos testes e da arquitetura estudada, devido ao algoritmo que distribui os dados entre todos os hosts, obtemos um desempenho escal\u00e1vel e previs\u00edvel, mas isso tamb\u00e9m se torna uma limita\u00e7\u00e3o durante a leitura, pois poderia ser extra\u00eddo mais dos discos locais; aqui, uma rede mais potente pode ajudar, por exemplo, com FI dispon\u00edveis a 40 Gbps.<\/p>\n<p>Al\u00e9m disso, um \u00fanico disco para cache e deduplica\u00e7\u00e3o pode ser uma limita\u00e7\u00e3o; efetivamente, neste estande podemos gravar em quatro SSDs. Seria excelente ter a capacidade de aumentar o n\u00famero de discos de cache e ver a diferen\u00e7a.<\/p>\n<h3>Uso real<\/h3>\n<p>\nPara organizar um datacenter de backup, podem-se usar duas abordagens (n\u00e3o estamos considerando o armazenamento de backups em uma localiza\u00e7\u00e3o remota):<\/p>\n<ol>\n<li>Ativo-Passivo. Todos os aplicativos s\u00e3o hospedados no Data Center principal. A replica\u00e7\u00e3o pode ser s\u00edncrona ou ass\u00edncrona. Em caso de falha do Data Center principal, precisamos ativar o secund\u00e1rio. Isso pode ser feito manualmente \/ com scripts \/ aplicativos de orquestra\u00e7\u00e3o. Aqui obteremos um RPO compar\u00e1vel \u00e0 frequ\u00eancia de replica\u00e7\u00e3o, e o RTO depende da rea\u00e7\u00e3o e das habilidades do administrador e da qualidade da elabora\u00e7\u00e3o \/ depura\u00e7\u00e3o do plano de failover.<\/li>\n<li>Ativo-Ativo. Nesse caso, existe apenas replica\u00e7\u00e3o s\u00edncrona, a disponibilidade dos Data Centers \u00e9 determinada por um qu\u00f3rum \/ \u00e1rbitro, colocado rigorosamente em um terceiro local. RPO = 0, e o RTO pode atingir 0 (se o aplicativo permitir) ou igual ao tempo de tratamento da falha de um n\u00f3 no cluster de virtualiza\u00e7\u00e3o. Em n\u00edvel de virtualiza\u00e7\u00e3o, um cluster estendido (Metro) \u00e9 criado, exigindo um armazenamento de dados Ativo-Ativo.<\/li>\n<\/ol>\n<p>\nNormalmente, vemos nos clientes uma arquitetura j\u00e1 implementada com armazenamento cl\u00e1ssico no Data Center principal, ent\u00e3o projetamos mais um para replica\u00e7\u00e3o. Como mencionei, o Cisco HyperFlex oferece replica\u00e7\u00e3o ass\u00edncrona e a cria\u00e7\u00e3o de um cluster de virtualiza\u00e7\u00e3o estendido. Nesse caso, n\u00e3o precisamos de um armazenamento de dados de n\u00edvel m\u00e9dio ou superior com fun\u00e7\u00f5es de replica\u00e7\u00e3o e acesso Ativo-Ativo a dados em dois storages caros.<\/p>\n<p><b>Cen\u00e1rio 1:<\/b> Temos Data Centers principal e secund\u00e1rio, e a plataforma de virtualiza\u00e7\u00e3o \u00e9 VMware vSphere. Todos os sistemas produtivos est\u00e3o no Data Center principal, e a replica\u00e7\u00e3o das m\u00e1quinas virtuais \u00e9 realizada no n\u00edvel do hipervisor, o que permite n\u00e3o manter as VMs ligadas no Data Center secund\u00e1rio. Bancos de dados e aplicativos especiais s\u00e3o replicados com recursos embutidos, e mantemos as VMs ligadas. Em caso de falha do Data Center principal, ativamos os sistemas no Data Center secund\u00e1rio. Consideramos que temos cerca de 100 m\u00e1quinas virtuais. Enquanto o Data Center principal estiver operacional, o Data Center secund\u00e1rio pode executar ambientes de teste e outros sistemas que podem ser desligados em caso de failover do Data Center principal. Tamb\u00e9m \u00e9 poss\u00edvel que utilizemos replica\u00e7\u00e3o bidirecional. Do ponto de vista de hardware, nada mudar\u00e1.<\/p>\n<p>No caso da arquitetura cl\u00e1ssica, iremos instalar no cada Data Center um sistema de armazenamento h\u00edbrido com acesso via FibreChannel, tiering, deduplica\u00e7\u00e3o e compress\u00e3o (mas n\u00e3o online), 8 servidores em cada local, com 2 switches FibreChannel e Ethernet de 10G. Para replica\u00e7\u00e3o e gerenciamento de failover na arquitetura cl\u00e1ssica, podemos utilizar as ferramentas da VMware (Replication + SRM) ou ferramentas de terceiros, que podem ser um pouco mais baratas e \u00e0s vezes mais convenientes.<\/p>\n<p>A figura apresenta o diagrama.<\/p>\n<p><img decoding=\"async\" alt=\"Admin sem m\u00e3os = hiperconverg\u00eancia?\" src=\"\/wp-content\/uploads\/2019\/10\/e7a1ef66c0ae1a8cbb60d0411007d822.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nNo caso do uso do Cisco HyperFlex, a arquitetura \u00e9 a seguinte:<\/p>\n<p><img decoding=\"async\" alt=\"Admin sem m\u00e3os = hiperconverg\u00eancia?\" src=\"\/wp-content\/uploads\/2019\/10\/71d58163728f37a163ec914b81dc73ab.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nPara o HyperFlex, utilizei servidores com recursos robustos de CPU\/RAM, j\u00e1 que parte dos recursos ser\u00e1 dedicada \u00e0 VM do controlador HyperFlex. Em rela\u00e7\u00e3o \u00e0 CPU e mem\u00f3ria, at\u00e9 mesmo ampliei um pouco a configura\u00e7\u00e3o do HyperFlex, para n\u00e3o favorecer a Cisco e garantir recursos para as outras VMs. Assim, podemos dispensar os switches FibreChannel, e n\u00e3o precisamos de portas Ethernet para cada servidor, pois o tr\u00e1fego local \u00e9 comutado internamente no FI.<\/p>\n<p>Assim, obtivemos a seguinte configura\u00e7\u00e3o para cada Data Center:<\/p>\n<p>Servidores<\/p>\n<p>8 x Servidor 1U (384 GB RAM, 2 x Intel Gold 6132, FC HBA)<\/p>\n<p>8 x HX240C-M5L (512 GB RAM, 2 x Intel Gold 6150, 3,2 GB SSD, 10 x 6 TB NL-SAS)<\/p>\n<p>Armazenamento em Bloco<\/p>\n<p>Armazenamento h\u00edbrido com Front-End FC (20 TB SSD, 130 TB NL-SAS)<\/p>\n<p>\u2014<\/p>\n<p>LAN<\/p>\n<p>2 x Switch Ethernet 10G 12 portas<\/p>\n<p>\u2014<\/p>\n<p>SAN<\/p>\n<p>2 x Switch FC 32\/16Gb 24 portas<\/p>\n<p>2 x Cisco UCS FI 6332<\/p>\n<p>Licen\u00e7as<\/p>\n<p>VMware Ent Plus<\/p>\n<p><\/p>\n<p>Replica\u00e7\u00e3o e\/ou orquestra\u00e7\u00e3o de failover de VM<\/p>\n<p>VMware Ent Plus<\/p>\n<p>Para o HyperFlex, n\u00e3o considerei licen\u00e7as de software de replica\u00e7\u00e3o, pois temos isso dispon\u00edvel de f\u00e1brica.<\/p>\n<p>Para a arquitetura cl\u00e1ssica, escolhi um fornecedor que se destacou como um fabricante de qualidade e de bom custo. Para ambas as op\u00e7\u00f5es, apliquei o desconto padr\u00e3o para a solu\u00e7\u00e3o espec\u00edfica e, no final, obtive pre\u00e7os reais. <\/p>\n<p>A solu\u00e7\u00e3o com Cisco HyperFlex saiu 13% mais barata.<\/p>\n<p><b>Cen\u00e1rio 2:<\/b> cria\u00e7\u00e3o de dois Data Centers ativos. Neste cen\u00e1rio, projetamos um cluster estendido na VMware. <\/p>\n<p>A arquitetura cl\u00e1ssica consiste em servidores de virtualiza\u00e7\u00e3o, SAN (protocolo FC) e dois sistemas de armazenamento, que podem ler e gravar neste, estendido entre eles. Para cada sistema de armazenamento, consideramos uma capacidade \u00fatil para local.<\/p>\n<p><img decoding=\"async\" alt=\"Admin sem m\u00e3os = hiperconverg\u00eancia?\" src=\"\/wp-content\/uploads\/2019\/10\/c3830f5bab128b724d94e727218b21b5.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n <br \/>\nNo HyperFlex, simplesmente criamos um Stretch Cluster com o mesmo n\u00famero de n\u00f3s em ambas as localidades. Neste caso, utiliza-se um fator de replica\u00e7\u00e3o 2+2.<\/p>\n<p><img decoding=\"async\" alt=\"Admin sem m\u00e3os = hiperconverg\u00eancia?\" src=\"\/wp-content\/uploads\/2019\/10\/6351c830c3fba60dc4e71a9a4245ec6f.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n <br \/>\nObtivemos a seguinte configura\u00e7\u00e3o:<\/p>\n<p>Arquitetura cl\u00e1ssica<\/p>\n<p>HyperFlex<\/p>\n<p>Servidores<\/p>\n<p>16 x Servidor 1U (384 GB RAM, 2 x Intel Gold 6132, FC HBA, 2 x 10G NIC)<\/p>\n<p>16 x HX240C-M5L (512 GB RAM, 2 x Intel Gold 6132, 1,6 TB NVMe, 12 x 3,8 TB SSD, VIC 1387)<\/p>\n<p>Armazenamento em Bloco<\/p>\n<p>2 x Sistemas AllFlash de armazenamento (150 TB SSD)<\/p>\n<p>\u2014<\/p>\n<p>LAN<\/p>\n<p>4 x Switch Ethernet 10G 24 portas<\/p>\n<p>\u2014<\/p>\n<p>SAN<\/p>\n<p>4 x Switch FC 32\/16Gb 24 portas<\/p>\n<p>4 x Cisco UCS FI 6332<\/p>\n<p>Licen\u00e7as<\/p>\n<p>VMware Ent Plus<\/p>\n<p>VMware Ent Plus<\/p>\n<p>Nas contagens, n\u00e3o considerei a infraestrutura de rede, os custos do data center, etc.: eles ser\u00e3o iguais para a arquitetura cl\u00e1ssica e para a solu\u00e7\u00e3o HyperFlex.<\/p>\n<p>Em termos de custo, o HyperFlex ficou 5% mais caro. Vale ressaltar que, quanto aos recursos de CPU\/RAM, houve um desvio na configura\u00e7\u00e3o da Cisco, pois preenchi os canais dos controladores de mem\u00f3ria de forma uniforme. O custo \u00e9 um pouco mais alto, mas n\u00e3o em grande escala, o que indica claramente que a hiperconverg\u00eancia n\u00e3o \u00e9 necessariamente um 'brinquedo para ricos', podendo competir com a abordagem padr\u00e3o de constru\u00e7\u00e3o de data centers. Isso tamb\u00e9m pode ser interessante para quem j\u00e1 possui servidores Cisco UCS e a infraestrutura correspondente. <\/p>\n<p>Entre os benef\u00edcios, teremos a elimina\u00e7\u00e3o dos custos de administra\u00e7\u00e3o de SAN e armazenamento, compress\u00e3o e deduplica\u00e7\u00e3o online, um \u00fanico ponto de entrada para suporte (virtualiza\u00e7\u00e3o, servidores, que tamb\u00e9m s\u00e3o armazenamento), economia de espa\u00e7o (embora n\u00e3o em todos os cen\u00e1rios) e simplifica\u00e7\u00e3o da opera\u00e7\u00e3o.<\/p>\n<p>No que diz respeito ao suporte, voc\u00ea o recebe de um \u00fanico fornecedor \u2014 a Cisco. Com base na experi\u00eancia de trabalho com servidores Cisco UCS, apreciei o suporte, n\u00e3o precisei abrir chamados para o HyperFlex, tudo funcionava bem. Os engenheiros respondem rapidamente e podem resolver n\u00e3o apenas problemas comuns, mas tamb\u00e9m casos complexos. \u00c0s vezes, contato-os com perguntas como: '\u00c9 poss\u00edvel fazer isso, adicionar aquilo?' ou 'Configurei algo aqui e n\u00e3o est\u00e1 funcionando. Me ajudem!' \u2014 eles pacientemente encontram o guia necess\u00e1rio e indicam as a\u00e7\u00f5es corretas, n\u00e3o costumam responder: 'N\u00f3s resolvemos apenas problemas de hardware'.<\/p>\n<h3>Links<\/h3>\n<p><\/p>\n<ul>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/www.cisco.com\/c\/dam\/en\/us\/products\/collateral\/hyperconverged-infrastructure\/hyperflex-hx-series\/hxaf-240c-m5-specsheet.pdf\">Especifica\u00e7\u00f5es<\/a><\/noindex><\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/croc\/blog\/146536\/\">Data center virtual<\/a><\/noindex><\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/croc\/blog\/342820\/\">Centro de dados em uma gaveta<\/a><\/noindex><\/li>\n<li>Meu e-mail \u00e9 StGeneralov@croc.ru<\/li>\n<\/ul>\n<p>Fonte: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/croc\/blog\/471508\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>\u042d\u0442\u043e \u043c\u0438\u0444, \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0439 \u0432 \u0441\u0444\u0435\u0440\u0435 \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u043e\u0433\u043e \u0436\u0435\u043b\u0435\u0437\u0430. \u041d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0436\u0435 \u0433\u0438\u043f\u0435\u0440\u043a\u043e\u043d\u0432\u0435\u0440\u0433\u0435\u043d\u0442\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f (\u043a\u043e\u0433\u0434\u0430 \u0432\u0441\u0451 \u0432 \u043e\u0434\u043d\u043e\u043c) \u043d\u0443\u0436\u043d\u044b \u043c\u043d\u043e\u0433\u043e \u0434\u043b\u044f \u0447\u0435\u0433\u043e. \u0418\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u0438 \u0441\u043b\u043e\u0436\u0438\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u043f\u0435\u0440\u0432\u044b\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0431\u044b\u043b\u0438 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u044b Amazon \u0438 Google \u043f\u043e\u0434 \u0441\u0432\u043e\u0438 \u0441\u0435\u0440\u0432\u0438\u0441\u044b. \u0422\u043e\u0433\u0434\u0430 \u0438\u0434\u0435\u044f \u0431\u044b\u043b\u0430 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e\u0431\u044b \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u0444\u0435\u0440\u043c\u0443 \u0438\u0437 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u0443\u0437\u043b\u043e\u0432, \u0443 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0435\u0441\u0442\u044c \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435 \u0434\u0438\u0441\u043a\u0438. \u0412\u0441\u0451 \u044d\u0442\u043e [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29233,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[688],"tags":[],"class_list":["post-38966","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-administrirovanie"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.3 - aioseo.com -->\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/pt\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya\" \/>\n\t\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.3\" \/>\n\t\t<meta property=\"og:locale\" content=\"pt_PT\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u0410\u0434\u043c\u0438\u043d \u0431\u0435\u0437 \u0440\u0443\u043a = \u0433\u0438\u043f\u0435\u0440\u043a\u043e\u043d\u0432\u0435\u0440\u0433\u0435\u043d\u0446\u0438\u044f? | ProHoster\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/pt\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T19:27:03+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T19:27:03+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Admin sem m\u00e3os = hiperconverg\u00eancia? | ProHoster","description":"","canonical_url":"https:\/\/prohoster.info\/pt\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"pt_PT","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u0410\u0434\u043c\u0438\u043d \u0431\u0435\u0437 \u0440\u0443\u043a = \u0433\u0438\u043f\u0435\u0440\u043a\u043e\u043d\u0432\u0435\u0440\u0433\u0435\u043d\u0446\u0438\u044f? | ProHoster","og:url":"https:\/\/prohoster.info\/pt\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T19:27:03+00:00","article:modified_time":"2019-10-31T19:27:03+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"38966","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-24 00:12:19","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 00:59:27","updated":"2026-01-24 00:12:19","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/posts\/38966","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/comments?post=38966"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/posts\/38966\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/media\/29233"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/media?parent=38966"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/categories?post=38966"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/tags?post=38966"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}