{"id":38966,"date":"2019-10-31T22:27:03","date_gmt":"2019-10-31T19:27:03","guid":{"rendered":"https:\/\/prohoster.info\/blog\/admin-bez-ruk-giperkonvergentsiya\/"},"modified":"2019-10-31T22:27:03","modified_gmt":"2019-10-31T19:27:03","slug":"admin-bez-ruk-giperkonvergentsiya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/fr\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya","title":{"rendered":"Administrateur sans mains = hyper-convergence ?","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Administrateur sans mains = hyper-convergence ?\" src=\"\/wp-content\/uploads\/2019\/10\/ea1763132185c97bb4edf0e67640d58f.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<img decoding=\"async\" alt=\"Administrateur sans mains = hyper-convergence ?\" src=\"\/wp-content\/uploads\/2019\/10\/b6355c444c310570e1f2619cd931e1ca.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nC'est un mythe assez r\u00e9pandu dans le domaine du mat\u00e9riel serveur. En pratique, les solutions hyperconverg\u00e9es (tout-en-un) sont n\u00e9cessaires pour de nombreuses raisons. Historiquement, les premi\u00e8res architectures ont \u00e9t\u00e9 d\u00e9velopp\u00e9es par Amazon et Google pour leurs services. L'id\u00e9e \u00e9tait de cr\u00e9er un parc informatique compos\u00e9 de n\u0153uds identiques, chacun ayant ses propres disques. Le tout \u00e9tait reli\u00e9 par un logiciel de syst\u00e8me (hyperviseur) et divis\u00e9 en machines virtuelles. L'objectif principal \u00e9tait de minimiser les efforts de maintenance d'un n\u0153ud et le minimum de probl\u00e8mes lors de l'\u00e9volutivit\u00e9 : il suffisait d'ajouter quelques milliers de serveurs de ce type et de les connecter c\u00f4te \u00e0 c\u00f4te. En pratique, ce sont des cas isol\u00e9s, et la plupart du temps, il s'agit de moins de n\u0153uds et d'une architecture l\u00e9g\u00e8rement diff\u00e9rente. <\/p>\n<p>Mais l'avantage reste le m\u00eame : une simplicit\u00e9 extraordinaire \u00e0 l'\u00e9chelle et \u00e0 la gestion. Le inconv\u00e9nient est que diff\u00e9rentes t\u00e2ches consomment les ressources de mani\u00e8re vari\u00e9e, donc il y aura beaucoup de disques locaux par endroits, et ailleurs peu de RAM, etc. Cela signifie qu'avec diff\u00e9rents types de t\u00e2ches, l'utilisation des ressources sera diminu\u00e9e. <\/p>\n<p>Il en r\u00e9sulte que vous payez 10 \u00e0 15 % de plus pour la facilit\u00e9 de configuration. Ceci a donn\u00e9 naissance au mythe mentionn\u00e9 dans le titre. Nous avons longtemps cherch\u00e9 o\u00f9 la technologie pouvait \u00eatre utilis\u00e9e de mani\u00e8re optimale et nous avons trouv\u00e9. En effet, Cisco n'avait pas ses propres syst\u00e8mes de stockage, mais ils voulaient conqu\u00e9rir le march\u00e9 des serveurs. Ils ont donc cr\u00e9\u00e9 Cisco Hyperflex \u2014 une solution avec des stockages locaux sur les n\u0153uds. <\/p>\n<p>Et cela a soudainement donn\u00e9 un tr\u00e8s bon r\u00e9sultat pour les centres de donn\u00e9es de secours (Disaster Recovery). Pourquoi et comment \u2014 je vais vous expliquer maintenant. Et je montrerai des tests de cluster. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/p>\n<h3>L\u00e0 o\u00f9 c'est n\u00e9cessaire<\/h3>\n<p>\nL'hyperconvergence, c'est : <\/p>\n<ol>\n<li>Le transfert de disques dans les n\u0153uds de calcul.<\/li>\n<li>Une int\u00e9gration compl\u00e8te du sous-syst\u00e8me de stockage avec le sous-syst\u00e8me de virtualisation.<\/li>\n<li>Le transfert\/int\u00e9gration avec le sous-syst\u00e8me r\u00e9seau.<\/li>\n<\/ol>\n<p>\nCette combinaison permet de r\u00e9aliser de nombreuses fonctionnalit\u00e9s du stockage au niveau de la virtualisation, le tout depuis une seule interface de gestion.<\/p>\n<p>Notre entreprise a une forte demande pour des projets de conception de centres de donn\u00e9es de secours, et il est souvent choisi pr\u00e9cis\u00e9ment des solutions hyperconverg\u00e9es en raison de nombreux choix de r\u00e9plication (jusqu'au m\u00e9tro-cluster) disponibles d\u00e8s la sortie de la bo\u00eete. <\/p>\n<p>Dans le cas des centres de donn\u00e9es secondaires, il s'agit g\u00e9n\u00e9ralement d'un site \u00e9loign\u00e9 situ\u00e9 \u00e0 l'autre bout de la ville ou m\u00eame dans une autre ville. Cela permet de restaurer les syst\u00e8mes critiques en cas de d\u00e9faillance partielle ou totale du centre de donn\u00e9es principal. Les donn\u00e9es du serveur sont constamment r\u00e9pliqu\u00e9es, et cette r\u00e9plication peut se faire au niveau de l'application ou au niveau de l'appareil de stockage (SAN).<\/p>\n<p>Je vais donc vous parler de la structure du syst\u00e8me et des tests, puis de quelques sc\u00e9narios d'application r\u00e9elle avec des donn\u00e9es sur les \u00e9conomies r\u00e9alis\u00e9es. <\/p>\n<h3>Tests<\/h3>\n<p>\nNotre configuration est compos\u00e9e de quatre serveurs, chacun \u00e9quip\u00e9 de 10 disques SSD de 960 Go. Il y a un disque d\u00e9di\u00e9 pour la mise en cache des op\u00e9rations d'\u00e9criture et pour le stockage d'une machine virtuelle de service. La solution elle-m\u00eame est la quatri\u00e8me version. La premi\u00e8re \u00e9tait franchement instable (d'apr\u00e8s les retours), la deuxi\u00e8me avait encore des d\u00e9fauts, la troisi\u00e8me \u00e9tait d\u00e9j\u00e0 assez stable, et celle-ci peut \u00eatre consid\u00e9r\u00e9e comme une version finale apr\u00e8s avoir termin\u00e9 les tests b\u00eata aupr\u00e8s du grand public. Pendant la phase de test, je n'ai rencontr\u00e9 aucun probl\u00e8me, tout fonctionne parfaitement.<\/p>\n<p><b class=\"spoiler_title\">Modifications dans v4<\/b>Un grand nombre de bogues ont \u00e9t\u00e9 corrig\u00e9s. <\/p>\n<p>Au d\u00e9part, la plateforme ne pouvait fonctionner qu'avec l'hyperviseur VMware ESXi et ne supportait qu'un nombre limit\u00e9 de n\u0153uds. De plus, le processus de d\u00e9ploiement ne se terminait pas toujours avec succ\u00e8s, n\u00e9cessitant le red\u00e9marrage de certaines \u00e9tapes, il y avait des probl\u00e8mes de mise \u00e0 jour depuis d'anciennes versions, et les donn\u00e9es dans l'interface graphique n'\u00e9taient pas toujours affich\u00e9es correctement (bien que je ne sois pas encore ravi de l'affichage des graphiques de performance), et parfois des probl\u00e8mes survenaient au niveau de la virtualisation.<\/p>\n<p>Maintenant, tous les probl\u00e8mes initiaux ont \u00e9t\u00e9 corrig\u00e9s, HyperFlex prend en charge \u00e0 la fois ESXi et Hyper-V, et en plus de cela, il est possible de :<\/p>\n<ol>\n<li>Cr\u00e9er un cluster \u00e9tendu. <\/li>\n<li>Cr\u00e9er un cluster pour des bureaux sans utiliser de Fabric Interconnect, de deux \u00e0 quatre n\u0153uds (nous achetons uniquement les serveurs).<\/li>\n<li>Possibilit\u00e9 de travailler avec des SAN externes.<\/li>\n<li>Support des conteneurs et de Kubernetes.<\/li>\n<li>Cr\u00e9er des zones de disponibilit\u00e9.<\/li>\n<li>Int\u00e9gration avec VMware SRM, si la fonctionnalit\u00e9 int\u00e9gr\u00e9e ne convient pas.<\/li>\n<\/ol>\n<p>L'architecture ne diff\u00e8re pas beaucoup de celle des principaux concurrents, pas besoin de r\u00e9inventer la roue. Tout cela fonctionne sur une plateforme de virtualisation VMware ou Hyper-V. Au niveau mat\u00e9riel, cela s'implante sur des serveurs d\u00e9velopp\u00e9s en interne par Cisco UCS. Certaines personnes d\u00e9testent la plateforme en raison de la relative complexit\u00e9 de sa configuration initiale, de ses nombreux boutons, de son syst\u00e8me de mod\u00e8les et de d\u00e9pendances non trivial, mais d'autres ont compris l'essence de l'id\u00e9e et ne souhaitent plus travailler avec d'autres serveurs. <\/p>\n<p>Nous allons examiner la solution pour VMware, car elle a \u00e9t\u00e9 initialement con\u00e7ue pour cela et offre plus de fonctionnalit\u00e9s, tandis que Hyper-V a \u00e9t\u00e9 am\u00e9lior\u00e9 au fil du temps pour ne pas \u00e9chapper \u00e0 la concurrence et r\u00e9pondre aux attentes du march\u00e9.<\/p>\n<p>Il y a un cluster de serveurs \u00e9quip\u00e9s de disques. Il y a des disques pour le stockage des donn\u00e9es (SSD ou HDD selon vos besoins), ainsi qu'un SSD pour le caching. Lors de l'\u00e9criture des donn\u00e9es sur le datastore, celles-ci sont d'abord sauvegard\u00e9es sur la couche de cache (disque SSD d\u00e9di\u00e9 et RAM de la VM de service). Parall\u00e8lement, le bloc de donn\u00e9es est envoy\u00e9 sur les n\u0153uds du cluster (le nombre de n\u0153uds d\u00e9pend du facteur de r\u00e9plication du cluster). Apr\u00e8s confirmation de l'\u00e9criture r\u00e9ussie par tous les n\u0153uds, la confirmation est envoy\u00e9e \u00e0 l'hyperviseur, puis \u00e0 la VM. Les donn\u00e9es \u00e9crites sont ensuite d\u00e9dupliqu\u00e9es, compress\u00e9es et sauvegard\u00e9es sur les disques de stockage en arri\u00e8re-plan. De plus, des blocs importants sont toujours \u00e9crits s\u00e9quentiellement sur les disques de stockage, ce qui r\u00e9duit la charge sur ceux-ci.<\/p>\n<p>La d\u00e9duplication et la compression sont activ\u00e9es en permanence et ne peuvent pas \u00eatre d\u00e9sactiv\u00e9es. La lecture des donn\u00e9es se fait directement \u00e0 partir des disques de stockage ou du cache RAM. Si une configuration hybride est utilis\u00e9e, la lecture est \u00e9galement mise en cache sur le disque SSD.<\/p>\n<p>Les donn\u00e9es ne sont pas li\u00e9es \u00e0 l'emplacement actuel de la machine virtuelle et sont r\u00e9parties uniform\u00e9ment entre les n\u0153uds. Cette approche permet de charger de mani\u00e8re \u00e9gale tous les disques et interfaces r\u00e9seau. Il y a un inconv\u00e9nient \u00e9vident : nous ne pouvons pas minimiser au maximum la latence de lecture, car il n'y a aucune garantie que les donn\u00e9es sont localement disponibles. Mais je pense que c'est un sacrifice insignifiant compar\u00e9 aux avantages obtenus. De plus, les latences r\u00e9seau ont atteint de tels niveaux qu'elles n'affectent pratiquement plus le r\u00e9sultat global.<\/p>\n<p>La logique de fonctionnement de la sous-syst\u00e8me de stockage est g\u00e9r\u00e9e par une machine virtuelle de service sp\u00e9ciale, le contr\u00f4leur Cisco HyperFlex Data Platform, qui est cr\u00e9\u00e9e sur chaque n\u0153ud de stockage. Dans notre configuration, cette VM de service dispose de huit vCPU et de 72 Go de RAM, ce qui n'est pas n\u00e9gligeable. Je rappelle que l'h\u00f4te poss\u00e8de 28 c\u0153urs physiques et 512 Go de RAM.<\/p>\n<p>La VM de service a acc\u00e8s aux disques physiques directement via le passage du contr\u00f4leur SAS dans la VM. Les communications avec l'hyperviseur se font par le biais d'un module sp\u00e9cial IOVisor qui intercepte les op\u00e9rations d'entr\u00e9e\/sortie, ainsi qu'\u00e0 l'aide d'un agent qui permet de transmettre des commandes \u00e0 l'API de l'hyperviseur. L'agent s'occupe de la gestion des snapshots et des clones HyperFlex.<\/p>\n<p>Dans l'hyperviseur, les ressources de stockage sont mont\u00e9es en tant que partages NFS ou SMB (selon le type d'hyperviseur, devinez o\u00f9 se trouve quoi). En coulisses, il s'agit d'un syst\u00e8me de fichiers distribu\u00e9 capable d'ajouter des fonctionnalit\u00e9s typiques des syst\u00e8mes de stockage avanc\u00e9s : allocation fine des volumes, compression et d\u00e9-duplication, snapshots par technologie Redirect-on-Write, r\u00e9plication synchrone\/asynchrone.<\/p>\n<p>La VM de service fournit un acc\u00e8s \u00e0 l'interface web de gestion du sous-syst\u00e8me HyperFlex. Il existe une int\u00e9gration avec vCenter, et la plupart des t\u00e2ches quotidiennes peuvent \u00eatre effectu\u00e9es depuis celui-ci, mais il est plus pratique de d\u00e9couper les datastores \u00e0 partir d'une interface web s\u00e9par\u00e9e, si vous \u00eates d\u00e9j\u00e0 pass\u00e9 \u00e0 l'interface HTML5 rapide, ou d'utiliser un client Flash complet avec int\u00e9gration totale. Dans l'interface web de service, vous pouvez consulter les performances et le statut d\u00e9taill\u00e9 du syst\u00e8me.<\/p>\n<p><img decoding=\"async\" alt=\"Administrateur sans mains = hyper-convergence ?\" src=\"\/wp-content\/uploads\/2019\/10\/4f603b38d6489836892bebc76663eb2f.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nIl existe un autre type de n\u0153ud dans le cluster \u2014 les n\u0153uds de calcul. Ce peuvent \u00eatre des serveurs en rack ou des serveurs blade sans disques int\u00e9gr\u00e9s. Sur ces serveurs, vous pouvez faire fonctionner des VM dont les donn\u00e9es sont stock\u00e9es sur des serveurs avec disques. Du point de vue de l'acc\u00e8s aux donn\u00e9es, il n'y a pas de diff\u00e9rence entre les types de n\u0153uds, car l'architecture suppose une abstraction de la localisation physique des donn\u00e9es. Le ratio maximum de n\u0153uds de calcul \u00e0 n\u0153uds de stockage est de 2:1.<\/p>\n<p>L'utilisation de n\u0153uds de calcul augmente la flexibilit\u00e9 lors de l'\u00e9volutivit\u00e9 des ressources du cluster : nous n'avons pas besoin d'acheter des n\u0153uds avec disques si nous avons uniquement besoin de CPU\/RAM. De plus, nous pouvons ajouter un ch\u00e2ssis blade et r\u00e9aliser des \u00e9conomies sur la mise en rack des serveurs.<\/p>\n<p>En r\u00e9sum\u00e9, nous avons une plateforme hyper-convergente avec les fonctionnalit\u00e9s suivantes :<\/p>\n<ul>\n<li>Jusqu'\u00e0 64 n\u0153uds dans le cluster (jusqu'\u00e0 32 n\u0153uds de stockage).<\/li>\n<li>Le nombre minimum de n\u0153uds dans le cluster est de trois (deux pour le cluster Edge).<\/li>\n<li>M\u00e9canisme de redondance des donn\u00e9es : miroir avec un facteur de r\u00e9plication de 2 et 3.<\/li>\n<li>Metro-cluster.<\/li>\n<li>R\u00e9plique asynchrone des VM sur un autre cluster HyperFlex.<\/li>\n<li>Orchestration du basculement des VM vers un centre de donn\u00e9es distant.<\/li>\n<li>Snapshots natifs utilisant la technologie Redirect-on-Write.<\/li>\n<li>Jusqu'\u00e0 1 Po d'espace utile avec un facteur de r\u00e9plication de 3 et sans tenir compte de la d\u00e9duplication. Le facteur de r\u00e9plication de 2 n'est pas pris en compte, car il ne constitue pas une option s\u00e9rieuse.<\/li>\n<\/ul>\n<p>\nUn autre gros avantage est la simplicit\u00e9 de gestion et de d\u00e9ploiement. Toutes les complexit\u00e9s de la configuration des serveurs UCS sont prises en charge par une VM sp\u00e9cialis\u00e9e, pr\u00e9par\u00e9e par les ing\u00e9nieurs de Cisco. <\/p>\n<h3>Configuration du banc d'essai :<\/h3>\n<p><\/p>\n<ul>\n<li>2 x Cisco UCS Fabric Interconnect 6248UP en tant que cluster de gestion et composants r\u00e9seau (48 ports fonctionnant en mode Ethernet 10G\/FC 16G).<\/li>\n<li>Quatre serveurs Cisco UCS HXAF240 M4.<\/li>\n<\/ul>\n<p>\nCaract\u00e9ristiques des serveurs :<\/p>\n<p><\/p>\n<p>CPU<\/p>\n<p>2 x Intel \u00ae Xeon \u00ae E5-2690 v4<\/p>\n<p>RAM<\/p>\n<p>16 x 32 Go DDR4-2400-MHz RDIMM\/PC4-19200\/rang\u00e9e double\/x4\/1,2 V<\/p>\n<p>R\u00e9seau<\/p>\n<p>UCSC-MLOM-CSC-02 (VIC 1227). 2 ports Ethernet 10G<\/p>\n<p>HBA de stockage<\/p>\n<p>Contr\u00f4leur SAS pass-through modulaire Cisco 12G<\/p>\n<p>Disques de stockage<\/p>\n<p>1 x SSD Intel S3520 120 Go, 1 x SSD Samsung MZ-IES800D, 10 x SSD Samsung PM863a 960 Go<\/p>\n<p>\n<b class=\"spoiler_title\">Plus d'options de configuration<\/b>En plus du mat\u00e9riel choisi, les options suivantes sont actuellement disponibles :<\/p>\n<ul>\n<li>HXAF240c M5.<\/li>\n<li>Un ou deux CPU allant d'Intel Silver 4110 \u00e0 Intel Platinum I8260Y. La deuxi\u00e8me g\u00e9n\u00e9ration est disponible.<\/li>\n<li>24 emplacements m\u00e9moire, modules de 16 Go RDIMM 2600 \u00e0 128 Go LRDIMM 2933.<\/li>\n<li>De 6 \u00e0 23 disques pour les donn\u00e9es, un disque de cache, un disque syst\u00e8me et un disque de d\u00e9marrage.<\/li>\n<\/ul>\n<p>\n<b>Disques de capacit\u00e9<\/b><\/p>\n<ul>\n<li>HX-SD960G61X-EV 960 Go SSD SATA 2,5 pouces sur le march\u00e9 entreprise 6G (1X endurance) SAS 960 Go.<\/li>\n<li>HX-SD38T61X-EV 3,8 To SSD SATA 2,5 pouces sur le march\u00e9 entreprise 6G (1X endurance) SAS 3,8 To.<\/li>\n<li>Disques de mise en cache<\/li>\n<li>HX-NVMEXPB-I375 375 Go SSD 2,5 pouces Intel Optane, performance et endurance extr\u00eames.<\/li>\n<li>HX-NVMEHW-H1600* 1,6 To SSD 2,5 pouces Ent. Perf. NVMe (3X endurance) NVMe 1,6 To.<\/li>\n<li>HX-SD400G12TX-EP 400 Go SSD 2,5 pouces Ent. Perf. 12G SAS (10X endurance) SAS 400 Go.<\/li>\n<li>HX-SD800GBENK9** 800 Go SSD 2,5 pouces Ent. Perf. 12G SAS SED (10X endurance) SAS 800 Go.<\/li>\n<li>HX-SD16T123X-EP 1,6 To SSD 2,5 pouces de performance entreprise 12G SAS (3X endurance).<\/li>\n<\/ul>\n<p>\n<b>Disques syst\u00e8me \/ journal<\/b><\/p>\n<ul>\n<li>HX-SD240GM1X-EV 240 Go SSD SATA 2,5 pouces sur le march\u00e9 entreprise 6G SATA (n\u00e9cessite une mise \u00e0 niveau).<\/li>\n<\/ul>\n<p>\n<b>Disques de d\u00e9marrage<\/b><\/p>\n<ul>\n<li>HX-M2-240GB 240 Go SSD SATA M.2 SATA 240 Go.<\/li>\n<\/ul>\n<p>Connexion r\u00e9seau via des ports Ethernet 40G, 25G ou 10G. <\/p>\n<p>Les FI peuvent \u00eatre HX-FI-6332 (40G), HX-FI-6332-16UP (40G), HX-FI-6454 (40G\/100G).<\/p>\n<h3>Le test lui-m\u00eame<\/h3>\n<p>\nPour tester le syst\u00e8me de disques, j'ai utilis\u00e9 HCIBench 2.2.1. Il s'agit d'un utilitaire gratuit qui permet d'automatiser la cr\u00e9ation de charge \u00e0 partir de plusieurs machines virtuelles. La charge elle-m\u00eame est g\u00e9n\u00e9r\u00e9e par le fio classique. <\/p>\n<p>Notre cluster est compos\u00e9 de quatre n\u0153uds, avec un facteur de r\u00e9plication de 3, tous les disques sont Flash.<\/p>\n<p>Pour les tests, j'ai cr\u00e9\u00e9 quatre datastores et huit machines virtuelles. Pour les tests d'\u00e9criture, il est suppos\u00e9 que le disque de cache ne sera pas satur\u00e9.<\/p>\n<p>Les r\u00e9sultats des tests sont les suivants :<\/p>\n<p>100 % Lecture 100 % Al\u00e9atoire<\/p>\n<p>0 % Lecture 100 % Al\u00e9atoire<\/p>\n<p>Blaque\/profondeur de la file d'attente<\/p>\n<p>128<\/p>\n<p>256<\/p>\n<p>512<\/p>\n<p>1024<\/p>\n<p>2048<\/p>\n<p>128<\/p>\n<p>256<\/p>\n<p>512<\/p>\n<p>1024<\/p>\n<p>2048<\/p>\n<p>4K<\/p>\n<p>0,59 ms 213804 IOPS<\/p>\n<p>0,84 ms 303540 IOPS<\/p>\n<p>1,36 ms 374348 IOPS<\/p>\n<p>2,47 ms 414116 IOPS<\/p>\n<p><b>4,86 ms 420180 IOPS<\/b><\/p>\n<p>2,22 ms 57408 IOPS<\/p>\n<p>3,09 ms 82744 IOPS<\/p>\n<p>5,02 ms 101824 IOPS<\/p>\n<p>8,75 ms 116912 IOPS<\/p>\n<p><b>17,2 ms 118592 IOPS<\/b><\/p>\n<p>8K<\/p>\n<p>0,67 ms 188416 IOPS<\/p>\n<p>0,93 ms 273280 IOPS<\/p>\n<p>1,7 ms 299932 IOPS<\/p>\n<p>2,72 ms 376,484 IOPS<\/p>\n<p><b>5,47 ms 373,176 IOPS<\/b><\/p>\n<p>3,1 ms 41148 IOPS<\/p>\n<p>4,7 ms 54396 IOPS<\/p>\n<p>7,09 ms 72192 IOPS<\/p>\n<p><b>12,77 ms 80132 IOPS<\/b><\/p>\n<p>16K<\/p>\n<p>0,77 ms 164116 IOPS<\/p>\n<p>1,12 ms 228328 IOPS<\/p>\n<p>1,9 ms 268140 IOPS<\/p>\n<p><b>3,96 ms 258480 IOPS<\/b><\/p>\n<p>3,8 ms 33640 IOPS<\/p>\n<p>6,97 ms 36696 IOPS<\/p>\n<p><b>11,35 ms 45060 IOPS<\/b><\/p>\n<p>32K<\/p>\n<p>1,07 ms 119292 IOPS<\/p>\n<p>1,79 ms 142888 IOPS<\/p>\n<p><b>3,56 ms 143760 IOPS<\/b><\/p>\n<p>7,17 ms 17810 IOPS<\/p>\n<p><b>11,96 ms 21396 IOPS<\/b><\/p>\n<p>64K<\/p>\n<p>1,84 ms 69440 IOPS<\/p>\n<p>3,6 ms 71008 IOPS<\/p>\n<p><b>7,26 ms 70404 IOPS<\/b><\/p>\n<p><b>11,37 ms 11248 IOPS<\/b><\/p>\n<p><i>Les valeurs en gras indiquent les seuils au-del\u00e0 desquels il n'y a plus d'augmentation de performance, parfois une d\u00e9gradation est m\u00eame observ\u00e9e. Cela est d\u00fb \u00e0 la saturation de la performance du r\u00e9seau\/contr\u00f4leurs\/disques.<\/i><\/p>\n<ul>\n<li>Lecture s\u00e9quentielle 4432 Mo\/s.<\/li>\n<li>\u00c9criture s\u00e9quentielle 804 Mo\/s.<\/li>\n<li>En cas de d\u00e9faillance d'un contr\u00f4leur (d\u00e9faillance d'une machine virtuelle ou d'un h\u00f4te), la performance est r\u00e9duite de moiti\u00e9.<\/li>\n<li>En cas de d\u00e9faillance d'un disque de stockage, la diminution de performance est d'un tiers. La reconstruction d'un disque utilise 5 % des ressources de chaque contr\u00f4leur.<\/li>\n<\/ul>\n<p>\nAvec un petit bloc, nous atteignons la limite de performance du contr\u00f4leur (machine virtuelle), son CPU est charg\u00e9 \u00e0 100 %, en augmentant le bloc, nous atteignons la bande passante des ports. 10 Gbit\/s n'est pas suffisant pour lib\u00e9rer le potentiel des syst\u00e8mes AllFlash. Malheureusement, les param\u00e8tres de la d\u00e9monstration fournie ne permettent pas de tester \u00e0 40 Gbit\/s.<\/p>\n<p>D'apr\u00e8s mes impressions des tests et de l'\u00e9tude de l'architecture, gr\u00e2ce \u00e0 l'algorithme qui r\u00e9partit les donn\u00e9es entre tous les h\u00f4tes, nous obtenons une performance pr\u00e9visible et \u00e9volutive, mais cela est aussi une limitation lors de la lecture, car nous pourrions tirer parti de disques locaux plus rapides ; une meilleure performance r\u00e9seau pourrait aider, par exemple avec des FI \u00e0 40 Gbit\/s.<\/p>\n<p>Un seul disque pour la mise en cache et la d\u00e9duplication peut \u00e9galement poser une contrainte, car dans cette configuration, nous ne pouvons \u00e9crire que sur quatre SSD. Il serait id\u00e9al de pouvoir augmenter le nombre de disques de cache et de constater la diff\u00e9rence.<\/p>\n<h3>Utilisation r\u00e9elle<\/h3>\n<p>\nPour organiser un site secondaire de sauvegarde, deux approches peuvent \u00eatre utilis\u00e9es (nous ne consid\u00e9rons pas le stockage de sauvegardes sur un site distant) :<\/p>\n<ol>\n<li>Actif-Passif. Toutes les applications sont h\u00e9berg\u00e9es dans le centre de donn\u00e9es principal. La r\u00e9plication peut \u00eatre synchrone ou asynchrone. En cas de panne du centre de donn\u00e9es principal, nous devons activer le secours. Cela peut \u00eatre fait manuellement, par scripts ou par des applications d'orchestration. Ici, nous obtiendrons un RPO \u00e9quivalent \u00e0 la fr\u00e9quence de r\u00e9plication, et le RTO d\u00e9pend de la r\u00e9action et des comp\u00e9tences de l'administrateur ainsi que de la qualit\u00e9 de la pr\u00e9paration et du d\u00e9bogage du plan de basculement.<\/li>\n<li>Actif-Actif. Dans ce cas, seule la r\u00e9plication synchrone est pr\u00e9sente, la disponibilit\u00e9 des centres de donn\u00e9es est d\u00e9termin\u00e9e par un quorum\/arbitre, situ\u00e9 strictement sur un troisi\u00e8me site. RPO = 0, et le RTO peut atteindre 0 (si l'application le permet) ou \u00eatre \u00e9gal au temps n\u00e9cessaire pour traiter la d\u00e9faillance d'un n\u0153ud dans le cluster de virtualisation. Un cluster \u00e9tendu (Metro) est cr\u00e9\u00e9 au niveau de la virtualisation, n\u00e9cessitant un stockage actif-actif.<\/li>\n<\/ol>\n<p>\nNous voyons g\u00e9n\u00e9ralement chez nos clients une architecture d\u00e9j\u00e0 mise en \u0153uvre avec un stockage classique dans le centre de donn\u00e9es principal, c'est pourquoi nous concevons un autre pour la r\u00e9plication. Comme je l'ai mentionn\u00e9, Cisco HyperFlex propose une r\u00e9plication asynchrone et la cr\u00e9ation d'un cluster de virtualisation \u00e9tendu. Cela signifie que nous n'avons pas besoin de stockage Niveau Midrange et sup\u00e9rieur avec des fonctions de r\u00e9plication et d'acc\u00e8s actif-actif aux donn\u00e9es sur deux syst\u00e8mes de stockage co\u00fbteux.<\/p>\n<p><b>Sc\u00e9nario 1:<\/b> Nous avons un centre de donn\u00e9es principal et un centre de donn\u00e9es de secours, avec une plateforme de virtualisation sur VMware vSphere. Tous les syst\u00e8mes de production sont situ\u00e9s dans le centre de donn\u00e9es principal, tandis que la r\u00e9plication des machines virtuelles s'effectue au niveau de l'hyperviseur, ce qui permet de ne pas garder les VM allum\u00e9es dans le centre de donn\u00e9es de secours. Les bases de donn\u00e9es et les applications sp\u00e9cifiques sont r\u00e9pliqu\u00e9es avec des outils int\u00e9gr\u00e9s et nous gardons les VM allum\u00e9es. En cas de d\u00e9faillance du centre de donn\u00e9es principal, nous lan\u00e7ons les syst\u00e8mes dans le centre de donn\u00e9es de secours. Nous estimons qu'il y a environ 100 machines virtuelles. Tant que le centre de donn\u00e9es principal est op\u00e9rationnel, des environnements de test et d'autres syst\u00e8mes peuvent \u00eatre lanc\u00e9s dans le centre de donn\u00e9es de secours, qui peuvent \u00eatre d\u00e9sactiv\u00e9s en cas de basculement du centre de donn\u00e9es principal. Une option est \u00e9galement possible o\u00f9 nous utilisons une r\u00e9plication bidirectionnelle. Du point de vue mat\u00e9riel, rien ne changera.<\/p>\n<p>Dans le cadre de l'architecture classique, nous installerons dans chaque centre de donn\u00e9es un syst\u00e8me de stockage hybride avec acc\u00e8s par FibreChannel, tiering, d\u00e9duplication et compression (mais pas en ligne), 8 serveurs par site, avec 2 commutateurs FibreChannel et Ethernet 10G. Pour la r\u00e9plication et la gestion du basculement dans une architecture classique, nous pouvons utiliser les outils VMware (Replication + SRM) ou des outils tiers, qui seront un peu moins chers et parfois plus pratiques.<\/p>\n<p>Le sch\u00e9ma est pr\u00e9sent\u00e9 dans l'illustration.<\/p>\n<p><img decoding=\"async\" alt=\"Administrateur sans mains = hyper-convergence ?\" src=\"\/wp-content\/uploads\/2019\/10\/e7a1ef66c0ae1a8cbb60d0411007d822.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nEn utilisant Cisco HyperFlex, on obtient l'architecture suivante :<\/p>\n<p><img decoding=\"async\" alt=\"Administrateur sans mains = hyper-convergence ?\" src=\"\/wp-content\/uploads\/2019\/10\/71d58163728f37a163ec914b81dc73ab.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nPour HyperFlex, j'ai utilis\u00e9 des serveurs dot\u00e9s de grandes ressources en CPU\/RAM, car une partie des ressources sera d\u00e9di\u00e9e \u00e0 la VM du contr\u00f4leur HyperFlex, et j'ai m\u00eame l\u00e9g\u00e8rement surdimensionn\u00e9 la configuration d'HyperFlex en CPU et en m\u00e9moire, afin de ne pas privil\u00e9gier Cisco et de garantir des ressources pour les autres VMs. En revanche, nous pouvons nous passer des commutateurs FibreChannel, et nous n'aurons pas besoin de ports Ethernet pour chaque serveur, le trafic local \u00e9tant commut\u00e9 \u00e0 l'int\u00e9rieur de l'infrastructure int\u00e9gr\u00e9e (FI).<\/p>\n<p>Au final, la configuration suivante a \u00e9t\u00e9 obtenue pour chaque centre de donn\u00e9es :<\/p>\n<p>Serveurs<\/p>\n<p>8 x serveur 1U (384 Go RAM, 2 x Intel Gold 6132, FC HBA)<\/p>\n<p>8 x HX240C-M5L (512 Go RAM, 2 x Intel Gold 6150, 3,2 Go SSD, 10 x 6 To NL-SAS)<\/p>\n<p>SAN<\/p>\n<p>Syst\u00e8me de stockage hybride avec interface FC Front-End (20 To SSD, 130 To NL-SAS)<\/p>\n<p>\u2014<\/p>\n<p>LAN<\/p>\n<p>2 x commutateur Ethernet 10G 12 ports<\/p>\n<p>\u2014<\/p>\n<p>SAN<\/p>\n<p>2 x commutateur FC 32\/16 Gb 24 ports<\/p>\n<p>2 x Cisco UCS FI 6332<\/p>\n<p>Licences<\/p>\n<p>VMware Ent Plus<\/p>\n<p><\/p>\n<p>R\u00e9plication et\/ou orchestration du basculement des VMs<\/p>\n<p>VMware Ent Plus<\/p>\n<p>Pour Hyperflex, je n'ai pas pr\u00e9vu de licences pour le logiciel de r\u00e9plication, car cela est disponible en standard.<\/p>\n<p>Pour l'architecture classique, j'ai choisi un fournisseur qui s'est impos\u00e9 comme un fabricant de qualit\u00e9 et \u00e0 prix raisonnable. Pour les deux options, j'ai appliqu\u00e9 une r\u00e9duction standard pour la solution, ce qui m'a permis d'obtenir des prix r\u00e9els. <\/p>\n<p>La solution sur Cisco HyperFlex s'est av\u00e9r\u00e9e \u00eatre 13 % moins ch\u00e8re.<\/p>\n<p><b>Sc\u00e9nario 2 :<\/b> cr\u00e9ation de deux centres de donn\u00e9es actifs. Dans ce sc\u00e9nario, nous concevons un cluster \u00e9tendu sur VMware. <\/p>\n<p>L'architecture classique se compose de serveurs de virtualisation, SAN (protocole FC) et deux syst\u00e8mes de stockage capables de lire et d'\u00e9crire sur le stockage, r\u00e9parti entre eux. Pour chaque syst\u00e8me de stockage, nous pr\u00e9voyons une capacit\u00e9 utile pour le local.<\/p>\n<p><img decoding=\"async\" alt=\"Administrateur sans mains = hyper-convergence ?\" src=\"\/wp-content\/uploads\/2019\/10\/c3830f5bab128b724d94e727218b21b5.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n <br \/>\nAvec HyperFlex, nous cr\u00e9ons simplement un Stretch Cluster avec le m\u00eame nombre de n\u0153uds sur les deux sites. Dans ce cas, un facteur de r\u00e9plication 2+2 est utilis\u00e9.<\/p>\n<p><img decoding=\"async\" alt=\"Administrateur sans mains = hyper-convergence ?\" src=\"\/wp-content\/uploads\/2019\/10\/6351c830c3fba60dc4e71a9a4245ec6f.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n <br \/>\nLa configuration suivante a \u00e9t\u00e9 obtenue :<\/p>\n<p>Architecture classique<\/p>\n<p>HyperFlex<\/p>\n<p>Serveurs<\/p>\n<p>16 x serveur 1U (384 Go RAM, 2 x Intel Gold 6132, FC HBA, 2 x 10G NIC)<\/p>\n<p>16 x HX240C-M5L (512 Go RAM, 2 x Intel Gold 6132, 1,6 To NVMe, 12 x 3,8 To SSD, VIC 1387)<\/p>\n<p>SAN<\/p>\n<p>2 x syst\u00e8mes de stockage AllFlash (150 To SSD)<\/p>\n<p>\u2014<\/p>\n<p>LAN<\/p>\n<p>4 x commutateur Ethernet 10G 24 ports<\/p>\n<p>\u2014<\/p>\n<p>SAN<\/p>\n<p>4 x commutateur FC 32\/16 Gb 24 ports<\/p>\n<p>4 x Cisco UCS FI 6332<\/p>\n<p>Licences<\/p>\n<p>VMware Ent Plus<\/p>\n<p>VMware Ent Plus<\/p>\n<p>Dans tous mes calculs, je n'ai pas pris en compte l'infrastructure r\u00e9seau, les co\u00fbts du centre de donn\u00e9es, etc. : ceux-ci seront les m\u00eames pour l'architecture classique et pour la solution HyperFlex.<\/p>\n<p>En termes de co\u00fbt, HyperFlex s'est av\u00e9r\u00e9 5 % plus cher. Il convient de noter qu'en ce qui concerne les ressources CPU\/RAM, j'ai rencontr\u00e9 un d\u00e9s\u00e9quilibre pour Cisco, car j'ai r\u00e9parti uniform\u00e9ment les canaux des contr\u00f4leurs de m\u00e9moire dans la configuration. Le co\u00fbt est un peu plus \u00e9lev\u00e9, mais pas de mani\u00e8re significative, ce qui indique clairement que l'hyperconvergence n'est pas n\u00e9cessairement un \"jouet pour les riches\" et peut rivaliser avec l'approche standard de construction de centres de donn\u00e9es. Cela peut \u00e9galement int\u00e9resser ceux qui poss\u00e8dent d\u00e9j\u00e0 des serveurs Cisco UCS et l'infrastructure correspondante. <\/p>\n<p>Parmi les avantages, nous obtenons l'absence de co\u00fbts d'administration pour le SAN et le stockage, la compression et la d\u00e9duplication en ligne, un point d'entr\u00e9e unique pour le support (virtualisation, serveurs, \u00e9galement \u2014 stockage), des \u00e9conomies d'espace (mais pas dans tous les sc\u00e9narios), et une simplification de l'exploitation.<\/p>\n<p>En ce qui concerne le support, vous le recevrez d'un seul fournisseur \u2014 Cisco. Si je me base sur mon exp\u00e9rience avec les serveurs Cisco UCS, je l'appr\u00e9cie, car je n'ai jamais eu besoin d'ouvrir HyperFlex, tout fonctionnait d\u00e9j\u00e0. Les ing\u00e9nieurs r\u00e9pondent rapidement et peuvent r\u00e9soudre non seulement des probl\u00e8mes typiques mais aussi des cas limites complexes. Il m'arrive de les contacter avec des questions telles que : \u00ab Est-ce qu'il est possible de faire cela, d'ajouter ceci ? \u00bb ou \u00ab J'ai configur\u00e9 quelque chose, et \u00e7a ne veut pas fonctionner. Aidez-moi ! \u00bb \u2014 ils prendront patiemment le temps de trouver le bon guide et d'indiquer les bonnes actions, sans r\u00e9pondre : \u00ab Nous ne g\u00e9rons que les probl\u00e8mes mat\u00e9riels. \u00bb<\/p>\n<h3>Liens<\/h3>\n<p><\/p>\n<ul>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/www.cisco.com\/c\/dam\/en\/us\/products\/collateral\/hyperconverged-infrastructure\/hyperflex-hx-series\/hxaf-240c-m5-specsheet.pdf\">Sp\u00e9cifications<\/a><\/noindex><\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/croc\/blog\/146536\/\">Centre de donn\u00e9es virtuel<\/a><\/noindex><\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/croc\/blog\/342820\/\">Centre de donn\u00e9es dans un tiroir<\/a><\/noindex><\/li>\n<li>Mon email est StGeneralov@croc.ru<\/li>\n<\/ul>\n<p>Source : <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/croc\/blog\/471508\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>\u042d\u0442\u043e \u043c\u0438\u0444, \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0439 \u0432 \u0441\u0444\u0435\u0440\u0435 \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u043e\u0433\u043e \u0436\u0435\u043b\u0435\u0437\u0430. \u041d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0436\u0435 \u0433\u0438\u043f\u0435\u0440\u043a\u043e\u043d\u0432\u0435\u0440\u0433\u0435\u043d\u0442\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f (\u043a\u043e\u0433\u0434\u0430 \u0432\u0441\u0451 \u0432 \u043e\u0434\u043d\u043e\u043c) \u043d\u0443\u0436\u043d\u044b \u043c\u043d\u043e\u0433\u043e \u0434\u043b\u044f \u0447\u0435\u0433\u043e. \u0418\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u0438 \u0441\u043b\u043e\u0436\u0438\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u043f\u0435\u0440\u0432\u044b\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0431\u044b\u043b\u0438 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u044b Amazon \u0438 Google \u043f\u043e\u0434 \u0441\u0432\u043e\u0438 \u0441\u0435\u0440\u0432\u0438\u0441\u044b. \u0422\u043e\u0433\u0434\u0430 \u0438\u0434\u0435\u044f \u0431\u044b\u043b\u0430 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e\u0431\u044b \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u0444\u0435\u0440\u043c\u0443 \u0438\u0437 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u0443\u0437\u043b\u043e\u0432, \u0443 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0435\u0441\u0442\u044c \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435 \u0434\u0438\u0441\u043a\u0438. \u0412\u0441\u0451 \u044d\u0442\u043e [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29233,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[688],"tags":[],"class_list":["post-38966","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-administrirovanie"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.2 - aioseo.com -->\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/fr\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya\" \/>\n\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.2\" \/>\n\t\t<meta property=\"og:locale\" content=\"fr_FR\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u0410\u0434\u043c\u0438\u043d \u0431\u0435\u0437 \u0440\u0443\u043a = \u0433\u0438\u043f\u0435\u0440\u043a\u043e\u043d\u0432\u0435\u0440\u0433\u0435\u043d\u0446\u0438\u044f? | ProHoster\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/fr\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T19:27:03+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T19:27:03+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Administrateur sans mains = hyperconvergence ? | ProHoster","description":"","canonical_url":"https:\/\/prohoster.info\/fr\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"fr_FR","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u0410\u0434\u043c\u0438\u043d \u0431\u0435\u0437 \u0440\u0443\u043a = \u0433\u0438\u043f\u0435\u0440\u043a\u043e\u043d\u0432\u0435\u0440\u0433\u0435\u043d\u0446\u0438\u044f? | ProHoster","og:url":"https:\/\/prohoster.info\/fr\/blog\/administrirovanie\/admin-bez-ruk-giperkonvergentsiya","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T19:27:03+00:00","article:modified_time":"2019-10-31T19:27:03+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"38966","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-24 00:12:19","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 00:59:27","updated":"2026-01-24 00:12:19","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/posts\/38966","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/comments?post=38966"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/posts\/38966\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/media\/29233"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/media?parent=38966"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/categories?post=38966"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/tags?post=38966"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}