Ce mois de septembre, Broadcom (anciennement CA) a lancé une nouvelle version 20.2 de sa solution DX Operations Intelligence (DX OI). Sur le marché, ce produit est positionné comme un système de surveillance global. Le système est capable d'obtenir et de fusionner des données provenant de systèmes de surveillance de divers domaines (réseau, infrastructure, applications, bases de données), tant de CA que de fournisseurs tiers, y compris des solutions open source (Zabbix, Prometheus et d'autres).

La fonction principale de DX OI est de créer un modèle de service de ressources complet (RSM) basé sur des unités de configuration (UC), alimentant la base d'inventaire lors de l'intégration avec des systèmes tiers. DX OI intègre des fonctions d'apprentissage automatique et d'intelligence artificielle (ML et AI) sur les données entrantes dans la plateforme, ce qui permet d'évaluer/prédire la probabilité de défaillance d'une UC spécifique et l'impact de cette défaillance sur le service métier associé. De plus, DX OI constitue un point unique de collecte des événements de surveillance et, par conséquent, s'intègre avec le système Service Desk, ce qui représente un atout indiscutable pour l'utilisation du système dans des centres de surveillance unifiés par des équipes de travail. Dans cet article, nous vous expliquerons plus en détail les fonctionnalités du système et nous vous montrerons les interfaces de l'utilisateur et de l'administrateur.

Architecture de la solution DX OI

La plateforme DX possède une architecture microservices, elle s'installe et fonctionne sous Kubernetes ou OpenShift. Dans l'illustration suivante, les composants de la solution sont présentés, pouvant être utilisés comme outils de surveillance autonomes ou pouvant être remplacés par des systèmes de surveillance existants similaires (des exemples de tels systèmes sont montrés dans l'image) et se connecter ensuite au système DX OI. Dans le schéma ci-dessous :

• Surveillance des applications mobiles dans DX App Experience Analytics ;
• Surveillance des performances des applications dans DX APM ;
• Surveillance de l'infrastructure dans DX Infrastructure Manager ;
• Surveillance des dispositifs réseau dans DX NetOps Manager.

Les composants DX fonctionnent sous le contrôle d'un cluster Kubernetes et se redimensionnent simplement en lançant de nouveaux POD. Ci-dessous, un schéma de haut niveau de la solution.

L'administration, la mise à l'échelle et la mise à jour de la plateforme DX s'effectuent dans la console d'administration. À partir d'une seule console, il est possible de gérer une architecture multitenante qui peut couvrir plusieurs entreprises ou unités commerciales au sein de l'organisation. Dans ce modèle, chaque entreprise peut être configurée individuellement comme un locataire avec son propre ensemble de configurations.

La console d'administration est un outil web pour gérer les opérations et le système, qui fournit aux administrateurs une interface unifiée cohérente pour exécuter des tâches de gestion du cluster de surveillance.

De nouveaux locataires pour des unités commerciales ou des entreprises au sein de l'organisation peuvent être déployés en quelques minutes. Cela offre un avantage si vous souhaitez avoir un système de surveillance unique tout en délimitant les objets de surveillance entre les départements au niveau de la plateforme (et non des droits d'accès).

Modèles de services et de ressources et surveillance des services commerciaux

DX OI dispose de mécanismes intégrés pour créer des services et développer des modèles classiques de services de ressources avec des logiques d'impact et de poids entre les composants du service. Des mécanismes d'exportation des modèles de services de la CMDB externe sont également disponibles. Ci-dessous, l'éditeur de modèle de service intégré (notez les poids des relations).

DX OI fournit une vue d'ensemble des indicateurs clés de performance des services commerciaux ou des services informatiques avec des détails, y compris la disponibilité des services et la prévision des risques de défaillance. L'outil peut également offrir une compréhension de l'impact des problèmes de performance ou des changements dans la structure des composants IT (applications ou infrastructure) sur le service commercial. Ci-dessous, un tableau de bord interactif montrant l'état de tous les services.

Examinons les détails à l'aide du service Digital Banking. En cliquant sur le nom du service, nous accédons au modèle de service détaillé. Nous pouvons voir que le statut du service Digital Banking dépend de l'état des sous-services d'infrastructure et de transaction, avec des poids variés. La gestion et l'affichage des poids sont un avantage intéressant de DX OI.

La topologie est un élément crucial de la surveillance opérationnelle d'une entreprise, permettant aux opérateurs et aux ingénieurs d'analyser les interconnexions entre les composants, d'identifier les causes profondes et les impacts.

Le Visualiseur de Topologie DX OI est un service qui utilise des données topologiques provenant de systèmes de surveillance de domaine, collectant directement des données auprès des objets surveillés. Cet outil est conçu pour rechercher dans plusieurs couches de stockage topologique et afficher une carte des relations contextuelles. Pour enquêter sur des problèmes, il est possible d'accéder au sous-service Backend Banking et de visualiser la topologie ainsi que les composants problématiques. De plus, pour chaque composant, il est possible d'analyser les messages d'erreur et les métriques de performance.

Lors de l'analyse des composants transactionnels Payments (transactions utilisateurs), nous pouvons suivre les valeurs des KPI commerciaux qui sont également pris en compte pour le calcul de l'état de disponibilité et de santé du service. Un exemple de KPI commercial est donné ci-dessous :

Analyse des événements (Alarm Analytics)

Réduction du bruit algorithmique grâce à la classification des incidents

Une des fonctionnalités clés de DX OI lors du traitement des événements est la classification. Ce mécanisme fonctionne sur toutes les alertes reçues par le système afin d'identifier des modèles basés sur différents contextes et de les regrouper. Ces clusters sont auto-apprenants et ne nécessitent pas de configuration manuelle.

Ainsi, la classification permet aux utilisateurs de regrouper un grand nombre d'événements et d'analyser uniquement ceux qui partagent un contexte commun. Par exemple, un ensemble d’événements représentant un incident impactant le fonctionnement des applications ou du centre de données. Des situations sont créées en utilisant des algorithmes de classification basés sur l'apprentissage automatique, qui analysent la corrélation temporelle, les relations topologiques et le traitement du langage naturel. Les illustrations ci-dessous montrent des exemples de visualisation de groupes d'événements clusterisés, appelés Situations Alarms, et Evidence Timeline, affichant les paramètres clés de regroupement et le processus de réduction des événements de bruit.

Analyse des problèmes fondamentaux et corrélation des incidents

Dans un environnement hybride moderne, une transaction utilisateur peut impliquer plusieurs systèmes utilisés de manière dynamique. Cela peut entraîner la création de plusieurs alertes provenant de différents systèmes, mais liées au même problème ou incident. DX OI utilise des mécanismes brevetés pour éradiquer les alertes redondantes et corréler des alertes liées afin d'améliorer la détection des problèmes critiques et de résoudre plus rapidement les incidents.

Prenons un exemple où de nombreux messages d'alerte arrivent dans le système concernant différents objets (KE) sous-jacents à un seul service. Si cela affecte la disponibilité et la fonctionnalité du service, le système générera une alerte de service (Service Alarm), indiquera et désignera la cause racine probable (objet KE problématique et message d'alerte lié au KE) qui a contribué à la diminution des performances ou à la panne du service. Le diagramme ci-dessous visualise la situation d'alerte pour le service Webex.

DX OI permet de travailler avec des événements via des actions intuitives dans l'interface web du système. Les utilisateurs peuvent attribuer manuellement des événements à un employé responsable pour résoudre les problèmes, réinitialiser / confirmer les alertes, créer des tickets ou envoyer des notifications par e-mail, lancer des scénarios automatisés pour remédier à la situation d'alerte (Remediation Workflow, dont nous parlerons plus tard). Ainsi, DX OI permet aux opérateurs de l'équipe de garde de se concentrer sur le message d'alerte principal et les aide également à simplifier le processus de tri des messages sur des matrices de clusters.

Algorithmes de traitement des métriques et analyse des données de performance

L'apprentissage automatique permet de suivre, d'agréger et de visualiser les indicateurs clés de performance sur une période donnée, ce qui offre à l'utilisateur les avantages suivants :

• Détection des goulets d'étranglement et des anomalies de performance ;
• Comparaison de plusieurs indicateurs pour les mêmes appareils, interfaces ou réseaux ;
• Comparaison des mêmes indicateurs sur plusieurs objets ;
• Comparaison de différents indicateurs pour un ou plusieurs objets ;
• Comparaison de métriques multidimensionnelles sur plusieurs objets.

Pour l'analyse des métriques entrant dans le système, DX OI utilise des fonctions d'analyse machine avec des algorithmes mathématiques, ce qui contribue à réduire le temps nécessaire à la configuration des seuils statiques et à la génération d'alertes en cas d'anomalies.

Le résultat de l'application des algorithmes mathématiques est la construction de ce qu'on appelle des distributions de probabilité des valeurs métriques (Rare, Probable, Central, Moyen, Actuel). Les illustrations ci-dessus et ci-dessous montrent les distributions de probabilité.

Les deux graphiques ci-dessus montrent les données suivantes :

• Données réelles (Actuel). Les données réelles sont affichées sur le graphique sous forme de ligne noire continue (sans alertes) ou de ligne continue colorée (état d'alerte). La ligne est calculée sur la base des données réelles pour la métrique. En comparant les données réelles et la valeur médiane, vous pouvez rapidement voir les variations de la métrique. Lorsqu'un événement se produit, la ligne noire devient une ligne continue colorée, qui correspond à la criticité de l'événement et affiche des icônes avec la criticité correspondante au-dessus du graphique. Par exemple, la couleur rouge pour une anomalie critique, orange pour une anomalie significative et jaune pour une anomalie mineure.
• Valeur moyenne (Valeur moyenne). La valeur moyenne ou la moyenne pour la métrique est indiquée sur le graphique par une ligne grise. La valeur moyenne est affichée lorsqu'il manque des données historiques.
• Valeur médiane (Valeur centrale). La ligne médiane représente le milieu de la plage et est indiquée par une ligne pointillée verte. Les zones les plus proches de cette ligne sont celles qui se rapprochent le plus des valeurs typiques de la métrique.
• Valeur commune (Valeur commune). Les données de la zone commune suivent le plus près de la ligne centrale ou la norme pour votre métrique et sont affichées sous forme de bande verte foncée. Les calculs analytiques placent la zone commune dans un percentile au-dessus ou en dessous de la norme.
• Données probabilistes. Les données de la zone probabiliste sont affichées sur le graphique sous forme de bande verte. Le système place la zone probabiliste dans deux percentiles au-dessus ou en dessous de la norme.
• Données rares. Les données sur les zones rares sont affichées sur le graphique sous forme de bande verte clair. Le système place la zone avec des valeurs de métrique rares à trois percentiles au-dessus ou en dessous de la norme et signale le comportement de l'indicateur en dehors de l'intervalle normal en générant ce qu'on appelle une Anomaly Alert.

Une anomalie est une mesure ou un événement qui n'est pas compatible avec les indicateurs normaux de la métrique. La détection d'anomalies pour identifier les problèmes et comprendre les tendances dans l'infrastructure et les applications est une caractéristique clé de DX OI. La détection d'anomalies permet à la fois de reconnaître un comportement inhabituel (comme un serveur qui répond plus lentement que d'habitude, ou une activité réseau atypique causée par un piratage) et de réagir de manière appropriée (création d'un incident, lancement d'un script d'automatisation de remédiation).

La fonction de détection d'anomalies DX OI offre les avantages suivants:

• Il n'est pas nécessaire de définir des seuils. DX OI associera les données et détectera les anomalies de manière autonome.
• DX OI comprend plus de dix algorithmes d'intelligence artificielle et d'apprentissage automatique, notamment EWMA (Exponentially-Weighted Moving Average) et KDE (Kernel Density Estimation). Ces algorithmes permettent d'effectuer une analyse rapide des causes profondes et de prévoir les valeurs futures des métriques.

Analyse prédictive et alertes sur les défaillances potentielles

Predictive Insights est une fonction qui utilise les capacités de l'apprentissage automatique pour détecter des motifs et des tendances. Sur la base de ces tendances, le système prédit des événements qui pourraient se produire à l'avenir. Ces messages indiquent la nécessité d'agir avant que les valeurs des métriques ne dépassent les valeurs normales, ce qui pourrait affecter des services commerciaux critiques. Predictive Insights est illustré sur l'image ci-dessous.

Voici une visualisation des alertes prédictives pour une métrique spécifique.

Prévision de la charge des ressources informatiques avec la fonction de définition de scénarios de charge

La fonction de planification des capacités Capacity Analytics aide à gérer les ressources informatiques, en garantissant la bonne taille des ressources pour répondre aux besoins actuels et futurs de l'entreprise. Vous pourrez optimiser la performance et l'efficacité des ressources existantes, planifier et justifier tout investissement financier.

La fonction Capacity Analytics dans DX OI offre les avantages suivants :

• Prévision des capacités lors des périodes de pointe ;
• Définir le moment où des ressources supplémentaires seront nécessaires pour assurer un fonctionnement de qualité du service ;
• Achat de ressources supplémentaires uniquement si nécessaire ;
• Gestion efficace de l'infrastructure et des réseaux ;
• Réduction des coûts d'énergie en identifiant les ressources sous-utilisées ;
• Évaluation de la charge des ressources en cas d'augmentation planifiée des besoins en service ou en ressource.

La page Capacity Analytics DX OI (illustration ci-dessous) contient les widgets suivants :

• État de la capacité de la ressource (Resource Capacity Status) ;
• Groupes/services monitorés (Monitored Groups/Services) ;
• Principaux consommateurs de ressources (Top Capacity Consumers).

La page principale de Capacity Analytics montre les composants des ressources qui sont surchargés et dont la capacité est en voie d'épuisement. Cette page aide les administrateurs de la plateforme à identifier les ressources utilisées de manière excessive et les aide à redimensionner et à optimiser les ressources. L'état des ressources peut être analysé en fonction des codes de couleur et de leurs valeurs correspondantes. Les ressources sont classées selon leur degré de surcharge sur la page d'état des ressources. Il est possible de cliquer sur chacune des couleurs pour voir la liste des composants qui appartiennent à la catégorie sélectionnée. Ensuite, une carte thermique avec tous les objets et prévisions sur 12 mois s'affiche, permettant d'identifier les ressources qui seront bientôt épuisées.

Pour chaque métrique dans Capacity Analytics, des filtres peuvent être spécifiés, que DX Operational Intelligence utilise pour établir des prévisions (illustration ci-dessous).

Les filtres suivants sont disponibles :

• Métrique. Métrique qui sera utilisée pour la prévision.
• Basé sur. Sélection du volume de données historiques qui seront utilisées pour établir des prévisions futures. Ce champ est utilisé pour comparer et analyser les tendances du dernier mois, les tendances des trois derniers mois, les tendances de l'année, etc.
• Croissance. La vitesse de croissance de la charge de travail souhaitée pour la modélisation des prévisions de capacité. Ces données peuvent être utilisées pour prévoir une croissance au-delà des prévisions. Par exemple, l'utilisation des ressources devrait augmenter de 40 % en raison de l'ouverture d'un nouveau bureau.

Analyse des journaux

La fonction d'analyse des journaux DX OI fournit :

• la collecte et l'agrégation des journaux provenant de diverses sources (y compris celles obtenues par agencement ou sans agent);
• le parsing et la normalisation des données;
• l'analyse de conformité aux conditions établies et la génération d'événements;
• la corrélation des événements basés sur les journaux, y compris avec des événements reçus à partir de la surveillance de l'infrastructure informatique;
• la visualisation des données basées sur l'analyse dans les tableaux de bord DX;
• des conclusions sur la disponibilité des services basées sur l'analyse des données des journaux.

La collecte de journaux sans agent est effectuée par le système pour les journaux d'événements Windows et Syslog. Les journaux textuels sont collectés par méthode avec agent.

Fonction de résolution automatisée des situations d'urgence (Remediation)

Les actions automatisées pour corriger les situations d'urgence (Remediation Workflow) permettent de résoudre les problèmes ayant conduit à la génération d'événements dans DX OI. Par exemple, un problème de charge CPU génère un message d'urgence, le processus de correction (Remediation Workflow) résout le problème en redémarrant le serveur concerné. L'intégration entre DX OI et le système d'automatisation permet de lancer des processus de correction à partir de la console d'événements dans DX Operational Intelligence et de les suivre dans la console du système d'automatisation.

Après l'intégration avec le système d'automatisation, il est possible de lancer des actions automatisées pour corriger toute situation d'urgence dans la console DX OI à partir du contexte du message d'urgence. Vous pouvez consulter les actions recommandées avec des informations sur les pourcentages de fiabilité (probabilité de résoudre la situation en exécutant l'action).

Initialement, lorsque les statistiques sur les résultats de l'exécution de Remediation Workflow sont absentes, le mécanisme de recommandation propose des options potentielles sur la base de recherches par mots-clés, puis utilise les résultats de l'apprentissage automatique pour commencer à recommander des méthodes de correction basées sur l'heuristique. Dès que vous commencez à évaluer les résultats des suggestions obtenues, la précision des recommandations s'améliorera.

Exemple de feedback utilisateur : l'utilisateur choisit une action suggérée qu'il aime ou qu'il n'aime pas, et le système prend en compte ce choix pour les recommandations futures. J'aime / Je n'aime pas :

Les actions correctives recommandées pour une alerte spécifique sont basées sur une combinaison de feedback qui détermine si l'action est acceptable. DX OI est livré avec une intégration prête à l'emploi avec le système d'automatisation Automic Automation.

Intégration de DX OI avec des systèmes tiers

Nous ne nous attarderons pas sur l'intégration des données provenant des produits de surveillance natifs de Broadcom (DX NetOps, DX Infrastructure Management, DX Application Performance Management). Nous examinerons plutôt comment les données sont intégrées à partir de systèmes tiers et analyserons un exemple d'intégration avec l'un des systèmes les plus populaires — Zabbix.

Pour l'intégration avec des systèmes tiers, le composant DX Gateway est utilisé. DX Gateway se compose de 3 composants : On-Prem Gateway, RESTmon et Log Collector (Logstash). Vous pouvez installer les 3 composants ou seulement celui dont vous avez besoin, en modifiant le fichier de configuration global lors de l'installation de DX Gateway. L'architecture de DX Gateway est illustrée ci-dessous.

Examinons la fonction des composants de DX Gateway séparément.

On-Prem Gateway. C'est l'interface qui collecte les signaux d'alerte de la plateforme DX et envoie les événements de panne à des systèmes tiers. On-Prem Gateway agit comme un poller qui collecte périodiquement les données d'événements de DX OI en utilisant des requêtes API via le protocole HTTPS, puis envoie les alertes à un serveur tiers, qui est intégré à la plateforme DX, en utilisant des webhooks.

DX Log Collector reçoit des syslogs des appareils réseau ou serveurs et les charge dans OI. DX Log Collector permet de séparer le logiciel qui génère les messages, le système qui les stocke, et le logiciel qui les rapporte et les analyse. Chaque message est étiqueté avec un code d'objet indiquant le type de logiciel générant le message, et un niveau de criticité lui est attribué. Dans les tableaux de bord DX, tout cela peut ensuite être consulté.

DX RESTmon s'intègre avec des produits / services tiers via une API REST et transmet des données à OI. Le schéma de fonctionnement de DX RESTmon est présenté ci-dessous, illustrant son intégration avec les systèmes de surveillance Solarwinds et SCOM.

Fonctionnalités clés de DX RESTmon :

• Connexion à toute source de données tierce pour la réception de données :
  • PULL : connexion et extraction de données à partir des API REST publiques ;
  • PUSH : flux de données vers RESTmon via REST.
• Prise en charge des formats JSON et XML ;
• Réception des métriques, alertes, groupes, topologie, inventaire et journaux ;
• Connecteurs prêts à l'emploi pour divers outils/technologies, il est également possible de développer un connecteur vers toute source avec une API ouverte (liste des connecteurs en boîte sur l'image ci-dessous) ;
• Prise en charge de l'authentification de base (par défaut) lors de l'accès à l'interface Swagger et à l'API ;
• Support HTTPS (par défaut) pour tous les messages entrants et sortants ;
• Prise en charge des proxy entrants et sortants ;
• Puissantes capacités d'analyse syntaxique des journaux reçus via REST ;
• Analyse syntaxique personnalisable avec RESTmon, assurant une analyse et une visualisation efficaces des journaux ;
• Prise en charge de l'extraction d'informations sur les groupes d'appareils à partir d'applications de surveillance et téléchargement dans OI pour analyse et visualisation ;
• Prise en charge de la correspondance avec des expressions régulières. Cela peut être utilisé pour l'analyse syntaxique et la correspondance des messages de journaux reçus via REST, ainsi que pour la génération ou la clôture d'événements basés sur des conditions spécifiques d'expressions régulières.

Examinons maintenant le processus de configuration de l'intégration DX OI avec Zabbix via DX RESTmon. L'intégration prête à l'emploi extrait les données suivantes de Zabbix :

• données d'inventaire ;
• topologie ;
• problèmes ;
• métriques.

Étant donné que le connecteur pour Zabbix est disponible en standard, tout ce que vous devez faire pour configurer l'intégration est de mettre à jour le profil en indiquant l'adresse IP du serveur API Zabbix et le compte, puis de télécharger le profil via l'interface web Swagger. Exemple sur les deux images suivantes.

Après la configuration de l'intégration, les fonctions analytiques DX OI décrites ci-dessus seront disponibles pour les données en provenance de Zabbix, à savoir : Alarm Analytics, Performance Analytics, Predictive Insights, Service Analytics et Remediation. L'image ci-dessous montre un exemple d'analyse des métriques de performance des objets intégrés depuis Zabbix.

Conclusion

DX OI — un outil d'analyse moderne qui assurera une efficacité opérationnelle significative pour les départements IT, permettant de prendre des décisions plus rapides et précises pour améliorer la qualité des services IT et des services d'affaires grâce à une analyse contextuelle interdomaines. Pour les propriétaires d'applications et les départements d'affaires, DX OI calculera la disponibilité et la qualité des services non seulement dans le contexte des indicateurs IT technologiques, mais aussi des KPI d'affaires, extraits des statistiques transactionnelles des utilisateurs finaux.

Si vous souhaitez en savoir plus sur cette solution, laissez une demande pour une démonstration ou un projet pilote de la manière qui vous convient le mieux sur notre site.

Source : habr.com