През септември Broadcom (бившата CA) пусна нова версия 20.2 на своето решение DX Operations Intelligence (DX OI). На пазара този продукт се позиционира като обща система за мониторинг. Системата може да получава и обединява данни от мониторингови системи в различни домейни (мрежа, инфраструктура, приложения, бази данни), както от CA, така и от трети производители, включително open source решения (Zabbix, Prometheus и други).

Основната функция на DX OI е създаването на пълноценен ресурсно-сервисен модел (РСМ) на база конфигурационни единици (КЕ), попълващи инвентарната база при интеграция с трети системи. В DX OI са реализирани функции на Машинно Обучение и Изкуствен Интелект (ML и AI) върху постъпващите в платформата данни, което позволява оценка/предсказване на вероятността за отказ на конкретна КЕ и степента на влияние на отказа върху бизнес-сервиса, на който основата лежи конкретната КЕ. Освен това, DX OI е единната точка за събиране на събития за мониторинг и съответно интеграция с системата Service Desk, което е неоспоримо предимство при използването на системата в единни центрове за мониторинг от дежурни смени на организациите. В тази статия ще разкажем по-подробно за функционалността на системата и ще покажем интерфейсите на потребителя и администратора.

Архитектура на решението DX OI

Платформата DX има микросервисна архитектура, инсталира се и работи под управлението на Kubernetes или OpenShift. На следващата рисунка са представени компонентите на решението, които могат да се използват като самостоятелни инструменти за мониторинг или могат да бъдат заменени с вече налични системи за мониторинг със сходни функции (на рисунка има примери за такива системи), които след това могат да се свържат с общата система DX OI. На схемата по-долу:

• Мониторинг на мобилни приложения в DX App Experience Analytics;
• Мониторинг на производителността на приложения в DX APM;
• Мониторинг на инфраструктурата в DX Infrastructure Manager;
• Мониторинг на мрежови устройства в DX NetOps Manager.

Компонентите на DX работят под управлението на клъстера Kubernetes и се мащабират чрез просто стартиране на нови POD. По-долу е представена схема на решението на високо ниво.

Администриране, мащабиране и актуализиране на платформата DX се извършва в административната конзола. От една конзола може да се управлява мулти-тенантна архитектура, която може да обхваща няколко предприятия или бизнес единици в рамките на компанията. В този модел всяко предприятие може да бъде настроено индивидуално като наемател с собствен набор от конфигурации.

Административната конзола е уеб инструмент за управление на операции и системи, който предоставя на администраторите единен и последователен интерфейс за извършване на задачи по управление на клъстера за мониторинг.

Новите наематели за бизнес единици или предприятия в рамките на компанията се разгръщат за броени минути. Това предоставя предимство, ако искате да имате единна система за мониторинг, но в същото време да разграничите обектите за мониторинг между отделенията на ниво платформа (а не достъп).

Ресурсно-сервисни модели и мониторинг на бизнес услуги

DX OI притежава вградени механизми за създаване на услуги и развитие на класически РСМ с определяне на логика за влияние и тежест между компонентите на услугата. Също така има механизми за експортиране на РСМ от външна CMDB. По-долу е показан вграденият редактор на РСМ (обърнете внимание на тежестите на връзките).

DX OI предоставя цялостна представа за ключовите показатели за функциониране на бизнес услуги или ИТ услуги с детайли, включително наличността на услугите и прогнозиране на рисковете от отказ. Инструментът също така може да предостави разбиране за влиянието на проблемите с производителността или измененията в структурата на ИТ компонентите (приложения или инфраструктура) върху бизнес услугата. По-долу е интерактивен дашборд, показващ състоянието на всички услуги.

Нека разгледаме подробности на примера на услугата Digital Banking. Когато кликнем върху името на услугата, преминаваме в деталната РСМ на услугата. Виждаме, че статусът на услугата Digital Banking зависи от състоянието на инфраструктурните и трансакционните подсервизи с различни тежести. Работата с тежестите и тяхното представяне е интересно предимство на DX OI.

Топологията е важен елемент на оперативния мониторинг на предприятието, позволяващ на операторите и инженерите да анализират взаимовръзките между компонентите, да откриват първопричините и влияние.

DX OI Topology Viewer е услуга, която използва топологични данни, получени от домейнни системи за мониторинг, които събират данни директно от мониторинговите обекти. Инструментът е предназначен за търсене в различни слоеве на хранилищата на топологията и показване на карта на отношенията, зависеща от контекста. За разследване на проблеми може да се премине към проблемния подсервис Backend Banking и да се види топологията и проблемните компоненти. Също така за всеки компонент могат да се анализират аварийните съобщения и метриките за производителност.

При анализа на транзакционните компоненти Payments (потребителски транзакции) можем да проследяваме стойностите на бизнес-KPI, които също се вземат предвид при оценката на наличността и здравето на услугата. Пример за бизнес-KPI е представен по-долу:

Събитийна аналитика (Alarm Analytics)

Алгоритмична филтрация на шум с помощта на кластеризация на аварии

Една от ключовите функции на DX OI при обработката на събития е кластеризацията. Механизмът работи с всички известия, постъпващи в системата, за да идентифицира шаблони на базата на различни контексти и да ги обединява в групи. Тези клъстери са самообучаващи се и не е необходимо да се конфигурират ръчно.

По този начин кластеризацията позволява на потребителите да обединяват и групират огромно количество събития и да анализират само тези, които имат общ контекст. Например, комплект от събития, представляващи инцидент, влияещ на работата на приложенията или центъра за данни. Ситуациите се създават с помощта на алгоритми за кластеризация, основаващи се на машинно обучение, използващи за анализа времева корелация, топологични взаимовръзки и обработка на естествен език. На следващите изображения са представени примери за визуализация на кластерни групи от съобщения, наречени Situations Alarms, и Evidence Timeline, показващи основните параметри на групирането и процеса на намаляване на количеството шумови събития.

Анализ на коренните причини и корелация на аварии

В съвременната хибридна среда потребителската транзакция може да засяга няколко системи, които се използват динамично. В резултат на това могат да бъдат създадени многобройни предупреждения от различни системи, но свързани с един и същ проблем или инцидент. DX OI използва патентовани механизми за потискане на излишните и дублиращи се уведомления и корелация на свързаните уведомления за подобряване на откритията на критични проблеми и по-бързо разрешаване.

Нека разгледаме пример, при който в системата постъпват множество аварийни съобщения за различни обекти (КЕ), лежащи в основата на една и съща услуга. В случай на въздействие върху достъпността и функционирането на услугата, системата ще генерира служебна авария (Service Alarm), ще посочи и обозначи вероятната коренна причина (проблемния КЕ и аварийното съобщение по КЕ), което е довело до намаляване на производителността или отказа на услугата. На изображението по-долу е представена визуализация на аварийната ситуация за услугата Webex.

DX OI позволява работа с събития чрез интуитивно разбираеми действия в уеб интерфейса на системата. Потребителите могат ръчно да назначават събития на отговорен служител за отстраняване на неизправности, да нулират/потвърдят уведомления, да създават заявки или да изпращат уведомления по имейл, да стартират автоматизирани сценарии за отстраняване на аварийната ситуация (Remediation Workflow, за това ще говорим по-късно). По този начин DX OI позволява на операторите на дежурни смени да се фокусират върху коренното аварийно съобщение, а също така да помогне за опростяване на процеса на сортиране на съобщения на клъстерни масиви.

Машинни алгоритми за обработка на метрики и анализ на данните за производителността.

Машинното обучение позволява проследяване, агрегиране и визуализиране на ключови показатели за производителност за всякакъв конкретен период от време, което дава на потребителя следните предимства:

• Откриване на тесни места и аномалии в производителността;
• Сравняване на няколко показателя за едни и същи устройства, интерфейси или мрежи;
• Сравняване на идентични показатели на няколко обекта;
• Сравняване на различни показатели по един или няколко обекта;
• Сравняване на многопараметрични метрики по няколко обекта.

За анализа на входящите в системата метрики, DX OI използва функции на машинната аналитика с приложение на математически алгоритми, което спомага за намаляване на времето при настройка на статичните прагове и генериране на предупреждения при появата на аномалии.

Резултатът от приложението на математическите алгоритми е изграждането на т.нар. вероятностни разпределения на стойностите на метриката (Редки, Вероятни, Централни, Средни, Фактически). На горните и долните изображения са представени вероятностните разпределения.

На двете графики по-горе са показани следните данни:

• Фактически данни (Actual). Фактическите данни се показват на графика под формата на непрекъсната черна линия (няма сигнали за тревога) или цветна непрекъсната линия (състояние на тревога). Линията се изчислява на база фактическите данни за метриката. Сравнявайки фактическите данни и медианното значение, можете бързо да видите вариациите на метриката. Когато настъпи събитие, черната линия се променя на цветна непрекъсната линия, която съответства на критичността на събитието и показва символи с съответстваща критичност над графика. Например, червен цвят за критична аномалия, оранжев за значителна аномалия и жълт за незначителна аномалия.
• Средно значение на показателя (Mean value). Средното значение или средната стойност за показателя е показано на диаграмата сива линия. Средното значение се показва, когато няма достатъчно исторически данни.
• Медианно значение на показателя (Center value). Медианната линия е средата на диапазона и е показана с зелена пунктирна линия. Зоните, най-близки до тази линия, са най-близки до типичните стойности на показателя.
• Общи данни (Common Value). Данните от общата зона проследяват най-близкото до централната линия или нормата за вашия показател и се показват под формата на тъмен зелен пояс. Аналитичните изчисления поставят общата зона на един процентил по-високо или по-ниско от нормата.
• Вероятностни данни. Данните от вероятностната зона са показани на графика с зелена ивица. Системата поставя вероятностната зона на два процентала по-високо или по-ниско от нормата.
• Редки данни. Данните за редките зони са показани в графиката под формата на светлозелена лента. Системата поставя зоната с редки стойности на три процентиля над или под нормата и сигнализира за поведението на показателя извън нормалния диапазон, като генерира така нареченото Anomaly Alert.

Аномалията е измерване или събитие, несъвместимо с нормалните показатели на метриката. Откритията за аномалии, за да се идентифицират проблеми и разберат тенденции в инфраструктурата и приложенията, са основна функция на DX OI. Откритията за аномалии позволяват както разпознаване на необичайно поведение (например, сървър, който отговаря по-бавно от обикновено или необичайна мрежова активност, причинена от хакерски атаки), така и съответна реакция (отваряне на инцидент, стартиране на автоматичен сценарий за Remediation).

Функцията за откритие на аномалии DX OI предлага следните предимства:

• Не е нужно да задавате прагови стойности. DX OI автоматично ще свърже данните и ще идентифицира аномалии.
• DX OI включва повече от десет алгоритъма за изкуствен интелект и машинно обучение, включително EWMA (Exponentially-Weighted–Moving-Average) и KDE (Kernel Density Estimation). Тези алгоритми позволяват бърз анализ на основните причини и прогнозират бъдещи стойности на метриките.

Предиктивна аналитика и уведомления за възможни откази

Predictive Insights е функция, която използва възможностите на машинното обучение, за да идентифицира модели и тенденции. На базата на тези тенденции системата прогнозира събития, които могат да се случат в бъдеще. Тези съобщения указват необходимостта от предприемане на действия, преди стойностите на метриките да излязат извън нормалните стойности, което ще повлияе на критично важни бизнес услуги. Predictive Insights са показани на изображението по-долу.

А това е визуализация на предиктивните предупреждения за конкретна метрика.

Прогнозиране на натоварването на изчислителните мощности с функция за задаване на сценарии за натоварване

Функцията за планиране на мощности Capacity Analytics помага за управление на ИТ ресурсите, осигурявайки правилен размер на ресурсите за удовлетворяване на текущите и бъдещите нужди на бизнеса. Ще можете да оптимизирате производителността и ефективността на наличните ресурси, да планирате и оправдаете всякакви финансови вложения.

Функцията Capacity Analytics в DX OI предоставя следните предимства:

• Прогнозиране на капацитетите през пиковите сезони;
• Определяне на момента, когато ще са необходими допълнителни ресурси за осигуряване на качествено функциониране на услугата;
• Закупуване на допълнителни ресурси само при необходимост;
• Ефективно управление на инфраструктурата и мрежите;
• Премахване на излишните разходи за електрическа енергия чрез идентифициране на недоизползвани ресурси;
• Изпълнение на оценка на натоварването на ресурсите в случай на планирано увеличаване на нуждите от услуга или ресурс.

На страницата Capacity Analytics DX OI (изображение по-долу) има следните джаджи:

• Състояние на капацитета на ресурса (Resource Capacity Status);
• Наблюдавани групи/услуги (Monitored Groups/Services);
• Големи потребители на ресурси (Top Capacity Consumers).

Основната страница Capacity Analytics показва компонентите на ресурсите, които са прекалено натоварени и чийто капацитет свършва. Тази страница помага на администраторите на платформата да откриват прекомерно използвани ресурси и да им помага да променят размера и оптимизират ресурсите. Състоянието на ресурсите може да бъде анализирано на базата на цветови кодове и техните съответни стойности. Ресурсите се класифицират в зависимост от степента на тяхната преобремененост на страницата за състояние на капацитета на ресурсите. Може да се кликне на всеки от цветовете, за да се види списък на компонентите, попадащи в избраната категория. Следва да се покаже термална карта с всички обекти и прогнози за 12 месеца, което позволява да се идентифицират ресурсите, които скоро ще бъдат изчерпани.

За всяка от метриките в Capacity Analytics могат да се зададат филтри, които DX Operational Intelligence използва за съставяне на прогнози (изображение по-долу).

Налични са следните филтри:

• Metric. Метриката, която ще се използва за прогнозиране.
• Base on. Избор на обема исторически данни, които ще бъдат използвани за изграждане на прогнози за бъдещето. Това поле се използва за сравнение и анализ на тенденции за последния месец, тенденции за последните 3 месеца, тенденции за година и т.н.
• Growth. Очакваната скорост на растежа на натоварването, което искате да използвате за моделиране на мощността. Тези данни могат да се използват за прогнозиране на растежа над предварителните прогнози. Например, се очаква, че използването на ресурса ще нарасне с още 40 процента поради откритето на нов офис.

Анализ на логовете

Функцията за анализ на логовете DX OI осигурява:

• събиране, агрегация на логовете от различни източници (включително получени по агентски и безагентски способи);
• парсинг и нормализиране на данните;
• анализ на съответствието на поставените условия и генериране на събития;
• корелация на събитията на базата на логовете, включително със събития, получени в резултат на мониторинг на ИТ-инфраструктурата;
• визуализация на данните на базата на анализа в DX Dashboards;
• изводи за наличността на услугите на базата на анализа на данните от логовете.

Събиране на логовете безагентен метод се извършва от системата за Windows Event logs и Syslog. Агентният метод събира текстови логове.

Функцията за автоматизирано разрешаване на аварийни ситуации (Remediation)

Автоматизираните действия за разрешаване на аварийната ситуация (Remediation Workflow) позволяват решаване на проблеми, довели до генериране на събитие в DX OI. Например, проблем с натоварването на ЦП генерира аварийно съобщение, а процесът на поправка (Remediation Workflow) решава проблема чрез рестартиране на сървъра, на който е възникнал проблемът. Интеграцията между DX OI и системата за автоматизация позволява стартиране на процеси на поправка от конзолата за събития в DX Operational Intelligence и проследяването им в конзолата на системата за автоматизация.

След интеграцията с автоматизационната система можете да стартирате автоматични действия за разрешаване на всяка аварийна ситуация в консолата DX OI от контекста на аварийното съобщение. Можете да видите препоръчителните действия заедно с информация за процента на надеждност (вероятността за разрешаване на ситуацията чрез изпълнението на действието).

Първоначално, когато няма статистика за резултатите от изпълнението на Remediation Workflow, механизмът за препоръки предлага потенциални опции на базата на търсене по ключови думи, след което се използват резултатите от машинното обучение и механизмът започва да предлага методи за поправка на базата на евристика. Щом започнете да оценявате резултатите от получените насоки, точността на препоръките ще се подобри.

Пример за обратна връзка от потребител: потребителят избира харесвано или нехаресвано предложено действие, а системата отчита този избор при следващите препоръки. Харесване/нехаресване:

Препоръчаните корективни действия за конкретна тревога са основани на комбинация от обратна връзка, която определя дали действието е приемливо. DX OI се предлага с готова интеграция с системата за автоматизация Automic Automation.

Интеграция на DX OI със системи на трети страни

Няма да се спираме подробно на интеграцията на данни от родните мониторингови продукти на Broadcom (DX NetOps, DX Infrastructure Management, DX Application Performance Management). Вместо това ще разгледаме как се интегрират данни от системи на трети страни и ще ни дадем пример за интеграция с една от най-популярните системи — Zabbix.

За интеграция със системи на трети страни се използва компонентът DX Gateway. DX Gateway се състои от 3 компонента — On-Prem Gateway, RESTmon и Log Collector (Logstash). Можете да инсталирате всичките 3 компонента или само този, който е необходим, като промените общия файл с конфигурация по време на инсталацията на DX Gateway. На изображението по-долу е архитектурата на DX Gateway.

Нека разгледаме предназначението на компонентите на DX Gateway поотделно.

On-Prem Gateway. Това е интерфейс, който събира аварийни сигнали от платформата DX и изпраща съобщения за аварии в системи на трети страни. On-Prem Gateway действа като polling устройство, което периодично събира данни за събития от DX OI, използвайки API запитвания по протокол HTTPS, след което изпраща предупреждения на външен сървър, интегриран с платформата DX, като използва уебхукове.

DX Log Collector приема syslog от мрежови устройства или сървъри и ги зарежда в OI. DX Log Collector позволява разделянето на софтуер, който генерира съобщения, система, която ги съхранява, и софтуер, който съобщава и анализира. Всяко съобщение се маркира с код на обекта, указващ вида софтуер, генериращ съобщението, и му се назначава ниво на критичност. В DX Dashboards всичко това може да бъде видимо след това.

DX RESTmon интегрира се със системи/услуги на трети страни чрез REST API и предава данни в OI. На изображението по-долу е представена схемата на функциониране на DX RESTmon с примера на интеграция с мониторинговите системи Solarwinds и SCOM.

Ключови функции на DX RESTmon:

• Свържете се с всеки външен източник на данни за получаване на данни:
  • PULL: свързване и извличане на данни от публични REST API;
  • PUSH: поток от данни в RESTmon чрез REST.
• Подкрепа за формати JSON и XML;
• Приемане на метрики, предупреждения, групи, топология, инвентаризация и журнали;
• Готови конектори за различни инструменти/технологии, възможно е да се разработи конектор за всеки източник с публичен API (списък с готови конектори на изображението по-долу);
• Поддръжка на основна автентикация (по подразбиране) при достъп до интерфейса Swagger и API;
• Поддръжка на HTTPS (по подразбиране) за всички входящи и изходящи съобщения;
• Поддръжка на входящи и изходящи проксита;
• Мощни възможности за синтактичен анализ на текст за журнали, получени чрез REST;
• Настройки за синтактичен анализ с RESTmon, осигуряващи ефективен анализ и визуализация на журналите;
• Поддръжка за извличане на информация за групи устройства от приложения за мониторинг и зареждане в OI за анализ и визуализация;
• Поддръжка на възможности за съвпадение с регулярни изрази. Това може да се използва за синтактичен анализ и съвпадение на съобщения от журналите, получени чрез REST, както и за генериране или затваряне на събития на базата на определени условия на регулярното изражение.

Сега нека разгледаме процеса по настройка на интеграция на DX OI с Zabbix чрез DX RESTmon. Готовата интеграция извлича от Zabbix следните данни:

• инвентарни данни;
• топология;
• проблеми;
• метрики.

Тъй като конекторът за Zabbix е наличен от кутията, всичко, което трябва да направите, за да настроите интеграцията, е да обновите профила, посочвайки IP адреса на API сървъра на Zabbix и профила, след което да качите профила през уеб интерфейса на Swagger. Примерите на следващите два изображения.

След настройване на интеграцията, анализните функции на DX OI, описани по-горе, ще са достъпни за входящите данни от Zabbix, а именно: Alarm Analytics, Performance Analytics, Predictive Insights, Service Analytics и Remediation. На изображението по-долу е даден пример за анализ на производителността на метриките по обекти, интегрирани от Zabbix.

Заключение

DX OI — съвременен инструмент за аналитика, който ще осигури значителна оперативна ефективност на IT отделите, ще позволи по-бързо и точно вземане на решения за повишаване качеството на IT услугите и бизнес услугите чрез междоменен контекстен анализ. За собствениците на приложения и бизнес поделения DX OI ще изчисли показателя на достъпност и качеството на услугите не само в контекста на технологичните IT показатели, но и бизнес KPI, извлечени от транзакционната статистика на крайни потребители.

Ако искате да научите повече за това решение, оставете заявка за демонстрация или пилотен проект по удобен за вас начин на нашия сайт.

Източник: habr.com