Tento september vydala spoločnosť Broadcom (bývalá CA) novú verziu 20.2 svojho riešenia DX Operations Intelligence (DX OI). Na trhu je tento produkt prezentovaný ako zastrešujúci systém monitorovania. Systém je schopný zbierať a kombinovať dáta z monitorovacích systémov rôznych domén (sieť, infraštruktúra, aplikácie, databázy) ako od CA, tak aj od externých výrobcov, vrátane open source riešení (Zabbix, Prometheus a ďalších).

Hlavnou funkciou DX OI je vytvorenie komplexného modelu zdrojov a služieb (RSM) na základe konfiguračných jednotiek (KJ), ktoré dopĺňajú inventárnu databázu pri integrácii so systémami tretích strán. V DX OI sú implementované funkcie strojového učenia a umelej inteligencie (ML a AI) nad prichádzajúcimi údajmi do platformy, čo umožňuje vyhodnotiť/prorokovať pravdepodobnosť poruchy konkrétnej KJ a dopad tejto poruchy na obchodnú službu, založenú na konkrétnej KJ. Okrem toho, DX OI je jediným miestom na zhromažďovanie monitorovacích udalostí a následne integráciu so systémom Service Desk, čo je nepopierateľnou výhodou využívania systému v jednotných centrách monitorovania so služobnými zmenami organizácií. V tomto článku sa podrobnejšie pozrieme na funkcie systému a ukážeme používateľské a administrátorské rozhrania.

Architektúra riešenia DX OI

Platforma DX má mikroslužobnú architektúru a funguje pod správou Kubernetes alebo OpenShift. Na nasledujúcom obrázku sú uvedené komponenty riešenia, ktoré môžu byť používané ako samostatné monitorovacie nástroje, alebo môžu byť nahradené už existujúcimi monitorovacími systémami s podobnými funkciami (na obrázku sú príklady takýchto systémov) a neskôr pripojené k zastrešeniu DX OI. Na schéme nižšie:

• Monitorovanie mobilných aplikácií v DX App Experience Analytics;
• Monitorovanie výkonu aplikácií v DX APM;
• Monitorovanie infraštruktúry v DX Infrastructure Manager;
• Monitorovanie sieťových zariadení v DX NetOps Manager.

Komponenty DX fungujú pod správou klasterov Kubernetes a sú škálovateľné jednoduchým spustením nových POD. Nižšie sa nachádza schéma vyššieho úrovne riešenia.

Správa, škálovanie a aktualizácia platformy DX sa vykonáva v administratívnej konzole. Z jednej konzoly je možné spravovať multitenantnú architektúru, ktorá môže zahŕňať niekoľko podnikov alebo obchodných jednotiek v rámci spoločnosti. V tomto modeli môže byť každé podnikanie individuálne nakonfigurované ako nájomca so svojou vlastnou sadou konfigurácií.

Administratívna konzola je webový nástroj na správu operácií a systému, ktorý poskytuje administrátorom konzistentné a jednotné rozhranie na vykonávanie úloh správy monitorovacieho klastera.

Nové nájomníci pre obchodné jednotky alebo podniky v rámci spoločnosti sa nasadzujú za niekoľko minút. To poskytuje výhodu, ak chcete mať jednotný systém monitorovania, ale zároveň rozlišovať objekty monitorovania medzi oddeleniami na úrovni platformy (a nie práv prístupu).

Modely zdrojovo-služieb a monitorovanie obchodných služieb

DX OI má zabudované mechanizmy na vytváranie služieb a na vývoj tradičných RSM s určením logiky vplyvu a váhy medzi komponentami služby. Existujú aj mechanizmy exportu RSM z externých CMDB. Na obrázku nižšie je zabudovaný editor RSM (všimnite si váhy súvislostí).

DX OI poskytuje komplexný prehľad kľúčových ukazovateľov fungovania obchodných alebo IT služieb s podrobnosťami, vrátane dostupnosti služieb a predpovede rizík zlyhania. Nástroj tiež môže poskytnúť pochopenie vplyvu problémov s výkonom alebo zmien v štruktúre IT komponentov (aplikácií alebo infraštruktúry) na obchodnú službu. Na obrázku nižšie je interaktívny dashboard, ktorý zobrazuje stav všetkých služieb.

Pozrime sa na podrobnosti na príklade služby Digital Banking. Kliknutím na názov služby prejdeme do detailnej RSM služby. Vidíme, že stav služby Digital Banking závisí od stavu infraštruktúrnych a transakčných podslužieb s rôznymi váhami. Práca s váhami a ich zobrazenie je zaujímavé privilégium DX OI.

Topológia je dôležitým prvkom operačného monitorovania podniku, ktorý umožňuje operátorom a inžinierom analyzovať vzťahy medzi komponentami, nachádzať prvotnú príčinu a vplyv.

DX OI Topology Viewer je služba, ktorá využíva topologické údaje prijímané z doménových systémov monitorovania, ktoré zbierajú dáta priamo z monitorovaných objektov. Nástroj je určený na vyhľadávanie vo viacerých vrstvách úložiska topológie a na zobrazenie mapy vzťahov závislých od kontextu. Na vyšetrovanie problémov sa môžete prepnúť do podslužby Backend Banking a vidieť topológiu a problémové komponenty. Taktiež je možné analyzovať havarijné správy a metriky výkonu pre každý komponent.

Pri analýze transakčných komponentov Payments (užívateľských transakcií) môžeme sledovať hodnoty obchodných KPI, ktoré sa zohľadňujú aj pri výpočte stavu dostupnosti a zdravia služby. Príklad obchodného KPI je uvedený nižšie:

Analytika udalostí (Alarm Analytics)

Algoritmické odstraňovanie šumu prostredníctvom klasifikácie havárií

Jednou z kľúčových funkcií DX OI pri spracovaní udalostí je klasifikácia. Mechanizmus pracuje so všetkými upozorneniami, ktoré prichádzajú do systému, aby identifikoval vzory na základe rôznych kontextov a spojil ich do skupín. Tieto klastry sa samoučia, nie je potrebná ručná konfigurácia.

Takže klasifikácia umožňuje používateľom kombinovať a skupinovať obrovské množstvo udalostí a analyzovať iba tie, ktoré majú spoločný kontext. Napríklad súbor udalostí predstavujúcich incident, ktorý ovplyvňuje fungovanie aplikácií alebo dátového centra. Situácie sa vytvárajú pomocou algoritmov klasifikácie založených na strojovom učení, ktoré na analýzu využívajú časovú koreláciu, topologické prepojenie a spracovanie prirodzeného jazyka. Na obrázkoch nižšie sú uvedené príklady vizualizácie klastra správ, takzvané Situations Alarms, a Evidence Timeline, ktoré zobrazujú hlavné parametre grupovania a proces zmenšovania počtu rušivých udalostí.

Analýza koreňových problémov a korelácia havárií

V súčasnom hybridnom prostredí môže používateľská transakcia zasiahnuť niekoľko systémov, ktoré sa používajú dynamicky. V dôsledku toho môže vzniknúť niekoľko upozornení z rôznych systémov, no súvisiacich s jedným a tým istým problémom alebo incidentom. DX OI využíva patentované mechanizmy na potlačenie nadbytočných a duplicitných upozornení a korreláciu súvisiacich upozornení na zlepšenie detekcie kritických problémov a rýchlejšieho riešenia.

Pozrime sa na prípad, keď do systému prichádzajú početné havarijné správy týkajúce sa rôznych objektov (KE), ktoré ležia na základe jednej služby. V prípade, že dojde k ovplyvneniu dostupnosti a funkčnosti služby, systém vygeneruje služobnú haváriu (Service Alarm), určí a označí pravdepodobnú základnú príčinu (problémový KE a havarijnú správu týkajúcu sa KE), ktorá prispela k zníženiu výkonu alebo výpadku služby. Na nižšie uvedenom obrázku je vizualizácia havarijnej situácie pre službu Webex.

DX OI umožňuje pracovať s udalosťami prostredníctvom intuitívnych akcií v webovom rozhraní systému. Používatelia môžu manuálne priraďovať udalosti zodpovednému zamestnancovi na riešenie problémov, resetovať/potvrdiť upozornenia, vytvárať žiadosti alebo posielať e-maily, spúšťať automatizované scenáre na riešenie havarijnej situácie (Remediation Workflow, o tom neskôr). Týmto spôsobom DX OI umožňuje operátorom pohotovostných zmien sústrediť sa na základné havarijné správy a taktiež pomôcť zjednodušiť proces triedenia správ do klastroch.

Strojové algoritmy spracovania metrík a analýzy výkonových dát.

Strojové učenie umožňuje sledovať, agregovať a vizualizovať kľúčové ukazovatele výkonu za akékoľvek konkrétne obdobie, čo používateľovi poskytuje nasledujúce výhody:

• Detekcia úzkych miest a anomálií výkonu;
• Porovnanie viacerých ukazovateľov pre rovnaké zariadenia, rozhrania alebo siete;
• Porovnanie rovnakých ukazovateľov na viacerých objektoch;
• Porovnanie rôznych ukazovateľov pre jeden alebo viaceré objekty;
• Porovnanie viacrozmerných metrík pre viaceré objekty.

Na analýzu metrík prichádzajúcich do systému používa DX OI funkcie strojovej analytiky s využitím matematických algoritmov, čo prispieva k skráteniu času pri nastavovaní statických prahov a generovaní varovaní pri výskyte anomálií.

Výsledkom aplikácie matematických algoritmov je zostavenie takzvaných pravdepodobnostných rozdelení hodnôt metriky (Rara, Pravdepodobné, Stredná, Priemerná, Skutočná). Na vyššie a nižšie umiestnených obrázkoch sú znázornené pravdepodobnostné rozdelenia.

Na dvoch grafických znázorneniach vyššie sú zobrazené nasledujúce údaje:

• Skutočné údaje (Actual). Skutočné údaje sú na grafe zobrazené ako pevná čierna čiara (žiadne signály alarmu) alebo farebná pevná čiara (stav alarmu). Čiara je vypočítaná na základe skutočných údajov pre metriku. Porovnaním skutočných údajov a mediánovej hodnoty môžete rýchlo vidieť variácie metriky. Keď nastane udalosť, čierna čiara sa mení na farebnú pevnú čiaru, ktorá zodpovedá kritickosti udalosti a zobrazuje symboly s príslušnou kritickosťou nad grafom. Napríklad červená farba pre kritickú anomáliu, oranžová pre významnú anomáliu a žltá pre drobnú anomáliu.
• Priemerná hodnota ukazovateľa (Mean value). Priemerná hodnota alebo stredná hodnota pre ukazovateľ je na diagrame zobrazená sivou čiarou. Priemerná hodnota sa zobrazuje, keď chýbajú historické údaje.
• Mediánová hodnota ukazovateľa (Center value). Mediánová čiara je stredom rozsahu a je zobrazená zelenou bodkovanou čiarou. Oblasti najbližšie k tejto čiare sú najbližšie k typickým hodnotám ukazovateľa.
• Celkové údaje (Common Value). Údaje v spoločnej oblasti sledujú najbližšiu k centrálnej línii alebo norme pre váš ukazovateľ a sú zobrazené ako tmavozelená páska. Analytické výpočty umiestňujú spoločnú oblasť na jeden percentil nad alebo pod normou.
• Pravdepodobnostné údaje. Údaje pravdepodobnostnej oblasti sú zobrazené na grafe zelenou páskou. Systém umiestňuje pravdepodobnostnú oblasť na dva percentily nad alebo pod normou.
• Rarita údajov. Informácie o zriedkavých zónach sú zobrazené na grafe vo forme svetlozeleného pásu. Systém umiestňuje zónu so zriedkavými hodnotami metriky na tri percentily nad alebo pod normou a signalizuje správanie ukazovateľa mimo normálneho rozsahu, pričom systém generuje takzvané Anomaly Alert.

Anomália je meranie alebo udalosť, ktorá nie je v súlade s normálnymi ukazovateľmi metriky. Detekcia anomálií na identifikáciu problémov a pochopenie trendov v infraštruktúre a aplikáciách je kľúčovou funkciou DX OI. Detekcia anomálií umožňuje rozpoznať nezvyčajné správanie (napríklad server, ktorý reaguje pomalšie než obvykle, alebo nezvyčajná sieťová aktivita spôsobená hackovaním) a primerane reagovať (vytvorenie incidentu, spustenie automatického scenára Remediation).

Funkcia detekcie anomálií DX OI poskytuje nasledujúce výhody:

• Nie je potrebné nastavovať prahové hodnoty. DX OI si samo prispôsobí údaje a identifikuje anomálie.
• DX OI zahŕňa viac ako desať algoritmov umelej inteligencie a strojového učenia, vrátane EWMA (Exponentially-Weighted—Moving-Average) a KDE (Kernel Density Estimation). Tieto algoritmy umožňujú rýchlu analýzu základných príčin a predpovedať budúce hodnoty metrik.

Prediktívna analytika a upozornenie na možné zlyhania

Predictive Insights je funkcia, ktorá využíva schopnosti strojového učenia na identifikáciu vzorcov a trendov. Na základe týchto trendov systém predpovedá udalosti, ktoré sa môžu vyskytnúť v budúcnosti. Tieto oznámenia naznačujú potrebu prijať opatrenia skôr, ako hodnoty metrik prekročia normálne hodnoty, čo ovplyvní kriticky dôležité obchodné služby. Predictive Insights sú zobrazené na obrázku nižšie.

A toto je vizualizácia prediktívnych upozornení pre konkrétnu metriku.

Predpovedanie zaťaženia výpočtových kapacít so funkciou zadávania scenárov zaťaženia

Funkcia plánovania kapacít Capacity Analytics pomáha spravovať IT zdroje, zaistením správneho rozmeru zdrojov na uspokojenie aktuálnych a budúcich potrieb podnikania. Môžete optimalizovať výkon a efektívnosť existujúcich zdrojov, naplánovať a obhájiť akékoľvek finančné investície.

Funkcia Capacity Analytics v DX OI poskytuje nasledujúce výhody:

• Predpovedanie kapacity v sezónach s vysokým dopytom;
• Určenie momentu, kedy budú potrebné ďalšie zdroje na zabezpečenie kvalitného fungovania služby;
• Získavanie ďalších zdrojov iba pri potreby;
• Efektívne riadenie infraštruktúry a sietí;
• Eliminácia zbytočných nákladov na energiu odhalovaním nedostatočne využívaných zdrojov;
• Vykonávanie hodnotenia záťaže zdrojov v prípade plánovaného zvýšenia potrieb na službe alebo zdroji.

Na stránke Capacity Analytics DX OI (obr. nižšie) sú nasledovné widgety:

• Stav kapacity zdroja (Resource Capacity Status);
• Monitorované skupiny/služby (Monitored Groups/Services);
• Hlavní spotrebitelia zdrojov (Top Capacity Consumers).

Hlavná stránka Capacity Analytics zobrazuje komponenty zdrojov, ktoré sú nadmerne zaťažené a ktorým sa míňa kapacita. Táto stránka pomáha administrátorom platformy nájsť nadmerne využívané zdroje a pomáha im zmeniť veľkosť a optimalizovať zdroje. Stav zdrojov je možné analyzovať na základe farebných kódov a ich príslušných hodnôt. Zdroje sú klasifikované podľa stupňa ich preťaženia na stránke stavu kapacity zdrojov. Je možné kliknúť na každú z farieb, aby ste si prezreli zoznam komponentov, ktoré patria do vybratej kategórie. Následne sa zobrazí teplotná mapa so všetkými objektmi a predpoveďami na 12 mesiacov, čo umožňuje identifikovať zdroje, ktoré čoskoro vyčerpajú.

Pre každú z metrík v Capacity Analytics je možné určiť filtre, ktoré DX Operational Intelligence používa na vytváranie predpovedí (obr. nižšie).

K dispozícii sú nasledovné filtre:

• Metóda. Metrika, ktorá sa bude používať na predpovedanie.
• Na základe. Výber objemu historických údajov, ktoré sa budú používať na vytváranie predpovedí do budúcnosti. Toto pole sa používa na porovnanie a analýzu trendov za posledný mesiac, trendy za posledné 3 mesiace, trendy za rok atď.
• Rast. Očakávaná rýchlosť rastu pracovnej záťaže, ktorú chcete použiť na modelovanie predpovede výkonu. Tieto údaje môžu byť použité na predpovedanie rastu nad rámec predpokladov. Napríklad sa očakáva, že využitie zdrojov vzrastie o ďalších 40 percent v dôsledku otvorenia novej kancelárie.

Analýza logov

Funkcia analýzy logov DX OI zabezpečuje:

• zhromažďovanie a agregáciu logov z rôznych zdrojov (vrátane tých, ktoré sú získané agentovým a bezagentovým spôsobom);
• parsovanie a normalizáciu údajov;
• analýzu na zhodu s určenými podmienkami a generáciu udalostí;
• koreláciu udalostí na základe logov, vrátane udalostí získaných monitorovaním IT infraštruktúry;
• vizualizáciu údajov na základe analýzy v DX Dashboards;
• závery o dostupnosti služieb na základe analýzy údajov z logov.

Zhromažďovanie logov bezagentovým spôsobom vykonáva systém pre Windows Event logs a Syslog. Agentovým spôsobom sa zhromažďujú textové logy.

Funkcia automatizovaného riešenia havarijných situácií (Remediation)

Automatizované akcie na opravu havarijnej situácie (Remediation Workflow) umožňujú riešiť problémy, ktoré spôsobili generovanie udalosti v DX OI. Napríklad problém s vyťažovaním CPU generuje havarijnú správu, proces opravy (Remediation Workflow) rieši problém reštartovaním servera, na ktorom vznikol problém. Integrácia medzi DX OI a systémom automatizácie umožňuje spúšťať procesy opravy z konzoly udalostí v DX Operational Intelligence a sledovať ich v konzole systému automatizácie.

Po integrácii so systémom automatizácie môžete spúšťať automatické akcie na opravu akejkoľvek havarijnej situácie v konzole DX OI z kontextu havarijnej správy. Môžete si prezrieť odporúčané akcie spolu s informáciou o percentách dôveryhodnosti (pravdepodobnosti vyriešenia situácie vykonaním akcie).

Pôvodne, keď chýbajú štatistiky o výsledkoch vykonávania Remediation Workflow, mechanizmus odporúčaní ponúka potenciálne možnosti na základe vyhľadávania kľúčových slov, následne sa používajú výsledky strojového učenia a mechanizmus začína odporúčať metódy opravy na základe heuristiky. Akonáhle začnete hodnotiť výsledky získaných odporúčaní, presnosť odporúčaní sa zlepší.

Príklad spätnej väzby od používateľa: používateľ si vyberá akciu, ktorá sa mu páči alebo nepáči, a systém tento výber zohľadňuje pri ďalších odporúčaniach. Páči sa/nemá rád:

Odporúčané nápravné opatrenia pre konkrétnu тревогу sú založené na kombinácii spätnej väzby, ktorá určuje, či je akcia prijateľná. DX OI prichádza s hotovou integráciou so systémom automatizácie Automic Automation.

Integrácia DX OI so systémami tretích strán

Nezastavíme sa podrobne na integrácii dát z natívnych produktov monitorovania Broadcom (DX NetOps, DX Infrastructure Management, DX Application Performance Management). Namiesto toho sa pozrieme na to, ako sa integrujú dáta zo systémov tretích strán a prejdeme si príklad integrácie s jedným z najpopulárnejších systémov — Zabbix.

Na integráciu so systémami tretích strán sa používa komponent DX Gateway. DX Gateway pozostáva z 3 komponentov — On-Prem Gateway, RESTmon a Log Collector (Logstash). Môžete nainštalovať všetky 3 komponenty alebo iba ten, ktorý potrebujete, zmenou spoločného konfiguračného súboru pri inštalácii DX Gateway. Na obrázku nižšie je zobrazená architektúra DX Gateway.

Pozrime sa na účel komponentov DX Gateway osobitne.

On-Prem Gateway. Toto je rozhranie, ktoré zhromažďuje výstrahy z platformy DX a odosiela udalosti o poruchách do systémov tretích strán. On-Prem Gateway funguje ako poler, ktorý pravidelne zbiera údaje o udalostiach z DX OI pomocou API požiadaviek prostredníctvom protokolu HTTPS a potom odosiela upozornenia na server tretích strán, ktorý je integrovaný s platformou DX, pomocou webhookov.

DX Log Collector prijíma syslog z sieťových zariadení alebo serverov a nahráva ich do OI. DX Log Collector umožňuje oddeliť softvér, ktorý generuje správy, systém, ktorý ich uchováva, a softvér, ktorý ich spracováva a analyzuje. Každá správa je označená kódom objektu, ktorý uvádza typ softvéru, ktorý správu generuje, a je jej priradená úroveň kritickosti. V DX Dashboards je to všetko možné neskôr zobraziť.

DX RESTmon sa integruje so systémami/projektmi tretích strán cez REST API a prenáša údaje do OI. Na obrázku nižšie je zobrazený diagram fungovania DX RESTmon na príklade integrácie so systémami monitorovania Solarwinds a SCOM.

Kľúčové funkcie DX RESTmon:

• Pripojenie k akémukoľvek externému zdroju údajov na prijímanie údajov:
  • PULL: pripojenie a extrakcia údajov z verejných REST API;
  • PUSH: prúd údajov do RESTmon cez REST.
• Podpora formátov JSON a XML;
• Prijímanie metrík, upozornení, skupín, topológie, inventarizácie a protokolov;
• Hotové konektory pre rôzne nástroje/technológie, je tiež možné vyvinúť konektor k akémukoľvek zdroju s otvoreným API (zoznam hotových konektorov na obrázku nižšie);
• Podpora základnej autentifikácie (predvolene) pri prístupe k rozhraniu Swagger a API;
• Podpora HTTPS (predvolene) pre všetky prichádzajúce a odchádzajúce správy;
• Podpora prichádzajúcich a odchádzajúcich proxy;
• Silné možnosti syntaktickej analýzy textu pre protokoly získané cez REST;
• Konfigurovateľná syntaktická analýza pomocou RESTmon, zabezpečujúca efektívnu analýzu a vizualizáciu protokolov;
• Podpora extrakcie informácií o skupinách zariadení z monitorovacích aplikácií a načítanie do OI na analýzu a vizualizáciu;
• Podpora možnosti porovnávania s regulárnymi výrazmi. To môže byť použité na syntaktickú analýzu a porovnávanie správ z protokolov prijatých cez REST, ako aj na generovanie alebo uzatváranie udalostí na základe špecifických podmienok regulárneho výrazu.

Teraz preskúmame proces nastavenia integrácie DX OI so Zabbixom cez DX RESTmon. Boxová integrácia vyberá zo Zabbixu nasledujúce údaje:

• inventárne údaje;
• topológia;
• problémy;
• metríky.

Keďže konektor pre Zabbix je k dispozícii z krabice, všetko, čo musíte urobiť pre nastavenie integrácie, je aktualizovať profil, uvádzajúc IP adresu API servera Zabbix a účet, a potom načítať profil cez webové rozhranie Swagger. Príklad na dvoch nasledujúcich obrázkoch.

Po nastavení integrácie budú pre prichádzajúce údaje zo Zabbixu k dispozícii analytické funkcie DX OI, popísané vyššie, konkrétne: Alarm Analytics, Performance Analytics, Predictive Insights, Service Analytics a Remediation. Na obrázku nižšie je uvedený príklad analýzy výkonových metrík podľa objektov integrovaných zo Zabbixu.

Záver

DX OI — moderný analytický nástroj, ktorý zabezpečí významnú prevádzkovú efektívnosť IT oddelení, umožní rýchlejšie a presnejšie rozhodovanie na zlepšenie kvality IT služieb a obchodných služieb prostredníctvom cez doménovej kontextovej analýzy. Pre vlastníkov aplikácií a obchodných jednotiek DX OI vypočíta ukazovatele dostupnosti a kvality služieb nielen v kontexte technologických IT ukazovateľov, ale aj obchodných KPI, získaných z transakčnej štatistiky koncových používateľov.

Ak sa chcete dozvedieť viac o tomto riešení, zanechajte žiadosť o ukážku alebo pilotný projekt pre vás pohodlným spôsobom na našej webovej stránke.

Zdroj: habr.com