Monitorimi + testimi i ngarkesës = parashikimi dhe mungesa e çrregullsive

Departamenti IT i VTB ka hasur disa herë situata emergjente në punën e sistemeve, kur ngarkesa mbi to është rritur shumëfish. Prandaj, u bë e nevojshme të zhvillohej dhe testoheshin një model që parashikon ngarkesën maksimale në sistemet kritike. Për këtë, specialistët IT të bankës konfiguruan monitorimin, analizuan të dhënat dhe mësuan të automatizojnë parashikimet. Cilat mjete ndihmuan në parashikimin e ngarkesës dhe a arritën ato të optimizojnë punën, do të tregojmë në një artikull të shkurtër.

Monitorimi + testimi i ngarkesës = parashikimi dhe mungesa e çrregullsive

Problemet me shërbime me ngarkesë të lartë ndodhin pothuajse në të gjitha sektorët, por për sektorin financiar ato janë kritike. Në orën X, të gjitha njësitë operative duhet të jenë në gatishmëri, dhe prandaj ishte e nevojshme të dihej paraprakisht se çfarë mund të ndodhte dhe madje të përcaktohej dita kur do të rritej ngarkesa, dhe cilat sisteme do të përballeshin me të. Duhet luftuar dhe parandaluar çdo shqetësim, prandaj nevoja për të implementuar një sistem të analitikës parashikuese nuk ishte asnjëherë në diskutim. Duhej të modernizoheshin sistemet mbi bazën e të dhënave të monitorimit.

Analitika në kolonë

Projekti i pagĂ«s Ă«shtĂ« njĂ« nga mĂ« tĂ« ndjeshmit nĂ« rast tĂ« dĂ«shtimit. Ai Ă«shtĂ« gjithashtu mĂ« i kuptueshĂ«m pĂ«r parashikimin, prandaj vendosĂ«m tĂ« fillojmĂ« me tĂ«. PĂ«r shkak tĂ« lidhshmĂ«risĂ« sĂ« lartĂ«, gjatĂ« momenteve me ngarkesĂ« tĂ« lartĂ«, mund tĂ« hasim probleme edhe nĂ« nĂ«n-sistemet e tjera, duke pĂ«rfshirĂ« shĂ«rbimin e bankingut online (DBO). PĂ«r shembull, klientĂ«t, tĂ« kĂ«naqur nga SMS-tĂ« mbi marrjen e parave, fillonin t’i pĂ«rdornin ato nĂ« mĂ«nyrĂ« aktive. Ngarkesa nĂ« kĂ«to raste mund tĂ« rritet me mĂ« shumĂ« se njĂ« rend. 

Modeli i parë për parashikimin u krijua me dorë. Ne morëm një eksporte nga viti i fundit dhe llogaritëm në cilat ditë priten maksimumet: për shembull, më 1, 15 dhe 25 të muajit, si dhe në ditët e fundit të muajit. Ky model kërkonte investime të mëdha kohore dhe nuk jepte një parashikim të saktë. Megjithatë, ai identifikoi vendet problematike ku duhej shtuar "hardware" dhe lehtësoi procesin e transferimit të parave, duke rënë dakord me klientët themelorë: për të mos paguar pagat "në një goditje", transaksionet nga rajone të ndryshme u shpërndanë në kohë. Tani i përpunojmë ato në pjesë, të cilat infrastruktura IT e bankës është në gjendje t'i "përpunojë" pa ndonjë problem.

Pasi morëm rezultatin e parë pozitiv, ne kaluam në automatizimin e parashikimeve. Një dhjetë kritikë të tjerë po prisnin radhen e tyre.

Qasja e integruar

Në VTB implementuan një sistem monitorimi nga kompania MicroFocus. Nga aty morëm mbledhjen e të dhënave për parashikimin, sistemin e ruajtjes dhe sistemin e gjenerimit të raporteve. Në thelb, monitorimi ekzistonte, vetëm se duhej të shtoheshin metrikat, moduli i parashikimit dhe të krijoheshin raporte të reja. Kjo zgjidhje mbështetet nga kontraktori i jashtëm "Tehnoserv", prandaj puna kryesore për realizimin e projektit ra mbi specialistët e tij, por modelin e ndërtuam ne vetë. Sistemi i parashikimit u zhvillua mbi bazën e Prophet - ky produkt i hapur është zhvilluar në Facebook. Ai është i thjeshtë për t'u përdorur dhe integrohet lehtësisht me mjetet e monitorimit të vendosura nga ne dhe Vertica. Thënë me fjalë të tjera, sistemi analizojnë grafikun e ngarkesës dhe në bazë të serive të Fourier bën ekstrapolimin e tij. Ka gjithashtu mundësinë për të shtuar disa koeficientë sipas ditëve, të marra nga modeli ynë. Metrikat merren pa pjesëmarrjen e njeriut, një herë në javë parashikimi përditësohet automatikisht, raportet e reja shpërndahen për adresat e përcaktuara. 

Ky approach zbulon ciklit kryesore, si vjetorĂ«t, mujorĂ«t, trimestralĂ«t dhe javorĂ«t. Shlyerjet e pagave dhe avanset, periudhat e pushimeve, festat dhe zbritjet — tĂ« gjitha kĂ«to ndikojnĂ« nĂ« numrin e kĂ«rkesave pĂ«r sistemet. ËshtĂ« zbuluar, pĂ«r shembull, se disa cikle mbivendosen, ndĂ«rsa ngarkesa kryesore (75%) pĂ«r sistemet vjen nga Qendra Federale. Personat juridikĂ« dhe fizikĂ« veprojnĂ« ndryshe. NĂ«se ngarkesa nga 'fizikĂ«t' shpĂ«rndahet relativisht njĂ«soj gjatĂ« ditĂ«ve tĂ« javĂ«s (ka shumĂ« transaksione tĂ« vogla), pĂ«r kompanitĂ« 99,9% e saj ndodh brenda orarit tĂ« punĂ«s, kurse transaksionet mund tĂ« jenĂ« tĂ« shkurtra, ose tĂ« trajtohen pĂ«r disa minuta dhe madje orĂ«.

Monitorimi + testimi i ngarkesës = parashikimi dhe mungesa e çrregullsive

Në bazë të të dhënave të marra, përcaktohen trendet afatgjata. Sistemi i ri zbuloi se njerëzit po kalojnë masivisht në BDO. Kjo është e njohur nga të gjithëve, por nuk e prisnim një shkallë kaq të madhe dhe fillimisht nuk e besuam: numri i kërkesave në zyrat e bankës po ulet shumë shpejt, dhe po rritet njësoj numri i transaksioneve të distancës. Prandaj, ngarkesa në sisteme po rritet dhe do të vazhdojë të rritet. Tani ne parashikojmë ngarkesën deri në shkurt 2020. Ditët normale mund të parashikohen me një saktësi prej 3%, ndërsa ditët në kulm me një saktësi prej 10%. Ky është një rezultat i mirë.

Pengesa

Nuk kishte mungesa si zakonisht. Mekanizmi i ekstrapolimit duke pĂ«rdorur radhĂ«t e Fourier-it kalon keq nĂ« zero — ne e dimĂ« qĂ« gjatĂ« fundjavĂ«s subjektet juridike gjenerojnĂ« pak transaksione, por moduli i parashikimit jep vlera larg zero. Mund tĂ« ishim ndrequr ato me forcĂ«, por shpatullat nuk janĂ« metoda jonĂ«. PĂ«r mĂ« tepĂ«r, duhej tĂ« zgjidhnim problemin e marrjes pa dhimbje tĂ« tĂ« dhĂ«nave nga sistemet burim. Mbledhja e rregullt e informacionit kĂ«rkon burime tĂ« rĂ«ndĂ«sishme kompjuterike, prandaj ndĂ«rtuam memorie tĂ« shpejtĂ« duke pĂ«rdorur replikimin, duke marrĂ« tĂ« dhĂ«nat e biznesit tashmĂ« nga replikat. Mungesa e ngarkesĂ«s shtesĂ« nĂ« sistemet kryesore nĂ« raste tĂ« tilla Ă«shtĂ« njĂ« kĂ«rkesĂ« penguese.

Sfidat e reja

Detyra e vendosur pĂ«r parashikimin e pikave Ă«shtĂ« zgjidhur: nuk ka pasur dĂ«shtime tĂ« lidhura me ngarkesĂ«n nĂ« bankĂ« qĂ« nga maji i kĂ«tij viti, dhe sistemi i ri i parashikimit ka luajtur njĂ« rol tĂ« rĂ«ndĂ«sishĂ«m nĂ« kĂ«tĂ«. Po, rezultoi se ishte i pamjaftueshĂ«m, dhe tani banka dĂ«shiron tĂ« kuptojĂ« sa shumĂ« rrezikojnĂ« pĂ«r tĂ« pikĂ«t. Na nevojiten parashikime duke pĂ«rdorur metrika nga testimi i ngarkesĂ«s, dhe pĂ«r rreth 30% tĂ« sistemeve kritike kjo tashmĂ« funksionon, ndĂ«rsa tĂ« tjerat janĂ« nĂ« procesin e marrjes sĂ« parashikimeve. NĂ« fazĂ«n e ardhshme ne planifikojmĂ« tĂ« parashikojmĂ« ngarkesĂ«n nĂ« sisteme, jo nĂ« transaksionet e biznesit, por nĂ« terma tĂ« infrastrukturĂ«s IT, dmth tĂ« zbresim njĂ« nivel mĂ« poshtĂ«. PĂ«r mĂ« tepĂ«r, na nevojitet tĂ« automatizojmĂ« plotĂ«sisht mbledhjen e metricave dhe ndĂ«rtimin e parashikimeve mbi bazĂ«n e tyre, pĂ«r tĂ« mos u marrĂ« me eksportet. Nuk ka gjĂ« tĂ« jashtĂ«zakonshme nĂ« kĂ«tĂ« — ne thjesht po bashkojmĂ« monitorimin dhe testimin e ngarkesĂ«s sipas praktikave mĂ« tĂ« mira nĂ« botĂ«.

Burimi: habr.com

Bleni hostim tĂ« besueshĂ«m pĂ«r faqe me mbrojtje nga DDoS, serverĂ« VPS VDS đŸ”„ Bleni hostim tĂ« besueshĂ«m pĂ«r faqe me mbrojtje nga DDoS, serverĂ« VPS VDS | ProHoster