મોનિટરિંગ + લોડ પરીક્ષણ = આગાહી અને કોઈ નિષ્ફળતા

VTB IT વિભાગે ઘણી વખત સિસ્ટમોના સંચાલનમાં કટોકટીની પરિસ્થિતિઓનો સામનો કરવો પડ્યો હતો, જ્યારે તેમના પરનો ભાર અનેક ગણો વધી ગયો હતો. તેથી, એક મોડેલ વિકસાવવાની અને પરીક્ષણ કરવાની જરૂર હતી જે જટિલ સિસ્ટમો પર પીક લોડની આગાહી કરે. આ કરવા માટે, બેંકના IT નિષ્ણાતોએ મોનિટરિંગ સેટ કર્યું, ડેટાનું વિશ્લેષણ કર્યું અને આગાહીને સ્વચાલિત કરવાનું શીખ્યા. અમે તમને એક નાનકડા લેખમાં જણાવીશું કે કયા સાધનોએ ભારની આગાહી કરવામાં મદદ કરી અને શું તેઓ કાર્યને ઑપ્ટિમાઇઝ કરવામાં મદદ કરી.

ઉચ્ચ-લોડ સેવાઓ સાથે સમસ્યાઓ લગભગ તમામ ઉદ્યોગોમાં ઊભી થાય છે, પરંતુ નાણાકીય ક્ષેત્ર માટે તે નિર્ણાયક છે. X કલાકે, તમામ લડાઇ એકમો તૈયાર હોવા જોઈએ, અને તેથી શું થઈ શકે છે તે અગાઉથી જાણવું જરૂરી હતું અને તે દિવસ પણ નક્કી કરવો જરૂરી હતું કે જ્યારે લોડ કૂદી જશે અને કઈ સિસ્ટમ્સ તેનો સામનો કરશે. નિષ્ફળતાઓ સાથે વ્યવહાર કરવો અને અટકાવવાની જરૂર છે, તેથી અનુમાનિત વિશ્લેષણ પ્રણાલીને અમલમાં મૂકવાની જરૂરિયાત વિશે પણ ચર્ચા કરવામાં આવી ન હતી. મોનિટરિંગ ડેટાના આધારે સિસ્ટમોનું આધુનિકીકરણ કરવું જરૂરી હતું.

તમારા ઘૂંટણ પર વિશ્લેષણ

પેરોલ પ્રોજેક્ટ નિષ્ફળતાના કિસ્સામાં સૌથી સંવેદનશીલ છે. તે આગાહી માટે સૌથી વધુ સમજી શકાય તેવું છે, તેથી અમે તેની સાથે પ્રારંભ કરવાનું નક્કી કર્યું. ઉચ્ચ કનેક્ટિવિટીને કારણે, રિમોટ બેંકિંગ સેવાઓ (RBS) સહિત અન્ય સબસિસ્ટમ પીક લોડના સમયે સમસ્યાઓનો અનુભવ કરી શકે છે. ઉદાહરણ તરીકે, ગ્રાહકો કે જેઓ પૈસાની રસીદ વિશેના એસએમએસથી ખુશ હતા, તેઓએ તેનો સક્રિયપણે ઉપયોગ કરવાનું શરૂ કર્યું. લોડ તીવ્રતાના ઓર્ડર કરતાં વધુ કૂદી શકે છે. 

પ્રથમ આગાહી મોડલ મેન્યુઅલી બનાવવામાં આવ્યું હતું. અમે છેલ્લા વર્ષ માટે અપલોડ્સ લીધા અને ગણતરી કરી કે કયા દિવસોમાં મહત્તમ શિખરો અપેક્ષિત છે: ઉદાહરણ તરીકે, 1લી, 15મી અને 25મી, તેમજ મહિનાના છેલ્લા દિવસોમાં. આ મોડેલને નોંધપાત્ર મજૂર ખર્ચની જરૂર હતી અને તે ચોક્કસ આગાહી પ્રદાન કરતું નથી. તેમ છતાં, તેણે અડચણો ઓળખી જ્યાં હાર્ડવેર ઉમેરવું જરૂરી હતું, અને એન્કર ક્લાયન્ટ્સ સાથે સંમત થઈને નાણાં ટ્રાન્સફર કરવાની પ્રક્રિયાને ઑપ્ટિમાઇઝ કરવાનું શક્ય બનાવ્યું: એક જ ગલ્પમાં પગાર ન આપવા માટે, વિવિધ પ્રદેશોમાંથી વ્યવહારો સમય જતાં અલગ કરવામાં આવ્યા હતા. હવે અમે તેમને એવા ભાગોમાં પ્રક્રિયા કરીએ છીએ કે જે બેંકનું IT ઇન્ફ્રાસ્ટ્રક્ચર નિષ્ફળતા વિના "ચ્યુ" કરી શકે.

પ્રથમ હકારાત્મક પરિણામ પ્રાપ્ત કર્યા પછી, અમે સ્વચાલિત આગાહી તરફ આગળ વધ્યા.

એક જટિલ અભિગમ

VTB એ માઇક્રોફોકસથી મોનિટરિંગ સિસ્ટમ લાગુ કરી છે. ત્યાંથી અમે આગાહી માટે ડેટા કલેક્શન, સ્ટોરેજ સિસ્ટમ અને રિપોર્ટિંગ સિસ્ટમ લીધી. હકીકતમાં, મોનિટરિંગ પહેલેથી જ હતું, જે બાકી હતું તે મેટ્રિક્સ, આગાહી મોડ્યુલ ઉમેરવા અને નવા અહેવાલો બનાવવાનું હતું. આ નિર્ણયને બાહ્ય કોન્ટ્રાક્ટર ટેક્નોસર્વ દ્વારા સમર્થન આપવામાં આવ્યું છે, તેથી પ્રોજેક્ટને અમલમાં મૂકવાનું મુખ્ય કાર્ય તેના નિષ્ણાતો પર પડ્યું, પરંતુ અમે મોડેલ જાતે બનાવ્યું. આગાહી પ્રણાલી પ્રોફેટના આધારે બનાવવામાં આવી હતી, જે ફેસબુક દ્વારા વિકસિત ઓપન સોર્સ પ્રોડક્ટ છે. તે વાપરવા માટે સરળ છે અને અમારા સ્થાપિત સંકલિત મોનિટરિંગ ટૂલ્સ અને વર્ટીકા સાથે સરળતાથી એકીકૃત થાય છે. આશરે કહીએ તો, સિસ્ટમ લોડ ગ્રાફનું પૃથ્થકરણ કરે છે અને ફોરિયર શ્રેણીના આધારે તેને એક્સ્ટ્રાપોલેટ કરે છે. અમારા મૉડલમાંથી લીધેલા, દિવસે ચોક્કસ ગુણાંક ઉમેરવાનું પણ શક્ય છે. મેટ્રિક્સ માનવ હસ્તક્ષેપ વિના લેવામાં આવે છે, આગાહી અઠવાડિયામાં એકવાર આપમેળે પુનઃગણતરી કરવામાં આવે છે, અને પ્રાપ્તકર્તાઓને નવા અહેવાલો મોકલવામાં આવે છે. 

આ અભિગમ મુખ્ય ચક્રીયતાને ઓળખે છે, ઉદાહરણ તરીકે, વાર્ષિક, માસિક, ત્રિમાસિક અને સાપ્તાહિક. પગાર અને એડવાન્સિસની ચૂકવણી, વેકેશનનો સમયગાળો, રજાઓ અને વેચાણ - આ બધું સિસ્ટમ પરના કૉલ્સની સંખ્યાને અસર કરે છે. ઉદાહરણ તરીકે, તે બહાર આવ્યું છે કે કેટલાક ચક્રો એકબીજાને ઓવરલેપ કરે છે, અને સિસ્ટમ્સ પરનો મુખ્ય ભાર (75%) સેન્ટ્રલ ફેડરલ ડિસ્ટ્રિક્ટમાંથી આવે છે. કાનૂની સંસ્થાઓ અને વ્યક્તિઓ અલગ રીતે વર્તે છે. જો "ભૌતિકશાસ્ત્રીઓ" નો ભાર અઠવાડિયાના દિવસોમાં પ્રમાણમાં સમાનરૂપે વિતરિત કરવામાં આવે છે (આ ઘણા નાના વ્યવહારો છે), તો કંપનીઓ માટે 99,9% કામના કલાકો પર ખર્ચવામાં આવે છે, અને વ્યવહારો ટૂંકા હોઈ શકે છે, અથવા ઘણી અંદર પ્રક્રિયા કરી શકાય છે. મિનિટ અથવા તો કલાકો.

પ્રાપ્ત ડેટાના આધારે, લાંબા ગાળાના વલણો નક્કી કરવામાં આવે છે. નવી પ્રણાલીએ જાહેર કર્યું છે કે લોકો રિમોટ બેંકિંગ સેવાઓ તરફ મોટા પ્રમાણમાં આગળ વધી રહ્યા છે. દરેક જણ આ જાણે છે, પરંતુ અમે આવા સ્કેલની અપેક્ષા રાખી ન હતી અને શરૂઆતમાં તેમાં વિશ્વાસ કર્યો ન હતો: બેંક ઑફિસમાં કૉલ્સની સંખ્યા ખૂબ જ ઝડપથી ઘટી રહી છે, અને દૂરસ્થ વ્યવહારોની સંખ્યા બરાબર એ જ રકમ દ્વારા વધી રહી છે. તદનુસાર, સિસ્ટમો પરનો ભાર પણ વધી રહ્યો છે અને વધતો રહેશે. અમે હવે ફેબ્રુઆરી 2020 સુધી લોડની આગાહી કરી રહ્યા છીએ. સામાન્ય દિવસો 3% ની ભૂલ સાથે અને 10% ની ભૂલ સાથે ટોચના દિવસોની આગાહી કરી શકાય છે. આ એક સારું પરિણામ છે.

મુશ્કેલીઓ

હંમેશની જેમ, આ મુશ્કેલીઓ વિના ન હતું. ફોરિયર શ્રેણીનો ઉપયોગ કરીને એક્સ્ટ્રાપોલેશન મિકેનિઝમ શૂન્યને સારી રીતે પાર કરતું નથી - અમે જાણીએ છીએ કે કાનૂની સંસ્થાઓ સપ્તાહના અંતે થોડા વ્યવહારો જનરેટ કરે છે, પરંતુ આગાહી મોડ્યુલ એવા મૂલ્યો ઉત્પન્ન કરે છે જે શૂન્યથી દૂર છે. બળજબરીથી તેમને સુધારવું શક્ય હતું, પરંતુ ક્રેચ અમારી પદ્ધતિ નથી. વધુમાં, અમારે સ્રોત સિસ્ટમ્સમાંથી ડેટાને પીડારહિત રીતે પુનઃપ્રાપ્ત કરવાની સમસ્યાને હલ કરવી પડી હતી. માહિતીના નિયમિત સંગ્રહ માટે ગંભીર કમ્પ્યુટિંગ સંસાધનોની જરૂર પડે છે, તેથી અમે પ્રતિકૃતિનો ઉપયોગ કરીને ઝડપી કેશ બનાવીએ છીએ અને પ્રતિકૃતિઓમાંથી વ્યવસાય ડેટા પ્રાપ્ત કરીએ છીએ. આવા કિસ્સાઓમાં માસ્ટર સિસ્ટમ્સ પર વધારાના ભારની ગેરહાજરી એ અવરોધિત કરવાની આવશ્યકતા છે.

નવા પડકારો

શિખરોની આગાહી કરવાનું સરળ કાર્ય હલ કરવામાં આવ્યું: આ વર્ષના મે મહિનાથી બેંકમાં ઓવરલોડ સંબંધિત કોઈ નિષ્ફળતાઓ નથી અને નવી આગાહી પ્રણાલીએ આમાં મહત્વની ભૂમિકા ભજવી છે. હા, તે પૂરતું ન હોવાનું બહાર આવ્યું છે, અને હવે બેંક એ સમજવા માંગે છે કે શિખરો તેના માટે કેટલા જોખમી છે. અમને લોડ પરીક્ષણમાંથી મેટ્રિક્સનો ઉપયોગ કરીને આગાહીઓની જરૂર છે, અને લગભગ 30% જટિલ સિસ્ટમો માટે આ પહેલેથી જ કાર્યરત છે, બાકીની આગાહીઓ મેળવવાની પ્રક્રિયામાં છે. આગળના તબક્કે, અમે વ્યવસાયિક વ્યવહારોમાં નહીં, પરંતુ IT ઈન્ફ્રાસ્ટ્રક્ચરના સંદર્ભમાં સિસ્ટમો પરના ભારની આગાહી કરવા જઈ રહ્યા છીએ, એટલે કે અમે એક સ્તર નીચે જઈશું. આ ઉપરાંત, અમારે મેટ્રિક્સના સંગ્રહ અને તેના આધારે આગાહીઓના નિર્માણને સંપૂર્ણપણે સ્વચાલિત કરવાની જરૂર છે, જેથી ડાઉનલોડ્સ સાથે વ્યવહાર ન થાય. તેના વિશે કંઈપણ ફેન્સી નથી - અમે વૈશ્વિક શ્રેષ્ઠ પ્રથાઓ અનુસાર મોનિટરિંગ અને લોડ પરીક્ષણને પાર કરી રહ્યા છીએ.

સોર્સ: www.habr.com