{"id":39133,"date":"2019-10-31T22:28:01","date_gmt":"2019-10-31T19:28:01","guid":{"rendered":"https:\/\/prohoster.info\/blog\/monitoring-nagruzochnoe-testirovanie-prognozirovanie-i-otsutstvie-sboev\/"},"modified":"2019-10-31T22:28:01","modified_gmt":"2019-10-31T19:28:01","slug":"monitoring-nagruzochnoe-testirovanie-prognozirovanie-i-otsutstvie-sboev","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pt\/blog\/administrirovanie\/monitoring-nagruzochnoe-testirovanie-prognozirovanie-i-otsutstvie-sboev","title":{"rendered":"Monitoramento + teste de carga = previs\u00e3o e aus\u00eancia de falhas","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

O departamento de TI do VTB enfrentou v\u00e1rias situa\u00e7\u00f5es inesperadas no funcionamento dos sistemas, quando a carga sobre eles aumentava drasticamente. Por isso, surgiu a necessidade de desenvolver e testar um modelo que previsse a carga m\u00e1xima em sistemas cr\u00edticos. Para isso, os especialistas de TI do banco configuraram o monitoramento, analisaram os dados e aprenderam a automatizar previs\u00f5es. Quais ferramentas ajudaram a prever a carga e se foi poss\u00edvel otimizar o trabalho com sua ajuda, n\u00f3s contaremos em um breve artigo.<\/p>\n

\"Monitoramento
\n<\/a><\/noindex>
\nProblemas com servi\u00e7os de alta carga surgem praticamente em todos os setores, mas para a \u00e1rea financeira, eles s\u00e3o cr\u00edticos. No momento X, todas as unidades operacionais devem estar prontas, por isso era necess\u00e1rio saber de antem\u00e3o o que poderia acontecer e at\u00e9 mesmo determinar um dia em que a carga aumentaria, e quais sistemas enfrentariam isso. \u00c9 necess\u00e1rio combater e prevenir falhas, portanto, a necessidade de implementar um sistema de an\u00e1lise preditiva nem foi discutida. Era preciso modernizar os sistemas com base nos dados de monitoramento.<\/p>\n

An\u00e1lise improvisada<\/h2>\n

\nO projeto de pagamento \u00e9 um dos mais sens\u00edveis em caso de falha. Al\u00e9m disso, \u00e9 o mais compreens\u00edvel para previs\u00f5es, portanto, decidimos come\u00e7ar por ele. Devido \u00e0 alta interconex\u00e3o, em momentos de pico, outros subsistemas, incluindo o servi\u00e7o banc\u00e1rio remoto (DBO), poderiam enfrentar problemas. Por exemplo, clientes, animados com SMS sobre a chegada de dinheiro, come\u00e7avam a utiliz\u00e1-lo ativamente. A carga, nesse caso, poderia subir mais de uma ordem de magnitude.\u00a0<\/p>\n

O primeiro modelo de previs\u00e3o foi criado manualmente. Pegamos os dados do \u00faltimo ano e calculamos em que dias se esperavam os picos m\u00e1ximos: como no dia 1, 15 e 25, al\u00e9m dos \u00faltimos dias do m\u00eas. Esse modelo exigia um s\u00e9rio esfor\u00e7o de trabalho e n\u00e3o fornecia previs\u00f5es precisas. No entanto, ele identificou pontos cr\u00edticos onde precis\u00e1vamos adicionar \"hardware\" e permitiu otimizar o processo de transfer\u00eancia de dinheiro, negociando com clientes \u00e2ncora: para n\u00e3o realizar pagamentos \"em massa\", as transa\u00e7\u00f5es de diferentes regi\u00f5es foram espa\u00e7adas ao longo do tempo. Agora, as processamos em partes que a infraestrutura de TI do banco pode \"digerir\" sem falhas.<\/p>\n

Ap\u00f3s obter o primeiro resultado positivo, passamos \u00e0 automa\u00e7\u00e3o da previs\u00e3o. Um outro punhado de \u00e1reas cr\u00edticas estava esperando a sua vez.<\/p>\n

Abordagem abrangente<\/h2>\n

\nNo VTB, foi implementado um sistema de monitoramento da empresa MicroFocus. Dali, obtivemos a coleta de dados para previs\u00e3o, sistema de armazenamento e sistema de gera\u00e7\u00e3o de relat\u00f3rios. Na pr\u00e1tica, o monitoramento j\u00e1 existia, restando apenas adicionar m\u00e9tricas, um m\u00f3dulo preditivo e criar novos relat\u00f3rios. Este projeto \u00e9 suportado por um contratado externo, a 'Tekhnoserv', portanto, as principais responsabilidades de implementa\u00e7\u00e3o reca\u00edram sobre seus especialistas, mas n\u00f3s constru\u00edmos o modelo de forma independente. O sistema de previs\u00e3o foi feito com base no Prophet \u2014 esse produto de c\u00f3digo aberto desenvolvido no Facebook. \u00c9 f\u00e1cil de usar e se integra bem com as ferramentas de monitoramento e Vertica que temos instaladas. Simplificando, o sistema analisa o gr\u00e1fico de carga e, com base nos conjuntos de Fourier, faz a sua extrapola\u00e7\u00e3o. Tamb\u00e9m h\u00e1 a possibilidade de adicionar alguns coeficientes di\u00e1rios, baseados em nosso modelo. As m\u00e9tricas s\u00e3o capturadas sem a interven\u00e7\u00e3o humana, uma vez por semana a previs\u00e3o \u00e9 recalculada automaticamente, e novos relat\u00f3rios s\u00e3o enviados aos destinat\u00e1rios.\u00a0<\/p>\n

Essa abordagem identifica as principais c\u00edclicas, como anuais, mensais, trimestrais e semanais. Pagamentos de sal\u00e1rios e adiantamentos, per\u00edodos de f\u00e9rias, feriados e promo\u00e7\u00f5es \u2014 tudo isso afeta o volume de solicita\u00e7\u00f5es aos sistemas. Descobriu-se, por exemplo, que alguns ciclos se sobrep\u00f5em, e a maior carga (75%) nos sistemas vem da regi\u00e3o federal central. Pessoas jur\u00eddicas e f\u00edsicas se comportam de maneiras diferentes. Enquanto a carga de 'f\u00edsicos' \u00e9 relativamente uniformemente distribu\u00edda ao longo da semana (muitas pequenas transa\u00e7\u00f5es), nas empresas 99,9% ocorrem durante o hor\u00e1rio de trabalho, com transa\u00e7\u00f5es que podem ser curtas ou levar v\u00e1rios minutos e at\u00e9 horas para serem processadas.<\/p>\n

\"Monitoramento
\n
\nCom base nos dados obtidos, s\u00e3o determinados tend\u00eancias de longo prazo. O novo sistema revelou que as pessoas est\u00e3o se afastando em massa do atendimento banc\u00e1rio presencial. Isso \u00e9 amplamente conhecido, mas n\u00e3o esper\u00e1vamos tal magnitude e inicialmente n\u00e3o acreditamos: o n\u00famero de solicita\u00e7\u00f5es nas ag\u00eancias do banco est\u00e1 diminuindo rapidamente, enquanto cresce proporcionalmente o n\u00famero de transa\u00e7\u00f5es remotas. Assim, a carga sobre os sistemas tamb\u00e9m aumenta e continuar\u00e1 a aumentar. Atualmente, prevemos a carga at\u00e9 fevereiro de 2020. \u00c9 poss\u00edvel prever dias normais com uma margem de erro de 3% e picos com uma margem de 10%. Este \u00e9 um bom resultado.<\/p>\n

Pontos cr\u00edticos<\/h2>\n

\nComo \u00e9 de se esperar, n\u00e3o faltaram dificuldades. O mecanismo de extrapola\u00e7\u00e3o usando s\u00e9ries de Fourier n\u00e3o se comporta bem ao cruzar a zero - sabemos que nos fins de semana, pessoas jur\u00eddicas geram poucas transa\u00e7\u00f5es, mas o m\u00f3dulo de previs\u00e3o fornece valores distantes de zero. Seria poss\u00edvel corrigi-los manualmente, mas gambiarras n\u00e3o s\u00e3o nosso m\u00e9todo. Al\u00e9m disso, tivemos que resolver o problema de extra\u00e7\u00e3o indolor de dados de sistemas fonte. A coleta regular de informa\u00e7\u00f5es requer recursos computacionais s\u00e9rios, ent\u00e3o constru\u00edmos caches r\u00e1pidos usando replica\u00e7\u00e3o, j\u00e1 obtendo dados de neg\u00f3cios a partir das r\u00e9plicas. A aus\u00eancia de carga adicional nos sistemas principais, nesses casos, \u00e9 uma exig\u00eancia bloqueadora.<\/p>\n

Novos desafios<\/h2>\n

\nA tarefa proposta de prever picos foi resolvida: n\u00e3o houve falhas relacionadas a sobrecargas no banco desde maio deste ano, e o novo sistema de previs\u00e3o desempenhou um papel importante nisso. Sim, mostrou-se insuficiente, e agora o banco quer entender qu\u00e3o perigosos esses picos s\u00e3o para ele. Precisamos de previs\u00f5es usando m\u00e9tricas de testes de carga, e isso j\u00e1 funciona para cerca de 30% dos sistemas cr\u00edticos, enquanto os demais est\u00e3o em processo de obten\u00e7\u00e3o de previs\u00f5es. Na pr\u00f3xima etapa, planejamos prever a carga n\u00e3o em transa\u00e7\u00f5es comerciais, mas em termos de infraestrutura de TI, ou seja, iremos descer um n\u00edvel. Al\u00e9m disso, precisamos automatizar completamente a coleta de m\u00e9tricas e a constru\u00e7\u00e3o de previs\u00f5es com base nelas, para n\u00e3o precisarmos fazer extra\u00e7\u00f5es manuais. N\u00e3o h\u00e1 nada de extraordin\u00e1rio nisso - estamos apenas cruzando monitoramento com testes de carga de acordo com as melhores pr\u00e1ticas globais.
\n
Fonte: habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"

IT-\u0434\u0435\u043f\u0430\u0440\u0442\u0430\u043c\u0435\u043d\u0442\u0443 \u0412\u0422\u0411 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0437 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043b\u043e\u0441\u044c \u0441\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u0441 \u043d\u0435\u0448\u0442\u0430\u0442\u043d\u044b\u043c\u0438 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f\u043c\u0438 \u0432 \u0440\u0430\u0431\u043e\u0442\u0435 \u0441\u0438\u0441\u0442\u0435\u043c, \u043a\u043e\u0433\u0434\u0430 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u043d\u0430 \u043d\u0438\u0445 \u043c\u043d\u043e\u0433\u043e\u043a\u0440\u0430\u0442\u043d\u043e \u0432\u043e\u0437\u0440\u0430\u0441\u0442\u0430\u043b\u0430. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u043e\u044f\u0432\u0438\u043b\u0430\u0441\u044c \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0438 \u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0430 \u0431\u044b \u043f\u0438\u043a\u043e\u0432\u0443\u044e \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u043d\u0430 \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u044b\u0435 \u0441\u0438\u0441\u0442\u0435\u043c\u044b. \u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e IT-\u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0441\u0442\u044b \u0431\u0430\u043d\u043a\u0430 \u043d\u0430\u0441\u0442\u0440\u043e\u0438\u043b\u0438 \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433, \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u043d\u0430\u0443\u0447\u0438\u043b\u0438\u0441\u044c \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u044b. \u041a\u0430\u043a\u0438\u0435 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b \u043f\u043e\u043c\u043e\u0433\u043b\u0438 \u0441\u043f\u0440\u043e\u0433\u043d\u043e\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c \u043b\u0438 \u0441 \u0438\u0445 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29368,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[688],"tags":[],"class_list":["post-39133","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-administrirovanie"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\n","aioseo_head_json":{"title":"\ud83e\udd47Monitoramento + testes de carga = previs\u00e3o e aus\u00eancia de falhas | ProHoster","description":"O departamento de TI do VTB enfrentou v\u00e1rias situa\u00e7\u00f5es extraordin\u00e1rias em suas opera\u00e7\u00f5es, quando a carga sobre os sistemas aumentava drasticamente.","canonical_url":"https:\/\/prohoster.info\/pt\/blog\/administrirovanie\/monitoring-nagruzochnoe-testirovanie-prognozirovanie-i-otsutstvie-sboev","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"pt_PT","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433 + \u043d\u0430\u0433\u0440\u0443\u0437\u043e\u0447\u043d\u043e\u0435 \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 = \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0435 \u0441\u0431\u043e\u0435\u0432 | ProHoster","og:description":"IT-\u0434\u0435\u043f\u0430\u0440\u0442\u0430\u043c\u0435\u043d\u0442\u0443 \u0412\u0422\u0411 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0437 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043b\u043e\u0441\u044c \u0441\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u0441 \u043d\u0435\u0448\u0442\u0430\u0442\u043d\u044b\u043c\u0438 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f\u043c\u0438 \u0432 \u0440\u0430\u0431\u043e\u0442\u0435 \u0441\u0438\u0441\u0442\u0435\u043c, \u043a\u043e\u0433\u0434\u0430 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u043d\u0430 \u043d\u0438\u0445 \u043c\u043d\u043e\u0433\u043e\u043a\u0440\u0430\u0442\u043d\u043e \u0432\u043e\u0437\u0440\u0430\u0441\u0442\u0430\u043b\u0430.","og:url":"https:\/\/prohoster.info\/pt\/blog\/administrirovanie\/monitoring-nagruzochnoe-testirovanie-prognozirovanie-i-otsutstvie-sboev","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T19:28:01+00:00","article:modified_time":"2019-10-31T19:28:01+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"39133","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-24 00:53:19","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 00:55:36","updated":"2026-01-24 00:53:19","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/posts\/39133","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/comments?post=39133"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/posts\/39133\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/media\/29368"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/media?parent=39133"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/categories?post=39133"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/pt\/wp-json\/wp\/v2\/tags?post=39133"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}