{"id":39133,"date":"2019-10-31T22:28:01","date_gmt":"2019-10-31T19:28:01","guid":{"rendered":"https:\/\/prohoster.info\/blog\/monitoring-nagruzochnoe-testirovanie-prognozirovanie-i-otsutstvie-sboev\/"},"modified":"2019-10-31T22:28:01","modified_gmt":"2019-10-31T19:28:01","slug":"monitoring-nagruzochnoe-testirovanie-prognozirovanie-i-otsutstvie-sboev","status":"publish","type":"post","link":"https:\/\/prohoster.info\/es\/blog\/administrirovanie\/monitoring-nagruzochnoe-testirovanie-prognozirovanie-i-otsutstvie-sboev","title":{"rendered":"Monitoreo + prueba de carga = predicci\u00f3n y ausencia de fallos","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

El departamento de IT de VTB se ha enfrentado varias veces a situaciones extraordinarias en el funcionamiento de los sistemas, cuando la carga sobre ellos aumentaba m\u00faltiples veces. Por lo tanto, surgi\u00f3 la necesidad de desarrollar y probar un modelo que pudiera predecir la carga m\u00e1xima en sistemas cr\u00edticos. Para ello, los especialistas de IT del banco configuraron un sistema de monitoreo, analizaron los datos y aprendieron a automatizar las predicciones. Qu\u00e9 herramientas ayudaron a pronosticar la carga y si lograron optimizar el funcionamiento, lo contaremos en un breve art\u00edculo.<\/p>\n

\"Monitoreo
\n<\/a><\/noindex>
\nLos problemas con los servicios de alta carga surgen pr\u00e1cticamente en todas las industrias, pero para el sector financiero son cr\u00edticos. En la hora X, todas las unidades operativas deben estar listas, por lo que era necesario saber de antemano qu\u00e9 podr\u00eda suceder e incluso determinar el d\u00eda en que la carga aumentar\u00eda y qu\u00e9 sistemas enfrentar\u00edan esa carga. Es necesario combatir y prevenir fallos, por lo que la necesidad de implementar un sistema de an\u00e1lisis predictivo ni siquiera se discuti\u00f3. Era necesario modernizar los sistemas basados en los datos de monitoreo.<\/p>\n

An\u00e1lisis improvisado<\/h2>\n

\nEl proyecto de n\u00f3mina es uno de los m\u00e1s sensibles en caso de fallo. Tambi\u00e9n es el m\u00e1s f\u00e1cil de prever, por lo que se decidi\u00f3 comenzar con \u00e9l. Debido a la alta conectividad, en momentos de carga m\u00e1xima, otros subsistemas, incluido el servicio bancario a distancia (DBO), tambi\u00e9n podr\u00edan enfrentar problemas. Por ejemplo, los clientes, contentos por un SMS sobre la llegada de dinero, comenzaban a gastarlo activamente. En este caso, la carga podr\u00eda aumentar en m\u00e1s de un orden de magnitud.\u00a0<\/p>\n

El primer modelo de pron\u00f3stico se cre\u00f3 manualmente. Tomamos la descarga del \u00faltimo a\u00f1o y calculamos en qu\u00e9 d\u00edas se esperan los picos m\u00e1ximos: por ejemplo, el 1, 15 y 25 de cada mes, as\u00ed como en los \u00faltimos d\u00edas del mes. Este modelo requer\u00eda un esfuerzo significativo y no daba un pron\u00f3stico preciso. Sin embargo, identific\u00f3 cuellos de botella donde se necesitaba a\u00f1adir m\u00e1s \"hardware\" y permiti\u00f3 optimizar el proceso de transferencia de dinero, acordando con los clientes clave: para no pagar los salarios \"de golpe\", se distribuyeron las transacciones de diferentes regiones a lo largo del tiempo. Ahora las procesamos en partes que la infraestructura IT del banco puede \"masticar\" sin fallos.<\/p>\n

Tras obtener el primer resultado positivo, empezamos a automatizar la previsi\u00f3n. A\u00fan quedaba en espera una docena de \u00e1reas cr\u00edticas.<\/p>\n

Enfoque integral<\/h2>\n

\nEn VTB se implement\u00f3 un sistema de monitoreo de la empresa MicroFocus. De ah\u00ed tomamos la recolecci\u00f3n de datos para la previsi\u00f3n, el sistema de almacenamiento y el sistema de generaci\u00f3n de informes. En esencia, ya exist\u00eda el monitoreo, solo quedaba a\u00f1adir m\u00e9tricas, el m\u00f3dulo de predicci\u00f3n y crear nuevos informes. Este soluci\u00f3n es soportada por el contratista externo 'Technoserv', por lo que los trabajos principales para la implementaci\u00f3n del proyecto recayeron en sus especialistas, pero el modelo lo construimos por nuestra cuenta. Creamos el sistema de previsi\u00f3n basado en Prophet, un producto de c\u00f3digo abierto desarrollado en Facebook. Es f\u00e1cil de usar e integrarse con nuestras herramientas de monitoreo integral y Vertica. En t\u00e9rminos simples, el sistema analiza el gr\u00e1fico de carga y, basado en series de Fourier, realiza su extrapolaci\u00f3n. Tambi\u00e9n existe la posibilidad de agregar ciertos coeficientes por d\u00edas, extra\u00eddos de nuestro modelo. Las m\u00e9tricas se recogen sin intervenci\u00f3n humana, la previsi\u00f3n se recalcula autom\u00e1ticamente una vez a la semana y nuevos informes se env\u00edan a los destinatarios.\u00a0<\/p>\n

Este enfoque identifica las principales c\u00edclicas, como la anual, mensual, trimestral y semanal. El pago de salarios y anticipos, los per\u00edodos de vacaciones, las fiestas y las rebajas: todo esto influye en la cantidad de consultas a los sistemas. Se descubri\u00f3, por ejemplo, que algunos ciclos se superponen, y la mayor carga (75%) en los sistemas proviene del Distrito Federal Central. Las personas jur\u00eddicas y f\u00edsicas se comportan de manera diferente. Si la carga de los 'f\u00edsicos' est\u00e1 relativamente distribuida de manera uniforme a lo largo de la semana (hay muchas transacciones peque\u00f1as), para las empresas, el 99.9% ocurre durante el horario laboral, adem\u00e1s, las transacciones pueden ser cortas, aunque algunas pueden procesarse durante varios minutos e incluso horas.<\/p>\n

\"Monitoreo
\n
\nBasado en los datos recopilados, se determinan las tendencias a largo plazo. El nuevo sistema ha revelado que las personas est\u00e1n abandonando masivamente las operaciones bancarias en l\u00ednea. Todos lo saben, pero no esper\u00e1bamos tal magnitud y al principio no lo cre\u00edmos: la cantidad de visitas a las sucursales del banco est\u00e1 disminuyendo de manera extremadamente r\u00e1pida, y al mismo tiempo, el n\u00famero de transacciones a distancia est\u00e1 aumentando en la misma proporci\u00f3n. Por lo tanto, la carga en los sistemas tambi\u00e9n est\u00e1 creciendo y seguir\u00e1 creciendo. Ahora pronosticamos la carga hasta febrero de 2020. Los d\u00edas normales se pueden predecir con un margen de error del 3%, y los picos, con un margen del 10%. Este es un buen resultado.<\/p>\n

Puntos ocultos<\/h2>\n

\nSin dificultades, como suele ocurrir, no ha sido. El mecanismo de extrapolaci\u00f3n que utiliza series de Fourier no se comporta bien al pasar por cero: sabemos que los fines de semana las entidades legales generan pocas transacciones, pero el m\u00f3dulo de predicci\u00f3n arroja valores lejanos de cero. Se podr\u00eda haber corregido forzosamente, pero esas soluciones improvisadas no son nuestro m\u00e9todo. Adem\u00e1s, tuvimos que resolver el problema de la extracci\u00f3n indolora de datos de sistemas fuente. La recolecci\u00f3n regular de informaci\u00f3n requiere serios recursos computacionales, por lo que construimos cach\u00e9s r\u00e1pidas utilizando replicaci\u00f3n, obteniendo datos de negocio ya de las r\u00e9plicas. La ausencia de carga adicional en los sistemas principales en tales casos es un requisito bloqueante.<\/p>\n

Nuevos desaf\u00edos<\/h2>\n

\nLa tarea planteada de prever picos fue resuelta: no ha habido fallos relacionados con la sobrecarga en el banco desde mayo de este a\u00f1o, y el nuevo sistema de previsi\u00f3n ha jugado un papel importante en esto. S\u00ed, result\u00f3 ser insuficiente, y ahora el banco quiere entender cu\u00e1n peligrosos son los picos. Necesitamos pron\u00f3sticos utilizando m\u00e9tricas de pruebas de carga, y para aproximadamente el 30% de los sistemas cr\u00edticos ya funciona, los dem\u00e1s est\u00e1n en proceso de obtener pron\u00f3sticos. En la siguiente fase, planeamos predecir la carga en los sistemas no en transacciones de negocio, sino en t\u00e9rminos de infraestructura de TI, es decir, descenderemos a un nivel inferior. Adem\u00e1s, necesitamos automatizar completamente la recolecci\u00f3n de m\u00e9tricas y la construcci\u00f3n de pron\u00f3sticos sobre la base de ellas, para no tener que lidiar con exportaciones. No hay nada excepcional en esto: simplemente estamos cruzando la monitorizaci\u00f3n y las pruebas de carga de acuerdo con las mejores pr\u00e1cticas mundiales.
\n
Fuente: habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"

IT-\u0434\u0435\u043f\u0430\u0440\u0442\u0430\u043c\u0435\u043d\u0442\u0443 \u0412\u0422\u0411 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0437 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043b\u043e\u0441\u044c \u0441\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u0441 \u043d\u0435\u0448\u0442\u0430\u0442\u043d\u044b\u043c\u0438 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f\u043c\u0438 \u0432 \u0440\u0430\u0431\u043e\u0442\u0435 \u0441\u0438\u0441\u0442\u0435\u043c, \u043a\u043e\u0433\u0434\u0430 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u043d\u0430 \u043d\u0438\u0445 \u043c\u043d\u043e\u0433\u043e\u043a\u0440\u0430\u0442\u043d\u043e \u0432\u043e\u0437\u0440\u0430\u0441\u0442\u0430\u043b\u0430. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u043e\u044f\u0432\u0438\u043b\u0430\u0441\u044c \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0438 \u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0430 \u0431\u044b \u043f\u0438\u043a\u043e\u0432\u0443\u044e \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u043d\u0430 \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u044b\u0435 \u0441\u0438\u0441\u0442\u0435\u043c\u044b. \u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e IT-\u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0441\u0442\u044b \u0431\u0430\u043d\u043a\u0430 \u043d\u0430\u0441\u0442\u0440\u043e\u0438\u043b\u0438 \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433, \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u043d\u0430\u0443\u0447\u0438\u043b\u0438\u0441\u044c \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u044b. \u041a\u0430\u043a\u0438\u0435 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b \u043f\u043e\u043c\u043e\u0433\u043b\u0438 \u0441\u043f\u0440\u043e\u0433\u043d\u043e\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c \u043b\u0438 \u0441 \u0438\u0445 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29368,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[688],"tags":[],"class_list":["post-39133","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-administrirovanie"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\n","aioseo_head_json":{"title":"\ud83e\udd47Monitoreo + pruebas de carga = previsi\u00f3n y ausencia de fallos | ProHoster","description":"El departamento de TI de VTB ha tenido que enfrentar varias situaciones excepcionales en el funcionamiento de los sistemas, cuando la carga sobre ellos aumentaba m\u00faltiples veces.","canonical_url":"https:\/\/prohoster.info\/es\/blog\/administrirovanie\/monitoring-nagruzochnoe-testirovanie-prognozirovanie-i-otsutstvie-sboev","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"es_ES","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433 + \u043d\u0430\u0433\u0440\u0443\u0437\u043e\u0447\u043d\u043e\u0435 \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 = \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0435 \u0441\u0431\u043e\u0435\u0432 | ProHoster","og:description":"IT-\u0434\u0435\u043f\u0430\u0440\u0442\u0430\u043c\u0435\u043d\u0442\u0443 \u0412\u0422\u0411 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0437 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043b\u043e\u0441\u044c \u0441\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u0441 \u043d\u0435\u0448\u0442\u0430\u0442\u043d\u044b\u043c\u0438 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f\u043c\u0438 \u0432 \u0440\u0430\u0431\u043e\u0442\u0435 \u0441\u0438\u0441\u0442\u0435\u043c, \u043a\u043e\u0433\u0434\u0430 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u043d\u0430 \u043d\u0438\u0445 \u043c\u043d\u043e\u0433\u043e\u043a\u0440\u0430\u0442\u043d\u043e \u0432\u043e\u0437\u0440\u0430\u0441\u0442\u0430\u043b\u0430.","og:url":"https:\/\/prohoster.info\/es\/blog\/administrirovanie\/monitoring-nagruzochnoe-testirovanie-prognozirovanie-i-otsutstvie-sboev","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T19:28:01+00:00","article:modified_time":"2019-10-31T19:28:01+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"39133","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-24 00:53:19","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 00:55:36","updated":"2026-01-24 00:53:19","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/posts\/39133","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/comments?post=39133"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/posts\/39133\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/media\/29368"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/media?parent=39133"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/categories?post=39133"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/tags?post=39133"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}