{"id":55870,"date":"2020-01-30T00:00:00","date_gmt":"2020-01-29T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/ot-skriptov-k-sobstvennoj-platforme-kak-my-avtomatizirovali-razrabotku-v-tsian"},"modified":"2020-02-18T14:04:02","modified_gmt":"2020-02-18T11:04:02","slug":"ot-skriptov-k-sobstvennoj-platforme-kak-my-avtomatizirovali-razrabotku-v-tsian","status":"publish","type":"post","link":"https:\/\/prohoster.info\/es\/blog\/administrirovanie\/ot-skriptov-k-sobstvennoj-platforme-kak-my-avtomatizirovali-razrabotku-v-tsian","title":{"rendered":"De scripts a nuestra propia plataforma: c\u00f3mo automatizamos el desarrollo en CIAN","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

\"De
\n
\nEn RIT 2019, nuestro colega Alexander Korotkov hizo de Vladimir Leshchenko<\/a><\/noindex> una presentaci\u00f3n sobre la automatizaci\u00f3n del desarrollo en CIAN: para simplificar la vida y el trabajo, usamos nuestra propia plataforma Integro. Esta plataforma rastrea el ciclo de vida de las tareas, elimina operaciones rutinarias de los desarrolladores y reduce notablemente la cantidad de errores en producci\u00f3n. En esta publicaci\u00f3n complementaremos la presentaci\u00f3n de Alexander y contaremos c\u00f3mo pasamos de simples scripts a integrar productos de c\u00f3digo abierto a trav\u00e9s de nuestra propia plataforma y qu\u00e9 hace un equipo separado de automatizaci\u00f3n.
\n\u00a0<\/a><\/noindex><\/p>\n

Nivel cero<\/h2>\n

\n\u00abNo existe el nivel cero, no s\u00e9 de eso\u00bb<\/b>
\nMaestro Shifu de la pel\u00edcula \u00abKung Fu Panda\u00bb<\/i><\/p>\n

La automatizaci\u00f3n en CIAN comenz\u00f3 14 a\u00f1os despu\u00e9s de la fundaci\u00f3n de la empresa. En ese momento, hab\u00eda 35 personas en el equipo de desarrollo. Dif\u00edcil de creer, \u00bfverdad? Por supuesto, de alguna manera exist\u00eda la automatizaci\u00f3n, pero la direcci\u00f3n espec\u00edfica de integraci\u00f3n continua y entrega de c\u00f3digo comenz\u00f3 a formarse precisamente en 2015.\u00a0<\/p>\n

En ese momento, ten\u00edamos un enorme monolito hecho en Python, C# y PHP, desplegado en servidores Linux\/Windows. Para desplegar este monstruo, ten\u00edamos un conjunto de scripts que ejecut\u00e1bamos manualmente. Tambi\u00e9n hab\u00eda la construcci\u00f3n del monolito, que tra\u00eda dolor y sufrimiento debido a conflictos al fusionar ramas, corregir defectos y reconstruir \u00abcon otro conjunto de tareas en la construcci\u00f3n\u00bb. Simplificando, el proceso se ve\u00eda as\u00ed:<\/p>\n

\"De
\n
\nNo est\u00e1bamos conformes con esto, y quer\u00edamos construir un proceso de construcci\u00f3n y despliegue repetible, automatizado y controlado. Para esto necesit\u00e1bamos un sistema CI\/CD, y est\u00e1bamos eligiendo entre la versi\u00f3n gratuita de Teamcity y Jenkins gratuito, ya que hab\u00edamos trabajado con ambos y cumpl\u00edan con nuestras necesidades funcionales. Elegimos Teamcity como el producto m\u00e1s reciente. En ese momento, a\u00fan no us\u00e1bamos arquitectura de microservicios y no esper\u00e1bamos un gran n\u00famero de tareas y proyectos.<\/p>\n

Llegamos a la idea de un sistema propio<\/h2>\n

\nLa implementaci\u00f3n de Teamcity elimin\u00f3 solo una parte del trabajo manual: a\u00fan quedaba la creaci\u00f3n de Pull Requests, el avance de las tareas en Jira y la selecci\u00f3n de tareas para el lanzamiento. Con esto, el sistema Teamcity ya no pod\u00eda manejarlo. Era necesario elegir un camino para una mayor automatizaci\u00f3n. Consideramos opciones de trabajo con scripts en Teamcity o la transici\u00f3n a sistemas de automatizaci\u00f3n de terceros. Pero al final decidimos que necesit\u00e1bamos la m\u00e1xima flexibilidad que solo una soluci\u00f3n propia podr\u00eda ofrecer. As\u00ed naci\u00f3 la primera versi\u00f3n de un sistema de automatizaci\u00f3n interno llamado Integro.<\/p>\n

Teamcity se encarga de la automatizaci\u00f3n a nivel de inicio de procesos de compilaci\u00f3n y despliegue, mientras que Integro se enfoc\u00f3 en la automatizaci\u00f3n de alto nivel de los procesos de desarrollo. Era necesario combinar el trabajo con las tareas en Jira con el procesamiento del c\u00f3digo fuente relacionado en Bitbucket. En esta etapa, dentro de Integro comenzaron a aparecer sus propios flujos de trabajo para gestionar tareas de diferentes tipos.\u00a0<\/p>\n

Debido al aumento de la automatizaci\u00f3n en los procesos empresariales, creci\u00f3 el n\u00famero de proyectos y ejecuciones en Teamcity. As\u00ed surgi\u00f3 un nuevo problema: un solo instancia gratuita de Teamcity ya no era suficiente (3 agentes y 100 proyectos), a\u00f1adimos otra instancia (otros 3 agentes y 100 proyectos), y luego otra m\u00e1s. Como resultado, obtuvimos un sistema de varios cl\u00fasteres que era dif\u00edcil de gestionar:<\/p>\n

\"De
\n
\nCuando surgi\u00f3 la necesidad de una cuarta instancia, nos dimos cuenta de que no pod\u00edamos continuar as\u00ed, ya que los costos totales de mantenimiento de 4 instancias ya no eran sostenibles. Surgi\u00f3 la pregunta sobre la compra de Teamcity de pago o optar por Jenkins gratuito. Realizamos c\u00e1lculos sobre instancias y planes de automatizaci\u00f3n y decidimos que vivir\u00edamos con Jenkins. Pasadas unas semanas, cambiamos a Jenkins y nos libramos de parte del dolor de cabeza relacionado con el mantenimiento de varias instancias de Teamcity. Por lo tanto, pudimos centrarnos en el desarrollo de Integro y en adaptar Jenkins a nuestras necesidades.<\/p>\n

Con el crecimiento de la automatizaci\u00f3n b\u00e1sica (en forma de creaci\u00f3n autom\u00e1tica de Pull Requests, recolecci\u00f3n y publicaci\u00f3n de cobertura de c\u00f3digo y otras verificaciones) surgi\u00f3 un deseo persistente de renunciar al lanzamiento manual y dejar este trabajo a los robots. Adem\u00e1s, dentro de la empresa comenz\u00f3 la migraci\u00f3n a microservicios, que requer\u00edan lanzamientos frecuentes, separados uno del otro. As\u00ed, poco a poco, llegamos a lanzamientos autom\u00e1ticos de nuestros microservicios (por ahora, seguimos lanzando el monolito manualmente debido a la complejidad del proceso). Pero, como suele suceder, surgi\u00f3 una nueva dificultad.\u00a0<\/p>\n

Automatizamos las pruebas<\/h2>\n

\n\"De
\n
\nDebido a la automatizaci\u00f3n de los lanzamientos, los procesos de desarrollo se aceleraron parcialmente al omitir algunos pasos de prueba. Esto llev\u00f3 a una p\u00e9rdida temporal de calidad. Suena trivial, pero junto con la aceleraci\u00f3n de los lanzamientos, tambi\u00e9n hubo que cambiar la metodolog\u00eda de desarrollo del producto. Era necesario considerar la automatizaci\u00f3n de las pruebas, fomentar la responsabilidad personal (se refiere a 'adoptar la idea en la mente', no a sanciones monetarias) del desarrollador por el c\u00f3digo que produce y los errores en \u00e9l, as\u00ed como la decisi\u00f3n de publicar\/no publicar tareas a trav\u00e9s de un despliegue autom\u00e1tico.\u00a0<\/p>\n

Al abordar los problemas de calidad, llegamos a dos decisiones importantes: comenzamos a realizar pruebas canarias e implementamos un monitoreo autom\u00e1tico de errores con respuesta autom\u00e1tica ante su aumento. La primera decisi\u00f3n permiti\u00f3 detectar errores evidentes antes de que el c\u00f3digo llegara a producci\u00f3n, y la segunda redujo el tiempo de respuesta a problemas en producci\u00f3n. Por supuesto, los errores ocurren, pero dedicamos la mayor parte del tiempo y esfuerzo no a corregirlos, sino a minimizarlos.\u00a0<\/p>\n

Equipo de automatizaci\u00f3n<\/h2>\n

\nActualmente contamos con un personal de 130 desarrolladores, y seguimos creciendo<\/a><\/noindex>. El equipo de integraci\u00f3n y entrega continua de c\u00f3digo (en adelante, equipo de Deploy and Integration o DI) est\u00e1 compuesto por 7 personas y trabaja en 2 \u00e1reas: el desarrollo de la plataforma de automatizaci\u00f3n Integro y DevOps.\u00a0<\/p>\n

DevOps se encarga de los entornos Dev\/Beta del sitio CIAN, del entorno Integro, ayuda a los desarrolladores a resolver problemas y desarrolla nuevos enfoques para escalar los entornos. La direcci\u00f3n de desarrollo de Integro trabaja tanto en Integro como en servicios relacionados, como complementos para Jenkins, Jira, Confluence, y tambi\u00e9n desarrolla utilidades y aplicaciones auxiliares para equipos de desarrolladores.\u00a0<\/p>\n

El equipo DI trabaja en conjunto con el equipo de la Plataforma, que se ocupa de desarrollar la arquitectura, bibliotecas y enfoques de desarrollo dentro de la empresa. Adem\u00e1s, cualquier desarrollador dentro de CIAN puede contribuir a la automatizaci\u00f3n, por ejemplo, realizando microautomatizaciones para las necesidades del equipo o compartiendo una gran idea sobre c\u00f3mo mejorar la automatizaci\u00f3n.<\/p>\n

La tarta de capas de automatizaci\u00f3n en CIAN<\/h2>\n

\n\"De
\n
\nTodos los sistemas involucrados en la automatizaci\u00f3n se pueden dividir en varias capas:<\/p>\n

    \n
  1. Sistemas externos (Jira, Bitbucket, etc.). Estos son los que utilizan los equipos de desarrollo.\n<\/li>\n
  2. Plataforma Integro. A menudo, los desarrolladores no trabajan directamente con ella, pero es la que soporta toda la automatizaci\u00f3n.\n<\/li>\n
  3. Servicios de entrega, orquestaci\u00f3n y descubrimiento (por ejemplo, Jenkins, Consul, Nomad). Con ellos desplegamos c\u00f3digo en servidores y aseguramos la operatividad de los servicios entre s\u00ed.\n<\/li>\n
  4. Nivel f\u00edsico (servidores, sistemas operativos, software relacionado). En este nivel opera nuestro c\u00f3digo. Puede ser tanto un servidor f\u00edsico como uno virtual (LXC, KVM, Docker).\n<\/li>\n<\/ol>\n

    \nBas\u00e1ndonos en este concepto, dividimos las \u00e1reas de responsabilidad dentro del equipo DI. Los dos primeros niveles est\u00e1n bajo la responsabilidad de la direcci\u00f3n de desarrollo de Integro, mientras que los dos \u00faltimos niveles son responsabilidad de DevOps. Esta divisi\u00f3n permite enfocarse en las tareas y no interfiere con la interacci\u00f3n, ya que estamos cerca unos de otros y constantemente compartimos conocimientos y experiencias.<\/p>\n

    Integro<\/h2>\n

    \nEnfoqu\u00e9monos en Integro y comencemos con la pila tecnol\u00f3gica:<\/p>\n