우리는 시간, 신경, 인력을 절약합니다.

우리 프로젝트는 대개 지역적이며 클라이언트는 대개 사역입니다. 그러나 공공 부문 외에도 민간 조직에서도 우리 시스템을 사용하고 있습니다. 실제로는 문제가 없습니다.

따라서 주요 프로젝트는 지역적이며 때로는 문제가 있습니다. 예를 들어, 성능의 경우 제품 서버에 새로운 기능을 출시하는 기간 동안 지역의 소중한 사용자가 20명이 넘습니다. 그것은 고통이다…

제 이름은 Ruslan이고 BARS 그룹의 정보 시스템을 지원하며 폭력적인 연쇄 DBA를 위한 킬러봇 개발. 이 게시물은 마음이 약한 사람들을 위한 것이 아닙니다. 많은 편지와 그림이 있습니다.

/awr

일부 애플리케이션은 Oracle DBMS에서 실행됩니다. PostgreSQL DBMS에도 프로젝트가 있습니다. 오라클은 DBMS의 로드에 대한 통계를 수집하여 기존 문제를 강조하고 제거를 위한 권장 사항을 제시하는 AWR(자동 작업 로드 저장소)이라는 놀라운 기능을 가지고 있습니다. 어느 시점(즉, 고통의 순간)에 개발자들은 끊임없이 수집을 요청했습니다. 성능 분석을 위한 AWR 보고서. 우리는 정직하게 DBMS 서버에 가서 보고서를 수집하고 우리에게 가져가 분석을 위해 프로덕션으로 보냈습니다. 5번부터는 짜증나고... 10번부터는 짜증나고...

내 동료 중 한 명이 한 번 이상 수행되는 모든 작업은 자동화되어야 한다는 생각을 표현한 적이 있습니다. 솔직히 말해서 짜증나는 순간까지 그것에 대해 생각하지 않고 자동화할 수 있는 모든 것을 자동화하려고 노력했지만 종종 수요가 없었고 응용 성격보다는 연구에 더 가깝습니다.

그리고 나는 이렇게 생각했습니다. "보고서를 생성하는 데 관리자는 필요하지 않습니다...". 결국 보고서를 수집한다는 것은 SQL 스크립트 @$ORACLE_HOME/rdbms/admin/awrrpt.sql을 실행하고 서버에서 보고서를 사용자 위치로 가져오는 것을 의미합니다... 아 예, 프로덕션용 개발은 허용되지 않습니다.

그런 다음 필요한 정보를 검색하고, 테스트 기반의 기사에서 함수를 생성하고, 스크립트를 실행하고 기적을 일으켰습니다. 보고서가 컴파일되어 로컬에 저장될 수 있습니다. AWR 보고서가 자주 필요한 기능을 만들고 개발자에게 사용 방법을 알려주었습니다.

이 무렵, 여가 시간에 @BotFather와 이야기를 나눈 후 저는 단지 재미로 텔레그램 봇을 만들었습니다. 나는 거기에 간단한 기능을 추가했습니다. 현재 시간, 환율, 날씨를 표시하고 일정에 따라 아내 (당시 여자 친구)에게 칭찬을 보내는 방법을 가르쳤습니다. 아마도 그 당시에는 칭찬을 보내는 것이 내 봇의 가장 인기 있는 기능이었고 아내도 이를 높이 평가했을 것입니다.

그래서. 개발자는 텔레그램으로 우리에게 편지를 쓰고, 우리는 텔레그램으로 그들에게 보고서를 보냅니다... 그들이 우리에게 편지를 쓰지 않고 봇에게 편지를 쓴다면 어떻게 될까요? 결국 모든 사람에게 더 좋을 것이며 보고서는 더 빨리 수신될 것이며 가장 중요한 것은 우리를 우회한다는 것입니다. 이것이 내 봇의 첫 번째 인기 기능에 대한 아이디어가 탄생한 방법입니다.

구현을 시작했습니다. 저는 최선을 다해 PHP로 그 일을 했습니다. (우리 애플리케이션 자체는 PHP에 있고, 저는 Python보다 PHP에 더 정통합니다.) 저는 코딩을 잘 못하는 편이라 코드는 보여드리지 않겠습니다 :)

봇은 회사 네트워크에 상주하며 대상 데이터베이스를 포함한 특정 프로젝트에 액세스할 수 있습니다. 팀이나 메뉴의 매개 변수에 신경 쓰지 않기 위해 모니터링 알림과 함께 그룹 채팅에 이 기능을 추가했습니다. 이렇게 하면 봇은 어떤 데이터베이스에서 보고서를 수집할지 즉시 알 수 있습니다.

다음과 같은 명령을 받았을 때 /awr N여기서 N은 보고서가 필요한 전체 시간(기본적으로 1시간)입니다. 일주일 동안이라도 데이터베이스가 다시 시작되지 않은 경우 봇은 즉시 작업을 시작하고 보고서를 수집하여 웹 페이지를 방문하면 즉시(거의 바로 거기) 꼭 필요한 보고서에 대한 링크를 제공합니다.

링크를 따라가면 AWR 보고서가 있습니다.

예상대로 개발자들은 이러한 보고서 생성에 대처했고 일부는 우리에게 감사를 표하기도 했습니다.

팀의 편리함을 높이 평가한 다른 지역의 프로젝트 관리자도 고객으로부터 가장 많은 것을 받고 시스템의 성능과 가용성에 대해 걱정하기 때문에 동일한 것을 원했습니다. 다른 채팅에 봇을 추가했습니다. 그들은 아직도 그것을 사용하고 있고 나는 그것에 대해 기쁩니다.

나중에 CIT의 동료들도 우리가 보고서를 수집하는 방법을 알게 되었고 그렇게 하고 싶어했습니다. 나는 채팅에 추가하지 않았고 일정과 요청에 따라 보고서 생성과 별도의 채팅을 만들었습니다.

/pgBadger

PostgreSQL과 함께 PHP로 된 다른 애플리케이션도 있습니다. 나는 그룹 채팅에서 동일한 원칙을 사용하여 도움이 필요한 사람들을 위한 pgBadger 보고서 모음을 구현했습니다. 처음에는 사용하다가 중단되었습니다. 불필요한 기능은 삭제되었습니다.

/의무

우리 부서에는 야간 근무가 있으므로 일정이 있습니다. Google 스프레드시트에 있습니다. 링크를 찾고, 차트를 열고, 자신을 찾는 것이 항상 편리한 것은 아닙니다... 이전 동료 중 한 명이 텔레그램 봇을 가지고 놀면서 우리 부서 채팅에 소개했습니다. 부서 직원의 근무 교대 시작에 대한 알림. 봇은 일정을 분석하고 현재 날짜까지 근무자를 결정하며 일정에 따라 또는 요청 시 오늘 근무자가 누구인지 보고합니다. 훌륭하고 편리했습니다. 사실, 메시지 형식이 별로 마음에 들지 않았습니다. 또한 다른 부서(예: BC "Medicine")의 직원의 경우 다른 방향으로 근무하는 사람에 대한 정보는 실제로 필요하지 않지만 문제가 있는 경우 "Medicine"에서 근무하는 사람이 누구인지 알아야 합니다. 나는 기능을 "차용"하기로 결정했지만 마음에 들지 않는 부분을 변경했습니다. 불필요한 정보를 제거하고 나 자신과 다른 사람들에게 편리한 메시지 형식을 만들었습니다.

/tnls

텔레그램 봇을 활용해 자동화를 시도해보니 다양한 아이디어가 나왔지만 꼭 필요한 일만 하고 싶었습니다. 나는 리드하기로 결정했다 요청에 대한 통계. 고객의 프로젝트에 액세스하기 위해 소위 "점프 서버" 또는 포워딩 서버를 구현했습니다. VPN 연결이 생성된 다음 애플리케이션 포트, 데이터베이스 및 기타 보조 전달이 SSH를 통해 로컬 네트워크로 전달되므로 VPN 연결 문제 없이 직원의 프로젝트에 쉽게 액세스할 수 있습니다. 귀하가 해야 할 일은 회사 네트워크에 대한 VPN 연결을 설정하는 것뿐입니다.

요청 통계에 따르면 터널 중 하나에 장애가 발생한 후(예: 시간 초과로 인해 네트워크 문제가 발생한 경우) 사람들이 프로젝트에 대한 액세스 복원에 대해 문의하는 경우가 많습니다. 대부분의 경우 연결을 다시 시작하는 것만으로도 충분하며 모든 것이 정상입니다. 스스로 해보자. 명령은 다음과 같습니다.


원하는 메뉴 항목에 "들어가서" 프로젝트를 선택하고 잠시 기다리면 모두가 행복하고 만족해합니다...

명령을 수신하면 바이트와 비트가 약간 이동하면서 봇은 전달 서버에 연결하여 어떤 전달을 다시 시작해야 하는지 미리 알고 해당 작업을 수행합니다. 즉, 프로젝트에 대한 연결을 복원합니다. 이러한 문제를 스스로 해결할 수 있도록 지침을 작성했습니다. 그리고 사람들은 제공된 도구가 작동하지 않는 경우에만 우리에게 연락했습니다...

/ecp_to_pem

추가 통계에 따르면 전환이 필요한 경우가 많습니다. Pem 형식의 EDS Crypto Pro(베이스) 다양한 통합을 위해 많은 기능을 보유하고 있습니다. 작업: 컨테이너를 가져와 P12FromGostCSP 유틸리티가 설치된(유료) Windows 컴퓨터에 복사하고 pfx로 변환한 다음 OpenSSL(GOST 암호화 지원)을 사용하여 pfx를 pem으로 변환합니다. 그다지 편리하지는 않지만 손가락으로 튕겨서 사용하기를 원합니다.

Google이 다시 구조에 나섰습니다. 설립하다 어떤 종류의 사람의 유용성. README에 적힌 대로 조립했습니다. 작동했습니다. 나는 봇에게 유틸리티 작업 방법을 가르쳤고 거의 즉각적인 변환을 얻었습니다.


최종 구현 시점에 새로운 암호화 형식인 gost-2012로 전환하라는 명령이 내려졌습니다. 내가 기억하는 한 그 당시 유틸리티는 이전 GOST (2001)에서만 작동했으며 아마도 다른 친절한 사람의 또 다른 유사한 유틸리티 였을 것입니다. 정확히 기억이 나지 않습니다.
새로운 GOST로 전환한 후 보안상의 이유로 봇 기능이 제거되었습니다. 도커 컨테이너로 구현했습니다.

Dockerfile(필요한 경우를 대비해):

FROM ubuntu:16.04                                                                                                                                                                        
RUN apt update && apt -y install git sudo wget unzip gcc g++ make &&                        
   cd /srv/ && git clone https://github.com/kov-serg/get-cpcert.git &&                     
   cd get-cpcert && chmod +x *.sh && ./prepare.sh && ./build.sh &&                         
   mkdir -p /srv/{in,out} &&                                                               
   echo '#!/bin/bash' > /srv/getpem.sh &&                                                  
   echo 'cd /srv/get-cpcert' >> /srv/getpem.sh &&                                          
   echo './get-cpcert /srv/in/$CONT.000 $PASS > /srv/out/$CONT.pem' >> /srv/getpem.sh &&   
   chmod +x /srv/getpem.sh                                                                  ENTRYPOINT /srv/getpem.sh

변환하려면 원본 컨테이너(xxx.000과 같은 디렉터리)를 /srv/in 디렉터리에 배치하고 완성된 pem을 /srv/out으로 가져와야 합니다.

변환하다:

 docker run -t -i -e CONT='<имя директории с контейнером(без ".000")>' -e PASS='<пароль для контейнера>' -v /srv/in:/srv/in -v /srv/out:/srv/out --name ecptopem <адрес нашего репозитория>/med/ecptopem:latest 

/emstop 및 /emstart

어느 날, DBMS 관리 및 개발 경험이 풍부한 아주 멋진 Oracle DBA가 우리 회사에 입사했습니다. 그리고 즉시 ssh를 사용하여 DBMS 서버에 연결하는 데 문제가 발생했습니다. 어디서 어떻게 연결해야 할지 모르거나, 액세스 방법이 명확하게 설명되지 않았거나, 필요한 내용을 자신에게 전달할 수 없었습니다. 저희는 기꺼이 도와드리고 그에게 연결 방법을 알려주고 Enterprise Manager를 전달했습니다. 하지만 여전히 ssh에서는 문제가 해결되지 않았습니다. 내 동료 중 한 명이 순종 DBA라고 간단하게 설명했습니다. :) 서버에서 뭔가를 조정해야 할 경우 직접 수행하기로 결정했습니다.

EM은 가끔 과부하로 인해 충돌이 발생하는데, 다시 시작하려면... SSH로 연결하고 터미널을 통해 다시 시작해야 합니다. “관리자들은 이 일을 잘합니다.”라고 새로운 동료가 결정했습니다. DBMS에 대한 과도한 로드는 드문 일이 아니며 EM을 다시 시작하라는 요청도 일반적입니다. 그런 다음 동일한 시나리오가 발생합니다. 긴장, 짜증, 문제에 대한 해결책 찾기. 따라서 동일한 그룹 채팅에서 다음 명령이 나타났습니다. /emstop 및 /emstart.

/죽임

데이터베이스에 대한 경쟁이 심하고 가끔 이런 일이 발생하는 경우 데이터베이스를 빠르게 언로드해야 합니다. 가장 빠른 방법은 문제가 있는 프로세스를 종료하는 것입니다... 이렇게 하려면 SSH를 통해 연결하고 kill -9... 봇이 도움이 될 것입니다!

Alexey는 팀에 감사하고 애정 어린 이름을 부여했습니다. "킬얄카" 아니면 총.
어느 날 Alexey가 각 프로세스에 대해 매번 /kill xxx를 입력하면서 어떻게 노력하고 고통을 겪는지 관찰한 후 총에 "다중 배럴"을 추가하기로 결정했습니다.

그게 낫다! 모든 것이 당신을위한 것입니다, Alexey, 그냥 일하세요!

당연히 이렇게 중요한 팀은 제한적이었습니다. user_id로 액세스 - "완전". Lesha가 데이터베이스 서버에서 프로세스를 능숙하게 죽이는 것을 본 몇몇 사람들은 임의의 프로세스 번호로 명령을 입력하려고 시도했지만 내 스마트 봇을 속일 수는 없었습니다. Lesha는 즉시 거부했습니다.

/경고로그

글쎄요, 만약을 대비해서 저는 다음과 같은 명령을 내렸습니다.
/alertlog <줄 수> — 지정된 수의 경고 로그 줄을 가져옵니다.
봇은 경고 로그를 가져와서 이를 pyste라고 하는 Pastebin과 같은 서비스로 보내고 붙여넣기에 대한 링크를 요청 채팅으로 보냅니다.

/체크 무늬

다음으로 요청이 왔습니다. 애플리케이션의 실제 성능을 모니터링합니다. 지금까지는 프로젝트 기술 지원팀에서 이 데이터를 수동으로 수집했습니다. 문제 없어! 우리의 용감한 테스터들은 이에 대한 테스트 사례를 개발했습니다. 결과 테스트 로그는 읽기가 그리 편리하지 않습니다. 경험이 없는 사용자는 이해하는 데 오랜 시간이 걸리고 필요한 정보를 강조 표시할지 확신할 수 없습니다. 그리고 우리는 손으로 할 수 없는 일을 손으로 하는 것을 좋아하지 않습니다... 봇을 위한 새로운 작업입니다!

/checks 명령은 간단하고 명확한 메뉴를 표시합니다. 이번에는 지침 없이 이 명령을 사용하는 방법을 배웠습니다!

원하는 항목을 선택하면 메뉴 대신 테스트 시작 알림이 표시되므로 조급한 사용자가 테스트를 100500번 실행하지 않아도 됩니다.

선택한 메뉴 항목에 따라 특정 테스트가 네트워크, 즉 봇이 있는 시스템(jmeter가 사전 구성되어 있고 필요한 테스트가 있는 위치...)에서 시작되거나 데이터 센터에서 직접(A에서) 시작됩니다. 지연 테스트 시 네트워크 연결을 제외하거나 최소한으로 줄이기 위해 애플리케이션 옆에 준비된 머신).

테스트를 완료하고 로그를 받은 후 봇은 이를 구문 분석하고 "사람이 읽을 수 있는" 형식으로 결과를 생성합니다.

측정항목 수집

기능이 출시되었으며 관심 있는 프로젝트 관리자는 해당 지역에 대한 기능을 받았습니다. 그리고 한 동정심 많은 프로젝트 관리자는 이렇게 말했습니다. “나는 시간 통계를 갖고 싶습니다!” CIT의 누군가가 Zabbix에서 이 모든 것을 모니터링하는 것이 편리할 것이라고 말했습니다. 자빅스, 그러니까 자빅스...

솔루션을 복제해야 할 필요성에 대비해야 한다고 생각했는데... 아이디어를 도커 컨테이너에 담았습니다. 컨테이너에서 jmeter는 일정에 따라(10분마다 한 번씩) 실행되고 로그를 특정 위치에 배치하며 PHP는 이를 구문 분석하고 필요한 데이터를 웹 페이지 형식으로 표시합니다. web.page.get 키를 사용하는 Zabbix는 이 페이지를 수신하고 정기적으로 특정 종속 요소에 필요한 데이터를 선택하고 그래프를 작성합니다.

나쁘지 않은 것 같아요. 그래프를 관찰함으로써 우리는 먼저 대략적인 애플리케이션 속도를 확인하고, 그래프에서 피크가 감지되면 "플러그"가 대략 어디에 있는지 알 수 있습니다. 간단 해. 지금까지는 한 지역에서만 수요가 있는 것으로 나타났지만 관심 있는 분들을 위해 복제할 준비가 되어 있습니다.

응용 프로그램 개발

유사한 작업에 대한 통계는 최근 작업을 단순화하고 촉진하기 위한 더 많은 아이디어를 불러일으켰습니다. 일부 프로젝트의 애플리케이션 서버에서는 주요 Crypto Pro 컨테이너를 설치해야 하며 그 중 다수가 있으며 디지털 서명은 시간이 지남에 따라 만료됩니다. 하루에 2개의 작업이 도착할 때도 있습니다. 그러나 저는 이러한 목적으로 봇을 사용하는 것이 안전하지 않다고 생각하여 애플리케이션에서 직접 기능을 생성하기로 결정했습니다. 당연히 승인 및 액세스 권한 확인이 필요합니다. 필요한 권한이 있는 경우 디지털 서명 작업, 설치, 삭제, 정보 보기 등을 위한 추가 메뉴 항목을 사용할 수 있습니다. 해당 기능은 현재 개발 중입니다. 결과적으로 이것은 그리 어렵지 않습니다. 기존 지침을 조금 읽고, 코드 예제를 살펴보고, 개발 경험이 더 많은 동료에게 물어본 다음 수행하면 됩니다. 연구 과정에서 응용 프로그램에 추가할 아이디어가 나타났습니다. 나는 나폴레옹 계획을 세우지 않을 것입니다. 개발이 있으므로 모두가 자신의 사업에 신경 쓰도록하십시오. 하지만 흥미롭기는 하지만 제가 직접 하고 있어요.

계획

내가 말했듯이, 우리 봇을 사용하기 위해 다양한 아이디어가 탄생했으며 일반적으로 "자동화 포인트"에 대한 아이디어를 적을 시간이 없었기 때문에 그 중 많은 아이디어가 잊혀졌습니다. 이제 나는 마음에 떠오르는 모든 것을 적으려고 노력하고 다른 사람들도 그렇게 하도록 권합니다.

하지만 알렉세이는 자신의 소원을 들어주는 것을 잊지 않습니다. 최신 것부터:
/kill_sql SQL_ID — 이 SQL_ID 요청으로 모든 세션을 종료합니다.
/kill_block - 루트 차단 세션을 종료합니다.
/show_em — EM 성능 사진 표시
그는 교활한 사람입니다. 그는 전화기에서 DBA를 바느질하고 싶어합니다 =)

이것이 우리가 조국의 이익을 위해 일하는 방식입니다!

일상적이고 흥미롭지 않은 작업을 어떻게 제거합니까?

읽은 내용이 흥미롭고 누군가에게 유용할 수도 있기를 바랍니다. 독자를 지루하게 할 시간은 없었습니다... 우리 모두에게 행운을 빕니다.

출처 : habr.com