Apejọ HighLoad ++ atẹle yoo waye ni Oṣu Kẹrin Ọjọ 6 ati 7, 2020 ni Awọn alaye St. . HighLoad ++ Moscow 2018. Hall "Moscow". Kọkànlá Oṣù 9, 15:00. Awọn wọnyi ati .
* Abojuto - lori ayelujara ati awọn atupale.
* Awọn idiwọn ipilẹ ti pẹpẹ ZABBIX.
* Solusan fun ibi ipamọ atupale igbelosoke.
* Imudara ti olupin ZABBIX.
* UI iṣapeye.
* Ni iriri awọn ọna ṣiṣe labẹ awọn ẹru ti o ju 40k NVPS.
* Awọn ipari kukuru.
Mikhail Makurov (lẹhin - MM): - Bawo ni gbogbo eniyan!
Maxim Chernetsov (lẹhin - MCH): - E kaasan!
MM: - Jẹ ki n ṣafihan Maxim. Max jẹ onimọ-ẹrọ abinibi, nẹtiwọki ti o dara julọ ti Mo mọ. Maxim ṣe alabapin ninu awọn nẹtiwọọki ati awọn iṣẹ, idagbasoke ati iṣẹ wọn.
MCH: – Ati Emi yoo fẹ lati so fun o nipa Mikhail. Mikhail jẹ idagbasoke C. O kowe ọpọlọpọ awọn solusan sisẹ ijabọ fifuye giga fun ile-iṣẹ wa. A n gbe ati ṣiṣẹ ni Urals, ni ilu ti awọn ọkunrin alakikanju Chelyabinsk, ni ile-iṣẹ Intersvyaz. Ile-iṣẹ wa jẹ olupese ti Intanẹẹti ati awọn iṣẹ tẹlifisiọnu USB fun eniyan miliọnu kan ni awọn ilu 16.
MM: - Ati pe o tọ lati sọ pe Intersvyaz jẹ diẹ sii ju olupese kan lọ, o jẹ ile-iṣẹ IT kan. Pupọ julọ awọn ojutu wa ni a ṣe nipasẹ ẹka IT wa.
A: lati awọn olupin ti n ṣatunṣe ijabọ si ile-iṣẹ ipe ati ohun elo alagbeka. Ẹka IT ni bayi ni awọn eniyan 80 ti o ni awọn agbara pupọ, pupọ pupọ.
Nipa Zabbix ati awọn oniwe-faaji
MCH: - Ati ni bayi Emi yoo gbiyanju lati ṣeto igbasilẹ ti ara ẹni ati sọ ni iṣẹju kan kini Zabbix jẹ (lẹhinna tọka si “Zabbix”).
Awọn ipo Zabbix funrararẹ bi eto ibojuwo-jade-ti-apoti. O ni ọpọlọpọ awọn ẹya ti o jẹ ki igbesi aye rọrun: awọn ofin imudara ilọsiwaju, API fun iṣọpọ, akojọpọ ati wiwa-laifọwọyi ti awọn ọmọ-ogun ati awọn metiriki. Zabbix ni ohun ti a npe ni awọn irinṣẹ wiwọn - awọn aṣoju. Zabbix jẹ eto orisun ṣiṣi.
Ni soki nipa faaji. A le sọ pe o ni awọn ẹya mẹta:
- Olupin. Ti a kọ ni C. Pẹlu dipo siseto eka ati gbigbe alaye laarin awọn okun. Gbogbo ilana waye ninu rẹ: lati gbigba si fifipamọ si ibi ipamọ data.
- Gbogbo data ti wa ni ipamọ ni ibi ipamọ data. Zabbix ṣe atilẹyin MySQL, PostreSQL ati Oracle.
- Oju opo wẹẹbu ti kọ ni PHP. Lori ọpọlọpọ awọn ọna ṣiṣe o wa pẹlu olupin Apache, ṣugbọn ṣiṣẹ daradara siwaju sii ni apapo pẹlu nginx + php.
Loni a yoo fẹ lati sọ itan kan lati igbesi aye ile-iṣẹ wa ti o ni ibatan si Zabbix ...
Itan kan lati igbesi aye ti ile-iṣẹ Intersvyaz. Kini a ni ati kini a nilo?
5 tabi 6 osu seyin. Ni ọjọ kan lẹhin iṣẹ ...
MCH: - Misha, hello! Inu mi dun pe mo ṣakoso lati mu ọ - ibaraẹnisọrọ kan wa. A tun ni awọn iṣoro pẹlu abojuto. Lakoko ijamba nla kan, ohun gbogbo lọra ati pe ko si alaye nipa ipo ti nẹtiwọọki naa. Laanu, eyi kii ṣe igba akọkọ ti eyi ti ṣẹlẹ. Mo nilo iranlọwọ rẹ. Jẹ ki a jẹ ki ibojuwo wa ṣiṣẹ labẹ eyikeyi ayidayida!
MM: - Ṣugbọn jẹ ki a muṣiṣẹpọ ni akọkọ. Emi ko wo nibẹ ni ọdun meji kan. Gẹgẹ bi mo ti ranti, a fi Nagios silẹ ati yipada si Zabbix ni nkan bi ọdun 8 sẹhin. Ati nisisiyi a dabi pe a ni awọn olupin alagbara 6 ati nipa awọn aṣoju mejila. Ṣe Mo n daamu ohunkohun bi?
MCH: - Fere. Awọn olupin 15, diẹ ninu eyiti o jẹ awọn ẹrọ foju. Ohun pataki julọ ni pe ko gba wa la ni akoko ti a nilo rẹ julọ. Bii ijamba - awọn olupin naa fa fifalẹ ati pe o ko le rii ohunkohun. A gbiyanju lati je ki iṣeto ni, sugbon yi ko pese awọn ti aipe išẹ ilosoke.
MM: - O la gan an ni. Njẹ o ti wo nkan kan, ṣe o ti wa nkan tẹlẹ lati awọn iwadii aisan?
MCH: - Ohun akọkọ ti o ni lati ṣe pẹlu ni ibi ipamọ data. MySQL ti wa ni ikojọpọ nigbagbogbo, titoju awọn metiriki titun, ati nigbati Zabbix bẹrẹ ṣiṣẹda ọpọlọpọ awọn iṣẹlẹ, data data lọ sinu overdrive fun gangan awọn wakati diẹ. Mo ti sọ fun ọ tẹlẹ nipa iṣapeye iṣeto ni, ṣugbọn ni otitọ ni ọdun yii wọn ṣe imudojuiwọn ohun elo: awọn olupin naa ni diẹ sii ju ọgọrun gigabytes ti iranti ati awọn akopọ disiki lori SSD RAIDs - ko si aaye lati dagba ni laini ni igba pipẹ. Kini a ṣe?
MM: - O la gan an ni. Ni gbogbogbo, MySQL jẹ data data LTP kan. Nkqwe, ko dara fun titoju ibi ipamọ ti awọn metiriki ti iwọn wa. Jẹ ká ro ero o jade.
MCH: - Jẹ ká!
Integration ti Zabbix ati Clickhouse bi abajade ti hackathon
Lẹhin igba diẹ a gba data ti o nifẹ si:
Pupọ julọ aaye ti o wa ninu aaye data wa ti gba nipasẹ ibi ipamọ awọn metiriki ati pe o kere ju 1% ti a lo fun iṣeto ni, awọn awoṣe ati awọn eto. Ni akoko yẹn, a ti n ṣiṣẹ ojutu data nla ti o da lori Clickhouse fun diẹ sii ju ọdun kan lọ. Itọsọna ti gbigbe jẹ kedere si wa. Ni Hackathon orisun omi wa, Mo kowe isọpọ ti Zabbix pẹlu Clickhouse fun olupin ati iwaju iwaju. Ni akoko yẹn, Zabbix ti ni atilẹyin tẹlẹ fun ElasticSearch, ati pe a pinnu lati ṣe afiwe wọn.
Afiwera ti Clickhouse ati Elasticsearch
MM: - Fun lafiwe, a ṣe ipilẹṣẹ fifuye kanna bi olupin Zabbix ṣe pese ati wo bii awọn eto yoo ṣe huwa. A kowe data ni awọn ipele ti awọn laini 1000, ni lilo CURL. A ro ni ilosiwaju pe Clickhouse yoo jẹ daradara siwaju sii fun profaili fifuye ti Zabbix ṣe. Awọn abajade paapaa kọja awọn ireti wa:
Labẹ awọn ipo idanwo kanna, Clickhouse kowe data ni igba mẹta diẹ sii. Ni akoko kanna, awọn ọna ṣiṣe mejeeji jẹ daradara daradara (iye kekere ti awọn orisun) nigba kika data. Ṣugbọn Elastics nilo iye nla ti ero isise nigba gbigbasilẹ:
Ni apapọ, Clickhouse ti ga julọ si Eastix ni awọn ofin ti agbara ero isise ati iyara. Ni akoko kanna, nitori funmorawon data, Clickhouse nlo awọn akoko 11 kere si lori dirafu lile ati ṣiṣe ni isunmọ awọn akoko 30 diẹ awọn iṣẹ disiki:
MCH: - Bẹẹni, iṣẹ Clickhouse pẹlu eto inu disiki jẹ imuse daradara. O le lo awọn disiki SATA nla fun awọn apoti isura infomesonu ati gba awọn iyara kikọ ti awọn ọgọọgọrun egbegberun awọn laini fun iṣẹju kan. Eto-jade-ti-apoti ṣe atilẹyin sharding, ẹda, ati pe o rọrun pupọ lati tunto. A ni itẹlọrun diẹ sii pẹlu lilo rẹ jakejado ọdun.
Lati mu awọn orisun pọ si, o le fi Clickhouse sori ẹrọ lẹgbẹẹ data akọkọ ti o wa tẹlẹ ati nitorinaa ṣafipamọ ọpọlọpọ akoko Sipiyu ati awọn iṣẹ disiki. A ti gbe ibi ipamọ ti awọn metiriki si awọn iṣupọ Clickhouse ti o wa tẹlẹ:
A tu ibi ipamọ data MySQL akọkọ silẹ tobẹẹ ti a le darapọ lori ẹrọ kan pẹlu olupin Zabbix ki o fi olupin igbẹhin silẹ fun MySQL.
Bawo ni idibo ṣiṣẹ ni Zabbix?
4 osu seyin
MM: - Daradara, ṣe a le gbagbe nipa awọn iṣoro pẹlu ipilẹ?
MCH: - Iyẹn daju! Iṣoro miiran ti a nilo lati yanju ni gbigba data ti o lọra. Bayi gbogbo awọn olupin aṣoju 15 wa ti jẹ apọju pẹlu SNMP ati awọn ilana idibo. Ati pe ko si ọna ayafi lati fi sori ẹrọ titun ati olupin titun.
MM: - Nla. Ṣugbọn akọkọ, sọ fun wa bawo ni idibo ṣe n ṣiṣẹ ni Zabbix?
MCH: - Ni kukuru, awọn oriṣi 20 ti awọn metiriki ati awọn ọna mejila lati gba wọn. Zabbix le gba data boya ni ipo “ibeere-idahun”, tabi duro fun data tuntun nipasẹ “Trapper Interface”.
O ṣe akiyesi pe ninu atilẹba Zabbix ọna yii (Trapper) jẹ iyara julọ.
Awọn olupin aṣoju wa fun pinpin fifuye:
Awọn aṣoju le ṣe awọn iṣẹ ikojọpọ kanna gẹgẹbi olupin Zabbix, gbigba awọn iṣẹ-ṣiṣe lati ọdọ rẹ ati fifiranṣẹ awọn metiriki ti a gba nipasẹ wiwo Trapper. Eyi ni ọna ti a ṣeduro ni ifowosi lati pin ẹru naa. Awọn aṣoju tun wulo fun mimojuto awọn amayederun latọna jijin ti n ṣiṣẹ nipasẹ NAT tabi ikanni lọra:
MM: - Ohun gbogbo jẹ kedere pẹlu faaji. A nilo lati wo awọn orisun ...
A tọkọtaya ti ọjọ nigbamii
Itan bi nmap fping bori
MM: "Mo ro pe mo ti wa nkan kan."
MCH: - Sọ fun mi!
MM: - Mo ṣe awari pe nigbati o ba n ṣayẹwo wiwa, Zabbix sọwedowo ti o pọju 128 ogun ni akoko kan. Mo gbiyanju lati mu nọmba yii pọ si 500 ati yiyọ aarin-packet kuro ni ping (ping) wọn - eyi ṣe ilọpo meji iṣẹ naa. Sugbon Emi yoo fẹ awọn nọmba ti o tobi ju.
MCH: - Ninu iṣe mi, nigbami Mo ni lati ṣayẹwo wiwa ti ẹgbẹẹgbẹrun awọn ọmọ-ogun, ati pe Emi ko rii ohunkohun yiyara ju nmap fun eyi. Mo da mi loju pe eyi ni ọna ti o yara ju. Jẹ ká gbiyanju o! A nilo lati mu nọmba awọn ọmọ-ogun pọ si ni pataki fun aṣetunṣe.
MM: – Ṣayẹwo diẹ ẹ sii ju ẹdẹgbẹta? 600?
MCH: - O kere kan tọkọtaya ẹgbẹrun.
MM: - O DARA. Ohun pataki julọ ti Mo fẹ sọ ni pe Mo rii pe ibo pupọ julọ ni Zabbix ni a ṣe ni iṣọpọ. Dajudaju a nilo lati yi pada si ipo asynchronous. Lẹhinna a le ṣe alekun nọmba awọn metiriki ti a gba nipasẹ awọn oludibo, paapaa ti a ba pọ si nọmba awọn metiriki fun aṣetunṣe.
MCH: - Nla! Ati nigbawo?
MM: – Bi ibùgbé, lana.
MCH: - A ṣe afiwe awọn ẹya mejeeji ti fping ati nmap:
Lori nọmba nla ti awọn agbalejo, nmap ni a nireti lati ni imunadoko to ni igba marun. Niwọn igba ti nmap nikan n ṣayẹwo wiwa ati akoko idahun, a gbe iṣiro awọn adanu si awọn okunfa ati dinku ni pataki awọn aaye akoko ayẹwo wiwa wiwa. A rii nọmba ti o dara julọ ti awọn ọmọ-ogun fun nmap lati wa ni ayika 4 ẹgbẹrun fun aṣetunṣe. Nmap gba wa laaye lati dinku idiyele Sipiyu ti awọn sọwedowo wiwa ni igba mẹta ati dinku aarin lati awọn aaya 120 si 10.
Idibo iṣapeye
MM: “Lẹhinna a bẹrẹ ṣiṣe awọn oludibo. A nifẹ julọ ni wiwa SNMP ati awọn aṣoju. Ni Zabbix, idibo ni a ṣe ni iṣọkan ati pe a ti gbe awọn igbese pataki lati mu iṣẹ ṣiṣe ti eto naa pọ si. Ni ipo amuṣiṣẹpọ, wiwa alejo gbigba nfa ibajẹ idibo pataki. Gbogbo eto ti awọn ipinlẹ wa, awọn ilana pataki wa - eyiti a pe ni awọn oludibo ti ko le de ọdọ, eyiti o ṣiṣẹ nikan pẹlu awọn ọmọ ogun ti ko le de ọdọ:
Eyi jẹ asọye ti o ṣe afihan matrix ipinlẹ, gbogbo idiju ti eto awọn iyipada ti o nilo ki eto naa le munadoko. Ni afikun, idibo amuṣiṣẹpọ funrararẹ lọra pupọ:
Iyẹn ni idi ti ẹgbẹẹgbẹrun awọn ṣiṣan didi lori awọn dosinni ti awọn aṣoju ko le gba iye data ti a beere fun wa. Iṣe imuse asynchronous yanju kii ṣe awọn iṣoro pẹlu nọmba awọn okun nikan, ṣugbọn tun jẹ irọrun ni pataki eto ipinlẹ ti awọn ogun ti ko si, nitori fun nọmba eyikeyi ti a ṣayẹwo ni aṣetunṣe ibo kan, akoko idaduro ti o pọju jẹ akoko 1:
Ni afikun, a ṣe atunṣe ati ilọsiwaju eto idibo fun awọn ibeere SNMP. Otitọ ni pe ọpọlọpọ eniyan ko le dahun si awọn ibeere SNMP pupọ ni akoko kanna. Nitorinaa, a ṣe ipo arabara, nigbati idibo SNMP ti agbalejo kanna ti ṣe ni asynchronously:
Eyi ni a ṣe fun gbogbo idii awọn ọmọ-ogun. Ipo yii ko lọra nikẹhin ju ọkan asynchronous patapata, nitori idibo ọkan ati idaji awọn iye SNMP tun jẹ iyara pupọ ju akoko 1 lọ.
Awọn adanwo wa ti fihan pe nọmba to dara julọ ti awọn ibeere ni aṣetunṣe kan jẹ isunmọ 8 ẹgbẹrun pẹlu idibo SNMP. Ni apapọ, iyipada si ipo asynchronous gba wa laaye lati mu iṣẹ ṣiṣe idibo pọ si ni awọn akoko 200, ni ọpọlọpọ igba ọgọrun.
MCH: - Awọn iṣapeye idibo ti o waye fihan pe a ko le yọkuro gbogbo awọn aṣoju nikan, ṣugbọn tun dinku awọn aaye arin fun ọpọlọpọ awọn sọwedowo, ati awọn aṣoju kii yoo nilo bi ọna lati pin fifuye naa.
Nipa osu meta seyin
Yi awọn faaji - mu awọn fifuye!
MM: - O dara, Max, o jẹ akoko lati ni iṣelọpọ bi? Mo nilo olupin ti o lagbara ati ẹlẹrọ to dara.
MCH: - O dara, jẹ ki a gbero rẹ. O jẹ akoko ti o ga lati gbe lati aaye ti o ku ti 5 ẹgbẹrun metiriki fun iṣẹju-aaya.
Owurọ lẹhin igbesoke
MCH: - Misha, a ṣe imudojuiwọn ara wa, ṣugbọn ni owurọ a yiyi pada ... Ṣe akiyesi iyara wo ni a ṣakoso lati ṣaṣeyọri?
MM: - 20 ẹgbẹrun o pọju.
MCH: - Bẹẹni, 25! Laanu, a wa ni ibi ti a ti bẹrẹ.
MM: - Kí nìdí? Njẹ o ṣe awọn iwadii aisan eyikeyi?
MCH: - Beeni! Nibi, fun apẹẹrẹ, jẹ oke ti o nifẹ:
MM: - Jẹ ki a wo. Mo rii pe a ti gbiyanju ọpọlọpọ awọn okun idibo:
Ṣugbọn ni akoko kanna wọn ko le tunlo eto paapaa nipasẹ idaji:
Ati pe iṣẹ gbogbogbo jẹ kekere, nipa 4 ẹgbẹrun awọn metiriki fun iṣẹju kan:
Njẹ nkan miiran wa?
MCH: – Bẹẹni, strace ti ọkan ninu awọn oludibo:
MM: - Nibi o le rii kedere pe ilana idibo n duro de “semaphores”. Eyi ni awọn titiipa:
MCH: - Koyewa.
MM: - Wo, eyi jẹ iru si ipo kan nibiti opo awọn okun n gbiyanju lati ṣiṣẹ pẹlu awọn orisun ti ọkan nikan le ṣiṣẹ pẹlu ni akoko kan. Lẹhinna gbogbo ohun ti wọn le ṣe ni pinpin orisun yii ni akoko pupọ:
Ati pe iṣẹ ṣiṣe lapapọ ti ṣiṣẹ pẹlu iru orisun kan ni opin nipasẹ iyara ti ọkan mojuto:
Awọn ọna meji lo wa lati yanju iṣoro yii.
Ṣe igbesoke ohun elo ẹrọ naa, yipada si awọn ohun kohun yiyara:
Tabi yi faaji pada ati ni akoko kanna yi ẹru naa pada:
MCH: - Nipa ọna, lori ẹrọ idanwo a yoo lo awọn ohun kohun ti o kere ju lori ọkan ija, ṣugbọn wọn jẹ awọn akoko 1,5 yiyara ni igbohunsafẹfẹ fun mojuto!
MM: - Ko o? O nilo lati wo koodu olupin naa.
Ọna data ni olupin Zabbix
MCH: - Lati ro ero rẹ, a bẹrẹ lati ṣe itupalẹ bawo ni a ṣe gbe data sinu olupin Zabbix:
Aworan ti o dara, otun? Jẹ ká lọ nipasẹ o Akobaratan nipa igbese lati ṣe awọn ti o siwaju sii tabi kere si ko o. Awọn okun ati awọn iṣẹ wa fun gbigba data:
Wọn ṣe atagba awọn metiriki ti a gba nipasẹ iho si oluṣakoso Preprocessor, nibiti wọn ti wa ni fipamọ ni isinyi:
“Oluṣakoso iṣaaju” n ṣe atagba data si awọn oṣiṣẹ rẹ, eyiti o ṣe awọn ilana iṣaaju ati da wọn pada nipasẹ iho kanna:
Lẹhin eyi, oluṣakoso iṣaaju n tọju wọn sinu kaṣe itan:
Lati ibẹ wọn ti mu nipasẹ awọn ẹlẹsẹ itan, ti o ṣe ọpọlọpọ awọn iṣẹ: fun apẹẹrẹ, iṣiro awọn okunfa, kikun kaṣe iye ati, pataki julọ, fifipamọ awọn metiriki ninu ibi ipamọ itan. Ni gbogbogbo, ilana naa jẹ eka ati airoju pupọ.
MM: - Ohun akọkọ ti a rii ni pe ọpọlọpọ awọn okun dije fun eyiti a pe ni “kaṣe atunto” (agbegbe iranti nibiti gbogbo awọn atunto olupin ti wa ni ipamọ). Awọn okun ti o ni iduro fun gbigba data ṣe paapaa pupọ ti idinamọ:
Niwọn igba ti iṣeto ni awọn ile itaja kii ṣe awọn metiriki nikan pẹlu awọn aye wọn, ṣugbọn awọn ila lati eyiti awọn oludibo gba alaye nipa kini lati ṣe atẹle. Nigbati ọpọlọpọ awọn oludibo ba wa ati ọkan dina iṣeto ni, awọn miiran duro fun awọn ibeere:
Pollers yẹ ki o ko rogbodiyan
Nitorinaa, ohun akọkọ ti a ṣe ni pin isinyi si awọn ẹya mẹrin ati gba awọn oludibo laaye lati dina awọn ila wọnyi, awọn apakan wọnyi ni akoko kanna, labẹ awọn ipo ailewu:
Eyi yọkuro idije fun kaṣe iṣeto ni, ati iyara awọn oludibo pọ si ni pataki. Ṣugbọn lẹhinna a pade otitọ pe oluṣakoso iṣaaju bẹrẹ lati ṣajọ awọn isinyi ti awọn iṣẹ:
Alakoso iṣaaju gbọdọ ni anfani lati ṣe pataki
Eyi ṣẹlẹ ni awọn ọran nibiti ko ni iṣẹ ṣiṣe. Lẹhinna gbogbo ohun ti o le ṣe ni ikojọpọ awọn ibeere lati awọn ilana ikojọpọ data ati ṣafikun ifipamọ wọn titi ti o fi jẹ gbogbo iranti ati kọlu:
Lati yanju iṣoro yii, a ṣafikun iho keji ti o jẹ iyasọtọ pataki si awọn oṣiṣẹ:
Nitorinaa, oluṣakoso iṣaaju ni aye lati ṣe pataki iṣẹ rẹ ati, ti ifipamọ ba dagba, iṣẹ-ṣiṣe ni lati fa fifalẹ yiyọ kuro, fifun awọn oṣiṣẹ ni aye lati mu ifipamọ yii:
Lẹhinna a rii pe ọkan ninu awọn idi fun idinku ni awọn oṣiṣẹ funrara wọn, nitori pe wọn n dije fun ohun elo ti ko ṣe pataki fun iṣẹ wọn patapata. A ṣe akọsilẹ iṣoro yii bi atunṣe bug-fix, ati pe o ti yanju tẹlẹ ni awọn ẹya tuntun ti Zabbix:
A mu nọmba awọn iho - a gba abajade
Siwaju sii, oluṣakoso olupilẹṣẹ funrararẹ di igo, nitori o jẹ okun kan. O sinmi lori iyara mojuto, fifun iyara ti o pọju ti o to 70 ẹgbẹrun awọn metiriki fun iṣẹju kan:
Nítorí náà, a ṣe mẹ́rin, pẹ̀lú ihò ìtẹ̀bọ̀ mẹ́rin, àwọn òṣìṣẹ́:
Ati pe eyi gba wa laaye lati mu iyara pọ si to 130 ẹgbẹrun awọn metiriki:
Aisi ila-ila ti idagbasoke jẹ alaye nipasẹ otitọ pe idije fun kaṣe itan ti han. Awọn alakoso iṣaju 4 ati awọn ẹlẹṣẹ itan dije fun rẹ. Ni aaye yii, a n gba to 130 ẹgbẹrun awọn metiriki fun iṣẹju kan lori ẹrọ idanwo, lilo rẹ nipa isunmọ 95% ti ero isise:
Nipa awọn oṣu 2,5 sẹhin
Kiko lati agbegbe snmp pọ si awọn NVP nipasẹ akoko kan ati idaji
MM: - Max, Mo nilo ọkọ ayọkẹlẹ idanwo tuntun! A ko ni ibamu si eyi ti o wa lọwọlọwọ.
MCH: - Kini o ni bayi?
MM: - Bayi - Awọn NVP 130k ati ero isise ti o ṣetan selifu.
MCH: - Iro ohun! Itura! Duro, Mo ni ibeere meji. Gẹgẹbi awọn iṣiro mi, iwulo wa wa ni ayika 15-20 ẹgbẹrun awọn metiriki fun iṣẹju kan. Kini idi ti a nilo diẹ sii?
MM: "Mo fẹ lati pari iṣẹ naa." Emi yoo fẹ lati rii iye ti a le fun pọ kuro ninu eto yii.
MCH: - Ṣugbọn…
MM: "Ṣugbọn ko wulo fun iṣowo."
MCH: - O la gan an ni. Ati ibeere keji: ṣe a le ṣe atilẹyin ohun ti a ni bayi lori tiwa, laisi iranlọwọ ti olupilẹṣẹ kan?
MM: - Emi ko ro. Yiyipada bi kaṣe iṣeto n ṣiṣẹ jẹ iṣoro kan. O ni ipa lori awọn ayipada ninu ọpọlọpọ awọn okun ati pe o nira pupọ lati ṣetọju. O ṣeese, yoo nira pupọ lati ṣetọju rẹ.
MCH: “Lẹhinna a nilo iru yiyan.”
MM: - Iru aṣayan kan wa. A le yipada si awọn ohun kohun ti o yara, lakoko ti o kọ eto titiipa tuntun silẹ. A yoo tun gba iṣẹ ti 60-80 ẹgbẹrun awọn metiriki. Ni akoko kanna, a le fi gbogbo awọn iyokù ti awọn koodu. Clickhouse ati idibo asynchronous yoo ṣiṣẹ. Ati pe yoo rọrun lati ṣetọju.
MCH: - Iyalẹnu! Mo daba pe a duro nibi.
Lẹhin iṣapeye ẹgbẹ olupin, a ni anfani nipari lati ṣe ifilọlẹ koodu tuntun sinu iṣelọpọ. A kọ diẹ ninu awọn ayipada silẹ ni ojurere ti yi pada si ẹrọ pẹlu awọn ohun kohun ti o yara ati idinku nọmba awọn iyipada koodu. A tun ti sọ iṣeto ni irọrun ati imukuro awọn macros ni awọn ohun data nibiti o ti ṣee ṣe, bi wọn ṣe ṣafihan titiipa afikun.
Fun apẹẹrẹ, fifisilẹ macro agbegbe snmp, eyiti a rii nigbagbogbo ninu awọn iwe ati awọn apẹẹrẹ, ninu ọran wa jẹ ki o ṣee ṣe lati mu iyara NVPs siwaju sii nipa awọn akoko 1,5.
Lẹhin ọjọ meji ni iṣelọpọ
Yiyọ awọn agbejade itan iṣẹlẹ kuro
MCH: - Misha, a ti lo eto naa fun ọjọ meji, ati pe ohun gbogbo n ṣiṣẹ. Ṣugbọn nikan nigbati ohun gbogbo ba ṣiṣẹ! A ti gbero iṣẹ pẹlu gbigbe ti apakan nla ti nẹtiwọọki, ati pe a tun ṣayẹwo pẹlu ọwọ wa ohun ti o lọ ati ohun ti ko ṣe.
MM: - Ko le jẹ! A ṣayẹwo ohun gbogbo 10 igba. Olupin n kapa paapaa wiwa nẹtiwọọki pipe lesekese.
MCH: - Bẹẹni, Mo loye ohun gbogbo: olupin, data data, oke, austat, awọn akọọlẹ - ohun gbogbo yara yara… Ṣugbọn a wo wiwo wẹẹbu, ati pe ero isise kan wa “ninu selifu” lori olupin ati eyi:
MM: - O la gan an ni. Jẹ ká wo awọn ayelujara. A rii pe ni ipo kan nibiti nọmba nla ti awọn iṣẹlẹ ti nṣiṣe lọwọ wa, pupọ julọ awọn ẹrọ ailorukọ laaye bẹrẹ lati ṣiṣẹ laiyara:
Idi fun eyi ni iran ti awọn agbejade itan iṣẹlẹ iṣẹlẹ ti o jẹ ipilẹṣẹ fun ohun kọọkan ninu atokọ naa. Nitorinaa, a kọ iran ti awọn window wọnyi silẹ (ṣe alaye awọn ila 5 ninu koodu), ati pe eyi yanju awọn iṣoro wa.
Akoko ikojọpọ fun awọn ẹrọ ailorukọ, paapaa nigbati ko ba si patapata, ti dinku lati awọn iṣẹju pupọ si awọn aaya 10-15 itẹwọgba fun wa, ati pe itan naa tun le wo nipasẹ tite lori akoko:
Lẹhin iṣẹ. 2 osu seyin
MCH: - Misha, ṣe o nlọ? A ni lati sọrọ.
MM: - Emi ko pinnu lati. Nkankan pẹlu Zabbix lẹẹkansi?
MCH: - Rara, sinmi! Mo kan fẹ sọ: ohun gbogbo ṣiṣẹ, o ṣeun! Mo ni ọti kan.
Zabbix jẹ daradara
Zabbix jẹ eto ati iṣẹ ọlọrọ ni gbogbo agbaye ati iṣẹtọ. O le ṣee lo fun awọn fifi sori ẹrọ kekere kuro ninu apoti, ṣugbọn bi awọn iwulo ṣe dagba, o ni lati wa ni iṣapeye. Lati tọju ibi ipamọ nla ti awọn metiriki, lo ibi ipamọ to dara:
- o le lo awọn irinṣẹ ti a ṣe sinu rẹ ni irisi isọpọ pẹlu Elasticsearch tabi itan-akọọlẹ ikojọpọ si awọn faili ọrọ (wa lati ẹya 4);
- O le lo anfani ti iriri wa ati iṣọpọ pẹlu Clickhouse.
Lati mu iyara ikojọpọ awọn metiriki pọsi pupọ, gba wọn ni lilo awọn ọna asynchronous ki o gbe wọn nipasẹ wiwo trapper si olupin Zabbix; tabi o le lo alemo kan lati jẹ ki awọn oludibo Zabbix jẹ asynchronous.
Zabbix ti kọ ni C ati pe o munadoko pupọ. Yiyan ọpọlọpọ awọn igo ayaworan gba ọ laaye lati mu iṣẹ rẹ pọ si ati, ninu iriri wa, gba diẹ sii ju 100 ẹgbẹrun awọn metiriki lori ẹrọ isise kan.
Kanna Zabbix alemo
MM: – Mo fẹ lati fi kan tọkọtaya ti ojuami. Gbogbo ijabọ lọwọlọwọ, gbogbo awọn idanwo, awọn nọmba ni a fun fun iṣeto ni ti a lo. A n gba to 20 ẹgbẹrun awọn metiriki fun iṣẹju kan lati ọdọ rẹ. Ti o ba n gbiyanju lati ni oye boya eyi yoo ṣiṣẹ fun ọ, o le ṣe afiwe. Ohun ti a jiroro loni ni a fiweranṣẹ lori GitHub ni irisi alemo kan:
Patch naa pẹlu:
- ni kikun Integration pẹlu Clickhouse (mejeeji Zabbix olupin ati frontend);
- yanju awọn iṣoro pẹlu oluṣakoso iṣaaju;
- asynchronous idibo.
Patch naa ni ibamu pẹlu gbogbo ẹya 4, pẹlu lts. O ṣeese julọ, pẹlu awọn ayipada kekere yoo ṣiṣẹ lori ẹya 3.4.
O ṣeun fun akiyesi rẹ.
Awọn ibeere
Ibeere lati ọdọ awọn olugbo (lẹhin - A): - O dara ọsan! Jọwọ sọ fun mi, ṣe o ni awọn ero fun ibaraenisepo aladanla pẹlu ẹgbẹ Zabbix tabi pẹlu wọn pẹlu rẹ, nitorinaa eyi kii ṣe alemo, ṣugbọn ihuwasi deede ti Zabbix?
MM: - Bẹẹni, dajudaju a yoo ṣe diẹ ninu awọn ayipada. Nkankan yoo ṣẹlẹ, ohun kan yoo wa ninu patch.
A: - O ṣeun pupọ fun ijabọ to dara julọ! Jọwọ sọ fun mi, lẹhin lilo alemo naa, atilẹyin lati ọdọ Zabbix yoo wa ati bii o ṣe le tẹsiwaju imudojuiwọn si awọn ẹya ti o ga julọ? Ṣe yoo ṣee ṣe lati ṣe imudojuiwọn Zabbix lẹhin alemo rẹ si 4.2, 5.0?
MM: - Emi ko le sọ ohunkohun nipa support. Ti MO ba jẹ atilẹyin imọ-ẹrọ Zabbix, Emi yoo ṣee sọ rara, nitori eyi jẹ koodu ẹlomiran. Bi fun koodu koodu 4.2, ipo wa ni: “A yoo gbe pẹlu akoko, ati pe a yoo ṣe imudojuiwọn ara wa lori ẹya atẹle.” Nitorinaa, fun igba diẹ a yoo ṣe ifiweranṣẹ alemo kan fun awọn ẹya imudojuiwọn. Mo ti sọ tẹlẹ ninu ijabọ naa: nọmba awọn iyipada pẹlu awọn ẹya tun jẹ ohun kekere. Mo ro pe iyipada lati 3.4 si 4 gba wa nipa awọn iṣẹju 15, ṣugbọn kii ṣe pataki.
A: - Nitorinaa o gbero lati ṣe atilẹyin alemo rẹ ati pe o le fi sii lailewu ni iṣelọpọ ati gba awọn imudojuiwọn ni ọna kan ni ọjọ iwaju?
MM: – A strongly so o. Eyi yanju ọpọlọpọ awọn iṣoro fun wa.
MCH: - Lẹẹkansi, Emi yoo fẹ lati fa ifojusi si otitọ pe awọn ayipada ti ko kan faaji ati pe ko kan idinamọ tabi awọn ila jẹ apọjuwọn, wọn wa ni awọn modulu lọtọ. Paapaa pẹlu awọn ayipada kekere o le ṣetọju wọn ni irọrun.
MM: - Ti o ba nifẹ si awọn alaye, lẹhinna “Clickhouse” nlo ohun ti a pe ni ile-ikawe itan. O jẹ ṣiṣi silẹ - o jẹ ẹda ti atilẹyin Elastics, iyẹn ni, o jẹ atunto. Idibo nikan yipada awọn oludibo. A gbagbọ pe eyi yoo ṣiṣẹ fun igba pipẹ.
A: - O ṣeun lọpọlọpọ. Sọ fun mi, ṣe eyikeyi iwe ti awọn ayipada ti a ṣe?
MM: – Iwe jẹ alemo. O han ni, pẹlu awọn ifihan ti Clickhouse, pẹlu awọn ifihan ti titun orisi ti pollers, titun iṣeto ni awọn aṣayan dide. Ọna asopọ lati ifaworanhan ti o kẹhin ni apejuwe kukuru ti bi o ṣe le lo.
Nipa rirọpo fping pẹlu nmap
A: – Bawo ni o nipari ṣe eyi? Ṣe o le fun awọn apẹẹrẹ kan pato: ṣe o ni awọn okun ati iwe afọwọkọ ita kan? Kini o pari ṣiṣe ayẹwo iru nọmba nla ti awọn ogun ni yarayara? Bawo ni o ṣe ṣe mi awọn agbalejo wọnyi? Njẹ a nilo lati fun wọn ni maapu bakan, gba wọn lati ibikan, fi wọn sinu, ṣiṣe nkan kan? ..
MM: - Itura. Ibeere ti o pe pupọ! Koko ni yi. A ṣe atunṣe ile-ikawe naa (ICMP ping, apakan ti Zabbix) fun awọn sọwedowo ICMP, eyiti o tọka nọmba awọn apo-iwe - ọkan (1), ati pe koodu n gbiyanju lati lo nmap. Iyẹn ni, eyi ni iṣẹ inu ti Zabbix, eyiti o ti di iṣẹ inu ti pinger. Nitorinaa, ko si amuṣiṣẹpọ tabi lilo trapper ko nilo. Eyi ni a ṣe mọọmọ lati lọ kuro ni eto ati pe ko ni lati muuṣiṣẹpọ awọn ọna ṣiṣe data meji: kini lati ṣayẹwo, gbejade nipasẹ oludibo, ati pe ikojọpọ wa bajẹ?... Eyi rọrun pupọ.
A: – Ṣe o ṣiṣẹ fun awọn aṣoju paapaa?
MM: - Bẹẹni, ṣugbọn a ko ṣayẹwo. Koodu idibo jẹ kanna ni mejeeji Zabbix ati olupin naa. O yẹ ki o ṣiṣẹ. Jẹ ki n tẹnumọ lẹẹkan si: iṣẹ ṣiṣe eto jẹ iru pe a ko nilo aṣoju kan.
MCH: - Idahun ti o pe si ibeere naa ni: “Kini idi ti o nilo aṣoju kan pẹlu iru eto?” Nikan nitori NAT tabi ibojuwo nipasẹ iru ikanni ti o lọra…
A: - Ati pe o lo Zabbix bi allertor, ti MO ba loye ni deede. Tabi ni awọn eya rẹ (nibiti Layer pamosi) ti gbe lọ si eto miiran, gẹgẹbi Grafana? Tabi ṣe o ko lo iṣẹ ṣiṣe yii?
MM: - Emi yoo tẹnumọ lẹẹkan si: a ti ṣaṣeyọri isọpọ pipe. A n tú itan sinu Clickhouse, ṣugbọn ni akoko kanna a ti yipada iwaju php. Php frontend lọ si Clickhouse ati ṣe gbogbo awọn eya aworan lati ibẹ. Ni akoko kanna, lati sọ ooto, a ni apakan ti o kọ data ni awọn eto ifihan ayaworan miiran lati ile Clickhouse kanna, lati data Zabbix kanna.
MCH: – Ni “Grafan” bi daradara.
Bawo ni a ṣe ṣe awọn ipinnu nipa ipin awọn ohun elo?
A: - Pin diẹ ninu ibi idana ounjẹ inu rẹ. Bawo ni ipinnu ṣe pe o jẹ dandan lati pin awọn orisun fun sisẹ pataki ti ọja naa? Iwọnyi jẹ, ni gbogbogbo, awọn eewu kan. Ati jọwọ sọ fun mi, ni aaye ti otitọ pe iwọ yoo ṣe atilẹyin awọn ẹya tuntun: bawo ni ipinnu yii ṣe dalare lati oju wiwo iṣakoso?
MM: – Nkqwe, a ko so eré ti itan gan daradara. A ri ara wa ni ipo kan nibiti ohun kan gbọdọ ṣe, ati pe a lọ ni pataki pẹlu awọn ẹgbẹ meji ti o jọra:
- Ọkan n ṣe ifilọlẹ eto ibojuwo nipa lilo awọn ọna tuntun: ibojuwo bi iṣẹ kan, ipilẹ boṣewa ti awọn solusan orisun ṣiṣi ti a ṣajọpọ ati lẹhinna gbiyanju lati yi ilana iṣowo pada lati le ṣiṣẹ pẹlu eto ibojuwo tuntun.
- Ni akoko kan naa, a ni itara pirogirama ti o ṣe eyi (nipa ara rẹ). O ṣẹlẹ pe o ṣẹgun.
A: – Ati kini iwọn ti ẹgbẹ naa?
MCH: - O wa niwaju rẹ.
A: – Nitorina, bi nigbagbogbo, o nilo kan passionate?
MM: – Emi ko mọ ohun ti itara jẹ.
A: - Ni idi eyi, nkqwe, iwọ. O ṣeun pupọ, o jẹ oniyi.
MM: - E dupe.
Nipa awọn abulẹ fun Zabbix
A: - Fun eto ti o nlo awọn aṣoju (fun apẹẹrẹ, ni diẹ ninu awọn ọna ṣiṣe ti a pin), ṣe o ṣee ṣe lati ṣe deede ati patch, sọ, awọn oludibo, awọn aṣoju ati apakan ti iṣaaju ti Zabbix funrararẹ; ati ibaraenisepo wọn? Ṣe o ṣee ṣe lati mu awọn idagbasoke ti o wa tẹlẹ wa fun eto pẹlu awọn aṣoju pupọ bi?
MM: - Mo mọ pe olupin Zabbix ti ṣajọpọ nipa lilo aṣoju (koodu ti ṣajọ ati gba). A ko ṣe idanwo eyi ni iṣelọpọ. Emi ko ni idaniloju nipa eyi, ṣugbọn Mo ro pe oluṣakoso iṣaaju ko lo ni aṣoju. Iṣẹ-ṣiṣe ti aṣoju ni lati mu awọn metiriki kan lati Zabbix, dapọ wọn (o tun ṣe igbasilẹ iṣeto ni, aaye data agbegbe) ki o si fun pada si olupin Zabbix. Olupin funrararẹ yoo ṣe ilana iṣaaju nigbati o ba gba.
Awọn anfani ni awọn aṣoju jẹ oye. A yoo ṣayẹwo. Eleyi jẹ ẹya awon koko.
A: - Ero naa jẹ eyi: ti o ba le patch pollers, o le patch wọn lori aṣoju ki o parẹ ibaraenisepo pẹlu olupin naa, ki o ṣe adaṣe aṣaaju fun awọn idi wọnyi nikan lori olupin naa.
MM: - Mo ro pe o rọrun paapaa. O gba koodu naa, lo alemo kan, lẹhinna tunto rẹ ni ọna ti o nilo - gba awọn olupin aṣoju (fun apẹẹrẹ, pẹlu ODBC) ki o pin kaakiri koodu patched kọja awọn eto. Nibiti o jẹ dandan - gba aṣoju kan, nibiti o jẹ dandan - olupin kan.
A: - O ṣeese julọ, iwọ kii yoo ni lati parẹ gbigbe aṣoju si olupin ni afikun?
MCH: - Rara, o jẹ boṣewa.
MM: – Ni pato, ọkan ninu awọn ero ko dun. A ti ṣetọju iwọntunwọnsi nigbagbogbo laarin bugbamu ti awọn imọran ati iye awọn iyipada ati irọrun atilẹyin.
Diẹ ninu awọn ipolowo 🙂
O ṣeun fun gbigbe pẹlu wa. Ṣe o fẹran awọn nkan wa? Ṣe o fẹ lati rii akoonu ti o nifẹ si diẹ sii? Ṣe atilẹyin fun wa nipa gbigbe aṣẹ tabi iṣeduro si awọn ọrẹ, , afọwọṣe alailẹgbẹ ti awọn olupin ipele-iwọle, eyiti a ṣẹda nipasẹ wa fun ọ: (wa pẹlu RAID1 ati RAID10, to awọn ohun kohun 24 ati to 40GB DDR4).
Dell R730xd 2x din owo ni Equinix Tier IV ile-iṣẹ data ni Amsterdam? Nikan nibi ni Netherlands! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - lati $99! Ka nipa
orisun: www.habr.com
