Mamorona Dashboard ao Kibana hanaraha-maso ny logs

Mamorona Dashboard ao Kibana hanaraha-maso ny logs

Salama, Eugene no anarako, mpitarika ny ekipa B2B ao amin'ny Citymobil aho. Ny iray amin'ireo andraikitry ny ekipanay dia ny hanohana ny fampidirana amin'ny famandrihana taxi amin'ny mpiara-miombon'antoka, ary mba hiantohana ny serivisy marin-toerana dia tsy maintsy takatsika foana ny zava-mitranga ao amin'ny microservices. Ary noho izany dia mila manara-maso tsy tapaka ny logs ianao.

Ao amin'ny Citymobil, mampiasa ny ELK stack (ElasticSearch, Logstash, Kibana) izahay mba hiasa amin'ny logs, ary ny habetsaky ny angona tonga any dia goavana. Sarotra ny mahita olana amin'ity fangatahana marobe ity izay mety hiseho aorian'ny fametrahana kaody vaovao. Ary ho an'ny famantarana azy ireo hita maso dia manana fizarana Dashboard i Kibana.

Misy lahatsoratra vitsivitsy momba ny HabrΓ© miaraka amin'ny ohatra momba ny fomba fametrahana stack ELK handraisana sy hitahiry angona, saingy tsy misy fitaovana mifandraika amin'ny famoronana Dashboard. Noho izany, tiako ny hampiseho ny fomba hamoronana fanehoana an-tsary ny angon-drakitra mifototra amin'ny logs miditra ao amin'ny Kibana.

fanitsiana

Mba hanazavana kokoa dia namorona sary Docker miaraka amin'ny ELK sy Filebeat aho. Ary napetraka tao anaty fitoeran-javatra kely ny fandaharana ao amin'ny Go, izay ho ohatra asehontsika dia hamokatra diarin'ny fitsapana. Tsy holazaiko amin'ny antsipiriany ny fanamafisana ny ELK, ampy ny voasoratra momba izany ao amin'ny HabrΓ©.

Clone ny tahiry config docker-compose ary ELK, ary atombohy amin'ny baiko docker-compose up. Iniana tsy manampy lakile -dmba hijerena ny fivoaran'ny stack ELK.

git clone https://github.com/et-soft/habr-elk
cd habr-elk
docker-compose up

Raha toa ka voarindra tsara ny zava-drehetra, dia ho hitantsika ny fidirana ao amin'ny logs (angamba tsy eo no ho eo, mety haharitra minitra maromaro ny dingan'ny fandefasana kaontenera miaraka amin'ny stack manontolo):

{"type":"log","@timestamp":"2020-09-20T05:55:14Z","tags":["info","http","server","Kibana"],"pid":6,"message":"http server running at http://0:5601"}

Amin'ny adiresy localhost:5061 Tokony hisokatra i Kibana.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Ny hany zavatra ilaintsika amboarina dia ny mamorona Index Pattern ho an'ny Kibana miaraka amin'ny fampahalalana momba ny angona haseho. Mba hanaovana izany dia hanao fangatahana curl isika na hanao hetsika maromaro amin'ny interface grafika.

$ curl -XPOST -D- 'http://localhost:5601/api/saved_objects/index-pattern'
    -H 'Content-Type: application/json'
    -H 'kbn-xsrf: true'
    -d '{"attributes":{"title":"logstash-*","timeFieldName":"@timestamp"}}'

Mamorona lamina Index amin'ny alΓ lan'ny GUI
Raha te hanamboatra, safidio ny fizarana Discover ao amin'ny menu havia, ary mankanesa any amin'ny pejy famoronana lamina Index.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Amin'ny fipihana ny bokotra "Create index pattern" dia tonga any amin'ny pejy famoronana index. Ao amin'ny saha "Anaran'ny modely Index", ampidiro ny "logstash-*". Raha voarindra tsara ny zava-drehetra, eo ambanin'ny Kibana dia hampiseho ny indexes izay tafiditra ao anatin'ny fitsipika.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Ao amin'ny pejy manaraka, safidio ny saha manan-danja miaraka amin'ny marika famantaranandro, amin'ny tranga misy antsika @timestamp.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Hampiakatra ny pejin'ny firafitry ny index izany, saingy tsy misy fepetra takiana amintsika intsony amin'izao fotoana izao.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs

Ankehitriny dia afaka mandeha any amin'ny fizarana Discover isika, izay hahitantsika ny fidirana amin'ny log.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs

Dashboard

Ao amin'ny menio havia, tsindrio ny fizarana famoronana Dashboard ary mankanesa any amin'ny pejy mifanaraka amin'izany.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Kitiho ny "Mamorona dashboard vaovao" ary mankanesa any amin'ny pejy hanampiana zavatra ao amin'ny Dashboard.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Tsindrio ny bokotra "Mamorona vaovao", ary ny rafitra dia hanosika anao hisafidy ny karazana fampisehoana data. Kibana dia manana isa betsaka amin'izy ireo, fa hojerentsika ny famoronana sary an-tsary momba ny "Vertical Bar" sy ny tabilao "Data Table". Ny karazana famelabelarana hafa dia amboarina amin'ny fomba mitovy. 
Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Misy marika B sy E ny zavatra azo ampiasaina, izay midika fa ny endrika dia andrana na amin'ny fitsapana beta. Rehefa mandeha ny fotoana dia mety hiova na hanjavona tanteraka ao amin'ny Kibana ny endrika.

Bara mitsangana

Ho an'ny ohatra "Vertical Bar", andao hamorona histograma ny tahan'ny sata valiny mahomby sy tsy mahomby amin'ny serivisy. Any amin'ny faran'ny toe-javatra dia mahazo izao grafika manaraka izao isika:

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Hanasokajy ny fangatahana rehetra miaraka amin'ny satan'ny valiny <400 ho mahomby, ary>= 400 ho olana.

Mba hamoronana tabilao "Vertical Bar" dia mila mifidy loharano angona. Safidio ny Pattern Index izay noforoninay teo aloha.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Amin'ny alΓ lan'ny default dia hiseho ny grafika mivaingana tokana aorian'ny fisafidianana loharano iray. Andao amboary izany.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Ao amin'ny sakana "Buckets", tsindrio ny bokotra "Add", safidio ny "X-asis" ary amboary ny axis X. Andeha hojerentsika ny mari-pamantarana ho an'ny fandraisana ny fidirana ao amin'ny log. Ao amin'ny saha "Aggregation", safidio ny "Date Histogram", ary ao amin'ny "Field" safidio ny "@timestamp", manondro ny saha fotoana. Aleo avela ao amin'ny fanjakana "Auto" ny "Elaela farany ambany", ary hiova ho azy amin'ny fampisehoana ataontsika izany. 

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Amin'ny fipihana ny bokotra "Update", dia hahita tabilao misy ny isan'ny fangatahana isaky ny 30 segondra.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Andeha isika hametraka ny tsanganana manaraka ny Y-axis. Ankehitriny dia asehontsika ny tontalin'ny fangatahana ao anatin'ny elanelam-potoana voafantina.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Andao hanova ny sanda "Aggregation" ho "Sum Bucket", izay ahafahantsika manambatra angona ho an'ny fangatahana mahomby sy tsy mahomby. Ao amin'ny Bucket -> Aggregation block, safidio ny aggregation amin'ny "Filters" ary apetraho amin'ny "statusCode>= 400" ny sivana. Ary ao amin'ny saha "Custom label" dia manondro ny anaran'ny famantarana ho an'ny fampisehoana mora kokoa amin'ny angano eo amin'ny tabilao sy amin'ny lisitra ankapobeny.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Amin'ny alΓ lan'ny fipihana ny bokotra "Update" eo ambanin'ny fikandrana fanovana, dia hahazo grafika misy fangatahana olana isika.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Raha tsindrio eo amin'ny faribolana eo akaikin'ny angano ianao dia hiseho ny varavarankely izay ahafahanao manova ny lokon'ny tsanganana.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Andeha isika hanampy angona momba ny fangatahana mahomby amin'ny tabilao. Ao amin'ny fizarana "Metrics", tsindrio ny bokotra "Add" ary mifidiana "Y-axis".

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Ao amin'ny metrika noforonina dia manao fika mitovy amin'ny fangatahana diso izahay. Ao amin'ny sivana ihany no mamaritra ny "statusCode <400".

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Amin'ny alΓ lan'ny fanovana ny lokon'ny tsanganana vaovao dia mahazo fampisehoana ny tahan'ny fangatahana olana sy mahomby.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Amin'ny fipihana ny bokotra "Save" eo an-tampon'ny efijery ary manondro ny anarana, dia ho hitantsika ny tabilao voalohany eo amin'ny Dashboard.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs

Tabilao data

Diniho izao ny fomba fijery tabilao "Data Table". Andao hamorona latabatra misy lisitry ny URL rehetra nangatahana sy ny isan'ireo fangatahana ireo. Tahaka ny amin'ny ohatra Vertical Bar, misafidy loharano angona aloha isika.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Aorian'izay dia hisy latabatra misy tsanganana iray haseho eo amin'ny efijery, izay mampiseho ny fitambaran'ny fangatahana ho an'ny elanelam-potoana voafantina.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Ny bloc "Buckets" ihany no hovanay. Tsindrio ny bokotra "Add" ary mifidiana "Split rows".

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Ao amin'ny saha "Aggregation", mifidiana "Terms". Ary ao amin'ny saha niseho "Field" mifidy "url.keyword".

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Amin'ny famaritana ny sanda "Url" ao amin'ny saha "Etikety manokana" ary tsindrio ny "Fanavaozana", dia hahazo ny latabatra tiana misy ny isan'ny fangatahana ho an'ny URL tsirairay mandritra ny fe-potoana voafantina.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Eo an-tampon'ny efijery, tsindrio indray ny bokotra "Save" ary apetraho ny anaran'ny latabatra, ohatra Urls. Andao hiverina any amin'ny Dashboard ary hojerentsika ireo fomba fijery roa noforonina.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs

Miasa miaraka amin'ny Dashboard

Rehefa mamorona ny Dashboard, dia tsy mametraka afa-tsy ny masontsivana fijery fototra ao amin'ny toe-javatra aseho. Tsy misy dikany ny mamaritra ny angon-drakitra ho an'ny sivana amin'ny zavatra, ohatra, "faritra daty", "fanivanana amin'ny mpampiasa mpampiasa", "fanivanana amin'ny firenena fangatahana", sns. Mora kokoa ny mamaritra ny fe-potoana irina na mametraka ny sivana ilaina ao amin'ny tontonana fanontana, izay eo ambonin'ireo zavatra.

Mamorona Dashboard ao Kibana hanaraha-maso ny logs
Ny sivana ampiana amin'ity tontonana ity dia ampiharina amin'ny Dashboard manontolo, ary ny zavatra aseho rehetra dia hamboarina mifanaraka amin'ny angona voasivana.

famaranana

Kibana dia fitaovana mahery vaika ahafahanao mijery ny angon-drakitra amin'ny fomba mety. Niezaka nampiseho ny toeran'ireo karazana fampisehoana roa lehibe aho. Fa ny karazany hafa dia namboarina tamin'ny fomba mitovy. Ary ny habetsahan'ny toe-javatra navelako "ao ambadiky ny sehatra" dia ahafahanao manamboatra tabilao mifanaraka amin'ny filanao.

Source: www.habr.com

Add a comment