Kibana でログを監視するためのダッシュボードを作成する

こんにちは、私の名前はユージンです。シティモービルの B2B チーム リーダーです。 私たちのチームのタスクの XNUMX つは、パートナーからタクシーを注文するための統合をサポートすることです。安定したサービスを確保するには、マイクロサービスで何が起こっているのかを常に理解する必要があります。 このためには、ログを常に監視する必要があります。

CityMob では、ELK スタック (ElasticSearch、Logstash、Kibana) を使用してログを操作しており、そこに送られるデータの量は膨大です。 新しいコードのデプロイ後に発生する可能性のあるこの大量のリクエストの中から問題を見つけるのは非常に困難です。 また、視覚的に識別できるように、Kibana にはダッシュボード セクションがあります。

データを受信して​​保存するために ELK スタックを設定する方法の例を記載した Habré に関する記事は数多くありますが、ダッシュボードの作成に関する関連資料はありません。 したがって、Kibana で受信したログに基づいてデータの視覚的表現を作成する方法を示したいと思います。

調整

わかりやすくするために、ELK と Filebeat を使用して Docker イメージを作成しました。 そして、小さな容器に入れて、 программу Go では、この例ではテスト ログが生成されます。 ELK の構成については詳しく説明しません。これについては Habré に十分に書かれています。

構成リポジトリのクローンを作成する docker-compose と ELK 設定を変更し、次のコマンドで起動します。 docker-compose up。 意図的にキーを追加しない -dELK スタックの進行状況を確認します。

git clone https://github.com/et-soft/habr-elk
cd habr-elk
docker-compose up

すべてが正しく構成されている場合は、ログにエントリが表示されます (すぐにではない可能性があります。スタック全体でコンテナーを起動するプロセスには数分かかる場合があります)。

{"type":"log","@timestamp":"2020-09-20T05:55:14Z","tags":["info","http","server","Kibana"],"pid":6,"message":"http server running at http://0:5601"}

に localhost:5061 キバナが開くはずです。

構成する必要があるのは、表示するデータに関する情報を含む Kibana のインデックス パターンを作成することだけです。 これを行うには、curl リクエストを実行するか、グラフィカル インターフェイスで一連のアクションを実行します。

$ curl -XPOST -D- 'http://localhost:5601/api/saved_objects/index-pattern'
    -H 'Content-Type: application/json'
    -H 'kbn-xsrf: true'
    -d '{"attributes":{"title":"logstash-*","timeFieldName":"@timestamp"}}'

GUI を使用したインデックス パターンの作成
設定するには、左側のメニューの [検出] セクションを選択し、[インデックス パターンの作成] ページに移動します。

「インデックスパターンの作成」ボタンをクリックすると、インデックス作成ページが表示されます。 「インデックスパターン名」フィールドに「logstash-*」と入力します。 すべてが正しく構成されている場合、Kibana の下にルールに該当するインデックスが表示されます。

次のページで、タイムスタンプのあるキー フィールドを選択します。この場合は、 @timestamp.

これにより、インデックス設定ページが表示されますが、現時点ではこれ以上のアクションは必要ありません。

ここで再び「Discover」セクションに移動し、ログエントリを確認します。

ダッシュボード

左側のメニューで [ダッシュボード作成] セクションをクリックし、対応するページに移動します。

「新しいダッシュボードの作成」をクリックすると、ダッシュボードにオブジェクトを追加するページが表示されます。

「新規作成」ボタンをクリックすると、データ表示のタイプを選択するよう求められます。 Kibana にはそれらが多数ありますが、ここでは「垂直バー」のグラフィック表現と表形式の「データ テーブル」の作成を見ていきます。 他のタイプのプレゼンテーションも同様の方法で構成されます。 

利用可能なオブジェクトの中には B および E というラベルが付いているものがあります。これは、その形式が実験的またはベータ テスト中であることを意味します。 時間が経つと、形式が変更されたり、Kibana から完全に消えたりする可能性があります。

垂直バー

「垂直バー」の例では、サービスの成功と失敗の応答ステータスの比率のヒストグラムを作成してみましょう。 設定の最後に、次のグラフが表示されます。

応答ステータスが 400 未満のすべてのリクエストを成功として分類し、400 以上のリクエストを問題ありとして分類します。

「縦棒」グラフを作成するには、データ ソースを選択する必要があります。 先ほど作成したインデックス パターンを選択します。

デフォルトでは、データ ソースを選択すると、単一の実線グラフが表示されます。 設定してみましょう。

「バケット」ブロックで「追加」ボタンを押し、「X-asis」を選択して X 軸を設定します。ログ内のエントリの受信用のタイムスタンプを確保しておきます。 「集計」フィールドで「日付ヒストグラム」を選択し、「フィールド」で時間フィールドを示す「@timestamp」を選択します。 「最小間隔」を「自動」状態のままにしておくと、表示に合わせて自動的に調整されます。 

「更新」ボタンをクリックすると、30 秒ごとのリクエスト数のグラフが表示されます。

Y 軸に沿って列を設定して、選択した期間内のリクエストの合計数を表示します。

「Aggregation」の値を「Sum Bucket」に変更しましょう。これにより、成功したリクエストと失敗したリクエストのデータを結合できるようになります。 Bucket -> Aggregation ブロックで、「Filters」で集計を選択し、「statusCode >= 400」でフィルタリングを設定します。 また、「カスタム ラベル」フィールドには、チャート上の凡例および一般リストでよりわかりやすく表示されるように、インジケーターの名前が示されます。

設定ブロックの下にある「更新」ボタンをクリックすると、問題のあるリクエストのグラフが表示されます。

凡例の横にある円をクリックすると、列の色を変更できるウィンドウが表示されます。

次に、成功したリクエストのデータをグラフに追加しましょう。 「メトリクス」セクションで「追加」ボタンをクリックし、「Y軸」を選択します。

作成したメトリクスには、誤ったリクエストと同じ設定を行います。 フィルター内でのみ「statusCode < 400」を指定します。

新しい列の色を変更すると、問題のあるリクエストと成功したリクエストの比率が表示されます。

画面上部の「保存」ボタンをクリックし、名前を指定すると、ダッシュボードに最初のグラフが表示されます。

データ表

次に、表形式ビュー「データテーブル」について考えてみましょう。 リクエストされたすべての URL とそれらのリクエストの数のリストを含むテーブルを作成しましょう。 垂直バーの例と同様に、最初にデータ ソースを選択します。

その後、画面に XNUMX 列の表が表示され、選択した期間におけるリクエストの合計数が表示されます。

「Buckets」ブロックのみを変更します。 「追加」ボタンをクリックし、「行の分割」を選択します。

「集計」フィールドで「条件」を選択します。 そして表示された「フィールド」欄で「url.keyword」を選択します。

[カスタム ラベル] フィールドに [URL] 値を指定し、[更新] をクリックすると、選択した期間における各 URL のリクエスト数を含む目的のテーブルが取得されます。

画面の上部で [保存] ボタンを再度クリックし、テーブルの名前 (例: URL) を指定します。 ダッシュボードに戻って、作成された両方のビューを確認してみましょう。

ダッシュボードの操作

ダッシュボードを作成するときは、表示オブジェクト設定でメイン ビュー パラメーターのみを設定します。 オブジェクト内のフィルターにデータを指定することは意味がありません。たとえば、「日付範囲」、「ユーザーエージェントによるフィルター」、「要求国によるフィルター」などです。 オブジェクトの上にあるクエリ パネルで、希望の期間を指定したり、必要なフィルタリングを設定したりする方がはるかに便利です。

このパネルに追加されたフィルターはダッシュボード全体に適用され、すべての表示オブジェクトは実際のフィルター処理されたデータに従って再構築されます。

まとめ

Kibana は、あらゆるデータを便利な方法で視覚化できる強力なツールです。 主要な XNUMX 種類のディスプレイの設定を示してみました。 ただし、他のタイプも同様の方法で構成されます。 また、「舞台裏」に残した豊富な設定により、ニーズに合わせて非常に柔軟にチャートをカスタマイズできるようになります。

出所： habr.com