Külső szolgáltatások figyelése és naplózása a Kubernetes klaszterben.

Mindenkinek jó napot.

Nem találtam az interneten általános útmutatót a külső szolgáltatások naplózására és metrikáinak gyűjtésére az Kubernetes. Közzéteszem a megoldásomat. Ez a cikk azt feltételezi, hogy már működő Prometheus és egyéb szolgáltatásokkal rendelkezik. Példaként a külső stateful szolgáltatás adatforrásaként az adatbázis-kezelőt fogjuk használni. PostgreSQL konténerbe Docker. A vállalatban csomagkezelőt használunk, Helm, a szöveg alatt példák lesznek rajta. Az egész megoldáshoz saját chartot készítünk, amely tartalmazza az összes használt szolgáltatás beágyazott chartjait.

Naplózás

Sok vállalat a naplók gyűjtésére, megtekintésére és központosítására a technológiák halmazát használja, Elasticsearch + Logstash + kibana, röviden ELK. A mi esetünkben nincs szükség a tartalom indexelésére, ezért egy könnyebb megoldást alkalmaztam. Loki. Helm csomag formájában érhető el, mint subchart hozzáadtuk, módosítva az ingress és pv értékeket a rendszerünknek megfelelően.

values.yaml

ingress:
  enabled: true
  annotations:
     kubernetes.io/ingress.class: nginx
  hosts:
    - host: kube-loki.example.domain
      paths: 
        - /
  tls: []

....

persistence:
  type: pvc
  enabled: true
  accessModes:
    - ReadWriteOnce
  size: 100Gi
  finalizers:
    - kubernetes.io/pvc-protection
  existingClaim: "pv-loki"

A naplók küldéséhez a Loki használunk Loki Docker Logging Driver.

Ezt a kiegészítést minden Docker hoszton telepíteni kell, ahonnan szeretné a naplókat fogadni. Több módja van megadni a démon számára, hogyan használja a kiegészítést. A meghajtó kiválasztását a yaml fájlban végzem, Docker Compose-t használtunk., amely a Ansible playbook része.

postgres.yaml

    - name: Futtassa a konténereket
      docker_compose:
        project_name: main-postgres
        definition:
          version: '3.7'
          services:
            p:
              image: "{{ postgres_version }}"
              container_name: postgresql
              restart: always
              volumes:
                - "{{ postgres_dir }}/data:/var/lib/postgresql/data"
                - "{{ postgres_dir }}/postgres_init_scripts:/docker-entrypoint-initdb.d"
              environment:
                POSTGRES_PASSWORD: {{ postgres_pass }}
                POSTGRES_USER: {{ postgres_user }}
              ports:
                - "{{ postgres_ip }}:{{ postgres_port }}:5432"
              logging:
                driver: "loki"
                options:
                  loki-url: "{{ loki_url }}"
                  loki-batch-size: "{{ loki_batch_size }}"
                  loki-retries: "{{ loki_retries }}"
...

ahol a loki_url: kube-loki.example.domain/loki/api/v1/push

Metrikák

A metrikák gyűjtése a PostgreSQL-ből a postgres_exporter a Prometheus. A fent említett fájl folytatása Ansible playbook része.

postgres.yaml

...
            pexp:
              image: "wrouesnel/postgres_exporter"
              container_name: pexporter
              restart: unless-stopped
              environment:
                DATA_SOURCE_NAME: "postgresql://{{ postgres_user }}:{{ postgres_pass }}@p:5432/postgres?sslmode=disable"
              ports:
                - "{{ postgres_ip }}:{{ postgres_exporter_port }}:9187"
              logging:
                driver: "json-file"
                options:
                  max-size: "5m"
...

A külső stateful szolgáltatások nevének jobb érthetősége érdekében Endpoints-on keresztül definiáljuk őket.

postgres-service.yaml

apiVersion: v1
kind: Endpoints
metadata:
  name: postgres-exporter
subsets:
  - addresses:
      - ip: {{ .Values.service.postgres.ip }}
    ports:
      - port: {{ .Values.service.postgres.port }}
        protocol: TCP
---
apiVersion: v1
kind: Service
metadata:
  name: postgres-exporter
  labels:
    chart:  "{{ .Chart.Name }}-{{ .Chart.Version | replace "+" "_" }}"
spec:
  ports:
    - protocol: TCP
      port: {{ .Values.service.postgres.port }}
      targetPort: {{ .Values.service.postgres.port }}

A Prometheus beállítása a postgres_exporter adatok lekérésére a subchart values fájljának módosításával történik.

values.yaml

scrape_configs:
...
  - job_name: postgres-exporter
    static_configs:
      - targets: 
         - postgres-exporter.applicationnamespace.svc.cluster.local:9187
        labels:
          alias: postgres
...

A begyűjtött adatok megjelenítéséhez telepítse a megfelelő Dashboard-t a következőben
Grafanába és konfigurálja az adatforrásokat. Ezt a Grafana subchart values fájlján keresztül is megteheti.

Hogyan néz ki ez

Remélem, hogy ez a rövid cikk segített megérteni a megoldásban rejlő alapvető ötleteket, és időt takarít meg a külső szolgáltatások monitorozási és naplózási beállításainak a Loki/Prometheus rendszerekben való konfigurálásakor a Kubernetes klaszterben.

Forrás: habr.com