🥇Prometheus: Blackbox ixracatçısı vasitəsilə HTTP monitorinqi

Hamıya salam. May ayında OTUS işə salınır monitorinq və giriş üzrə seminar, Zabbix, Prometheus, Grafana və ELK istifadə edən həm infrastruktur, həm də tətbiqlər. Bu baxımdan biz ənənəvi olaraq mövzu ilə bağlı faydalı material paylaşırıq.

Blackbox ixracatçısı Prometheus üçün HTTP, HTTPS, DNS, TCP, ICMP vasitəsilə xarici xidmətlərə nəzarət etməyə imkan verir. Bu yazıda mən sizə Blackbox ixracatçısından istifadə edərək HTTP/HTTPS monitorinqinin necə qurulacağını göstərəcəyəm. Kubernetesdə Blackbox ixracatçısını işlədəcəyik.

Ətraf mühit

Bizə aşağıdakılar lazım olacaq:

Kubernetes
Prometey operatoru

qara qutu ixracatçı konfiqurasiyası

Blackbox vasitəsilə konfiqurasiya edilir ConfigMap parametrlər üçün http veb xidmət monitorinq modulu.

apiVersion: v1
kind: ConfigMap
metadata:
  name: prometheus-blackbox-exporter
  labels:
    app: prometheus-blackbox-exporter
data:
  blackbox.yaml: |
    modules:
      http_2xx:
        http:
          no_follow_redirects: false
          preferred_ip_protocol: ip4
          valid_http_versions:
          - HTTP/1.1
          - HTTP/2
          valid_status_codes: []
        prober: http
        timeout: 5s

Modul http_2xx veb xidmətinin 2xx HTTP status kodunu qaytardığını yoxlamaq üçün istifadə olunur. Qara qutu ixracatçısının konfiqurasiyası burada daha ətraflı təsvir edilmişdir sənədləşdirmə.

Qara qutu ixracatçısını Kubernetes klasterinə yerləşdirin

Təsvir etmək Deployment и Service Kubernetes-də yerləşdirmə üçün.

---
kind: Service
apiVersion: v1
metadata:
  name: prometheus-blackbox-exporter
  labels:
    app: prometheus-blackbox-exporter
spec:
  type: ClusterIP
  ports:
    - name: http
      port: 9115
      protocol: TCP
  selector:
    app: prometheus-blackbox-exporter

---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: prometheus-blackbox-exporter
  labels:
    app: prometheus-blackbox-exporter
spec:
  replicas: 1
  selector:
    matchLabels:
      app: prometheus-blackbox-exporter
  template:
    metadata:
      labels:
        app: prometheus-blackbox-exporter
    spec:
      restartPolicy: Always
      containers:
        - name: blackbox-exporter
          image: "prom/blackbox-exporter:v0.15.1"
          imagePullPolicy: IfNotPresent
          securityContext:
            readOnlyRootFilesystem: true
            runAsNonRoot: true
            runAsUser: 1000
          args:
            - "--config.file=/config/blackbox.yaml"
          resources:
            {}
          ports:
            - containerPort: 9115
              name: http
          livenessProbe:
            httpGet:
              path: /health
              port: http
          readinessProbe:
            httpGet:
              path: /health
              port: http
          volumeMounts:
            - mountPath: /config
              name: config
        - name: configmap-reload
          image: "jimmidyson/configmap-reload:v0.2.2"
          imagePullPolicy: "IfNotPresent"
          securityContext:
            runAsNonRoot: true
            runAsUser: 65534
          args:
            - --volume-dir=/etc/config
            - --webhook-url=http://localhost:9115/-/reload
          resources:
            {}
          volumeMounts:
            - mountPath: /etc/config
              name: config
              readOnly: true
      volumes:
        - name: config
          configMap:
            name: prometheus-blackbox-exporter

Blackbox ixracatçısı aşağıdakı əmrlə yerləşdirilə bilər. Ad sahəsi monitoring Prometey Operatoruna istinad edir.

kubectl --namespace=monitoring apply -f blackbox-exporter.yaml

Aşağıdakı əmrdən istifadə edərək bütün xidmətlərin işlədiyini yoxlayın:

kubectl --namespace=monitoring get all --selector=app=prometheus-blackbox-exporter

Qara qutu yoxlanışı

Blackbox Exporter veb interfeysinə ilə daxil ola bilərsiniz port-forward:

kubectl --namespace=monitoring port-forward svc/prometheus-blackbox-exporter 9115:9115

ünvanında veb brauzer vasitəsilə Blackbox Exporter veb interfeysinə qoşulun localhost: 9115.

Əgər getsən http://localhost:9115/probe?module=http_2xx&target=https://www.google.com, göstərilən URL-in yoxlanılmasının nəticəsini görəcəksiniz (https://www.google.com).

Metrik dəyər probe_success 1-ə bərabər olması uğurlu yoxlama deməkdir. 0 dəyəri xətanı göstərir.

Prometey qurmaq

BlackBox ixracatçısını yerləşdirdikdən sonra Prometheus-u quraşdırın prometheus-additional.yaml.

- job_name: 'kube-api-blackbox'
  scrape_interval: 1w
  metrics_path: /probe
  params:
    module: [http_2xx]
  static_configs:
   - targets:
      - https://www.google.com
      - http://www.example.com
      - https://prometheus.io
  relabel_configs:
   - source_labels: [__address__]
     target_label: __param_target
   - source_labels: [__param_target]
     target_label: instance
   - target_label: __address__
     replacement: prometheus-blackbox-exporter:9115 # The blackbox exporter.

Biz yaradırıq Secretaşağıdakı əmrdən istifadə edərək.

PROMETHEUS_ADD_CONFIG=$(cat prometheus-additional.yaml | base64)
cat << EOF | kubectl --namespace=monitoring apply -f -
apiVersion: v1
kind: Secret
metadata:
  name: additional-scrape-configs
type: Opaque
data:
  prometheus-additional.yaml: $PROMETHEUS_ADD_CONFIG
EOF

Göstərin additional-scrape-configs istifadə edən Prometheus Operator üçün additionalScrapeConfigs.

kubectl --namespace=monitoring edit prometheuses k8s
...
spec:
  additionalScrapeConfigs:
    key: prometheus-additional.yaml
    name: additional-scrape-configs

Prometheus veb interfeysinə gedirik, ölçüləri və məqsədləri yoxlayırıq.

kubectl --namespace=monitoring port-forward svc/prometheus-k8s 9090:9090

Blackbox-ın ölçülərini və məqsədlərini görürük.

Bildirişlər üçün qaydalar əlavə etmək (xəbərdarlıq)

Blackbox ixracatçısından xəbərdarlıq almaq üçün Prometheus Operatoruna qaydalar əlavə edək.

kubectl --namespace=monitoring edit prometheusrules prometheus-k8s-rules
...
  - name: blackbox-exporter
    rules:
    - alert: ProbeFailed
      expr: probe_success == 0
      for: 5m
      labels:
        severity: error
      annotations:
        summary: "Probe failed (instance {{ $labels.instance }})"
        description: "Probe failedn  VALUE = {{ $value }}n  LABELS: {{ $labels }}"
    - alert: SlowProbe
      expr: avg_over_time(probe_duration_seconds[1m]) > 1
      for: 5m
      labels:
        severity: warning
      annotations:
        summary: "Slow probe (instance {{ $labels.instance }})"
        description: "Blackbox probe took more than 1s to completen  VALUE = {{ $value }}n  LABELS: {{ $labels }}"
    - alert: HttpStatusCode
      expr: probe_http_status_code <= 199 OR probe_http_status_code >= 400
      for: 5m
      labels:
        severity: error
      annotations:
        summary: "HTTP Status Code (instance {{ $labels.instance }})"
        description: "HTTP status code is not 200-399n  VALUE = {{ $value }}n  LABELS: {{ $labels }}"
    - alert: SslCertificateWillExpireSoon
      expr: probe_ssl_earliest_cert_expiry - time() < 86400 * 30
      for: 5m
      labels:
        severity: warning
      annotations:
        summary: "SSL certificate will expire soon (instance {{ $labels.instance }})"
        description: "SSL certificate expires in 30 daysn  VALUE = {{ $value }}n  LABELS: {{ $labels }}"
    - alert: SslCertificateHasExpired
      expr: probe_ssl_earliest_cert_expiry - time()  <= 0
      for: 5m
      labels:
        severity: error
      annotations:
        summary: "SSL certificate has expired (instance {{ $labels.instance }})"
        description: "SSL certificate has expired alreadyn  VALUE = {{ $value }}n  LABELS: {{ $labels }}"
    - alert: HttpSlowRequests
      expr: avg_over_time(probe_http_duration_seconds[1m]) > 1
      for: 5m
      labels:
        severity: warning
      annotations:
        summary: "HTTP slow requests (instance {{ $labels.instance }})"
        description: "HTTP request took more than 1sn  VALUE = {{ $value }}n  LABELS: {{ $labels }}"
    - alert: SlowPing
      expr: avg_over_time(probe_icmp_duration_seconds[1m]) > 1
      for: 5m
      labels:
        severity: warning
      annotations:
        summary: "Slow ping (instance {{ $labels.instance }})"
        description: "Blackbox ping took more than 1sn  VALUE = {{ $value }}n  LABELS: {{ $labels }}"

Prometheus veb interfeysində Status => Rules bölməsinə keçin və blackbox-exporter üçün xəbərdarlıq qaydalarını tapın.

Kubernetes API Server SSL Sertifikatının Müddəti Bitmə Bildirişlərinin konfiqurasiyası

Gəlin Kubernetes API Server SSL sertifikatının bitmə monitorinqini konfiqurasiya edək. Həftədə bir dəfə bildiriş göndərəcək.

Kubernetes API Server Authentication üçün Blackbox ixracatçı modulunun əlavə edilməsi.

kubectl --namespace=monitoring edit configmap prometheus-blackbox-exporter
...
      kube-api:
        http:
          method: GET
          no_follow_redirects: false
          preferred_ip_protocol: ip4
          tls_config:
            insecure_skip_verify: false
            ca_file: /var/run/secrets/kubernetes.io/serviceaccount/ca.crt
          bearer_token_file: /var/run/secrets/kubernetes.io/serviceaccount/token
          valid_http_versions:
          - HTTP/1.1
          - HTTP/2
          valid_status_codes: []
        prober: http
        timeout: 5s

Prometheus qırıntı konfiqurasiyasının əlavə edilməsi

- job_name: 'kube-api-blackbox'
  metrics_path: /probe
  params:
    module: [kube-api]
  static_configs:
   - targets:
      - https://kubernetes.default.svc/api
  relabel_configs:
   - source_labels: [__address__]
     target_label: __param_target
   - source_labels: [__param_target]
     target_label: instance
   - target_label: __address__
     replacement: prometheus-blackbox-exporter:9115 # The blackbox exporter.

Prometey sirrini tətbiq edin

PROMETHEUS_ADD_CONFIG=$(cat prometheus-additional.yaml | base64)
cat << EOF | kubectl --namespace=monitoring apply -f -
apiVersion: v1
kind: Secret
metadata:
  name: additional-scrape-configs
type: Opaque
data:
  prometheus-additional.yaml: $PROMETHEUS_ADD_CONFIG
EOF

Xəbərdarlıq Qaydalarının əlavə edilməsi

kubectl --namespace=monitoring edit prometheusrules prometheus-k8s-rules
...
  - name: k8s-api-server-cert-expiry
    rules:
    - alert: K8sAPIServerSSLCertExpiringAfterThreeMonths
      expr: probe_ssl_earliest_cert_expiry{job="kube-api-blackbox"} - time() < 86400 * 90 
      for: 1w
      labels:
        severity: warning
      annotations:
        summary: "Kubernetes API Server SSL certificate will expire after three months (instance {{ $labels.instance }})"
        description: "Kubernetes API Server SSL certificate expires in 90 daysn  VALUE = {{ $value }}n  LABELS: {{ $labels }}"

Faydalı linklər

Docker-də monitorinq və giriş

Mənbə: www.habr.com