🥇Prometheus: Blackbox 내보내기를 통한 HTTP 모니터링

안녕하세요 여러분. XNUMX월 OTUS 출시 모니터링 및 로깅에 관한 워크숍, Zabbix, Prometheus, Grafana 및 ELK를 사용하는 인프라와 애플리케이션 모두. 이와 관련하여 우리는 전통적으로 해당 주제에 대한 유용한 자료를 공유합니다.

블랙박스 수출업체 Prometheus의 경우 HTTP, HTTPS, DNS, TCP, ICMP를 통해 외부 서비스 모니터링을 구현할 수 있습니다. 이 글에서는 Blackbox 내보내기를 사용하여 HTTP/HTTPS 모니터링을 설정하는 방법을 보여드리겠습니다. Kubernetes에서 Blackbox 내보내기 기능을 출시할 예정입니다.

환경

다음이 필요합니다.

Kubernetes
프로메테우스 오퍼레이터

내보내기 블랙박스 구성

블랙박스 구성을 통해 ConfigMap 설정용 http 웹 서비스 모니터링 모듈.

apiVersion: v1
kind: ConfigMap
metadata:
  name: prometheus-blackbox-exporter
  labels:
    app: prometheus-blackbox-exporter
data:
  blackbox.yaml: |
    modules:
      http_2xx:
        http:
          no_follow_redirects: false
          preferred_ip_protocol: ip4
          valid_http_versions:
          - HTTP/1.1
          - HTTP/2
          valid_status_codes: []
        prober: http
        timeout: 5s

기준 치수 http_2xx 웹 서비스가 HTTP 2xx 상태 코드를 반환하는지 확인하는 데 사용됩니다. 블랙박스 내보내기 구성에 대한 자세한 내용은 선적 서류 비치.

Kubernetes 클러스터에 블랙박스 내보내기 도구 배포

설명하다 Deployment и Service Kubernetes에 배포하기 위해.

---
kind: Service
apiVersion: v1
metadata:
  name: prometheus-blackbox-exporter
  labels:
    app: prometheus-blackbox-exporter
spec:
  type: ClusterIP
  ports:
    - name: http
      port: 9115
      protocol: TCP
  selector:
    app: prometheus-blackbox-exporter

---
apiVersion: apps/v1
kind: Deployment
metadata:
  name: prometheus-blackbox-exporter
  labels:
    app: prometheus-blackbox-exporter
spec:
  replicas: 1
  selector:
    matchLabels:
      app: prometheus-blackbox-exporter
  template:
    metadata:
      labels:
        app: prometheus-blackbox-exporter
    spec:
      restartPolicy: Always
      containers:
        - name: blackbox-exporter
          image: "prom/blackbox-exporter:v0.15.1"
          imagePullPolicy: IfNotPresent
          securityContext:
            readOnlyRootFilesystem: true
            runAsNonRoot: true
            runAsUser: 1000
          args:
            - "--config.file=/config/blackbox.yaml"
          resources:
            {}
          ports:
            - containerPort: 9115
              name: http
          livenessProbe:
            httpGet:
              path: /health
              port: http
          readinessProbe:
            httpGet:
              path: /health
              port: http
          volumeMounts:
            - mountPath: /config
              name: config
        - name: configmap-reload
          image: "jimmidyson/configmap-reload:v0.2.2"
          imagePullPolicy: "IfNotPresent"
          securityContext:
            runAsNonRoot: true
            runAsUser: 65534
          args:
            - --volume-dir=/etc/config
            - --webhook-url=http://localhost:9115/-/reload
          resources:
            {}
          volumeMounts:
            - mountPath: /etc/config
              name: config
              readOnly: true
      volumes:
        - name: config
          configMap:
            name: prometheus-blackbox-exporter

Blackbox 내보내기는 다음 명령을 사용하여 배포할 수 있습니다. 네임스페이스 monitoring 프로메테우스 오퍼레이터를 말합니다.

kubectl --namespace=monitoring apply -f blackbox-exporter.yaml

다음 명령을 사용하여 모든 서비스가 실행되고 있는지 확인하십시오.

kubectl --namespace=monitoring get all --selector=app=prometheus-blackbox-exporter

블랙박스 확인

다음을 사용하여 Blackbox 내보내기 웹 인터페이스에 액세스할 수 있습니다. port-forward:

kubectl --namespace=monitoring port-forward svc/prometheus-blackbox-exporter 9115:9115

웹 브라우저를 통해 Blackbox 내보내기 웹 인터페이스에 연결하십시오. 로컬 호스트: 9115.

해당 주소로 가보시면 http://localhost:9115/probe?module=http_2xx&target=https://www.google.com, 지정된 URL을 확인한 결과를 볼 수 있습니다(https://www.google.com).

측정항목 값 probe_success 1과 같으면 성공적인 확인을 의미합니다. 값 0은 오류를 나타냅니다.

프로메테우스 설정

BlackBox 내보내기를 배포한 후 Prometheus를 구성합니다. prometheus-additional.yaml.

- job_name: 'kube-api-blackbox'
  scrape_interval: 1w
  metrics_path: /probe
  params:
    module: [http_2xx]
  static_configs:
   - targets:
      - https://www.google.com
      - http://www.example.com
      - https://prometheus.io
  relabel_configs:
   - source_labels: [__address__]
     target_label: __param_target
   - source_labels: [__param_target]
     target_label: instance
   - target_label: __address__
     replacement: prometheus-blackbox-exporter:9115 # The blackbox exporter.

우리는 생성합니다 Secret다음 명령을 사용합니다.

PROMETHEUS_ADD_CONFIG=$(cat prometheus-additional.yaml | base64)
cat << EOF | kubectl --namespace=monitoring apply -f -
apiVersion: v1
kind: Secret
metadata:
  name: additional-scrape-configs
type: Opaque
data:
  prometheus-additional.yaml: $PROMETHEUS_ADD_CONFIG
EOF

지정 additional-scrape-configs Prometheus Operator의 경우 다음을 사용합니다. additionalScrapeConfigs.

kubectl --namespace=monitoring edit prometheuses k8s
...
spec:
  additionalScrapeConfigs:
    key: prometheus-additional.yaml
    name: additional-scrape-configs

Prometheus 웹 인터페이스로 이동하여 측정항목과 목표를 확인합니다.

kubectl --namespace=monitoring port-forward svc/prometheus-k8s 9090:9090

Blackbox의 지표와 목표를 확인합니다.

알림(경고)에 대한 규칙 추가

Blackbox 내보내기로부터 알림을 받기 위해 Prometheus Operator에 규칙을 추가하겠습니다.

kubectl --namespace=monitoring edit prometheusrules prometheus-k8s-rules
...
  - name: blackbox-exporter
    rules:
    - alert: ProbeFailed
      expr: probe_success == 0
      for: 5m
      labels:
        severity: error
      annotations:
        summary: "Probe failed (instance {{ $labels.instance }})"
        description: "Probe failedn  VALUE = {{ $value }}n  LABELS: {{ $labels }}"
    - alert: SlowProbe
      expr: avg_over_time(probe_duration_seconds[1m]) > 1
      for: 5m
      labels:
        severity: warning
      annotations:
        summary: "Slow probe (instance {{ $labels.instance }})"
        description: "Blackbox probe took more than 1s to completen  VALUE = {{ $value }}n  LABELS: {{ $labels }}"
    - alert: HttpStatusCode
      expr: probe_http_status_code <= 199 OR probe_http_status_code >= 400
      for: 5m
      labels:
        severity: error
      annotations:
        summary: "HTTP Status Code (instance {{ $labels.instance }})"
        description: "HTTP status code is not 200-399n  VALUE = {{ $value }}n  LABELS: {{ $labels }}"
    - alert: SslCertificateWillExpireSoon
      expr: probe_ssl_earliest_cert_expiry - time() < 86400 * 30
      for: 5m
      labels:
        severity: warning
      annotations:
        summary: "SSL certificate will expire soon (instance {{ $labels.instance }})"
        description: "SSL certificate expires in 30 daysn  VALUE = {{ $value }}n  LABELS: {{ $labels }}"
    - alert: SslCertificateHasExpired
      expr: probe_ssl_earliest_cert_expiry - time()  <= 0
      for: 5m
      labels:
        severity: error
      annotations:
        summary: "SSL certificate has expired (instance {{ $labels.instance }})"
        description: "SSL certificate has expired alreadyn  VALUE = {{ $value }}n  LABELS: {{ $labels }}"
    - alert: HttpSlowRequests
      expr: avg_over_time(probe_http_duration_seconds[1m]) > 1
      for: 5m
      labels:
        severity: warning
      annotations:
        summary: "HTTP slow requests (instance {{ $labels.instance }})"
        description: "HTTP request took more than 1sn  VALUE = {{ $value }}n  LABELS: {{ $labels }}"
    - alert: SlowPing
      expr: avg_over_time(probe_icmp_duration_seconds[1m]) > 1
      for: 5m
      labels:
        severity: warning
      annotations:
        summary: "Slow ping (instance {{ $labels.instance }})"
        description: "Blackbox ping took more than 1sn  VALUE = {{ $value }}n  LABELS: {{ $labels }}"

Prometheus 웹 인터페이스에서 상태 => 규칙으로 이동하여 blackbox-exporter에 대한 경고 규칙을 찾으세요.

Kubernetes API 서버 SSL 인증서 만료 알림 구성

Kubernetes API 서버 SSL 인증서 만료 모니터링을 구성해 보겠습니다. 일주일에 한 번씩 알림을 보내드립니다.

Kubernetes API 서버 인증을 위한 Blackbox 내보내기 모듈을 추가합니다.

kubectl --namespace=monitoring edit configmap prometheus-blackbox-exporter
...
      kube-api:
        http:
          method: GET
          no_follow_redirects: false
          preferred_ip_protocol: ip4
          tls_config:
            insecure_skip_verify: false
            ca_file: /var/run/secrets/kubernetes.io/serviceaccount/ca.crt
          bearer_token_file: /var/run/secrets/kubernetes.io/serviceaccount/token
          valid_http_versions:
          - HTTP/1.1
          - HTTP/2
          valid_status_codes: []
        prober: http
        timeout: 5s

Prometheus 스크랩 구성 추가

- job_name: 'kube-api-blackbox'
  metrics_path: /probe
  params:
    module: [kube-api]
  static_configs:
   - targets:
      - https://kubernetes.default.svc/api
  relabel_configs:
   - source_labels: [__address__]
     target_label: __param_target
   - source_labels: [__param_target]
     target_label: instance
   - target_label: __address__
     replacement: prometheus-blackbox-exporter:9115 # The blackbox exporter.

프로메테우스 비밀 사용

PROMETHEUS_ADD_CONFIG=$(cat prometheus-additional.yaml | base64)
cat << EOF | kubectl --namespace=monitoring apply -f -
apiVersion: v1
kind: Secret
metadata:
  name: additional-scrape-configs
type: Opaque
data:
  prometheus-additional.yaml: $PROMETHEUS_ADD_CONFIG
EOF

경고 규칙 추가

kubectl --namespace=monitoring edit prometheusrules prometheus-k8s-rules
...
  - name: k8s-api-server-cert-expiry
    rules:
    - alert: K8sAPIServerSSLCertExpiringAfterThreeMonths
      expr: probe_ssl_earliest_cert_expiry{job="kube-api-blackbox"} - time() < 86400 * 90 
      for: 1w
      labels:
        severity: warning
      annotations:
        summary: "Kubernetes API Server SSL certificate will expire after three months (instance {{ $labels.instance }})"
        description: "Kubernetes API Server SSL certificate expires in 90 daysn  VALUE = {{ $value }}n  LABELS: {{ $labels }}"

유용한 링크

Docker에서 모니터링 및 로그인

출처 : habr.com