Jenkins Pipeline'ı kullanarak OpenShift'te JMeter testlerini çalıştırma

Herkese Merhaba!

Bu makalede, Jenkins'i otomasyon olarak kullanarak OpenShift'te JMeter performans testlerini çalıştırmanın yollarından birini paylaşmak istiyorum. Öncelikle gerekli tüm adımları gerçekleştireceğiz (oluşturma ImageStreams, BuildConfig, Job vb.) manuel modda. Bundan sonra Jenkins Pipeline yazalım.

Başlangıç ​​noktası olarak şunları yapmalıyız:

  1. OpenShift (v3.11) kümesini çalıştırma
  2. OpenShift'te çalışacak şekilde yapılandırılmış kimlik bilgilerine sahip Jenkins sunucusu
  3. dosya apache-jmeter-5.2.tgz

Testler olarak basit olacak HTTP Request üzerinde ya.ru tek bir akışta.

OpenShift'te proje oluşturma

Yeni bir ortam yaratarak başlayalım. Haydi yaratalım perftest bir ekip tarafından çevrelendi:

$ oc new-project perftest --display-name="Performance Tests" --description="Performance Tests - JMeter"

Yeni oluşturulan ortama otomatik olarak aktarılacağız perftest, bunun böyle olup olmadığını kontrol edelim:

$ oc project
Using project "perftest" on server "https://127.0.0.1:8443".

Depolama Oluşturma

Test raporları web sunucusuyla ortak olarak saklanacak ve jmeter-meter'bir yer - /jmeter/reports.

Şimdi Storaj'lar oluşturmak daha iyi çünkü POD'lar onlara bağlanacak jmeter-web и jmeter-master.

Depolamayla ilgili daha ayrıntılı bilgiyi resmi belgelerde bulacaksınız Kalıcı Depolama.

için yaml dosyaları oluşturalım PV и PVC.

pv.yaml

$ tee pv.yaml<<EOF
apiVersion: v1
kind: PersistentVolume
metadata:
  name: jmeter-reports
spec:
  capacity:
    storage: 10Gi
  accessModes:
    - ReadWriteMany
  glusterfs:
    endpoints: glusterfs-cluster
    path: /jmeter/reports
    readOnly: false
  persistentVolumeReclaimPolicy: Retain
EOF

pvc.yaml

$ tee pvc.yaml<<EOF
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: jmeter-reports
spec:
  accessModes:
    - ReadWriteMany
  resources:
    requests:
      storage: 10Gi
EOF

hadi yaratalım PV и PVC OpenShift tarafından çevrelenmiştir:

$ oc create -f pv.yaml -n perftest
$ oc create -f pvc.yaml -n perftest

Durumu kontrol ediliyor PVC:

$ oc get pvc -n perftest
NAME             STATUS    VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS        AGE
jmeter-reports   Bound     pvc-b0e5f152-db4b-11ea-a497-566f75280024   10Gi       RWX            glusterfs-storage   8m

GUI'de şöyle görünecek:

Jenkins Pipeline'ı kullanarak OpenShift'te JMeter testlerini çalıştırma

JMeter Temel Görüntüsü Oluşturma

Oluşturmaya devam edelim ImageStream и BuildConfig.

Gerekli tüm bilgileri belgelerde bulabilirsiniz - Yapılar ve Görüntü Akışları.

İmaj oluşturma stratejisi Docker yerel bir kaynaktan.

Temel bir görüntü oluşturalım jmeter-basebunun temeli olacak jmeter-master.

Dockerfile

FROM openjdk:8u212-jdk

ARG JMETER_VER="5.2"
ENV JMETER_HOME /jmeter/apache-jmeter-$JMETER_VER
ENV PATH $JMETER_HOME/bin:$PATH

RUN mkdir -p /jmeter/results 
    && mkdir /jmeter/tests

WORKDIR /jmeter

COPY apache-jmeter-$JMETER_VER.tgz .

RUN tar -xzf $JMETER_HOME.tgz 
    && rm $JMETER_HOME.tgz 
    && ls -la

RUN sed -i s/#server.rmi.ssl.disable=false/server.rmi.ssl.disable=true/ $JMETER_HOME/bin/jmeter.properties

EXPOSE 60000

is.yaml

$ tee is.yaml<<EOF
apiVersion: v1
kind: ImageStream
metadata:
  labels:
    build: jmeter-base
  name: jmeter-base
EOF

bc.yaml

$ tee bc.yaml<<EOF
apiVersion: v1
kind: BuildConfig
metadata:
  name: jmeter-base
spec:
  failedBuildsHistoryLimit: 5
  nodeSelector: null
  output:
    to:
      kind: ImageStreamTag
      name: 'jmeter-base:latest'
  postCommit: {}
  resources: {}
  runPolicy: Serial
  source:
    binary: {}
    type: Binary
  strategy:
    dockerStrategy:
      from:
        kind: ImageStreamTag
        name: 'openjdk:8u212-jdk'
    type: Docker
  successfulBuildsHistoryLimit: 5
EOF

Haydi nesneler yaratalım IS и BC:

$ oc create -f is.yaml -n perftest
$ oc create -f bc.yaml -n perftest

Şimdi temel görüntüyü oluşturalım jmeter-base:

$ oc start-build jmeter-base -n perftest --from-dir=. --follow

JMeter WEB

jmeter-web Bu bir Apache web sunucusudur. Görevi, görüntülenmek üzere test sonuçlarını içeren bir dizin sağlamaktır.

Tedarikli Dockerfile ve yapılandırma dosyası httpd.conf. Direktif için DocumentRoot değer kümesi /jmeter/reportsyani test sonuçlarının kaydedildiği dizin.

Dockerfile

$ tee Dockerfile<<EOF
FROM httpd:2.4

COPY httpd.conf /usr/local/apache2/conf/httpd.conf
RUN chmod -R 777 /usr/local/apache2/logs

EXPOSE 8080

CMD ["httpd", "-D", "FOREGROUND"]
EOF

is.yaml

$ tee is.yaml<<EOF
apiVersion: v1
kind: ImageStream
metadata:
  generation: 1
  labels:
    build: jmeter-web
  name: jmeter-web
EOF

bc.yaml

$ tee bc.yaml<<EOF
apiVersion: v1
kind: BuildConfig
metadata:
  name: jmeter-web
spec:
  failedBuildsHistoryLimit: 5
  nodeSelector: null
  output:
    to:
      kind: ImageStreamTag
      name: 'jmeter-web:latest'
  runPolicy: Serial
  source:
    binary: {}
    type: Binary
  strategy:
    dockerStrategy:
      from:
        kind: ImageStreamTag
        name: 'httpd:2.4'
    type: Docker
  successfulBuildsHistoryLimit: 5
EOF

hadi yaratalım ImageStream и BuildConfig nesneler:

$ oc create -f is.yaml -n perftest
$ oc create -f bc.yaml -n perftest

Şuradan bir görüntü toplanıyor: Dockerfile:

$ oc start-build jmeter-web -n perftest --from-dir=. --follow

dc.yaml

$ tee dc.yaml<<EOF
apiVersion: apps.openshift.io/v1
kind: DeploymentConfig
metadata:
  name: jmeter-web
spec:
  replicas: 1
  template:
    metadata:
      labels:
        name: jmeter-web
    spec:
      containers:
        - image: 172.30.1.1:5000/perftest/jmeter-web
          name: jmeter-web
          volumeMounts:
            - mountPath: /jmeter/reports
              name: jmeter-reports
          ports:
            - containerPort: 80
              protocol: TCP
            - containerPort: 8080
              protocol: TCP
      volumes:
        - name: jmeter-reports
          persistentVolumeClaim:
            claimName: jmeter-reports
EOF

sc.yaml

$ tee sc.yaml<<EOF
apiVersion: v1
kind: Service
metadata:
  labels:
    app: jmeter-web
  name: jmeter-web
spec:
  ports:
    - name: 8080-tcp
      port: 8080
      protocol: TCP
      targetPort: 8080
  selector:
    deploymentconfig: jmeter-web
  sessionAffinity: None
  type: ClusterIP
EOF

Haydi nesneler yaratalım Service и DeploymentConfig:

$ oc create -f sc.yaml -n perftest
$ oc create -f dc.yaml -n perftest

Jmeter-master

Apache web sunucusunu dağıtmaya başlayalım.

Bu Docker dosyasıdır jmeter-master'a, dayalı jmeter-basetestleri çalıştıracak ve sonuçları depolamaya kaydedecektir.

Dockerfile

Dockerfile için jmeter-master, dayalı jmeter-base.

FROM jmeter-base

ARG JMETER_VER="5.2"
ENV JMETER_HOME /jmeter/apache-jmeter-$JMETER_VER
ENV PATH $JMETER_HOME/bin:$PATH

WORKDIR /jmeter
COPY run.sh /jmeter/
COPY tests/*.jmx /jmeter/tests/
RUN chmod +x /jmeter/run.sh

ENTRYPOINT ["/bin/bash"]
CMD ["/jmeter/run.sh"]

run.sh

run.sh bu, JMeter'ı çalıştıran ve sonuçları bir dizine kaydeden bir komut dosyasıdır files.

Komut dosyası her başlatıldığında önceki testleri siler, böylece yalnızca en son verilerle çalışabilirsiniz. Ancak bu bir sorun değil çünkü bunu ihtiyaçlarınıza göre değiştirebilirsiniz.

#!/bin/bash

set -e

if [ -d "/jmeter/reports/files" ]
then
    echo "Directory /jmeter/reports/files exist - OK"
else
    echo "Creating /jmeter/reports/files directory"
    mkdir /jmeter/reports/files
fi

if [ -d "/jmeter/reports/dashboards" ]
then
    echo "Directory /jmeter/reports/dashboards exist"
else
    echo "Creating /jmeter/reports/dashboards directory"
    mkdir /jmeter/reports/dashboards
fi

echo "*** JMeter START Tests ***"

for item in $(ls -1 /jmeter/tests | grep jmx)
do
    echo "*** Removing dashboard directory for $item"
    rm -rdf /jmeter/reports/dashboards/${item}*

    echo "*** Removing tests directory for $item"
    rm -rdf /jmeter/reports/files/${item}*

    echo "*** Testing a $item file ***"
    jmeter -n -t /jmeter/tests/${item} -l /jmeter/reports/files/${item}-report.jtl -e -o /jmeter/reports/dashboards/${item}-dash
done

is.yaml

$ tee is.yaml<<EOF
apiVersion: image.openshift.io/v1
kind: ImageStream
metadata:
  generation: 1
  labels:
    build: jmeter-master
  name: jmeter-master
EOF

bc.yaml

$ tee bc.yaml<<EOF
apiVersion: build.openshift.io/v1
kind: BuildConfig
metadata:
  name: jmeter-master
spec:
  failedBuildsHistoryLimit: 5
  nodeSelector: null
  output:
    to:
      kind: ImageStreamTag
      name: 'jmeter-master:latest'
  runPolicy: Serial
  source:
    binary: {}
    type: Binary
  strategy:
    dockerStrategy:
      from:
        kind: ImageStreamTag
        name: 'jmeter-base:latest'
    type: Docker
  successfulBuildsHistoryLimit: 5
EOF

hadi yaratalım IS и BC nesneler:

$ oc create -f is.yaml -n perftest
$ oc create -f bc.yaml -n perftest

Biz toplamak jmeter-master resim:

$ oc start-build jmeter-master -n perftest --from-dir=. --follow

İş

Job'ler kullanılır OpenShiftbir veya daha fazlasını çalıştırmak için POD's ve komutu/komut dosyasını yürüttükten sonra başarılı bir şekilde tamamlanmalarını garanti edin.

$ tee job.yaml<<EOF
apiVersion: batch/v1
kind: Job
metadata:
  name: jmeter-master
  labels:
    jobName: jmeter-master
spec:
  completions: 1
  parallelism: 1
  template:
    metadata:
      name: jmeter-master
      labels:
        jobName: jmeter-master
    spec:
      containers:
        - name: jmeter-master
          image: 172.30.1.1:5000/perftest/jmeter-master:latest
          volumeMounts:
            - mountPath: /jmeter/reports
              name: jmeter-reports
          imagePullPolicy: Always
      volumes:
        - name: jmeter-reports
          persistentVolumeClaim:
            claimName: jmeter-reports
      restartPolicy: Never
      terminationGracePeriodSeconds: 30
EOF

Bir nesne oluştur Job:

$ oc create -f job.yaml -n perftest

İşin durumunu kontrol edelim:

$ oc get jobs -n perftest
NAME            DESIRED   SUCCESSFUL   AGE
jmeter-master   1         1            5m

Silmek Job komutunu kullanalım:

$ oc delete jobs/jmeter-master -n perftest --ignore-not-found=true

Jenkins Boru Hattı

Şimdi otomasyon. Adımları tekrar gözden geçirelim:

  1. git clone
  2. oc whoami -t
  3. oc start-build ...
  4. oc delete jobs/jmeter-master
  5. oc create -f job.yaml -n perftest

Aşağıda depo klonlama, silme ve OpenShift oluşturma işlemlerinin gerçekleştirildiği bir işlem hattı yer almaktadır Job'S.

#!groovy

pipeline {

    agent any

    stages {

        stage('Start Notifications') {
            steps {
                echo "Sending Email Notification"
            }
            post {
                always {
                    echo "STARTED - Performance Tests"
                    mail(to: '[email protected]', from: "[email protected]", subject: "START - Performance Tests",mimeType: "text/html", body: "<strong>START - Performance Tests</strong><br /><br />Project: Name of Project<br />Environment: PerfTest<br />Build number: ${env.BUILD_NUMBER}<br />Build URL:   ${env.BUILD_URL}"
                }
            }
        }

        stage('Git checkout') {
            steps {
                ...
            }
        }

        stage('Perf Tests') {
            steps {
                script {
                    sh '''
                        OC_CMD1="oc login -u=username -p=PASS -n=perftest 
                        --server=https://...:8443"

                        $OC_CMD1

                        OC_TOKEN=`oc whoami -t`

                        OC_CMD2="oc --token=$OC_TOKEN --server=https://...:8443 
                        start-build jmeter-master -n=perftest --from-dir=./master 
                        --follow=true"

                        OC_CMD3="oc --token=$OC_TOKEN --server=https://...:8443 
                        delete jobs/jmeter-master -n=perftest --ignore-not-found=true"

                        OC_CMD4="oc--token=$OC_TOKEN --server=https://...:8443 
                        create -f ./master/job.yaml -n=perftest"

                        $OC_CMD2
                        $OC_CMD3
                        $OC_CMD4
                    '''
                }
            }
        }

        post {
            failure {
                echo "FAILED - Performance Tests"
                mail(to: '[email protected]', from: "[email protected]", subject: "FAILED - Performance Tests",mimeType: "text/html", body: "<strong>FAILED - Performance Tests</strong><br /><br />Project: Name of Project<br />Environment: PerfTest<br />Build number: ${env.BUILD_NUMBER}<br />Build URL: ${env.BUILD_URL}"
                }

            success {
                echo "SUCCESSED - Performance Tests"
                mail(to: '[email protected]', from: "[email protected]", subject: "SUCCESSED - Performance Tests",mimeType: "text/html", body: "<strong>SUCCESSED - Performance Tests</strong><br /><br />Project: Name of Project<br />Environment: PerfTest<br />Build number: ${env.BUILD_NUMBER}<br />Build URL:   ${env.BUILD_URL}"
            }
        }

    }
}

Pipeline çalışmasını tamamladıktan sonra e-postayla bir bildirim alacağız '[email protected] itibaren [email protected].

Bağlantıya tıklayarak http://jmeter-web.127.0.0.1.nip.io/ dizini göreceğiz files, test raporlarını saklayan:

Jenkins Pipeline'ı kullanarak OpenShift'te JMeter testlerini çalıştırma

Dosya içeriği ya.HTTP.Request.jmx-report.jtk:

timeStamp,elapsed,label,responseCode,responseMessage,threadName,dataType,success,failureMessage,bytes,sentBytes,grpThreads,allThreads,URL,Latency,IdleTime,Connect
1597311456443,569,Yandex - HTTP Request,200,Ok,Thread Group 1-1,text,true,,59449,220,1,1,https://ya.ru/,145,0,57
1597311456443,147,Yandex - HTTP Request-0,302,Found,Thread Group 1-1,,true,,478,110,1,1,http://ya.ru/,145,0,57
1597311456592,420,Yandex - HTTP Request-1,200,Ok,Thread Group 1-1,text,true,,58971,110,1,1,https://ya.ru/,370,0,259

Sonuç

Bu makale, OpenShift ortamında JMeter testlerini çalıştırma seçeneklerinden birini gösterdi. Tüm adımları manuel olarak tamamladık ve ardından test çalıştırma sürecini otomatikleştirmek için Jenkins Pipeline'ı oluşturduk.

Kaynaklar ve belgeler

Kaynak: habr.com

Yorum ekle