Menjalankan pengujian JMeter di OpenShift menggunakan Jenkins Pipeline

Hello!

Pada artikel ini saya ingin berbagi salah satu cara menjalankan tes kinerja JMeter di OpenShift menggunakan Jenkins sebagai otomatisasi. Pertama kita akan melakukan semua langkah yang diperlukan (membuat ImageStreams, BuildConfig, Job dll.) dalam mode manual. Setelah itu, mari kita tulis Jenkins Pipeline.

Sebagai titik awal kita harus memiliki:

  1. menjalankan kluster OpenShift (v3.11).
  2. Server Jenkins dengan kredensial yang dikonfigurasi untuk bekerja di OpenShift
  3. file itu apache-jmeter-5.2.tgz

Sebagai tes itu akan sederhana HTTP Request pada ya.ru dalam satu aliran.

Membuat proyek di OpenShift

Mari kita mulai dengan menciptakan lingkungan baru. Ayo berkreasi perftest dikelilingi oleh tim:

$ oc new-project perftest --display-name="Performance Tests" --description="Performance Tests - JMeter"

Kami akan secara otomatis ditransfer ke lingkungan yang baru dibuat perftest, mari kita periksa apakah memang demikian:

$ oc project
Using project "perftest" on server "https://127.0.0.1:8443".

Penciptaan Penyimpanan

Laporan pengujian akan disimpan bersama dengan server web dan jmeter-meter'sebuah tempat - /jmeter/reports.

Lebih baik membuat Storaj sekarang, karena POD akan terikat padanya jmeter-web ΠΈ jmeter-master.

Anda akan menemukan informasi lebih rinci tentang penyimpanan di dokumentasi resmi Penyimpanan Persisten.

Mari buat file yaml untuk PV ΠΈ PVC.

pv.yaml

$ tee pv.yaml<<EOF
apiVersion: v1
kind: PersistentVolume
metadata:
  name: jmeter-reports
spec:
  capacity:
    storage: 10Gi
  accessModes:
    - ReadWriteMany
  glusterfs:
    endpoints: glusterfs-cluster
    path: /jmeter/reports
    readOnly: false
  persistentVolumeReclaimPolicy: Retain
EOF

pvc.yaml

$ tee pvc.yaml<<EOF
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: jmeter-reports
spec:
  accessModes:
    - ReadWriteMany
  resources:
    requests:
      storage: 10Gi
EOF

Mari berkreasi PV ΠΈ PVC dikelilingi oleh OpenShift:

$ oc create -f pv.yaml -n perftest
$ oc create -f pvc.yaml -n perftest

Memeriksa status untuk PVC:

$ oc get pvc -n perftest
NAME             STATUS    VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS        AGE
jmeter-reports   Bound     pvc-b0e5f152-db4b-11ea-a497-566f75280024   10Gi       RWX            glusterfs-storage   8m

Berikut tampilannya di GUI:

Menjalankan pengujian JMeter di OpenShift menggunakan Jenkins Pipeline

Membuat Gambar Dasar JMeter

Mari beralih ke pembuatan ImageStream ΠΈ BuildConfig.

Anda dapat menemukan semua informasi yang diperlukan di dokumentasi - Build dan Aliran Gambar.

Strategi membangun citra adalah Docker dari sumber lokal.

Mari buat gambar dasar jmeter-base, yang akan menjadi dasar untuk jmeter-master.

Dockerfile

FROM openjdk:8u212-jdk

ARG JMETER_VER="5.2"
ENV JMETER_HOME /jmeter/apache-jmeter-$JMETER_VER
ENV PATH $JMETER_HOME/bin:$PATH

RUN mkdir -p /jmeter/results 
    && mkdir /jmeter/tests

WORKDIR /jmeter

COPY apache-jmeter-$JMETER_VER.tgz .

RUN tar -xzf $JMETER_HOME.tgz 
    && rm $JMETER_HOME.tgz 
    && ls -la

RUN sed -i s/#server.rmi.ssl.disable=false/server.rmi.ssl.disable=true/ $JMETER_HOME/bin/jmeter.properties

EXPOSE 60000

adalah.yaml

$ tee is.yaml<<EOF
apiVersion: v1
kind: ImageStream
metadata:
  labels:
    build: jmeter-base
  name: jmeter-base
EOF

bc.yaml

$ tee bc.yaml<<EOF
apiVersion: v1
kind: BuildConfig
metadata:
  name: jmeter-base
spec:
  failedBuildsHistoryLimit: 5
  nodeSelector: null
  output:
    to:
      kind: ImageStreamTag
      name: 'jmeter-base:latest'
  postCommit: {}
  resources: {}
  runPolicy: Serial
  source:
    binary: {}
    type: Binary
  strategy:
    dockerStrategy:
      from:
        kind: ImageStreamTag
        name: 'openjdk:8u212-jdk'
    type: Docker
  successfulBuildsHistoryLimit: 5
EOF

Mari membuat objek IS ΠΈ BC:

$ oc create -f is.yaml -n perftest
$ oc create -f bc.yaml -n perftest

Sekarang mari kita merakit gambar dasarnya jmeter-base:

$ oc start-build jmeter-base -n perftest --from-dir=. --follow

JMeter WEB

jmeter-web Ini adalah server web Apache. Tugasnya adalah menyediakan direktori dengan hasil tes untuk dilihat.

Siap Dockerfile dan file konfigurasi httpd.conf. Untuk arahan DocumentRoot kumpulan nilai /jmeter/reports, yaitu direktori tempat hasil tes disimpan.

Dockerfile

$ tee Dockerfile<<EOF
FROM httpd:2.4

COPY httpd.conf /usr/local/apache2/conf/httpd.conf
RUN chmod -R 777 /usr/local/apache2/logs

EXPOSE 8080

CMD ["httpd", "-D", "FOREGROUND"]
EOF

adalah.yaml

$ tee is.yaml<<EOF
apiVersion: v1
kind: ImageStream
metadata:
  generation: 1
  labels:
    build: jmeter-web
  name: jmeter-web
EOF

bc.yaml

$ tee bc.yaml<<EOF
apiVersion: v1
kind: BuildConfig
metadata:
  name: jmeter-web
spec:
  failedBuildsHistoryLimit: 5
  nodeSelector: null
  output:
    to:
      kind: ImageStreamTag
      name: 'jmeter-web:latest'
  runPolicy: Serial
  source:
    binary: {}
    type: Binary
  strategy:
    dockerStrategy:
      from:
        kind: ImageStreamTag
        name: 'httpd:2.4'
    type: Docker
  successfulBuildsHistoryLimit: 5
EOF

Mari berkreasi ImageStream ΠΈ BuildConfig objek:

$ oc create -f is.yaml -n perftest
$ oc create -f bc.yaml -n perftest

Mengumpulkan gambar dari Dockerfile:

$ oc start-build jmeter-web -n perftest --from-dir=. --follow

dc.yaml

$ tee dc.yaml<<EOF
apiVersion: apps.openshift.io/v1
kind: DeploymentConfig
metadata:
  name: jmeter-web
spec:
  replicas: 1
  template:
    metadata:
      labels:
        name: jmeter-web
    spec:
      containers:
        - image: 172.30.1.1:5000/perftest/jmeter-web
          name: jmeter-web
          volumeMounts:
            - mountPath: /jmeter/reports
              name: jmeter-reports
          ports:
            - containerPort: 80
              protocol: TCP
            - containerPort: 8080
              protocol: TCP
      volumes:
        - name: jmeter-reports
          persistentVolumeClaim:
            claimName: jmeter-reports
EOF

sc.yaml

$ tee sc.yaml<<EOF
apiVersion: v1
kind: Service
metadata:
  labels:
    app: jmeter-web
  name: jmeter-web
spec:
  ports:
    - name: 8080-tcp
      port: 8080
      protocol: TCP
      targetPort: 8080
  selector:
    deploymentconfig: jmeter-web
  sessionAffinity: None
  type: ClusterIP
EOF

Mari membuat objek Service ΠΈ DeploymentConfig:

$ oc create -f sc.yaml -n perftest
$ oc create -f dc.yaml -n perftest

Jmeter-master

Mari mulai menerapkan server web Apache.

Ini adalah Dockerfilenya jmeter-master'a, berdasarkan jmeter-base, yang akan menjalankan pengujian dan menyimpan hasilnya ke penyimpanan.

Dockerfile

Dockerfile untuk jmeter-master, berdasarkan jmeter-base.

FROM jmeter-base

ARG JMETER_VER="5.2"
ENV JMETER_HOME /jmeter/apache-jmeter-$JMETER_VER
ENV PATH $JMETER_HOME/bin:$PATH

WORKDIR /jmeter
COPY run.sh /jmeter/
COPY tests/*.jmx /jmeter/tests/
RUN chmod +x /jmeter/run.sh

ENTRYPOINT ["/bin/bash"]
CMD ["/jmeter/run.sh"]

lari.sh

run.sh ini adalah skrip yang menjalankan JMeter dan menyimpan hasilnya ke direktori files.

Setiap kali skrip diluncurkan, skrip tersebut menghapus pengujian sebelumnya, sehingga Anda hanya dapat bekerja dengan data terbaru. Namun hal ini tidak menjadi masalah, karena Anda bisa mengubahnya sesuai dengan kebutuhan Anda.

#!/bin/bash

set -e

if [ -d "/jmeter/reports/files" ]
then
    echo "Directory /jmeter/reports/files exist - OK"
else
    echo "Creating /jmeter/reports/files directory"
    mkdir /jmeter/reports/files
fi

if [ -d "/jmeter/reports/dashboards" ]
then
    echo "Directory /jmeter/reports/dashboards exist"
else
    echo "Creating /jmeter/reports/dashboards directory"
    mkdir /jmeter/reports/dashboards
fi

echo "*** JMeter START Tests ***"

for item in $(ls -1 /jmeter/tests | grep jmx)
do
    echo "*** Removing dashboard directory for $item"
    rm -rdf /jmeter/reports/dashboards/${item}*

    echo "*** Removing tests directory for $item"
    rm -rdf /jmeter/reports/files/${item}*

    echo "*** Testing a $item file ***"
    jmeter -n -t /jmeter/tests/${item} -l /jmeter/reports/files/${item}-report.jtl -e -o /jmeter/reports/dashboards/${item}-dash
done

adalah.yaml

$ tee is.yaml<<EOF
apiVersion: image.openshift.io/v1
kind: ImageStream
metadata:
  generation: 1
  labels:
    build: jmeter-master
  name: jmeter-master
EOF

bc.yaml

$ tee bc.yaml<<EOF
apiVersion: build.openshift.io/v1
kind: BuildConfig
metadata:
  name: jmeter-master
spec:
  failedBuildsHistoryLimit: 5
  nodeSelector: null
  output:
    to:
      kind: ImageStreamTag
      name: 'jmeter-master:latest'
  runPolicy: Serial
  source:
    binary: {}
    type: Binary
  strategy:
    dockerStrategy:
      from:
        kind: ImageStreamTag
        name: 'jmeter-base:latest'
    type: Docker
  successfulBuildsHistoryLimit: 5
EOF

Mari berkreasi IS ΠΈ BC objek:

$ oc create -f is.yaml -n perftest
$ oc create -f bc.yaml -n perftest

Kami mengumpulkan jmeter-master gambar:

$ oc start-build jmeter-master -n perftest --from-dir=. --follow

Pekerjaan

Job's digunakan dalam OpenShift'e untuk menjalankan satu atau lebih PODdan menjamin penyelesaiannya berhasil setelah menjalankan perintah/skrip.

$ tee job.yaml<<EOF
apiVersion: batch/v1
kind: Job
metadata:
  name: jmeter-master
  labels:
    jobName: jmeter-master
spec:
  completions: 1
  parallelism: 1
  template:
    metadata:
      name: jmeter-master
      labels:
        jobName: jmeter-master
    spec:
      containers:
        - name: jmeter-master
          image: 172.30.1.1:5000/perftest/jmeter-master:latest
          volumeMounts:
            - mountPath: /jmeter/reports
              name: jmeter-reports
          imagePullPolicy: Always
      volumes:
        - name: jmeter-reports
          persistentVolumeClaim:
            claimName: jmeter-reports
      restartPolicy: Never
      terminationGracePeriodSeconds: 30
EOF

Buat sebuah objek Job:

$ oc create -f job.yaml -n perftest

Mari kita periksa status pekerjaan:

$ oc get jobs -n perftest
NAME            DESIRED   SUCCESSFUL   AGE
jmeter-master   1         1            5m

Untuk menghapus Job mari kita gunakan perintah:

$ oc delete jobs/jmeter-master -n perftest --ignore-not-found=true

Pipa Jenkins

Sekarang otomatisasi. Mari kita ulangi langkah-langkahnya lagi:

  1. git clone
  2. oc whoami -t
  3. oc start-build ...
  4. oc delete jobs/jmeter-master
  5. oc create -f job.yaml -n perftest

Di bawah ini adalah alur tempat kloning repositori, penghapusan, dan pembuatan OpenShift dilakukan Job'S.

#!groovy

pipeline {

    agent any

    stages {

        stage('Start Notifications') {
            steps {
                echo "Sending Email Notification"
            }
            post {
                always {
                    echo "STARTED - Performance Tests"
                    mail(to: '[email protected]', from: "[email protected]", subject: "START - Performance Tests",mimeType: "text/html", body: "<strong>START - Performance Tests</strong><br /><br />Project: Name of Project<br />Environment: PerfTest<br />Build number: ${env.BUILD_NUMBER}<br />Build URL:   ${env.BUILD_URL}"
                }
            }
        }

        stage('Git checkout') {
            steps {
                ...
            }
        }

        stage('Perf Tests') {
            steps {
                script {
                    sh '''
                        OC_CMD1="oc login -u=username -p=PASS -n=perftest 
                        --server=https://...:8443"

                        $OC_CMD1

                        OC_TOKEN=`oc whoami -t`

                        OC_CMD2="oc --token=$OC_TOKEN --server=https://...:8443 
                        start-build jmeter-master -n=perftest --from-dir=./master 
                        --follow=true"

                        OC_CMD3="oc --token=$OC_TOKEN --server=https://...:8443 
                        delete jobs/jmeter-master -n=perftest --ignore-not-found=true"

                        OC_CMD4="oc--token=$OC_TOKEN --server=https://...:8443 
                        create -f ./master/job.yaml -n=perftest"

                        $OC_CMD2
                        $OC_CMD3
                        $OC_CMD4
                    '''
                }
            }
        }

        post {
            failure {
                echo "FAILED - Performance Tests"
                mail(to: '[email protected]', from: "[email protected]", subject: "FAILED - Performance Tests",mimeType: "text/html", body: "<strong>FAILED - Performance Tests</strong><br /><br />Project: Name of Project<br />Environment: PerfTest<br />Build number: ${env.BUILD_NUMBER}<br />Build URL: ${env.BUILD_URL}"
                }

            success {
                echo "SUCCESSED - Performance Tests"
                mail(to: '[email protected]', from: "[email protected]", subject: "SUCCESSED - Performance Tests",mimeType: "text/html", body: "<strong>SUCCESSED - Performance Tests</strong><br /><br />Project: Name of Project<br />Environment: PerfTest<br />Build number: ${env.BUILD_NUMBER}<br />Build URL:   ${env.BUILD_URL}"
            }
        }

    }
}

Setelah Pipeline menyelesaikan pengoperasiannya, kami akan menerima pemberitahuan melalui email '[email protected] dari [email protected].

Mengikuti tautannya http://jmeter-web.127.0.0.1.nip.io/ kita akan melihat direktorinya files, yang menyimpan laporan pengujian:

Menjalankan pengujian JMeter di OpenShift menggunakan Jenkins Pipeline

Isi berkas ya.HTTP.Request.jmx-report.jtk:

timeStamp,elapsed,label,responseCode,responseMessage,threadName,dataType,success,failureMessage,bytes,sentBytes,grpThreads,allThreads,URL,Latency,IdleTime,Connect
1597311456443,569,Yandex - HTTP Request,200,Ok,Thread Group 1-1,text,true,,59449,220,1,1,https://ya.ru/,145,0,57
1597311456443,147,Yandex - HTTP Request-0,302,Found,Thread Group 1-1,,true,,478,110,1,1,http://ya.ru/,145,0,57
1597311456592,420,Yandex - HTTP Request-1,200,Ok,Thread Group 1-1,text,true,,58971,110,1,1,https://ya.ru/,370,0,259

Kesimpulan

Artikel ini menunjukkan salah satu opsi untuk menjalankan pengujian JMeter di lingkungan OpenShift. Kami menyelesaikan semua langkah secara manual, setelah itu kami membuat Jenkins Pipeline untuk mengotomatiskan proses menjalankan pengujian.

Sumber dan dokumentasi

Sumber: www.habr.com

Tambah komentar