Menjalankan ujian JMeter dalam OpenShift menggunakan Jenkins Pipeline

Hello!

Dalam artikel ini saya ingin berkongsi salah satu cara untuk menjalankan ujian prestasi JMeter dalam OpenShift menggunakan Jenkins sebagai automasi. Mula-mula kita akan melakukan semua langkah yang diperlukan (membuat ImageStreams, BuildConfig, Job dsb.) dalam mod manual. Selepas itu, mari kita tulis Jenkins Pipeline.

Sebagai titik permulaan kita harus mempunyai:

  1. menjalankan kelompok OpenShift (v3.11).
  2. Pelayan Jenkins dengan kelayakan yang dikonfigurasikan untuk berfungsi dalam OpenShift
  3. fail apache-jmeter-5.2.tgz

Sebagai ujian ia akan menjadi mudah HTTP Request pada ya.ru dalam satu aliran.

Mencipta projek dalam OpenShift

Mari kita mulakan dengan mencipta persekitaran baharu. Jom buat perftest dikelilingi oleh pasukan:

$ oc new-project perftest --display-name="Performance Tests" --description="Performance Tests - JMeter"

Kami akan dipindahkan secara automatik ke persekitaran yang baru dibuat perftest, mari kita semak bahawa ini benar:

$ oc project
Using project "perftest" on server "https://127.0.0.1:8443".

Penciptaan Storan

Laporan ujian akan disimpan sama dengan pelayan web dan jmeter-meter'sebuah tempat - /jmeter/reports.

Lebih baik buat Storaj sekarang, kerana POD akan terikat dengannya jmeter-web ΠΈ jmeter-master.

Anda akan mendapat maklumat yang lebih terperinci tentang storan dalam dokumentasi rasmi Penyimpanan berterusan.

Mari buat fail yaml untuk PV ΠΈ PVC.

pv.yaml

$ tee pv.yaml<<EOF
apiVersion: v1
kind: PersistentVolume
metadata:
  name: jmeter-reports
spec:
  capacity:
    storage: 10Gi
  accessModes:
    - ReadWriteMany
  glusterfs:
    endpoints: glusterfs-cluster
    path: /jmeter/reports
    readOnly: false
  persistentVolumeReclaimPolicy: Retain
EOF

pvc.yaml

$ tee pvc.yaml<<EOF
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: jmeter-reports
spec:
  accessModes:
    - ReadWriteMany
  resources:
    requests:
      storage: 10Gi
EOF

Jom buat PV ΠΈ PVC dikelilingi oleh OpenShift:

$ oc create -f pv.yaml -n perftest
$ oc create -f pvc.yaml -n perftest

Menyemak status untuk PVC:

$ oc get pvc -n perftest
NAME             STATUS    VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS        AGE
jmeter-reports   Bound     pvc-b0e5f152-db4b-11ea-a497-566f75280024   10Gi       RWX            glusterfs-storage   8m

Begini rupanya dalam GUI:

Menjalankan ujian JMeter dalam OpenShift menggunakan Jenkins Pipeline

Mencipta Imej Asas JMeter

Mari kita teruskan untuk mencipta ImageStream ΠΈ BuildConfig.

Anda boleh mendapatkan semua maklumat yang diperlukan dalam dokumentasi - Binaan dan Strim Imej.

Strategi membina imej ialah Docker daripada sumber tempatan.

Mari buat imej asas jmeter-base, yang akan menjadi asas untuk jmeter-master.

Dockerfile

FROM openjdk:8u212-jdk

ARG JMETER_VER="5.2"
ENV JMETER_HOME /jmeter/apache-jmeter-$JMETER_VER
ENV PATH $JMETER_HOME/bin:$PATH

RUN mkdir -p /jmeter/results 
    && mkdir /jmeter/tests

WORKDIR /jmeter

COPY apache-jmeter-$JMETER_VER.tgz .

RUN tar -xzf $JMETER_HOME.tgz 
    && rm $JMETER_HOME.tgz 
    && ls -la

RUN sed -i s/#server.rmi.ssl.disable=false/server.rmi.ssl.disable=true/ $JMETER_HOME/bin/jmeter.properties

EXPOSE 60000

ialah.yaml

$ tee is.yaml<<EOF
apiVersion: v1
kind: ImageStream
metadata:
  labels:
    build: jmeter-base
  name: jmeter-base
EOF

bc.yaml

$ tee bc.yaml<<EOF
apiVersion: v1
kind: BuildConfig
metadata:
  name: jmeter-base
spec:
  failedBuildsHistoryLimit: 5
  nodeSelector: null
  output:
    to:
      kind: ImageStreamTag
      name: 'jmeter-base:latest'
  postCommit: {}
  resources: {}
  runPolicy: Serial
  source:
    binary: {}
    type: Binary
  strategy:
    dockerStrategy:
      from:
        kind: ImageStreamTag
        name: 'openjdk:8u212-jdk'
    type: Docker
  successfulBuildsHistoryLimit: 5
EOF

Mari kita cipta objek IS ΠΈ BC:

$ oc create -f is.yaml -n perftest
$ oc create -f bc.yaml -n perftest

Sekarang mari kita kumpulkan imej asas jmeter-base:

$ oc start-build jmeter-base -n perftest --from-dir=. --follow

WEB JMeter

jmeter-web Ini adalah pelayan web Apache. Tugasnya adalah untuk menyediakan direktori dengan keputusan ujian untuk dilihat.

Bersedia Dockerfile dan fail konfigurasi httpd.conf. Untuk arahan DocumentRoot set nilai /jmeter/reports, iaitu direktori di mana keputusan ujian disimpan.

Dockerfile

$ tee Dockerfile<<EOF
FROM httpd:2.4

COPY httpd.conf /usr/local/apache2/conf/httpd.conf
RUN chmod -R 777 /usr/local/apache2/logs

EXPOSE 8080

CMD ["httpd", "-D", "FOREGROUND"]
EOF

ialah.yaml

$ tee is.yaml<<EOF
apiVersion: v1
kind: ImageStream
metadata:
  generation: 1
  labels:
    build: jmeter-web
  name: jmeter-web
EOF

bc.yaml

$ tee bc.yaml<<EOF
apiVersion: v1
kind: BuildConfig
metadata:
  name: jmeter-web
spec:
  failedBuildsHistoryLimit: 5
  nodeSelector: null
  output:
    to:
      kind: ImageStreamTag
      name: 'jmeter-web:latest'
  runPolicy: Serial
  source:
    binary: {}
    type: Binary
  strategy:
    dockerStrategy:
      from:
        kind: ImageStreamTag
        name: 'httpd:2.4'
    type: Docker
  successfulBuildsHistoryLimit: 5
EOF

Jom buat ImageStream ΠΈ BuildConfig objek:

$ oc create -f is.yaml -n perftest
$ oc create -f bc.yaml -n perftest

Mengumpul imej daripada Dockerfile:

$ oc start-build jmeter-web -n perftest --from-dir=. --follow

dc.yaml

$ tee dc.yaml<<EOF
apiVersion: apps.openshift.io/v1
kind: DeploymentConfig
metadata:
  name: jmeter-web
spec:
  replicas: 1
  template:
    metadata:
      labels:
        name: jmeter-web
    spec:
      containers:
        - image: 172.30.1.1:5000/perftest/jmeter-web
          name: jmeter-web
          volumeMounts:
            - mountPath: /jmeter/reports
              name: jmeter-reports
          ports:
            - containerPort: 80
              protocol: TCP
            - containerPort: 8080
              protocol: TCP
      volumes:
        - name: jmeter-reports
          persistentVolumeClaim:
            claimName: jmeter-reports
EOF

sc.yaml

$ tee sc.yaml<<EOF
apiVersion: v1
kind: Service
metadata:
  labels:
    app: jmeter-web
  name: jmeter-web
spec:
  ports:
    - name: 8080-tcp
      port: 8080
      protocol: TCP
      targetPort: 8080
  selector:
    deploymentconfig: jmeter-web
  sessionAffinity: None
  type: ClusterIP
EOF

Mari kita cipta objek Service ΠΈ DeploymentConfig:

$ oc create -f sc.yaml -n perftest
$ oc create -f dc.yaml -n perftest

Jmeter-tuan

Mari mulakan menggunakan pelayan web Apache.

Ini ialah Dockerfile jmeter-master'a, berdasarkan jmeter-base, yang akan menjalankan ujian dan menyimpan hasilnya ke storan.

Dockerfile

Dockerfile untuk jmeter-master, berdasarkan jmeter-base.

FROM jmeter-base

ARG JMETER_VER="5.2"
ENV JMETER_HOME /jmeter/apache-jmeter-$JMETER_VER
ENV PATH $JMETER_HOME/bin:$PATH

WORKDIR /jmeter
COPY run.sh /jmeter/
COPY tests/*.jmx /jmeter/tests/
RUN chmod +x /jmeter/run.sh

ENTRYPOINT ["/bin/bash"]
CMD ["/jmeter/run.sh"]

run.sh

run.sh ini ialah skrip yang menjalankan JMeter dan menyimpan hasilnya ke direktori files.

Setiap kali skrip dilancarkan, ia memadamkan ujian sebelumnya, jadi anda hanya boleh bekerja dengan data terkini. Tetapi ini tidak menjadi masalah, kerana anda boleh mengubahnya mengikut keperluan anda.

#!/bin/bash

set -e

if [ -d "/jmeter/reports/files" ]
then
    echo "Directory /jmeter/reports/files exist - OK"
else
    echo "Creating /jmeter/reports/files directory"
    mkdir /jmeter/reports/files
fi

if [ -d "/jmeter/reports/dashboards" ]
then
    echo "Directory /jmeter/reports/dashboards exist"
else
    echo "Creating /jmeter/reports/dashboards directory"
    mkdir /jmeter/reports/dashboards
fi

echo "*** JMeter START Tests ***"

for item in $(ls -1 /jmeter/tests | grep jmx)
do
    echo "*** Removing dashboard directory for $item"
    rm -rdf /jmeter/reports/dashboards/${item}*

    echo "*** Removing tests directory for $item"
    rm -rdf /jmeter/reports/files/${item}*

    echo "*** Testing a $item file ***"
    jmeter -n -t /jmeter/tests/${item} -l /jmeter/reports/files/${item}-report.jtl -e -o /jmeter/reports/dashboards/${item}-dash
done

ialah.yaml

$ tee is.yaml<<EOF
apiVersion: image.openshift.io/v1
kind: ImageStream
metadata:
  generation: 1
  labels:
    build: jmeter-master
  name: jmeter-master
EOF

bc.yaml

$ tee bc.yaml<<EOF
apiVersion: build.openshift.io/v1
kind: BuildConfig
metadata:
  name: jmeter-master
spec:
  failedBuildsHistoryLimit: 5
  nodeSelector: null
  output:
    to:
      kind: ImageStreamTag
      name: 'jmeter-master:latest'
  runPolicy: Serial
  source:
    binary: {}
    type: Binary
  strategy:
    dockerStrategy:
      from:
        kind: ImageStreamTag
        name: 'jmeter-base:latest'
    type: Docker
  successfulBuildsHistoryLimit: 5
EOF

Jom buat IS ΠΈ BC objek:

$ oc create -f is.yaml -n perftest
$ oc create -f bc.yaml -n perftest

Kami mengumpul jmeter-master gambar:

$ oc start-build jmeter-master -n perftest --from-dir=. --follow

Kerja

Job's digunakan dalam OpenShift'e untuk menjalankan satu atau lebih POD's dan menjamin kejayaan mereka selesai selepas melaksanakan arahan/skrip.

$ tee job.yaml<<EOF
apiVersion: batch/v1
kind: Job
metadata:
  name: jmeter-master
  labels:
    jobName: jmeter-master
spec:
  completions: 1
  parallelism: 1
  template:
    metadata:
      name: jmeter-master
      labels:
        jobName: jmeter-master
    spec:
      containers:
        - name: jmeter-master
          image: 172.30.1.1:5000/perftest/jmeter-master:latest
          volumeMounts:
            - mountPath: /jmeter/reports
              name: jmeter-reports
          imagePullPolicy: Always
      volumes:
        - name: jmeter-reports
          persistentVolumeClaim:
            claimName: jmeter-reports
      restartPolicy: Never
      terminationGracePeriodSeconds: 30
EOF

Buat objek Job:

$ oc create -f job.yaml -n perftest

Mari semak status pekerjaan:

$ oc get jobs -n perftest
NAME            DESIRED   SUCCESSFUL   AGE
jmeter-master   1         1            5m

Untuk memadam Job mari gunakan arahan:

$ oc delete jobs/jmeter-master -n perftest --ignore-not-found=true

Saluran Paip Jenkins

Sekarang automasi. Mari kita pergi ke langkah-langkah sekali lagi:

  1. git clone
  2. oc whoami -t
  3. oc start-build ...
  4. oc delete jobs/jmeter-master
  5. oc create -f job.yaml -n perftest

Di bawah ialah saluran paip di mana pengklonan repositori, pemadaman dan penciptaan OpenShift dilakukan Job's.

#!groovy

pipeline {

    agent any

    stages {

        stage('Start Notifications') {
            steps {
                echo "Sending Email Notification"
            }
            post {
                always {
                    echo "STARTED - Performance Tests"
                    mail(to: '[email protected]', from: "[email protected]", subject: "START - Performance Tests",mimeType: "text/html", body: "<strong>START - Performance Tests</strong><br /><br />Project: Name of Project<br />Environment: PerfTest<br />Build number: ${env.BUILD_NUMBER}<br />Build URL:   ${env.BUILD_URL}"
                }
            }
        }

        stage('Git checkout') {
            steps {
                ...
            }
        }

        stage('Perf Tests') {
            steps {
                script {
                    sh '''
                        OC_CMD1="oc login -u=username -p=PASS -n=perftest 
                        --server=https://...:8443"

                        $OC_CMD1

                        OC_TOKEN=`oc whoami -t`

                        OC_CMD2="oc --token=$OC_TOKEN --server=https://...:8443 
                        start-build jmeter-master -n=perftest --from-dir=./master 
                        --follow=true"

                        OC_CMD3="oc --token=$OC_TOKEN --server=https://...:8443 
                        delete jobs/jmeter-master -n=perftest --ignore-not-found=true"

                        OC_CMD4="oc--token=$OC_TOKEN --server=https://...:8443 
                        create -f ./master/job.yaml -n=perftest"

                        $OC_CMD2
                        $OC_CMD3
                        $OC_CMD4
                    '''
                }
            }
        }

        post {
            failure {
                echo "FAILED - Performance Tests"
                mail(to: '[email protected]', from: "[email protected]", subject: "FAILED - Performance Tests",mimeType: "text/html", body: "<strong>FAILED - Performance Tests</strong><br /><br />Project: Name of Project<br />Environment: PerfTest<br />Build number: ${env.BUILD_NUMBER}<br />Build URL: ${env.BUILD_URL}"
                }

            success {
                echo "SUCCESSED - Performance Tests"
                mail(to: '[email protected]', from: "[email protected]", subject: "SUCCESSED - Performance Tests",mimeType: "text/html", body: "<strong>SUCCESSED - Performance Tests</strong><br /><br />Project: Name of Project<br />Environment: PerfTest<br />Build number: ${env.BUILD_NUMBER}<br />Build URL:   ${env.BUILD_URL}"
            }
        }

    }
}

Selepas Pipeline telah menyelesaikan operasinya, kami akan menerima pemberitahuan melalui e-mel '[email protected] daripada [email protected].

Dengan mengklik pada pautan http://jmeter-web.127.0.0.1.nip.io/ kita akan lihat direktori files, yang menyimpan laporan ujian:

Menjalankan ujian JMeter dalam OpenShift menggunakan Jenkins Pipeline

Kandungan fail ya.HTTP.Request.jmx-report.jtk:

timeStamp,elapsed,label,responseCode,responseMessage,threadName,dataType,success,failureMessage,bytes,sentBytes,grpThreads,allThreads,URL,Latency,IdleTime,Connect
1597311456443,569,Yandex - HTTP Request,200,Ok,Thread Group 1-1,text,true,,59449,220,1,1,https://ya.ru/,145,0,57
1597311456443,147,Yandex - HTTP Request-0,302,Found,Thread Group 1-1,,true,,478,110,1,1,http://ya.ru/,145,0,57
1597311456592,420,Yandex - HTTP Request-1,200,Ok,Thread Group 1-1,text,true,,58971,110,1,1,https://ya.ru/,370,0,259

Kesimpulan

Artikel ini menunjukkan salah satu pilihan untuk menjalankan ujian JMeter dalam persekitaran OpenShift. Kami menyelesaikan semua langkah secara manual, selepas itu kami mencipta Jenkins Pipeline untuk mengautomasikan proses menjalankan ujian.

Sumber dan dokumentasi

Sumber: www.habr.com

Tambah komen