കുബെർനെറ്റസിനൊപ്പം GitLab CI-യിലെ ജൂണിറ്റ്

നിങ്ങളുടെ സോഫ്‌റ്റ്‌വെയർ പരിശോധിക്കുന്നത് പ്രധാനവും ആവശ്യവുമാണെന്ന് എല്ലാവർക്കും നന്നായി അറിയാമെങ്കിലും, പലരും ഇത് വളരെക്കാലമായി യാന്ത്രികമായി ചെയ്യുന്നുണ്ടെങ്കിലും, ഹബറിന്റെ വിശാലതയിൽ അത്തരം ജനപ്രിയ ഉൽപ്പന്നങ്ങളുടെ സംയോജനം സജ്ജീകരിക്കുന്നതിന് ഒരു പാചകക്കുറിപ്പും ഉണ്ടായിരുന്നില്ല. ഇത് (ഞങ്ങളുടെ പ്രിയപ്പെട്ട) GitLab ഉം JUnit ഉം പോലെയാണ്. നമുക്ക് ഈ വിടവ് നികത്താം!

ആമുഖം

ആദ്യം, ഞാൻ കുറച്ച് സന്ദർഭം നൽകട്ടെ:

• ഞങ്ങളുടെ എല്ലാ ആപ്ലിക്കേഷനുകളും കുബെർനെറ്റസിൽ പ്രവർത്തിക്കുന്നതിനാൽ, ഉചിതമായ അടിസ്ഥാന സൗകര്യങ്ങളിൽ പരീക്ഷണങ്ങൾ നടത്തുന്നത് ഞങ്ങൾ പരിഗണിക്കും.
• അസംബ്ലിക്കും വിന്യാസത്തിനും ഞങ്ങൾ ഉപയോഗിക്കുന്നു വെർഫ് (ഇൻഫ്രാസ്ട്രക്ചർ ഘടകങ്ങളുടെ കാര്യത്തിൽ, ഇത് സ്വയമേവ അർത്ഥമാക്കുന്നത് ഹെൽം ഉൾപ്പെട്ടിരിക്കുന്നു എന്നാണ്).
• ടെസ്റ്റുകളുടെ യഥാർത്ഥ സൃഷ്ടിയുടെ വിശദാംശങ്ങളിലേക്ക് ഞാൻ പോകില്ല: ഞങ്ങളുടെ കാര്യത്തിൽ, ക്ലയന്റ് സ്വയം ടെസ്റ്റുകൾ എഴുതുന്നു, മാത്രമല്ല ഞങ്ങൾ അവയുടെ സമാരംഭം മാത്രമേ ഉറപ്പാക്കൂ (കൂടാതെ ലയന അഭ്യർത്ഥനയിൽ അനുബന്ധ റിപ്പോർട്ടിന്റെ സാന്നിധ്യം).

പ്രവർത്തനങ്ങളുടെ പൊതുവായ ക്രമം എങ്ങനെയിരിക്കും?

1. ആപ്ലിക്കേഷൻ നിർമ്മിക്കുന്നു - ഈ ഘട്ടത്തിന്റെ വിവരണം ഞങ്ങൾ ഒഴിവാക്കും.
2. കുബർനെറ്റസ് ക്ലസ്റ്ററിന്റെ ഒരു പ്രത്യേക നെയിംസ്പേസിലേക്ക് ആപ്ലിക്കേഷൻ വിന്യസിച്ച് ടെസ്റ്റിംഗ് ആരംഭിക്കുക.
3. GitLab ഉപയോഗിച്ച് പുരാവസ്തുക്കൾക്കായി തിരയുകയും ജൂണിറ്റ് റിപ്പോർട്ടുകൾ പാഴ്‌സ് ചെയ്യുകയും ചെയ്യുന്നു.
4. മുമ്പ് സൃഷ്ടിച്ച ഒരു നെയിംസ്പേസ് ഇല്ലാതാക്കുന്നു.

ഇപ്പോൾ - നടപ്പിലാക്കാൻ!

കമപ്പെടുത്തല്

ജിറ്റ്‌ലാബ് സി.ഐ

നമുക്ക് ഒരു ശകലത്തിൽ നിന്ന് ആരംഭിക്കാം .gitlab-ci.yaml, ഇത് ആപ്ലിക്കേഷൻ വിന്യസിക്കുന്നതും ടെസ്റ്റുകൾ പ്രവർത്തിപ്പിക്കുന്നതും വിവരിക്കുന്നു. ലിസ്റ്റിംഗ് വളരെ വലുതായി മാറി, അതിനാൽ ഇത് അഭിപ്രായങ്ങൾക്കൊപ്പം നന്നായി അനുബന്ധമായി:

variables:
# объявляем версию werf, которую собираемся использовать
  WERF_VERSION: "1.0 beta"

.base_deploy: &base_deploy
  script:
# создаем namespace в K8s, если его нет
    - kubectl --context="${WERF_KUBE_CONTEXT}" get ns ${CI_ENVIRONMENT_SLUG} || kubectl create ns ${CI_ENVIRONMENT_SLUG}
# загружаем werf и деплоим — подробнее об этом см. в документации
# (https://werf.io/how_to/gitlab_ci_cd_integration.html#deploy-stage)
    - type multiwerf && source <(multiwerf use ${WERF_VERSION})
    - werf version
    - type werf && source <(werf ci-env gitlab --tagging-strategy tag-or-branch --verbose)
    - werf deploy --stages-storage :local
      --namespace ${CI_ENVIRONMENT_SLUG}
      --set "global.commit_ref_slug=${CI_COMMIT_REF_SLUG:-''}"
# передаем переменную `run_tests`
# она будет использоваться в рендере Helm-релиза
      --set "global.run_tests=${RUN_TESTS:-no}"
      --set "global.env=${CI_ENVIRONMENT_SLUG}"
# изменяем timeout (бывают долгие тесты) и передаем его в релиз
      --set "global.ci_timeout=${CI_TIMEOUT:-900}"
     --timeout ${CI_TIMEOUT:-900}
  dependencies:
    - Build

.test-base: &test-base
  extends: .base_deploy
  before_script:
# создаем директорию для будущего отчета, исходя из $CI_COMMIT_REF_SLUG
    - mkdir /mnt/tests/${CI_COMMIT_REF_SLUG} || true
# вынужденный костыль, т.к. GitLab хочет получить артефакты в своем build-dir’е
    - mkdir ./tests || true
    - ln -s /mnt/tests/${CI_COMMIT_REF_SLUG} ./tests/${CI_COMMIT_REF_SLUG}
  after_script:
# после окончания тестов удаляем релиз вместе с Job’ом
# (и, возможно, его инфраструктурой)
    - type multiwerf && source <(multiwerf use ${WERF_VERSION})
    - werf version
    - type werf && source <(werf ci-env gitlab --tagging-strategy tag-or-branch --verbose)
    - werf dismiss --namespace ${CI_ENVIRONMENT_SLUG} --with-namespace
# мы разрешаем падения, но вы можете сделать иначе
  allow_failure: true
  variables:
    RUN_TESTS: 'yes'
# задаем контекст в werf
# (https://werf.io/how_to/gitlab_ci_cd_integration.html#infrastructure)
    WERF_KUBE_CONTEXT: 'admin@stage-cluster'
  tags:
# используем раннер с тегом `werf-runner`
    - werf-runner
  artifacts:
# требуется собрать артефакт для того, чтобы его можно было увидеть
# в пайплайне и скачать — например, для более вдумчивого изучения
    paths:
      - ./tests/${CI_COMMIT_REF_SLUG}/*
# артефакты старше недели будут удалены
    expire_in: 7 day
# важно: эти строки отвечают за парсинг отчета GitLab’ом
    reports:
      junit: ./tests/${CI_COMMIT_REF_SLUG}/report.xml

# для упрощения здесь показаны всего две стадии
# в реальности же у вас их будет больше — как минимум из-за деплоя
stages:
  - build
  - tests

build:
  stage: build
  script:
# сборка — снова по документации по werf
# (https://werf.io/how_to/gitlab_ci_cd_integration.html#build-stage)
    - type multiwerf && source <(multiwerf use ${WERF_VERSION})
    - werf version
    - type werf && source <(werf ci-env gitlab --tagging-strategy tag-or-branch --verbose)
    - werf build-and-publish --stages-storage :local
  tags:
    - werf-runner
  except:
    - schedules

run tests:
  <<: *test-base
  environment:
# "сама соль" именования namespace’а
# (https://docs.gitlab.com/ce/ci/variables/predefined_variables.html)
    name: tests-${CI_COMMIT_REF_SLUG}
  stage: tests
  except:
    - schedules

കുബേർനെറ്റ്

ഇപ്പോൾ ഡയറക്ടറിയിൽ .helm/templates ജോബ് ഉപയോഗിച്ച് നമുക്ക് YAML സൃഷ്ടിക്കാം - tests-job.yaml - ടെസ്റ്റുകളും അതിന് ആവശ്യമായ കുബർനെറ്റസ് വിഭവങ്ങളും പ്രവർത്തിപ്പിക്കുന്നതിന്. ലിസ്റ്റ് ചെയ്തതിന് ശേഷം വിശദീകരണങ്ങൾ കാണുക:

{{- if eq .Values.global.run_tests "yes" }}
---
apiVersion: v1
kind: ConfigMap
metadata:
  name: tests-script
data:
  tests.sh: |
    echo "======================"
    echo "${APP_NAME} TESTS"
    echo "======================"

    cd /app
    npm run test:ci
    cp report.xml /app/test_results/${CI_COMMIT_REF_SLUG}/

    echo ""
    echo ""
    echo ""

    chown -R 999:999 /app/test_results/${CI_COMMIT_REF_SLUG}
---
apiVersion: batch/v1
kind: Job
metadata:
  name: {{ .Chart.Name }}-test
  annotations:
    "helm.sh/hook": post-install,post-upgrade
    "helm.sh/hook-weight": "2"
    "werf/watch-logs": "true"
spec:
  activeDeadlineSeconds: {{ .Values.global.ci_timeout }}
  backoffLimit: 1
  template:
    metadata:
      name: {{ .Chart.Name }}-test
    spec:
      containers:
      - name: test
        command: ['bash', '-c', '/app/tests.sh']
{{ tuple "application" . | include "werf_container_image" | indent 8 }}
        env:
        - name: env
          value: {{ .Values.global.env }}
        - name: CI_COMMIT_REF_SLUG
          value: {{ .Values.global.commit_ref_slug }}
       - name: APP_NAME
          value: {{ .Chart.Name }}
{{ tuple "application" . | include "werf_container_env" | indent 8 }}
        volumeMounts:
        - mountPath: /app/test_results/
          name: data
        - mountPath: /app/tests.sh
          name: tests-script
          subPath: tests.sh
      tolerations:
      - key: dedicated
        operator: Exists
      - key: node-role.kubernetes.io/master
        operator: Exists
      restartPolicy: OnFailure
      volumes:
      - name: data
        persistentVolumeClaim:
          claimName: {{ .Chart.Name }}-pvc
      - name: tests-script
        configMap:
          name: tests-script
---
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: {{ .Chart.Name }}-pvc
spec:
  accessModes:
  - ReadWriteOnce
  resources:
    requests:
      storage: 10Mi
  storageClassName: {{ .Chart.Name }}-{{ .Values.global.commit_ref_slug }}
  volumeName: {{ .Values.global.commit_ref_slug }}

---
apiVersion: v1
kind: PersistentVolume
metadata:
  name: {{ .Values.global.commit_ref_slug }}
spec:
  accessModes:
  - ReadWriteOnce
  capacity:
    storage: 10Mi
  local:
    path: /mnt/tests/
  nodeAffinity:
   required:
     nodeSelectorTerms:
     - matchExpressions:
       - key: kubernetes.io/hostname
         operator: In
         values:
         - kube-master
  persistentVolumeReclaimPolicy: Delete
  storageClassName: {{ .Chart.Name }}-{{ .Values.global.commit_ref_slug }}
{{- end }}

ഏതുതരം വിഭവങ്ങൾ ഈ കോൺഫിഗറേഷനിൽ വിവരിച്ചിരിക്കുന്നത്? വിന്യസിക്കുമ്പോൾ, പ്രോജക്റ്റിനായി ഞങ്ങൾ ഒരു അദ്വിതീയ നെയിംസ്പേസ് സൃഷ്ടിക്കുന്നു (ഇത് സൂചിപ്പിച്ചിരിക്കുന്നു .gitlab-ci.yaml - tests-${CI_COMMIT_REF_SLUG}) കൂടാതെ അത് ഉരുട്ടുക:

1. കോൺഫിഗർമാപ്പ് ടെസ്റ്റ് സ്ക്രിപ്റ്റ് ഉപയോഗിച്ച്;
2. ഇയ്യോബ് പോഡിന്റെ വിവരണവും നിർദ്ദിഷ്ട നിർദ്ദേശവും സഹിതം command, വെറും ടെസ്റ്റുകൾ പ്രവർത്തിപ്പിക്കുന്ന;
3. പി.വി.യും പി.വി.സി, ഇത് ടെസ്റ്റ് ഡാറ്റ സംഭരിക്കുന്നതിന് നിങ്ങളെ അനുവദിക്കുന്നു.

കൂടെ ആമുഖ വ്യവസ്ഥ ശ്രദ്ധിക്കുക if മാനിഫെസ്റ്റിന്റെ തുടക്കത്തിൽ - അതനുസരിച്ച്, ആപ്ലിക്കേഷനുള്ള ഹെൽം ചാർട്ടിന്റെ മറ്റ് YAML ഫയലുകൾ പൊതിഞ്ഞിരിക്കണം വിപരീതം പരിശോധനയ്ക്കിടെ വിന്യസിക്കപ്പെടാതിരിക്കാൻ രൂപകൽപ്പന ചെയ്യുക. അതാണ്:

{{- if ne .Values.global.run_tests "yes" }}
---
я другой ямлик
{{- end }}

എന്നിരുന്നാലും, പരിശോധനകൾ ആണെങ്കിൽ ചില അടിസ്ഥാന സൗകര്യങ്ങൾ ആവശ്യമാണ് (ഉദാഹരണത്തിന്, Redis, RabbitMQ, Mongo, PostgreSQL...) - അവരുടെ YAML-കൾ ആകാം അല്ല ഓഫ് ചെയ്യുക. ഒരു പരീക്ഷണ പരിതസ്ഥിതിയിലേക്ക് അവരെ വിന്യസിക്കുക... നിങ്ങൾക്ക് അനുയോജ്യമെന്ന് തോന്നുന്ന രീതിയിൽ ക്രമീകരിക്കുക, തീർച്ചയായും.

അന്തിമ സ്‌പർശനം

കാരണം ഇപ്പോൾ വെർഫ് വർക്കുകൾ ഉപയോഗിച്ച് അസംബ്ലിയും വിന്യാസവും മാത്രം ബിൽഡ് സെർവറിൽ (ഗിറ്റ്‌ലാബ്-റണ്ണറിനൊപ്പം), കൂടാതെ ടെസ്റ്റുകളുള്ള പോഡ് മാസ്റ്ററിൽ സമാരംഭിക്കുമ്പോൾ, നിങ്ങൾ ഒരു ഡയറക്‌ടറി സൃഷ്‌ടിക്കേണ്ടതുണ്ട് /mnt/tests യജമാനന്റെ മേൽ അത് ഓട്ടക്കാരന് കൊടുക്കുക ഉദാഹരണത്തിന്, NFS വഴി. വിശദീകരണങ്ങളുള്ള ഒരു വിശദമായ ഉദാഹരണം ഇതിൽ കാണാം K8s ഡോക്യുമെന്റേഷൻ.

ഫലം ഇതായിരിക്കും:

user@kube-master:~$ cat /etc/exports | grep tests
/mnt/tests    IP_gitlab-builder/32(rw,nohide,insecure,no_subtree_check,sync,all_squash,anonuid=999,anongid=998)

user@gitlab-runner:~$ cat /etc/fstab | grep tests
IP_kube-master:/mnt/tests    /mnt/tests   nfs4    _netdev,auto  0       0

ഗിറ്റ്‌ലാബ്-റണ്ണറിൽ നേരിട്ട് NFS ഷെയർ ഉണ്ടാക്കുന്നതും പിന്നീട് പോഡുകളിൽ മൗണ്ട് ചെയ്യുന്നതും ആരും വിലക്കുന്നില്ല.

അഭിപായപ്പെടുക

ഷെൽ റണ്ണറിൽ നേരിട്ട് ടെസ്റ്റുകളുള്ള ഒരു സ്ക്രിപ്റ്റ് പ്രവർത്തിപ്പിക്കാൻ കഴിയുമെങ്കിൽ, ഒരു ജോലി സൃഷ്ടിച്ച് എല്ലാം സങ്കീർണ്ണമാക്കുന്നത് എന്തിനാണെന്ന് നിങ്ങൾ ചോദിക്കുന്നുണ്ടാകാം? ഉത്തരം വളരെ നിസ്സാരമാണ്...

ചില പരിശോധനകൾക്ക് അവ ശരിയായി പ്രവർത്തിക്കുന്നുണ്ടെന്ന് പരിശോധിക്കാൻ ഇൻഫ്രാസ്ട്രക്ചറിലേക്ക് (MongoDB, RabbitMQ, PostgreSQL, മുതലായവ) ആക്‌സസ് ആവശ്യമാണ്. ഞങ്ങൾ ടെസ്റ്റിംഗ് ഏകീകൃതമാക്കുന്നു - ഈ സമീപനത്തിലൂടെ, അത്തരം അധിക എന്റിറ്റികൾ ഉൾപ്പെടുത്തുന്നത് എളുപ്പമാകും. ഇതുകൂടാതെ, നമുക്ക് ലഭിക്കുന്നു സ്റ്റാൻഡേർഡ് വിന്യാസ സമീപനം (NFS ഉപയോഗിച്ചാലും, ഡയറക്ടറികളുടെ അധിക മൗണ്ടിംഗ്).

ഫലം

തയ്യാറാക്കിയ കോൺഫിഗറേഷൻ പ്രയോഗിക്കുമ്പോൾ നമ്മൾ എന്ത് കാണും?

ലയന അഭ്യർത്ഥന അതിന്റെ ഏറ്റവും പുതിയ പൈപ്പ്‌ലൈനിൽ നടത്തുന്ന ടെസ്റ്റുകളുടെ സംഗ്രഹ സ്ഥിതിവിവരക്കണക്കുകൾ കാണിക്കും:

ഓരോ പിശകും വിശദാംശങ്ങൾക്കായി ഇവിടെ ക്ലിക്ക് ചെയ്യാം:

NB: ഞങ്ങൾ ഒരു NodeJS ആപ്ലിക്കേഷൻ പരീക്ഷിക്കുന്നതും സ്ക്രീൻഷോട്ടുകളിൽ - .NET... ആശ്ചര്യപ്പെടേണ്ട: ലേഖനം തയ്യാറാക്കുമ്പോൾ, ആദ്യ ആപ്ലിക്കേഷൻ പരീക്ഷിക്കുന്നതിൽ പിശകുകളൊന്നും കണ്ടെത്തിയില്ല എന്നത് ശ്രദ്ധിക്കുന്ന വായനക്കാരൻ ശ്രദ്ധിക്കും, പക്ഷേ അവ മറ്റൊന്നിൽ കണ്ടെത്തി.

തീരുമാനം

നിങ്ങൾക്ക് കാണാനാകുന്നതുപോലെ, സങ്കീർണ്ണമായ ഒന്നും തന്നെയില്ല!

തത്വത്തിൽ, നിങ്ങൾക്ക് ഇതിനകം ഒരു ഷെൽ കളക്ടർ ഉണ്ടെങ്കിൽ അത് പ്രവർത്തിക്കുന്നു, എന്നാൽ നിങ്ങൾക്ക് കുബെർനെറ്റസ് ആവശ്യമില്ല, അതിലേക്ക് ടെസ്റ്റിംഗ് അറ്റാച്ചുചെയ്യുന്നത് ഇവിടെ വിവരിച്ചിരിക്കുന്നതിനേക്കാൾ ലളിതമായ ഒരു ജോലിയായിരിക്കും. ഒപ്പം അകത്തും GitLab CI ഡോക്യുമെന്റേഷൻ Ruby, Go, Gradle, Maven എന്നിവയ്‌ക്കും മറ്റു ചിലതിനും നിങ്ങൾ ഉദാഹരണങ്ങൾ കണ്ടെത്തും.

പി.എസ്

ഞങ്ങളുടെ ബ്ലോഗിലും വായിക്കുക:

• «Kubernetes, GitLab എന്നിവയ്‌ക്കൊപ്പമുള്ള മികച്ച CI/CD പരിശീലനങ്ങൾ (അവലോകനവും വീഡിയോ റിപ്പോർട്ടും)";
• «GitLab CI-ൽ ഇഷ്‌ടാനുസൃത വർക്ക്ഫ്ലോകൾ സൃഷ്‌ടിക്കുന്നതിനുള്ള നുറുങ്ങുകൾ";
• «ഉൽപ്പാദനത്തിൽ തുടർച്ചയായ സംയോജനത്തിനും വിതരണത്തിനുമായി GitLab CI".

അവലംബം: www.habr.com