ProHoster > Blog > башкаруу > GitLab CI орнотулууда maven борборуна java долбоорун жүктөө
GitLab CI орнотулууда maven борборуна java долбоорун жүктөө
Бул макала GitLab аркылуу өз өнүмдөрүн sonatype жана/же maven борбордук репозиторийлерине тез арада жарыялоо керек болгон java иштеп чыгуучуларына арналган. Бул макалада мен бул маселени чечүү үчүн gitlab-runner, gitlab-ci жана maven-плагинди орнотуу жөнүндө сүйлөшөм.
Алдын ала шарттар:
mvn жана GPG ачкычтарын коопсуз сактоо.
Коомдук CI тапшырмаларын коопсуз аткаруу.
Артефакттарды (чыгаруу/сүрөт) коомдук репозиторийлерге жүктөө.
Maven Centralда жарыялоо үчүн релиз версияларын автоматтык түрдө текшерүү.
Артефакттарды бир нече долбоорлор үчүн репозиторийге жүктөө үчүн жалпы чечим.
Sonatype OSS Repository Хостинг кызматы аркылуу Maven Centralга артефакттарды жарыялоо механизминин кеңири сүрөттөлүшү буга чейин сүрөттөлгөн. Бул макала колдонуучу Googolplex, ошондуктан мен бул макалага керектүү жерлерде кайрылам.
дарегинде алдын ала катталыңыз Сонатип JIRA жана репозиторийди ачуу үчүн билетти баштаңыз (көбүрөөк маалымат үчүн бөлүмдү окуңуз Sonatype JIRA билетин түзүңүз). Репозиторийди ачкандан кийин JIRA логин/сырсөз жубу (мындан ары Sonatype эсеби деп аталат) Artefacts Sonatype nexus үчүн жүктөө үчүн колдонулат.
Эгер сиз GPG ачкычын (gnupg/gnupg2) түзүү үчүн Linux консолун колдонуп жатсаңыз, анда орнотуу керек rng-курал энтропияны түзүү. Болбосо, ачкыч генерация абдан көп убакыт талап кылынышы мүмкүн.
Биринчиден, артефакттарды жайгаштыруу үчүн түтүк сактала турган долбоорду түзүп, конфигурациялашыңыз керек. Мен өзүмдүн долбоорумду жөнөкөй жана жөнөкөй деп атадым - жайылуу
Репозиторийди түзгөндөн кийин, репозиторийди өзгөртүү үчүн мүмкүнчүлүктү чектөө керек.
Долбоор -> Орнотуулар -> Репозиторий -> Корголгон бутактарга өтүңүз. Биз бардык эрежелерди жок кылабыз жана Wildcard * менен бир эрежени кошуп, Тейлөөчүлөр ролу бар колдонуучулар үчүн гана түртүү жана бириктирүү укугубуз бар. Бул эреже бул долбоордун бардык колдонуучулары үчүн жана бул долбоор таандык болгон топ үчүн иштейт.
Эгерде бир нече тейлөөчүлөр болсо, анда эң жакшы чечим долбоорго кирүү мүмкүнчүлүгүн чектөө болот.
Долбоорго өтүңүз -> Орнотуулар -> Жалпы -> Көрүнүү, долбоордун өзгөчөлүктөрү, уруксаттар жана Долбоордун көрүнүшүн төмөнкүгө орнотуңуз жеке.
Менде жалпыга жеткиликтүү долбоор бар, анткени мен өзүмдүн GitLab Runnerимди колдоном жана репозиторийди өзгөртүүгө мен гана мүмкүнчүлүгүм бар. Чындыгында, жалпыга ачык түтүк журналдарында жеке маалыматты көрсөтүү менин кызыкчылыгымда эмес.
Репозиторийди өзгөртүү эрежелерин катаалдаштыруу
Долбоорго өтүңүз -> Орнотуулар -> Репозиторий -> Push Rules жана желекчелерди орнотуңуз Committer чектөө, Автордун GitLab колдонуучусу экендигин текшериңиз. Мен да орнотууну сунуштайм кол коюуга милдеттендирет, жана кол коюлбаган тапшырмаларды четке кагуу желекчесин коюңуз.
Андан кийин, тапшырмаларды аткаруу үчүн триггерди конфигурациялашыңыз керек
Долбоор -> Орнотуулар -> CI / CD -> Түтүк триггерлерине өтүңүз жана жаңы триггер-токенди түзүңүз
Бул белгини долбоорлордун тобу үчүн өзгөрмөлөрдүн жалпы конфигурациясына дароо кошууга болот.
Топко өтүңүз -> Орнотуулар -> CI / CD -> Variables жана өзгөрмө кошуңуз DEPLOY_TOKEN мааниде триггер-токен менен.
Бул бөлүмдө түпнуска (Өзгөчө) жана жалпы (Бөлүшүлгөн) жөө күлүктү колдонуу менен жайылтууда аткарылуучу тапшырмалар үчүн конфигурация сүрөттөлөт.
Spesifik Runner
Мен өзүмдүн жөө күлүктөрүмдү колдоном, анткени бул биринчи кезекте ыңгайлуу, тез, арзан.
Жөө күлүккө 1 CPU, 2 ГБ оперативдүү эс, 20 ГБ HDD менен Linux VDS сунуштайм. Чыгаруунун баасы жылына ~ 3000₽.
Менин күлүгүм
Жөө күлүк үчүн мен VDS 4 CPU, 4 ГБ оперативдүү эстутум, 50 ГБ SSD алдым. Баасы ~11000₽ жана эч качан өкүнгөн эмес.
Менде жалпы 7 машина бар. Аруба боюнча 5 жана Ихор боюнча 2.
Демек, бизде күлүк бар. Эми биз аны орнотобуз.
Биз SSH аркылуу машинага барып, java, git, maven, gnupg2 орнотобуз.
maven кэши үчүн каталог түзүп, топтун укуктарын дайындаңыз runner
Эгер бир эле машинада бир нече жөө күлүктү чуркоону пландабасаңыз, бул кадамды өткөрүп жиберсеңиз болот.
Runtime platform arch=amd64 os=linux pid=17594 revision=3001a600 version=11.10.0
Running in system-mode.
Please enter the gitlab-ci coordinator URL (e.g. https://gitlab.com/):
https://gitlab.com/
Please enter the gitlab-ci token for this runner:
REGISTRATION_TOKEN
Please enter the gitlab-ci description for this runner:
[ih1174328.vds.myihor.ru]: Deploy Runner
Please enter the gitlab-ci tags for this runner (comma separated):
deploy
Registering runner... succeeded runner=ZvKdjJhx
Please enter the executor: docker-ssh, parallels, virtualbox, docker-ssh+machine, kubernetes, docker, ssh, docker+machine, shell:
shell
Runner registered successfully. Feel free to start it, but if it's running already the config should be automatically reloaded!
Жөө күлүктүн катталганын текшериңиз. Барыңыз gitlab.com -> deploy-project -> Орнотуулар -> CI/CD -> Runners -> Specific Runners -> Runners бул долбоор үчүн жандырылды
Экран
кошуу өзүнчө кызмат /etc/systemd/system/gitlab-deployer.service
Суроолорго жооп берүү менен ачкычты түзөбүз. Мен өз атымды жана электрондук почтамды колдондум.
Ачкычтын сырсөзүн көрсөтүүнү унутпаңыз. Артефакттарга бул ачкыч менен кол коюлат.
gpg --gen-key
текшерүү
gpg --list-keys -a
/home/gitlab-deployer/.gnupg/pubring.gpg
----------------------------------------
pub 4096R/00000000 2019-04-19
uid Petruha Petrov <[email protected]>
sub 4096R/11111111 2019-04-19
Биздин ачык ачкычты ачкыч серверине жүктөө
gpg --keyserver keys.gnupg.net --send-key 00000000
gpg: sending key 00000000 to hkp server keys.gnupg.net
maven каталогун түзүү жай жана кэш менен шилтеме (ката кетирбеңиз)
Эгер бир эле машинада бир нече жөө күлүктү чуркоо планы жок болсо, бул кадамды өткөрүп жиберсеңиз болот.
Биз Javaнын каалаган версиясы менен жайгаштыруу боюнча тапшырмаларды аткаруу үчүн абдан жөнөкөй Dockerfile түзөбүз. Төмөндө альп үчүн бир мисал келтирилген.
FROM java:8u111-jdk-alpine
RUN apk add gnupg maven git --update-cache
--repository http://dl-4.alpinelinux.org/alpine/edge/community/ --allow-untrusted &&
mkdir ~/.m2/
.gitlab-ci.yml файлын жайылтуу долбоорунун тамырына кошуңуз
Скрипт эки бири-бирин эксклюзивдүү жайылтуу тапшырмасын берет. Тиешелүүлүгүнө жараша конкреттүү Runner же Shared Runner.
.gitlab-ci.yml
stages:
- deploy
Specific Runner:
extends: .java_deploy_template
# Задача будет выполняться на вашем shell-раннере
tags:
- deploy
Shared Runner:
extends: .java_deploy_template
# Задача будет выполняться на публичном docker-раннере
tags:
- docker
# Образ из раздела GitLab Runner -> Shared Runner -> Docker
image: registry.gitlab.com/group/deploy-project:latest
before_script:
# Импортируем GPG ключ
- printf "${GPG_SECRET_KEY}" | gpg --batch --import
# Сохраняем maven конфигурацию
- printf "${SETTINGS_SECURITY_XML}" > ~/.m2/settings-security.xml
- printf "${SETTINGS_XML}" > ~/.m2/settings.xml
.java_deploy_template:
stage: deploy
# Задача сработает по триггеру, если передана переменная DEPLOY со значением java
only:
variables:
- $DEPLOY == "java"
variables:
# отключаем клонирование текущего проекта
GIT_STRATEGY: none
script:
# Предоставляем возможность хранения пароля в незашифрованном виде
- git config --global credential.helper store
# Сохраняем временные креды пользователя gitlab-ci-token
# Токен работает для всех публичных проектов gitlab.com и для проектов группы
- echo "https://gitlab-ci-token:${CI_JOB_TOKEN}@gitlab.com" >> ~/.git-credentials
# Полностью чистим текущую директорию
- rm -rf .* *
# Клонируем проект который, будем деплоить в Sonatype Nexus
- git clone ${DEPLOY_CI_REPOSITORY_URL} .
# Переключаемся на нужный коммит
- git checkout ${DEPLOY_CI_COMMIT_SHA} -f
# Если хоть один pom.xml содержит параметр autoReleaseAfterClose валим сборку.
# В противном случае есть риск залить сырые артефакты в maven central
- >
for pom in $(find . -name pom.xml); do
if [[ $(grep -q autoReleaseAfterClose "$pom" && echo $?) == 0 ]]; then
echo "File $pom contains prohibited setting: <autoReleaseAfterClose>";
exit 1;
fi;
done
# Если параметр DEPLOY_CI_COMMIT_TAG пустой, то принудительно ставим SNAPSHOT-версию
- >
if [[ "${DEPLOY_CI_COMMIT_TAG}" != "" ]]; then
mvn versions:set -DnewVersion=${DEPLOY_CI_COMMIT_TAG}
else
VERSION=$(mvn -q -Dexec.executable=echo -Dexec.args='${project.version}' --non-recursive exec:exec)
if [[ "${VERSION}" == *-SNAPSHOT ]]; then
mvn versions:set -DnewVersion=${VERSION}
else
mvn versions:set -DnewVersion=${VERSION}-SNAPSHOT
fi
fi
# Запускаем задачу на сборку и деплой артефактов
- mvn clean deploy -DskipTests=true
<plugin>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-javadoc-plugin</artifactId>
<executions>
<execution>
<goals>
<goal>jar</goal>
</goals>
<!-- Генерация javadoc должна быть после фазы генерации ресурсов -->
<phase>prepare-package</phase>
<configuration>
<!-- Очень помогает в публичных проектах -->
<failOnError>true</failOnError>
<failOnWarnings>true</failOnWarnings>
<!-- Убирает ошибку поиска документации в target директории -->
<detectOfflineLinks>false</detectOfflineLinks>
</configuration>
</execution>
</executions>
</plugin>
Эгер сизде java камтылбаган модулуңуз болсо (мисалы, ресурстар гана)
Же болбосо, негизинен javadoc генерациялоону каалабайсыз, андан кийин жардам берүү үчүн maven-jar-plugin
Эгер сизде көп модулдуу долбоор болсо жана репозиторийге белгилүү бир модулду жүктөөнүн кереги жок болсо, анда бул модулдун pom.xml файлына кошуу керек. nexus-staging-maven-plugin желек менен skipNexusStagingDeployMojo
<repositories>
<repository>
<id>SonatypeNexus</id>
<url>https://oss.sonatype.org/content/groups/staging/</url>
<!-- Не надо указывать флаги snapshot/release для репозитория -->
</repository>
</repositories>
Дагы плюс
Nexus репозиторий менен иштөө үчүн максаттардын абдан бай тизмеси (mvn help:describe -Dplugin=org.sonatype.plugins:nexus-staging-maven-plugin).
Maven борборунда жүктөө мүмкүнчүлүгүн автоматтык түрдө текшерүү
Тег коюлганда, жайылтуу долбоорундагы тиешелүү тапшырма релиз версиясын Nexus'ка жүктөө үчүн автоматтык түрдө иштетилет (мисал).
Эң жакшы жери, жабуу релизинин автоматтык түрдө Nexus'та пайда болушу.
[INFO] Performing remote staging...
[INFO]
[INFO] * Remote staging into staging profile ID "9043b43f77dcc9"
[INFO] * Created staging repository with ID "orgtouchbit-1037".
[INFO] * Staging repository at https://oss.sonatype.org:443/service/local/staging/deployByRepositoryId/orgtouchbit-1037
[INFO] * Uploading locally staged artifacts to profile org.touchbit
[INFO] * Upload of locally staged artifacts finished.
[INFO] * Closing staging repository with ID "orgtouchbit-1037".
Waiting for operation to complete...
.........
[INFO] Remote staged 1 repositories, finished with success.
[INFO] ------------------------------------------------------------------------
[INFO] Reactor Summary:
[INFO]
[INFO] Shields4J 1.0.0 .................................... SUCCESS [ 9.603 s]
[INFO] test-core .......................................... SUCCESS [ 3.419 s]
[INFO] Shields4J client ................................... SUCCESS [ 9.793 s]
[INFO] TestNG listener 1.0.0 .............................. SUCCESS [01:23 min]
[INFO] ------------------------------------------------------------------------
[INFO] BUILD SUCCESS
[INFO] ------------------------------------------------------------------------
[INFO] Total time: 01:47 min
[INFO] Finished at: 2019-04-21T04:05:46+03:00
[INFO] ------------------------------------------------------------------------
Ал эми бир нерсе туура эмес болсо, анда тапшырма аткарылбай калат
[INFO] Performing remote staging...
[INFO]
[INFO] * Remote staging into staging profile ID "9043b43f77dcc9"
[INFO] * Created staging repository with ID "orgtouchbit-1038".
[INFO] * Staging repository at https://oss.sonatype.org:443/service/local/staging/deployByRepositoryId/orgtouchbit-1038
[INFO] * Uploading locally staged artifacts to profile org.touchbit
[INFO] * Upload of locally staged artifacts finished.
[INFO] * Closing staging repository with ID "orgtouchbit-1038".
Waiting for operation to complete...
.......
[ERROR] Rule failure while trying to close staging repository with ID "orgtouchbit-1039".
[ERROR]
[ERROR] Nexus Staging Rules Failure Report
[ERROR] ==================================
[ERROR]
[ERROR] Repository "orgtouchbit-1039" failures
[ERROR] Rule "signature-staging" failures
[ERROR] * No public key: Key with id: (1f42b618d1cbe1b5) was not able to be located on <a href=http://keys.gnupg.net:11371/>http://keys.gnupg.net:11371/</a>. Upload your public key and try the operation again.
...
[ERROR] Cleaning up local stage directory after a Rule failure during close of staging repositories: [orgtouchbit-1039]
[ERROR] * Deleting context 9043b43f77dcc9.properties
[ERROR] Cleaning up remote stage repositories after a Rule failure during close of staging repositories: [orgtouchbit-1039]
[ERROR] * Dropping failed staging repository with ID "orgtouchbit-1039" (Rule failure during close of staging repositories: [orgtouchbit-1039]).
[ERROR] Remote staging finished with a failure: Staging rules failure!
[INFO] ------------------------------------------------------------------------
[INFO] Reactor Summary:
[INFO]
[INFO] Shields4J 1.0.0 .................................... SUCCESS [ 4.073 s]
[INFO] test-core .......................................... SUCCESS [ 2.788 s]
[INFO] Shields4J client ................................... SUCCESS [ 3.962 s]
[INFO] TestNG listener 1.0.0 .............................. FAILURE [01:07 min]
[INFO] ------------------------------------------------------------------------
[INFO] BUILD FAILURE
[INFO] ------------------------------------------------------------------------
Жыйынтыгында бизде бир гана тандоо калды. Же бул версияны жок кылыңыз же жарыялаңыз.
Чыгарылгандан кийин, бир нече убакыт өткөндөн кийин, артефакттар кирет
темадан тышкары
Мавен башка коомдук репозиторийлерди индекстегени мен үчүн ачылыш болду.
Мен robots.txt файлын жүктөшүм керек болчу, анткени ал менин эски репозиторийимди индекстеген.
Артефакттарды ар кандай өнүктүрүү тилдеринин коомдук репозиторийлерине жүктөө үчүн бир нече CI тапшырмаларын ишке ашыра турган өзүнчө жайылтуу долбоору.
Жайгаштыруу долбоору сырттан кийлигишүүдөн обочолонгон жана аны Ээси жана Тейлөөчү ролдору бар колдонуучулар гана өзгөртүшү мүмкүн.
Жайгаштыруу тапшырмаларын гана иштетүү үчүн "ысык" кэши бар өзүнчө Specific Runner.
Коомдук репозиторийде көз ирмемдик сүрөт/релиз версияларын жарыялоо.
Чыгарылган версияны автоматтык түрдө maven Centralда жарыялоого даярдыгын текшерүү.
maven борборунда "чийки" версияларды автоматтык түрдө жарыялоодон коргоо.
Снапшот версияларын "басканда" түзүңүз жана жарыялаңыз.
Снапшот/релиз версияларын алуу үчүн бирдиктүү репозиторий.
Java долбоорун куруу / сыноо / жарыялоо үчүн жалпы түтүк.
GitLab CI орнотуу биринчи караганда көрүнгөндөй татаал тема эмес. CIди ачкычка тапшыруу боюнча бир нече жолу орнотуу жетиштүү, эми сиз бул маселеде ышкыбоздуктан алыссыз. Андан тышкары, GitLab документтери өтө ашыкча. Биринчи кадамды жасоодон коркпоңуз. Жол басып бара жаткан адамдын тепкичтеринин астында пайда болот (ким айтканы эсимде жок :)
Пикириңизге кубанычта болом.
Кийинки макалада, мен сизге GitLab CIди кантип орнотууну көрсөтөм, эгерде сизде бир гана shell runner болсо, интеграциялык тест тапшырмаларын атаандаштыкта (докер-композит менен иштөөчү тест кызматтары) иштетүү.