અમે અમારા Nginx ને કેટલાક આદેશો સાથે એસેમ્બલ કરીએ છીએ

હેલો!
મારું નામ સેર્ગેઈ છે, હું tinkoff.ru પ્લેટફોર્મની API ટીમમાં ઈન્ફ્રાસ્ટ્રક્ચર એન્જિનિયર તરીકે કામ કરું છું.

આ લેખમાં હું તેના આધારે બેલેન્સર્સ તૈયાર કરતી વખતે અમારી ટીમનો સામનો કરતી સમસ્યાઓ વિશે વાત કરીશ Nginx વિવિધ પ્રોજેક્ટ માટે. હું તમને તે ટૂલ વિશે પણ કહીશ જેણે મને તેમાંથી મોટાભાગનાને દૂર કરવાની મંજૂરી આપી.

Nginx એક મલ્ટિફંક્શનલ અને સક્રિય રીતે વિકાસશીલ પ્રોક્સી સર્વર છે. તેમાં મોટી સંખ્યામાં મોડ્યુલો છે, આ સંપૂર્ણ યાદી નથી. દરેક પ્રોજેક્ટ બેલેન્સરની કાર્યક્ષમતા અને Nginx (ઉદાહરણ તરીકે, http/2 અને grpc પ્રોક્સીંગની હાજરી), અને તેના મોડ્યુલોની રચના પર ચોક્કસ આવશ્યકતાઓ લાદે છે.

અમે ચોક્કસ Linux વિતરણ હેઠળ ચાલતા મોડ્યુલોના જરૂરી સેટ સાથેનું નવું સંસ્કરણ જોવા માંગીએ છીએ. અમારા કિસ્સામાં, આ deb- અને rpm-આધારિત સિસ્ટમો છે. આ લેખમાં કન્ટેનર સાથેનો વિકલ્પ ધ્યાનમાં લેવામાં આવ્યો નથી.

અમે અમારા બેલેન્સર્સની કાર્યક્ષમતા ઝડપથી બદલવા માંગીએ છીએ. અને અહીં તરત જ પ્રશ્ન ઊભો થાય છે: શક્ય તેટલા ઓછા સંસાધનો ખર્ચીને આ કેવી રીતે પ્રાપ્ત કરવું? પ્રક્રિયા સુયોજિત કરવા માટે તે વધુ સારું રહેશે જેથી અમે ઇનપુટ પરિમાણોની મર્યાદિત સંખ્યાનો ઉલ્લેખ કરી શકીએ અને આઉટપુટ પર ઇચ્છિત OS માટે deb/rpm પેકેજના સ્વરૂપમાં આર્ટિફેક્ટ પ્રાપ્ત થાય.

પરિણામે, સંખ્યાબંધ સમસ્યાઓ ઘડી શકાય છે:

• Nginx ના નવીનતમ સંસ્કરણ સાથે હંમેશા પેકેજો હોતા નથી.
• જરૂરી મોડ્યુલો સાથે કોઈ પેકેજો નથી.
• પેકેજ જાતે કમ્પાઈલ કરવું અને બનાવવું એ સમય માંગી લેતું અને એકદમ કંટાળાજનક છે.
• આ અથવા તે Nginx દાખલાને કેવી રીતે એસેમ્બલ કરવામાં આવે છે તેનું કોઈ વર્ણન નથી.

આ સમસ્યાઓને ઉકેલવા માટે, એક સાધનની જરૂરિયાત ઊભી થાય છે જે માનવ-વાંચી શકાય તેવા ફોર્મેટમાં સ્પેસિફિકેશનને ઇનપુટ તરીકે લે અને તેના આધારે જરૂરી કાર્યક્ષમતા સાથે Nginx પેકેજને એસેમ્બલ કરે.

GitHub ની વિશાળતામાં અમારા માટે યોગ્ય વિકલ્પ ન મળતાં, અમે અમારું પોતાનું સાધન બનાવવાનું નક્કી કર્યું - nginx-બિલ્ડર.

સુપ્રિફેક્સિસી

અમારા ટૂલમાં, અમે કોડના રૂપમાં સ્પષ્ટીકરણનું વર્ણન બનાવવા માગીએ છીએ, જેને પછી Git રિપોઝીટરીમાં મૂકી શકાય છે. આ કરવા માટે, અમે આવી વસ્તુઓ માટે પરિચિત ફોર્મેટ પસંદ કર્યું - yaml. સ્પષ્ટીકરણ ઉદાહરણ:

nginx_version: 1.14.1
output_package: deb
modules:
  - module:
      name: nginx-auth-ldap
      git_url: https://github.com/kvspb/nginx-auth-ldap.git
      git_branch: master
      dependencies:
        - libldap2-dev
  - module:
      name: ngx_http_substitutions_filter_module
      git_url: https://github.com/yaoweibin/ngx_http_substitutions_filter_module.git
  - module:
      name: headers-more-nginx-module
      web_url: https://github.com/openresty/headers-more-nginx-module/archive/v0.261.zip
  - module:
      name: nginx-module-vts
      git_url: https://github.com/vozlt/nginx-module-vts.git
      git_tag: v0.1.18
  - module:
      name: ngx_devel_kit
      git_url: https://github.com/simplresty/ngx_devel_kit.git
      git_tag: v0.3.0
  - module:
      name: ngx_cache_purge
      git_url: https://github.com/FRiCKLE/ngx_cache_purge.git
  - module:
      name: ngx_http_dyups_module
      git_url: https://github.com/yzprofile/ngx_http_dyups_module.git
  - module:
      name: nginx-brotli
      git_url: https://github.com/eustas/ngx_brotli.git
      git_tag: v0.1.2
  - module:
      name: nginx_upstream_check_module
      git_url: https://github.com/yaoweibin/nginx_upstream_check_module.git
  - module:
      name: njs
      git_url: https://github.com/nginx/njs.git
      git_tag: 0.2.5
      config_folder_path: nginx

અહીં અમે સૂચવીએ છીએ કે અમે Nginx સંસ્કરણ 1.14.2 સાથે મોડ્યુલોના જરૂરી સેટ સાથે ડેબ પેકેજ જોવા માંગીએ છીએ. મોડ્યુલો સાથેનો વિભાગ વૈકલ્પિક છે. તેમાંના દરેક માટે તમે સેટ કરી શકો છો:

• નામ.
• સરનામું જ્યાં તમે તેને મેળવી શકો છો:
  • ગિટ રીપોઝીટરી. તમે શાખા અથવા ટેગ પણ સ્પષ્ટ કરી શકો છો.
  • આર્કાઇવ વેબ લિંક.
  • આર્કાઇવ માટે સ્થાનિક લિંક.

કેટલાક મોડ્યુલોને ઇન્સ્ટોલ કરવા માટે વધારાની અવલંબન જરૂરી છે, ઉદાહરણ તરીકે nginx-auth-ldap ને libldap2-dev ઇન્સ્ટોલ કરવાની જરૂર છે. મોડ્યુલનું વર્ણન કરતી વખતે આવશ્યક અવલંબન પણ સ્પષ્ટ કરી શકાય છે.

પર્યાવરણ

અમારા ટૂલમાં તમે સંકલન, પેકેજ એસેમ્બલી અને અન્ય સહાયક સૉફ્ટવેર માટે ઇન્સ્ટોલ કરેલ ઉપયોગિતાઓ સાથેનું વાતાવરણ ઝડપથી મેળવી શકો છો. તમને જોઈતી દરેક વસ્તુ સાથેનો ડોકર કન્ટેનર અહીં આદર્શ છે (રિપોઝીટરીમાં પહેલેથી જ ઉબુન્ટુ અને સેન્ટોસ માટે ડોકર ફાઇલોના કેટલાક ઉદાહરણો છે).

સ્પષ્ટીકરણ તૈયાર થયા પછી અને પર્યાવરણ તૈયાર થઈ ગયા પછી, અમે અમારા બિલ્ડરને લૉન્ચ કરીએ છીએ, અગાઉ તેની અવલંબન સ્થાપિત કરી છે:

pip3 install -r requirements.txt
./main.py build -f [конфиг_файл].yaml -r [номер_ревизии]

અહી રીવીઝન નંબર વૈકલ્પિક છે અને એસેમ્બલીની આવૃત્તિ માટે વપરાય છે. તે પેકેજની મેટા માહિતીમાં લખાયેલ છે, જે સર્વર્સ પર અપડેટ કરવાનું સરળ બનાવે છે.
લૉગ્સમાંથી તમે શું થઈ રહ્યું છે તેનું નિરીક્ષણ કરી શકો છો. અહીં મુખ્ય મુદ્દાઓનું ઉદાહરણ છે:

builder - INFO - Parse yaml file: example.config.yaml
builder - INFO - Download scripts for build deb package
builder - INFO - Downloading nginx src...
builder - INFO - --> http://nginx.org/download/nginx-1.14.1.tar.gz
builder - INFO - Downloading 3d-party modules...
builder - INFO - Module nginx-auth-ldap will download by branch
builder - INFO - -- Done: nginx-auth-ldap
builder - INFO - -- Done: ngx_http_substitutions_filter_module
builder - INFO - Module headers-more-nginx-module will downloading
builder - INFO - Module nginx-module-vts will download by tag
builder - INFO - -- Done: nginx-module-vts
builder - INFO - Module ngx_devel_kit will download by tag
builder - INFO - -- Done: ngx_devel_kit
builder - INFO - -- Done: ngx_cache_purge
builder - INFO - -- Done: ngx_http_dyups_module
builder - INFO - Downloading dependencies
builder - INFO - Building .deb package
builder - INFO - Running 'dh_make'...
builder - INFO - Running 'dpkg-buildpackage'...
dpkg-deb: building package 'nginx' in '../nginx_1.14.1-1_amd64.deb'.

તેથી, માત્ર થોડા આદેશો સાથે, અમે પર્યાવરણ અને જરૂરી Nginx એસેમ્બલી બનાવીએ છીએ, અને પૅકેજ ડિરેક્ટરીમાં દેખાય છે જ્યાંથી સ્ક્રિપ્ટ લૉન્ચ થાય છે.

એમ્બેડિંગ

અમે અમારા ટૂલને CI/CD પ્રક્રિયાઓમાં પણ એકીકૃત કરી શકીએ છીએ. આજે અસ્તિત્વમાં રહેલી ઘણી CI સિસ્ટમોમાંથી કોઈપણ આમાં મદદ કરી શકે છે, ઉદાહરણ તરીકે ટીમસિટી અથવા Gitlab CI.

પરિણામે, જ્યારે પણ Git રિપોઝીટરીમાં સ્પષ્ટીકરણ બદલાય છે, ત્યારે આર્ટિફેક્ટનું બિલ્ડ આપમેળે શરૂ થાય છે. રિવિઝન નંબર બિલ્ડ લોન્ચ કાઉન્ટર સાથે જોડાયેલ છે.
થોડા વધુ સમય સાથે, તમે આર્ટિફેક્ટને તમારા સ્થાનિક પેકેજ રીપોઝીટરી, નેક્સસ, આર્ટિફેક્ટરી વગેરે પર મોકલવા માટે ગોઠવી શકો છો.

એક વધારાનો ફાયદો એ છે કે yaml રૂપરેખાંકન ફાઇલને Ansible અથવા અન્ય સ્વચાલિત રૂપરેખાંકન સિસ્ટમ સાથે કનેક્ટ કરી શકાય છે, અને ત્યાંથી આપણે વર્ઝન નંબર અને પેકેજ પ્રકાર લઈ શકીએ છીએ જે આપણે જમાવવા માંગીએ છીએ.

આગળ શું છે

પ્રોજેક્ટ હજુ પૂરો થયો નથી. અમે હવે જેના પર કામ કરી રહ્યા છીએ તે અહીં છે:

• અમે રૂપરેખાંકનની શક્યતાને વિસ્તૃત કરીએ છીએ, પરંતુ તે જ સમયે તેને શક્ય તેટલું સરળ રાખો. જો તમને માત્ર બેની જરૂર હોય તો તમે હજાર પરિમાણોને વ્યાખ્યાયિત કરવા માંગતા નથી, અને બાકીના મૂળભૂત રીતે બંધબેસે છે. આમાં કમ્પાઇલેશન ફ્લેગ્સ (હવે તમે તેને આંતરિક રૂપરેખાંકન ફાઇલ src/config.py માં બદલી શકો છો), ઇન્સ્ટોલેશન પાથ અને લોન્ચ વપરાશકર્તાનો સમાવેશ થાય છે.
• અમે વિવિધ આર્ટિફેક્ટ રિપોઝીટરીઝમાં આપમેળે પેકેજ મોકલવા માટે વિકલ્પો ઉમેરી રહ્યા છીએ.
• મોડ્યુલ લોડ કરતી વખતે કસ્ટમ આદેશ ચલાવો (ઉદાહરણ તરીકે, વાપરવા માટે github.com/nginx-modules/nginx_upstream_check_module તમારે પહેલા ચોક્કસ સંસ્કરણનો પેચ લાગુ કરવો પડશે)
• પરીક્ષણો ઉમેરી રહ્યા છે:
  • પેકેજ યોગ્ય રીતે ઇન્સ્ટોલ કરેલું છે.
  • Nginx પાસે આવશ્યક સંસ્કરણ છે અને તે જરૂરી ફ્લેગ્સ અને મોડ્યુલો સાથે બનેલ છે.
  • જરૂરી પાથ, એકાઉન્ટ્સ અને તેથી વધુ બનાવવામાં આવે છે.

પરંતુ તમે હવે આ સાધનનો ઉપયોગ કરી શકો છો, અને સુધારાઓ પણ સૂચવી શકો છો - github.com/TinkoffCreditSystems/Nginx-builder ભલેપધાર્યા!

સોર્સ: www.habr.com