🥇खरगोश के बिल में गिरना: एक वार्निश रिबूट त्रुटि की कहानी - भाग 1

घोस्टिनुशंकापिछले 20 मिनट तक बटन दबाने के बाद, जैसे कि उसका जीवन इस पर निर्भर था, उसकी आँखों में एक अर्ध-जंगली अभिव्यक्ति और एक धूर्त मुस्कान के साथ मेरी ओर मुड़ता है - "यार, मुझे लगता है कि मैं समझ गया हूँ।"

"यहाँ देखो," वह स्क्रीन पर एक प्रतीक की ओर इशारा करते हुए कहता है, "मैं शर्त लगाता हूँ कि मैंने तुम्हें अभी-अभी यहाँ भेजा है, अगर हम उसे जोड़ दें जो मैंने तुम्हें यहाँ भेजा है," कोड के एक अन्य अनुभाग की ओर इशारा करते हुए, "त्रुटि अब प्रदर्शित नहीं होगी।"

थोड़ा हैरान और थका हुआ, मैं उस सेड स्टेटमेंट को बदलता हूं जिस पर हम कुछ समय से काम कर रहे थे, फ़ाइल को सहेजते हैं, और चलाते हैं systemctl varnish reload. त्रुटि संदेश गायब हो गया है...

"मैंने उम्मीदवार के साथ ईमेल का आदान-प्रदान किया," मेरे सहकर्मी ने जारी रखा, जैसे ही उसकी मुस्कुराहट खुशी से भरी वास्तविक मुस्कान में बदल गई, "मुझे अचानक एहसास हुआ कि यह बिल्कुल वही समस्या है!"

इसे कैसे शुरू किया जाए

यह लेख इस बात की समझ रखता है कि बैश, ऑक, सेड और सिस्टमड कैसे काम करते हैं। वार्निश के ज्ञान को प्राथमिकता दी जाती है लेकिन आवश्यक नहीं है।
स्निपेट्स में टाइमस्टैम्प बदल दिए गए हैं।
के साथ लिखा है घोस्टिनुशंका.
यह पाठ दो सप्ताह पहले अंग्रेजी में प्रकाशित मूल का अनुवाद है; अनुवाद बॉयिकोडेन.

एक और गर्म शरद ऋतु की सुबह मनोरम खिड़कियों के माध्यम से सूरज चमकता है, ताजा बना कैफीनयुक्त पेय का एक कप कीबोर्ड से दूर रहता है, हेडफ़ोन में यांत्रिक कीबोर्ड की सरसराहट पर ध्वनियों की एक पसंदीदा सिम्फनी बजती है, और कंबन बोर्ड पर बैकलॉग टिकट सूची में पहली प्रविष्टि भाग्यपूर्ण शीर्षक "इनवेस्टिगेट वार्निशरीलोड श: इको: आई/ओ एरर इन स्टेजिंग" के साथ चमकती है। मंच). जब वार्निश की बात आती है, तो कोई गलती नहीं होती है और न ही हो सकती है, भले ही उनके परिणामस्वरूप कोई समस्या न हो, जैसा कि इस मामले में है।

उन लोगों के लिए जो परिचित नहीं हैं वार्निश पुनः लोड करें, यह एक सरल शेल स्क्रिप्ट है जिसका उपयोग कॉन्फ़िगरेशन को पुनः लोड करने के लिए किया जाता है वार्निश - इसे वीसीएल भी कहा जाता है।

जैसा कि टिकट के शीर्षक से पता चलता है, त्रुटि स्टेज के सर्वरों में से एक पर हुई, और चूँकि मुझे विश्वास था कि स्टेज में वार्निश की रूटिंग ठीक से काम कर रही थी, इसलिए मैंने मान लिया कि यह एक छोटी सी गलती होगी। तो, बस एक संदेश जो पहले से ही बंद आउटपुट स्ट्रीम में आ गया। मैं अपने लिए एक टिकट लेता हूं, पूरे विश्वास के साथ कि मैं इसे 30 मिनट से भी कम समय में तैयार कर दूंगा, बोर्ड से अगला कबाड़ हटाने के लिए खुद को कंधे पर थपथपाता हूं और अधिक महत्वपूर्ण चीजों पर वापस लौटता हूं।

200 किमी/घंटा की रफ्तार से दीवार से टकराना

एक फ़ाइल खोलना varnishreloadडेबियन स्ट्रेच चलाने वाले सर्वरों में से एक पर, मैंने 200 लाइनों से कम लंबी एक शेल स्क्रिप्ट देखी।

स्क्रिप्ट को पढ़ते समय, मुझे ऐसा कुछ भी नहीं दिखा जो सीधे टर्मिनल से इसे कई बार चलाने पर समस्या पैदा कर सकता हो।

आख़िर ये एक मंच है, टूट भी गया तो कोई शिकायत नहीं करेगा, ख़ैर... ज़्यादा भी नहीं। मैं स्क्रिप्ट चलाता हूं और देखता हूं कि टर्मिनल पर क्या लिखा जाएगा, लेकिन त्रुटियां अब दिखाई नहीं दे रही हैं।

यह सुनिश्चित करने के लिए कुछ और रन कि मैं कुछ अतिरिक्त प्रयास के बिना त्रुटि को पुन: उत्पन्न नहीं कर सकता, और मैं यह पता लगाना शुरू करता हूं कि इस स्क्रिप्ट को कैसे बदला जाए और यह अभी भी एक त्रुटि उत्पन्न करे।

क्या स्क्रिप्ट STDOUT को ब्लॉक कर सकती है (का उपयोग करके)। > &-)? या STDERR? अंत में दोनों में से किसी ने भी काम नहीं किया।

स्पष्ट रूप से सिस्टमडी किसी तरह से रन वातावरण को बदल देता है, लेकिन कैसे, और क्यों?
मैं विम चालू करता हूं और संपादित करता हूं varnishreload, जोड़ना set -x शेबंग के ठीक नीचे, उम्मीद है कि स्क्रिप्ट के आउटपुट को डीबग करने से कुछ प्रकाश पड़ेगा।

फ़ाइल ठीक हो गई है, इसलिए मैंने वार्निश को पुनः लोड किया और देखा कि परिवर्तन ने सब कुछ पूरी तरह से तोड़ दिया है ... निकास पूरी तरह से गड़बड़ है, इसमें बहुत सारे सी-जैसे कोड हैं। यहां तक कि टर्मिनल में स्क्रॉल करना भी यह पता लगाने के लिए पर्याप्त नहीं है कि यह कहां से शुरू होता है। मैं पूरी तरह भ्रमित हूं. क्या डिबग मोड किसी स्क्रिप्ट में चलने वाले प्रोग्राम के कार्य को प्रभावित कर सकता है? कोई बकवास नहीं। खोल में बग? कई संभावित परिदृश्य मेरे दिमाग में कॉकरोच की तरह अलग-अलग दिशाओं में उड़ रहे हैं। कैफीन से भरपूर पेय का एक कप तुरंत खाली हो जाता है, पुनः आपूर्ति के लिए रसोई की ओर त्वरित यात्रा और... चलो चलते हैं। मैं स्क्रिप्ट खोलता हूं और शेबंग पर करीब से नजर डालता हूं: #!/bin/sh.

/bin/sh - यह सिर्फ एक बैश सिम्लिंक है, इसलिए स्क्रिप्ट की व्याख्या POSIX-संगत मोड में की जाती है, है ना? यह वहां नहीं था! डेबियन पर डिफ़ॉल्ट शेल डैश है, जो वास्तव में यही है को संदर्भित करता है /bin/sh.

# ls -l /bin/sh
lrwxrwxrwx 1 root root 4 Jan 24  2017 /bin/sh -> dash

परीक्षण के लिए, मैंने शेबंग को इसमें बदल दिया #!/bin/bash, निकाला गया set -x और पुनः प्रयास किया. अंत में, वार्निश के बाद के पुनः लोड पर, आउटपुट में एक सहनीय त्रुटि दिखाई दी:

Jan 01 12:00:00 hostname varnishreload[32604]: /usr/sbin/varnishreload: line 124: echo: write error: Broken pipe
Jan 01 12:00:00 hostname varnishreload[32604]: VCL 'reload_20190101_120000_32604' compiled

पंक्ति 124, यह यहाँ है!

114 find_vcl_file() {
115         VCL_SHOW=$(varnishadm vcl.show -v "$VCL_NAME" 2>&1) || :
116         VCL_FILE=$(
117                 echo "$VCL_SHOW" |
118                 awk '$1 == "//" && $2 == "VCL.SHOW" {print; exit}' | {
119                         # all this ceremony to handle blanks in FILE
120                         read -r DELIM VCL_SHOW INDEX SIZE FILE
121                         echo "$FILE"
122                 }
123         ) || :
124
125         if [ -z "$VCL_FILE" ]
126         then
127                 echo "$VCL_SHOW" >&2
128                 fail "failed to get the VCL file name"
129         fi
130
131         echo "$VCL_FILE"
132 }

लेकिन जैसा कि यह निकला, पंक्ति 124 खाली है और इसमें कोई रुचि नहीं है। मैं केवल यह मान सकता हूं कि त्रुटि लाइन 116 पर शुरू होने वाली मल्टीलाइन के हिस्से के रूप में हुई।
वेरिएबल को अंततः क्या लिखा जाता है VCL_FILE उपरोक्त उप-कोश को क्रियान्वित करने के परिणामस्वरूप?

शुरुआत में, यह वेरिएबल की सामग्री भेजता है VLC_SHOW, पाइप के माध्यम से अगले कमांड के लिए लाइन 115 पर बनाया गया। और फिर वहां क्या होता है?

सबसे पहले, यह उपयोग करता है varnishadm, जो वार्निश इंस्टालेशन पैकेज का हिस्सा है, वार्निश को पुनरारंभ किए बिना कॉन्फ़िगर करने के लिए।

उपकमांड vcl.show -v में निर्दिष्ट संपूर्ण VCL कॉन्फ़िगरेशन को आउटपुट करने के लिए उपयोग किया जाता है ${VCL_NAME}, STDOUT के लिए।

वर्तमान में सक्रिय वीसीएल कॉन्फ़िगरेशन के साथ-साथ वार्निश के रूटिंग कॉन्फ़िगरेशन के कई पिछले संस्करण जो अभी भी मेमोरी में हैं, प्रदर्शित करने के लिए, आप कमांड का उपयोग कर सकते हैं varnishadm vcl.list, जिसका आउटपुट निम्नलिखित के समान होगा:

discarded   cold/busy       1 reload_20190101_120000_11903
discarded   cold/busy       2 reload_20190101_120000_12068
discarded   cold/busy       16 reload_20190101_120000_12259
discarded   cold/busy       16 reload_20190101_120000_12299
discarded   cold/busy       28 reload_20190101_120000_12357
active      auto/warm       32 reload_20190101_120000_12397
available   auto/warm       0 reload_20190101_120000_12587

परिवर्तनीय मान ${VCL_NAME} स्क्रिप्ट के दूसरे भाग में सेट करें varnishreload वर्तमान में सक्रिय वीसीएल के नाम पर, यदि कोई हो। इस स्थिति में यह "reload_20190101_120000_12397" होगा।

ठीक है, परिवर्तनशील. ${VCL_SHOW} अब तक स्पष्ट, वार्निश के लिए संपूर्ण कॉन्फ़िगरेशन शामिल है। अब मैं अंततः समझ गया हूं कि डैश आउटपुट क्यों होता है set -x यह इतना टूटा हुआ निकला - इसमें परिणामी कॉन्फ़िगरेशन की सामग्री शामिल थी।

यह समझना महत्वपूर्ण है कि संपूर्ण वीसीएल कॉन्फ़िगरेशन को अक्सर कई फ़ाइलों से एक साथ जोड़ा जा सकता है। सी-शैली टिप्पणियों का उपयोग यह परिभाषित करने के लिए किया जाता है कि एक कॉन्फ़िगरेशन फ़ाइल को दूसरे में कहां शामिल किया गया है, और कोड स्निपेट की निम्नलिखित पंक्ति बिल्कुल यही है।
शामिल फ़ाइलों का वर्णन करने वाली टिप्पणियों के सिंटैक्स का प्रारूप निम्न है:

// VCL.SHOW <NUM> <NUM> <FILENAME>

इस संदर्भ में संख्याएँ महत्वपूर्ण नहीं हैं, हम फ़ाइल नाम में रुचि रखते हैं।

तो लाइन 116 पर शुरू होने वाले आदेशों के दलदल में क्या होता है?
आइए इसे समझें।
कमांड में चार भाग होते हैं:

सरल echo, जो वेरिएबल का मान प्रदर्शित करता है ${VCL_SHOW}
```
echo "$VCL_SHOW"
```
awk, जो एक पंक्ति (रिकॉर्ड) की तलाश करता है, जहां पाठ को विभाजित करने के बाद पहला फ़ील्ड "//" होगा, और दूसरा "VCL.SHOW" होगा।
Awk पहली पंक्ति लिखेगा जो इन पैटर्न से मेल खाती है और फिर तुरंत प्रसंस्करण बंद कर देगी।
```
awk '$1 == "//" && $2 == "VCL.SHOW" {print; exit}'
```
कोड का एक ब्लॉक जो फ़ील्ड मानों को रिक्त स्थान द्वारा अलग किए गए पांच चर में संग्रहीत करता है। पाँचवाँ वेरिएबल FILE शेष पंक्ति प्राप्त करता है। अंत में, अंतिम प्रतिध्वनि वेरिएबल की सामग्री लिखती है ${FILE}.
```
{ read -r DELIM VCL_SHOW INDEX SIZE FILE; echo "$FILE" }
```
चूँकि सभी चरण 1 से 3 एक उप-कोश में संलग्न हैं, मान का आउटपुट $FILE एक वेरिएबल पर लिखा जाएगा VCL_FILE.

जैसा कि लाइन 119 पर टिप्पणी से पता चलता है, यह उन मामलों को विश्वसनीय रूप से संभालने के एकमात्र उद्देश्य को पूरा करता है जहां वीसीएल उनके नाम में व्हाइटस्पेस वर्णों वाली फ़ाइलों को संदर्भित करेगा।

मैंने इसके लिए मूल प्रसंस्करण तर्क पर टिप्पणी की है ${VCL_FILE} और आदेशों के अनुक्रम को बदलने की कोशिश की, लेकिन इससे कुछ हासिल नहीं हुआ। मेरे लिए सब कुछ साफ-सुथरा रहा, और सेवा शुरू करने के मामले में, इसने एक त्रुटि दी।

ऐसा लगता है कि स्क्रिप्ट को मैन्युअल रूप से चलाने पर त्रुटि पुनरुत्पादित नहीं होती है, जबकि अनुमानित 30 मिनट पहले ही छह बार समाप्त हो चुके हैं और, इसके अलावा, एक उच्च प्राथमिकता वाला कार्य सामने आया है, जो बाकी मामलों को एक तरफ धकेल रहा है। सप्ताह का शेष भाग विभिन्न प्रकार के कार्यों से भरा हुआ था और केवल सेड पर बातचीत और उम्मीदवार के साथ एक साक्षात्कार के कारण थोड़ा कम हो गया था। में त्रुटि समस्या varnishreload समय की रेत में अपरिवर्तनीय रूप से खो गया।

आपका तथाकथित सेड-फू... वास्तव में... बकवास

अगले सप्ताह में एक दिन काफी खाली था, इसलिए मैंने इस टिकट को फिर से लेने का फैसला किया। मुझे आशा थी कि मेरे मस्तिष्क में, कुछ पृष्ठभूमि प्रक्रिया इस समय इस समस्या का समाधान ढूंढ रही थी, और इस बार मैं निश्चित रूप से समझूंगा कि क्या गलत है।

चूंकि पिछली बार केवल कोड बदलने से मदद नहीं मिली, इसलिए मैंने 116वीं पंक्ति से शुरू करके इसे फिर से लिखने का निर्णय लिया। किसी भी स्थिति में, मौजूदा कोड मूर्खतापूर्ण था। और उपयोग करने की बिल्कुल भी आवश्यकता नहीं है read.

त्रुटि को फिर से देख रहे हैं:
sh: echo: broken pipe - इस आदेश में, प्रतिध्वनि दो स्थानों पर है, लेकिन मुझे संदेह है कि पहला अधिक संभावित अपराधी है (ठीक है, या कम से कम एक सहयोगी)। Awk आत्मविश्वास को प्रेरित नहीं करता है। और यदि यह वास्तव में है awk | {read; echo} डिज़ाइन इन सभी समस्याओं का कारण बनता है, इसे क्यों नहीं बदला जाता? यह एक-पंक्ति कमांड awk की सभी सुविधाओं और यहां तक कि इस अतिरिक्त का भी उपयोग नहीं करता है read उपांग में.

पिछले हफ्ते से इस पर एक रिपोर्ट आई थी sedमैं अपने नए अर्जित कौशल को आज़माना और सरल बनाना चाहता था echo | awk | { read; echo} अधिक समझने योग्य में echo | sed. हालांकि यह निश्चित रूप से बग को पकड़ने का सबसे अच्छा तरीका नहीं है, मैंने सोचा कि मैं कम से कम अपना सेड-फू आज़माऊंगा और शायद समस्या के बारे में कुछ नया सीखूंगा। रास्ते में, मैंने अपने सहयोगी, सेड टॉक लेखक से, एक अधिक कुशल सेड स्क्रिप्ट तैयार करने में मेरी मदद करने के लिए कहा।

मैंने सामग्री छोड़ दी varnishadm vcl.show -v "$VCL_NAME" एक फ़ाइल में ताकि मैं सेवा पुनरारंभ की किसी भी परेशानी के बिना sed स्क्रिप्ट लिखने पर ध्यान केंद्रित कर सकूं।

सेड इनपुट को कैसे संभालता है इसका संक्षिप्त विवरण इसमें पाया जा सकता है उसका जीएनयू मैनुअल. सेड स्रोतों में, प्रतीक n स्पष्ट रूप से एक लाइन विभाजक के रूप में निर्दिष्ट।

कई चरणों में, और मेरे सहयोगी की सलाह से, हमने एक सेड स्क्रिप्ट लिखी जिसने संपूर्ण मूल पंक्ति 116 के समान परिणाम दिया।

नीचे इनपुट डेटा के साथ एक नमूना फ़ाइल है:

> cat vcl-example.vcl
Text
// VCL.SHOW 0 1578 file with 3 spaces.vcl
More text
// VCL.SHOW 0 1578 file.vcl
Even more text
// VCL.SHOW 0 1578 file with TWOspaces.vcl
Final text

उपरोक्त विवरण से यह स्पष्ट नहीं हो सकता है, लेकिन हम केवल पहली टिप्पणी में रुचि रखते हैं // VCL.SHOW, और इनपुट डेटा में उनमें से कई हो सकते हैं। यही कारण है कि मूल awk पहले मैच के बाद समाप्त हो जाता है।

# шаг первый, вывести только строки с комментариями
# используя возможности sed, определяется символ-разделитель с помощью конструкции '#' вместо обычно используемого '/', за счёт этого не придётся экранировать косые в искомом комментарии
# определяется регулярное выражение “// VCL.SHOW”, для поиска строк с определенным шаблоном
# флаг -n позаботится о том, чтобы sed не выводил все входные данные, как он это делает по умолчанию (см. ссылку выше)
# -E позволяет использовать расширенные регулярные выражения
> cat vcl-processor-1.sed
#// VCL.SHOW#p
> sed -En -f vcl-processor-1.sed vcl-example.vcl
// VCL.SHOW 0 1578 file with 3 spaces.vcl
// VCL.SHOW 0 1578 file.vcl
// VCL.SHOW 0 1578 file with TWOspaces.vcl

# шаг второй, вывести только имя файла
# используя команду “substitute”, с группами внутри регулярных выражений, отображается только нужная группa
# и это делается только для совпадений, ранее описанного поиска
> cat vcl-processor-2.sed
#// VCL.SHOW# {
    s#.* [0-9]+ [0-9]+ (.*)$#1#
    p
}
> sed -En -f vcl-processor-2.sed vcl-example.vcl
file with 3 spaces.vcl
file.vcl
file with TWOspaces.vcl

# шаг третий, получить только первый из результатов
# как и в случае с awk, добавляется немедленное завершения после печати первого найденного совпадения
> cat vcl-processor-3.sed
#// VCL.SHOW# {
    s#.* [0-9]+ [0-9]+ (.*)$#1#
    p
    q
}
> sed -En -f vcl-processor-3.sed vcl-example.vcl
file with 3 spaces.vcl

# шаг четвертый, схлопнуть всё в однострочник, используя двоеточия для разделения команд
> sed -En -e '#// VCL.SHOW#{s#.* [0-9]+ [0-9]+ (.*)$#1#p;q;}' vcl-example.vcl
file with 3 spaces.vcl

तो वार्निशरीलोड स्क्रिप्ट की सामग्री कुछ इस तरह दिखेगी:

VCL_FILE="$(echo "$VCL_SHOW" | sed -En '#// VCL.SHOW#{s#.*[0-9]+ [0-9]+ (.*)$#1#p;q;};')"

उपरोक्त तर्क को इस प्रकार संक्षेप में प्रस्तुत किया जा सकता है:
यदि स्ट्रिंग नियमित अभिव्यक्ति से मेल खाती है // VCL.SHOW, फिर लालच से उस पाठ को खा लें जिसमें उस पंक्ति में दोनों संख्याएं शामिल हैं, और इस ऑपरेशन के बाद जो कुछ भी बचा है उसे बचाएं। संग्रहीत मूल्य जारी करें और प्रोग्राम समाप्त करें।

सरल, है ना?

हम सेड स्क्रिप्ट और इस तथ्य से खुश थे कि यह सभी मूल कोड को प्रतिस्थापित कर देती है। मेरे सभी परीक्षणों ने वांछित परिणाम दिए, इसलिए मैंने सर्वर पर "वार्निशरेलोड" को बदल दिया और फिर से चलाया systemctl reload varnish. गंदी गलती echo: write error: Broken pipe हमारे चेहरे पर फिर हंसी आ गई. एक टिमटिमाता कर्सर टर्मिनल के अंधेरे शून्य में एक नए कमांड के प्रवेश की प्रतीक्षा कर रहा था...

स्रोत: www.habr.com

फ़ॉलिंग डाउन द रैबिट होल: एक वार्निश रिबूट त्रुटि की कहानी - भाग 1

इसे कैसे शुरू किया जाए

200 किमी/घंटा की रफ्तार से दीवार से टकराना

आपका तथाकथित सेड-फू... वास्तव में... बकवास

एक टिप्पणी जोड़ें उत्तर रद्द