डॉकर युक्तियाँ: अपनी मशीन से कबाड़ साफ़ करें

नमस्ते, हबर! मैं आपके ध्यान में लेख का अनुवाद प्रस्तुत करता हूँ "डॉकर युक्तियाँ: अपनी स्थानीय मशीन को साफ़ करें" लेखक ल्यूक जुगरी.

आज हम इस बारे में बात करेंगे कि डॉकर होस्ट मशीन के डिस्क स्थान का उपयोग कैसे करता है, और हम यह भी पता लगाएंगे कि इस स्थान को अप्रयुक्त छवियों और कंटेनरों के स्क्रैप से कैसे मुक्त किया जाए।

कुल खपत

डॉकर एक अच्छी चीज़ है, शायद आज बहुत कम लोगों को इस पर संदेह है। कुछ ही साल पहले, इस उत्पाद ने हमें किसी भी वातावरण को बनाने, वितरित करने और चलाने का एक बिल्कुल नया तरीका दिया, जिससे हमें सीपीयू और रैम संसाधनों को महत्वपूर्ण रूप से बचाने की अनुमति मिली। इसके अलावा (और कुछ के लिए यह सबसे महत्वपूर्ण बात होगी) डॉकर ने हमें अपने उत्पादन वातावरण के जीवनचक्र प्रबंधन को अविश्वसनीय रूप से सरल और एकीकृत करने की अनुमति दी है।

हालाँकि, आधुनिक जीवन की ये सभी खुशियाँ एक कीमत पर आती हैं। जब हम कंटेनर चलाते हैं, डाउनलोड करते हैं या अपनी खुद की छवियां बनाते हैं, और जटिल पारिस्थितिकी तंत्र तैनात करते हैं, तो हमें भुगतान करना पड़ता है। और हम अन्य बातों के अलावा, डिस्क स्थान के साथ भुगतान करते हैं।

यदि आपने कभी नहीं सोचा है कि डॉकर वास्तव में आपकी मशीन पर कितनी जगह लेता है, तो आप इस कमांड के आउटपुट से अप्रिय रूप से आश्चर्यचकित हो सकते हैं:

$ docker system df

यह विभिन्न संदर्भों में डॉकर के डिस्क उपयोग को दर्शाता है:

• छवियाँ - छवियों का कुल आकार जो छवि रिपॉजिटरी से डाउनलोड किया गया था और आपके सिस्टम पर बनाया गया था;
• कंटेनर - चल रहे कंटेनरों द्वारा उपयोग की जाने वाली डिस्क स्थान की कुल मात्रा (मतलब सभी कंटेनरों की पढ़ने-लिखने की परतों की कुल मात्रा);
• स्थानीय मात्रा - कंटेनरों पर लगाए गए स्थानीय भंडारण की मात्रा;
• बिल्ड कैश - छवि निर्माण प्रक्रिया द्वारा उत्पन्न अस्थायी फ़ाइलें (बिल्डकिट टूल का उपयोग करके, डॉकर संस्करण 18.09 से उपलब्ध)।

मैं शर्त लगाता हूं कि इस सरल हस्तांतरण के बाद आप अपनी डिस्क से कचरा साफ करने और कीमती गीगाबाइट को वापस जीवन में लाने के लिए उत्सुक होंगे (ध्यान दें: खासकर यदि आप हर महीने इन गीगाबाइट के लिए किराया देते हैं)।

कंटेनरों द्वारा डिस्क का उपयोग

हर बार जब आप होस्ट मशीन पर एक कंटेनर बनाते हैं, तो /var/lib/docker निर्देशिका में कई फ़ाइलें और निर्देशिकाएँ बनाई जाती हैं, जिनमें से निम्नलिखित ध्यान देने योग्य हैं:

• निर्देशिका /var/lib/docker/containers/container_ID - मानक लॉगिंग ड्राइवर का उपयोग करते समय, यह वह जगह है जहां इवेंट लॉग JSON प्रारूप में सहेजे जाते हैं। बहुत विस्तृत लॉग, साथ ही ऐसे लॉग जिन्हें कोई नहीं पढ़ता या अन्यथा संसाधित करता है, अक्सर डिस्क के भर जाने का कारण बनते हैं।
• /var/lib/docker/overlay2 निर्देशिका में कंटेनर रीड-राइट परतें शामिल हैं (अधिकांश Linux वितरणों में ओवरले2 पसंदीदा ड्राइवर है)। यदि कंटेनर अपने फ़ाइल सिस्टम में डेटा संग्रहीत करता है, तो यह इस निर्देशिका में है कि इसे रखा जाएगा।

आइए एक ऐसी प्रणाली की कल्पना करें जिस पर एक प्राचीन डॉकर स्थापित है, जो कभी भी कंटेनर लॉन्च करने या छवियों के निर्माण में शामिल नहीं रहा है। इसकी डिस्क स्थान उपयोग रिपोर्ट इस प्रकार दिखाई देगी:

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         0          0          0B         0B
Containers     0          0          0B         0B
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

आइए कुछ कंटेनर लॉन्च करें, उदाहरण के लिए, एनजीआईएनएक्स:

$ docker container run --name www -d -p 8000:80 nginx:1.16

डिस्क का क्या होता है:

• छवियाँ 126 एमबी पर कब्जा करती हैं, यह वही एनजीआईएनएक्स है जिसे हमने कंटेनर में लॉन्च किया था;
• कंटेनर हास्यास्पद रूप से 2 बाइट्स लेते हैं।

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         1          1          126M       0B (0%)
Containers     1          1          2B         0B (0%)
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

निष्कर्ष को देखते हुए, हमारे पास अभी तक कोई जगह नहीं है जिसे हम खाली कर सकें। चूंकि 2 बाइट्स पूरी तरह से तुच्छ है, आइए कल्पना करें कि हमारे एनजीआईएनएक्स ने अप्रत्याशित रूप से लगभग 100 मेगाबाइट डेटा लिखा और अपने अंदर बिल्कुल इसी आकार की एक फ़ाइल test.img बनाई।

$ docker exec -ti www 
  dd if=/dev/zero of=test.img bs=1024 count=0 seek=$[1024*100]

आइए होस्ट पर डिस्क स्थान उपयोग की फिर से जांच करें। हम देखेंगे कि कंटेनर (कंटेनर) वहां 100 मेगाबाइट घेरता है।

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         1          1          126M       0B (0%)
Containers     1          1          104.9MB    0B (0%)
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

मुझे लगता है कि आपका जिज्ञासु मस्तिष्क पहले से ही सोच रहा होगा कि हमारी test.img फ़ाइल कहाँ स्थित है। आइए इसे खोजें:

$ find /var/lib/docker -type f -name test.img
/var/lib/docker/overlay2/83f177...630078/merged/test.img
/var/lib/docker/overlay2/83f177...630078/diff/test.img

विवरण में जाने के बिना, हम ध्यान दे सकते हैं कि test.img फ़ाइल आसानी से रीड-राइट स्तर पर स्थित है, जिसे ओवरले2 ड्राइवर द्वारा नियंत्रित किया जाता है। यदि हम अपना कंटेनर रोकते हैं, तो मेज़बान हमें बताएगा कि यह स्थान, सिद्धांत रूप में, मुक्त किया जा सकता है:

# Stopping the www container
$ docker stop www

# Visualizing the impact on the disk usage
$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         1          1          126M       0B (0%)
Containers     1          0          104.9MB    104.9MB (100%)
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

हम ऐसा कैसे कर सकते हैं? कंटेनर को हटाकर, पढ़ने-लिखने के स्तर पर संबंधित स्थान को साफ़ करना होगा।

निम्नलिखित आदेश के साथ, आप सभी स्थापित कंटेनरों को एक झटके में हटा सकते हैं और उनके द्वारा बनाई गई सभी पढ़ने-लिखने वाली फ़ाइलों से अपनी डिस्क साफ़ कर सकते हैं:

$ docker container prune
WARNING! This will remove all stopped containers.
Are you sure you want to continue? [y/N] y
Deleted Containers:
5e7f8e5097ace9ef5518ebf0c6fc2062ff024efb495f11ccc89df21ec9b4dcc2

Total reclaimed space: 104.9MB

इसलिए, हमने कंटेनर को हटाकर 104,9 मेगाबाइट मुक्त कर दिया। लेकिन चूँकि अब हम पहले से डाउनलोड की गई छवि का उपयोग नहीं करते हैं, यह हमारे संसाधनों को हटाने और मुक्त करने के लिए भी एक उम्मीदवार बन जाता है:

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         1          0          126M       126M (100%)
Containers     0          0          0B         0B
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

नोट: जब तक छवि कम से कम एक कंटेनर द्वारा उपयोग में है, आप इस ट्रिक का उपयोग नहीं कर पाएंगे।

ऊपर हमने जिस प्रून उपकमांड का उपयोग किया है, उसका प्रभाव केवल रुके हुए कंटेनरों पर होता है। यदि हम न केवल रुके हुए बल्कि चल रहे कंटेनरों को भी हटाना चाहते हैं, तो हमें इनमें से किसी एक कमांड का उपयोग करना चाहिए:

# Historical command
$ docker rm -f $(docker ps –aq)

# More recent command
$ docker container rm -f $(docker container ls -aq)

साइड नोट्स: यदि आप किसी कंटेनर को शुरू करते समय -rm पैरामीटर का उपयोग करते हैं, तो जब यह बंद हो जाता है, तो इसके द्वारा कब्जा किया गया सारा डिस्क स्थान मुक्त हो जाएगा।

डिस्क छवियों का उपयोग करना

कुछ साल पहले, कई सौ मेगाबाइट की एक छवि का आकार पूरी तरह से सामान्य था: एक उबंटू छवि का वजन 600 मेगाबाइट था, और एक Microsoft .Net छवि का वजन कई गीगाबाइट था। उन ख़राब दिनों में, केवल एक छवि डाउनलोड करने से आपके खाली डिस्क स्थान पर बड़ा असर पड़ सकता था, भले ही आप छवियों के बीच स्तर साझा कर रहे हों। आज - महानों की प्रशंसा करें - छवियों का वजन बहुत कम है, लेकिन फिर भी, यदि आप कुछ सावधानियां नहीं बरतते हैं तो आप उपलब्ध संसाधनों को जल्दी से भर सकते हैं।

ऐसी कई प्रकार की छवियां हैं जो अंतिम उपयोगकर्ता को सीधे दिखाई नहीं देती हैं:

• मध्यवर्ती छवियां, जिनके आधार पर अन्य छवियां एकत्र की जाती हैं - यदि आप इन "अन्य" छवियों के आधार पर कंटेनरों का उपयोग करते हैं तो उन्हें हटाया नहीं जा सकता है;
• लटकती हुई छवियां मध्यवर्ती छवियां होती हैं जिन्हें किसी भी चल रहे कंटेनर द्वारा संदर्भित नहीं किया जाता है - उन्हें हटाया जा सकता है।
• निम्नलिखित कमांड से आप अपने सिस्टम पर लटकती छवियों की जांच कर सकते हैं:

$ docker image ls -f dangling=true
REPOSITORY  TAG      IMAGE ID         CREATED             SIZE
none      none   21e658fe5351     12 minutes ago      71.3MB

आप उन्हें निम्न तरीके से हटा सकते हैं:

$ docker image rm $(docker image ls -f dangling=true -q)

हम प्रून उपकमांड का भी उपयोग कर सकते हैं:

$ docker image prune
WARNING! This will remove all dangling images.
Are you sure you want to continue? [y/N] y
Deleted Images:
deleted: sha256:143407a3cb7efa6e95761b8cd6cea25e3f41455be6d5e7cda
deleted: sha256:738010bda9dd34896bac9bbc77b2d60addd7738ad1a95e5cc
deleted: sha256:fa4f0194a1eb829523ecf3bad04b4a7bdce089c8361e2c347
deleted: sha256:c5041938bcb46f78bf2f2a7f0a0df0eea74c4555097cc9197
deleted: sha256:5945bb6e12888cf320828e0fd00728947104da82e3eb4452f

Total reclaimed space: 12.9kB

यदि हम अचानक एक आदेश से सभी छवियों को पूरी तरह से हटाना चाहते हैं (और केवल लटकने वाली नहीं), तो हम यह कर सकते हैं:

$ docker image rm $(docker image ls -q)

वॉल्यूम के अनुसार डिस्क का उपयोग

वॉल्यूम का उपयोग कंटेनर के फ़ाइल सिस्टम के बाहर डेटा संग्रहीत करने के लिए किया जाता है। उदाहरण के लिए, यदि हम किसी एप्लिकेशन के परिणामों को किसी अन्य तरीके से उपयोग करने के लिए सहेजना चाहते हैं। एक सामान्य उदाहरण डेटाबेस है।

आइए एक MongoDB कंटेनर लॉन्च करें, कंटेनर के बाहर एक वॉल्यूम माउंट करें, और इससे एक डेटाबेस बैकअप पुनर्स्थापित करें (हमारे पास यह bck.json फ़ाइल में उपलब्ध है):

# Running a mongo container
$ docker run --name db -v $PWD:/tmp -p 27017:27017 -d mongo:4.0

# Importing an existing backup (from a huge bck.json file)
$ docker exec -ti db mongoimport 
  --db 'test' 
  --collection 'demo' 
  --file /tmp/bck.json 
  --jsonArray

डेटा होस्ट मशीन पर /var/lib/docker/volumes निर्देशिका में स्थित होगा। लेकिन कंटेनर के पढ़ने-लिखने के स्तर पर क्यों नहीं? क्योंकि MongoDB छवि के Dockerfile में, /data/db निर्देशिका (जहां MongoDB डिफ़ॉल्ट रूप से अपना डेटा संग्रहीत करता है) को वॉल्यूम के रूप में परिभाषित किया गया है।

साइड नोट: कई छवियां जो डेटा उत्पन्न करती हैं, उस डेटा को संग्रहीत करने के लिए वॉल्यूम का उपयोग करती हैं।

जब हम MongoDB के साथ पर्याप्त रूप से खेलते हैं और कंटेनर को रोकते हैं (या शायद हटा भी देते हैं), तो वॉल्यूम हटाया नहीं जाएगा। यह हमारी बहुमूल्य डिस्क स्थान को तब तक लेता रहेगा जब तक हम इसे इस तरह के कमांड के साथ स्पष्ट रूप से हटा नहीं देते:

$ docker volume rm $(docker volume ls -q)

ठीक है, या हम प्रून उपकमांड का उपयोग कर सकते हैं जो पहले से ही हमसे परिचित है:

$ docker volume prune
WARNING! This will remove all local volumes not used by at least one container.
Are you sure you want to continue? [y/N] y
Deleted Volumes:
d50b6402eb75d09ec17a5f57df4ed7b520c448429f70725fc5707334e5ded4d5
8f7a16e1cf117cdfddb6a38d1f4f02b18d21a485b49037e2670753fa34d115fc
599c3dd48d529b2e105eec38537cd16dac1ae6f899a123e2a62ffac6168b2f5f
...
732e610e435c24f6acae827cd340a60ce4132387cfc512452994bc0728dd66df
9a3f39cc8bd0f9ce54dea3421193f752bda4b8846841b6d36f8ee24358a85bae
045a9b534259ec6c0318cb162b7b4fca75b553d4e86fc93faafd0e7c77c79799
c6283fe9f8d2ca105d30ecaad31868410e809aba0909b3e60d68a26e92a094da

Total reclaimed space: 25.82GB
luc@saturn:~$

छवि निर्माण कैश के लिए डिस्क का उपयोग करना

डॉकर 18.09 में, बिल्डकिट टूल की बदौलत छवि निर्माण प्रक्रिया में कुछ बदलाव आए हैं। यह चीज़ प्रक्रिया की गति को बढ़ाती है और डेटा भंडारण और सुरक्षा प्रबंधन को अनुकूलित करती है। यहां हम इस अद्भुत टूल के सभी विवरणों पर विचार नहीं करेंगे; हम केवल इस पर ध्यान केंद्रित करेंगे कि यह डिस्क स्थान के उपयोग के मुद्दों को कैसे संबोधित करता है।

मान लीजिए कि हमारे पास एक पूरी तरह से सरल Node.Js एप्लिकेशन है:

• Index.js फ़ाइल एक साधारण HTTP सर्वर प्रारंभ करती है जो प्राप्त प्रत्येक अनुरोध पर एक पंक्ति के साथ प्रतिक्रिया करता है:
• package.json फ़ाइल निर्भरता को परिभाषित करती है, जिनमें से HTTP सर्वर को चलाने के लिए केवल Expressjs का उपयोग किया जाता है:

$ cat index.js
var express = require('express');
var util    = require('util');
var app = express();
app.get('/', function(req, res) {
  res.setHeader('Content-Type', 'text/plain');
  res.end(util.format("%s - %s", new Date(), 'Got Request'));
});
app.listen(process.env.PORT || 80);

$ cat package.json
    {
      "name": "testnode",
      "version": "0.0.1",
      "main": "index.js",
      "scripts": {
        "start": "node index.js"
      },
      "dependencies": {
        "express": "^4.14.0"
      }
    }

छवि निर्माण के लिए Dockerfile इस तरह दिखती है:

FROM node:13-alpine
COPY package.json /app/package.json
RUN cd /app && npm install
COPY . /app/
WORKDIR /app
EXPOSE 80
CMD ["npm", "start"]

आइए बिल्डकिट का उपयोग किए बिना, सामान्य तरीके से छवि बनाएं:

$ docker build -t app:1.0 .

यदि हम डिस्क स्थान उपयोग की जांच करते हैं, तो हम देख सकते हैं कि केवल आधार छवि (नोड:13-अल्पाइन) और गंतव्य छवि (ऐप:1.0) ही स्थान ले रही हैं:

TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         2          0          109.3MB    109.3MB (100%)
Containers     0          0          0B         0B
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

आइए BuildKit का उपयोग करके अपने एप्लिकेशन का दूसरा संस्करण बनाएं। ऐसा करने के लिए, हमें बस DOCKER_BUILDKIT वेरिएबल को 1 पर सेट करना होगा:

$ DOCKER_BUILDKIT=1 docker build -t app:2.0 .

यदि हम अब डिस्क उपयोग की जांच करते हैं, तो हम देखेंगे कि बिल्ड कैश (ब्यूड-कैश) अब वहां शामिल है:

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         2          0          109.3MB    109.3MB (100%)
Containers     0          0          0B         0B
Local Volumes  0          0          0B         0B
Build Cache    11         0          8.949kB    8.949kB

इसे साफ़ करने के लिए, निम्न आदेश का उपयोग करें:

$ docker builder prune
WARNING! This will remove all dangling build cache.
Are you sure you want to continue? [y/N] y
Deleted build cache objects:
rffq7b06h9t09xe584rn4f91e
ztexgsz949ci8mx8p5tzgdzhe
3z9jeoqbbmj3eftltawvkiayi

Total reclaimed space: 8.949kB

सभी साफ करें!

इसलिए, हमने कंटेनरों, छवियों और वॉल्यूम द्वारा कब्जाए गए डिस्क स्थान को साफ करने पर ध्यान दिया। प्रून उपकमांड इसमें हमारी सहायता करता है। लेकिन इसका उपयोग डॉकर सिस्टम स्तर पर भी किया जा सकता है, और यह वह सब कुछ साफ़ कर देगा जो वह कर सकता है:

$ docker system prune
WARNING! This will remove:
  - all stopped containers
  - all networks not used by at least one container
  - all dangling images
  - all dangling build cache

Are you sure you want to continue? [y/N]

यदि किसी कारण से आप डॉकर चलाने वाली मशीन पर डिस्क स्थान बचा रहे हैं, तो समय-समय पर इस कमांड को चलाना एक आदत बन जाना चाहिए।

स्रोत: www.habr.com