डॉकर टिपा: तुमचे मशीन जंक साफ करा

अहो हाब्र! लेखाचा अनुवाद मी तुमच्या लक्षात आणून देत आहे "डॉकर टिप्स: तुमचे स्थानिक मशीन साफ ​​करा" लेखक ल्यूक गुळ.

आज आपण डॉकर होस्ट मशीनची डिस्क स्पेस कशी वापरतो याबद्दल बोलू आणि न वापरलेल्या प्रतिमा आणि कंटेनरच्या स्क्रॅपमधून ही जागा कशी मोकळी करावी हे देखील आम्ही शोधू.

एकूण वापर

डॉकर ही एक छान गोष्ट आहे, कदाचित आज काही लोकांना याबद्दल शंका आहे. काही वर्षांपूर्वी, या उत्पादनाने आम्हाला कोणतेही वातावरण तयार करण्याचा, वितरित करण्याचा आणि चालवण्याचा एक पूर्णपणे नवीन मार्ग दिला, ज्यामुळे आम्हाला CPU आणि RAM संसाधनांची लक्षणीय बचत करता आली. या व्यतिरिक्त (आणि काहींसाठी ही सर्वात महत्वाची गोष्ट असेल) डॉकरने आम्हाला आमच्या उत्पादन वातावरणाचे जीवनचक्र व्यवस्थापन आश्चर्यकारकपणे सुलभ आणि एकत्रित करण्याची परवानगी दिली आहे.

तथापि, आधुनिक जीवनातील हे सर्व आनंद किंमतीला येतात. जेव्हा आम्ही कंटेनर चालवतो, आमच्या स्वतःच्या प्रतिमा डाउनलोड करतो किंवा तयार करतो आणि जटिल इकोसिस्टम तैनात करतो तेव्हा आम्हाला पैसे द्यावे लागतात. आणि आम्ही इतर गोष्टींबरोबरच, डिस्क स्पेससह पैसे देतो.

डॉकर तुमच्या मशीनवर किती जागा घेते याचा तुम्ही कधीही विचार केला नसेल, तर तुम्हाला कदाचित या कमांडच्या आउटपुटमुळे आश्चर्य वाटेल:

$ docker system df

हे वेगवेगळ्या संदर्भांमध्ये डॉकरचा डिस्क वापर दर्शवते:

• प्रतिमा – प्रतिमा भांडारांमधून डाउनलोड केलेल्या आणि तुमच्या सिस्टमवर तयार केलेल्या प्रतिमांचा एकूण आकार;
• कंटेनर – कंटेनर चालवताना वापरल्या जाणार्‍या डिस्क स्पेसची एकूण रक्कम (म्हणजे सर्व कंटेनरच्या वाचन-लेखन स्तरांची एकूण मात्रा);
• स्थानिक व्हॉल्यूम - कंटेनरवर आरोहित स्थानिक स्टोरेजचे प्रमाण;
• बिल्ड कॅशे - इमेज बिल्डिंग प्रक्रियेद्वारे व्युत्पन्न केलेल्या तात्पुरत्या फाइल्स (बिल्डकिट टूल वापरून, डॉकर आवृत्ती 18.09 पासून उपलब्ध).

मी पैज लावतो की या साध्या हस्तांतरणानंतर तुम्ही तुमची डिस्क कचरा साफ करण्यास आणि मौल्यवान गीगाबाइट्स पुन्हा जिवंत करण्यास उत्सुक आहात (टीप: विशेषत: जर तुम्ही या गीगाबाइट्ससाठी दर महिन्याला भाडे दिले तर).

कंटेनरद्वारे डिस्कचा वापर

प्रत्येक वेळी तुम्ही होस्ट मशीनवर कंटेनर तयार करता, /var/lib/docker निर्देशिकेत अनेक फाइल्स आणि डिरेक्टरी तयार केल्या जातात, ज्यामध्ये खालील गोष्टी लक्षात घेण्यासारख्या आहेत:

• निर्देशिका /var/lib/docker/containers/container_ID - मानक लॉगिंग ड्रायव्हर वापरताना, येथे इव्हेंट लॉग JSON स्वरूपात जतन केले जातात. खूप तपशीलवार लॉग, तसेच कोणीही वाचत नाही किंवा अन्यथा प्रक्रिया करत नाही अशा नोंदी, अनेकदा डिस्क भरून जातात.
• /var/lib/docker/overlay2 निर्देशिकेत कंटेनर वाचन-लेखन स्तर समाविष्टीत आहे (बहुतेक Linux वितरणांमध्ये overlay2 हा प्राधान्यकृत ड्राइव्हर आहे). जर कंटेनरने त्याच्या फाइल सिस्टममध्ये डेटा संग्रहित केला, तर तो या निर्देशिकेत ठेवला जाईल.

चला अशा प्रणालीची कल्पना करूया ज्यावर एक मूळ डॉकर स्थापित केला आहे, जो कधीही कंटेनर लॉन्च करण्यात किंवा प्रतिमा तयार करण्यात गुंतलेला नाही. त्याचा डिस्क स्पेस वापर अहवाल असे दिसेल:

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         0          0          0B         0B
Containers     0          0          0B         0B
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

चला काही कंटेनर लाँच करू, उदाहरणार्थ, NGINX:

$ docker container run --name www -d -p 8000:80 nginx:1.16

डिस्कचे काय होते:

• प्रतिमा 126 MB व्यापतात, हे समान NGINX आहे जे आम्ही कंटेनरमध्ये लॉन्च केले आहे;
• कंटेनर एक हास्यास्पद 2 बाइट्स घेतात.

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         1          1          126M       0B (0%)
Containers     1          1          2B         0B (0%)
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

निष्कर्षानुसार, आमच्याकडे अद्याप कोणतीही जागा नाही जी आम्ही मोकळी करू शकू. 2 बाइट्स पूर्णपणे फालतू असल्याने, कल्पना करूया की आमच्या NGINX ने अनपेक्षितपणे कुठेतरी १०० मेगाबाइट डेटा लिहिला आणि स्वतःमध्येच या आकाराची test.img फाइल तयार केली.

$ docker exec -ti www 
  dd if=/dev/zero of=test.img bs=1024 count=0 seek=$[1024*100]

चला होस्टवरील डिस्क स्पेस वापराचे पुन्हा परीक्षण करूया. कंटेनर (कंटेनर) तेथे 100 मेगाबाइट्स व्यापलेले आपण पाहू.

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         1          1          126M       0B (0%)
Containers     1          1          104.9MB    0B (0%)
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

मला वाटते की तुमचा जिज्ञासू मेंदू आधीच विचार करत आहे की आमची test.img फाइल कुठे आहे. चला ते शोधूया:

$ find /var/lib/docker -type f -name test.img
/var/lib/docker/overlay2/83f177...630078/merged/test.img
/var/lib/docker/overlay2/83f177...630078/diff/test.img

तपशीलात न जाता, आम्ही लक्षात घेऊ शकतो की test.img फाइल वाचन-लेखन स्तरावर सोयीस्करपणे स्थित आहे, overlay2 ड्रायव्हरद्वारे नियंत्रित केली जाते. आम्ही आमचा कंटेनर थांबवल्यास, यजमान आम्हाला सांगेल की ही जागा, तत्त्वतः, मोकळी केली जाऊ शकते:

# Stopping the www container
$ docker stop www

# Visualizing the impact on the disk usage
$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         1          1          126M       0B (0%)
Containers     1          0          104.9MB    104.9MB (100%)
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

आपण हे कसे करू शकतो? कंटेनर हटवून, ज्यामध्ये वाचन-लेखन स्तरावर संबंधित जागा साफ करणे आवश्यक असेल.

खालील आदेशासह, तुम्ही सर्व स्थापित कंटेनर एका पडलेल्या स्वूपमध्ये काढून टाकू शकता आणि त्यांच्याद्वारे तयार केलेल्या सर्व वाचन-लेखन फाइल्सची तुमची डिस्क साफ करू शकता:

$ docker container prune
WARNING! This will remove all stopped containers.
Are you sure you want to continue? [y/N] y
Deleted Containers:
5e7f8e5097ace9ef5518ebf0c6fc2062ff024efb495f11ccc89df21ec9b4dcc2

Total reclaimed space: 104.9MB

म्हणून, आम्ही कंटेनर हटवून 104,9 मेगाबाइट्स मुक्त केले. परंतु आम्ही यापुढे पूर्वी डाउनलोड केलेली प्रतिमा वापरत नसल्यामुळे, ती आमची संसाधने हटवण्यासाठी आणि मुक्त करण्यासाठी देखील उमेदवार बनते:

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         1          0          126M       126M (100%)
Containers     0          0          0B         0B
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

टीप: जोपर्यंत इमेज किमान एका कंटेनरद्वारे वापरात आहे, तोपर्यंत तुम्ही ही युक्ती वापरू शकणार नाही.

आम्ही वर वापरलेल्या प्रून सबकमांडचा परिणाम फक्त थांबलेल्या कंटेनरवर होतो. जर आम्हाला केवळ थांबलेलेच नाही तर चालणारे कंटेनर देखील हटवायचे असतील तर आम्ही यापैकी एक कमांड वापरायला हवी:

# Historical command
$ docker rm -f $(docker ps –aq)

# More recent command
$ docker container rm -f $(docker container ls -aq)

साइड नोट्स: जर तुम्ही कंटेनर सुरू करताना -rm पॅरामीटर वापरत असाल, तर जेव्हा ते थांबेल, तेव्हा त्याने व्यापलेली सर्व डिस्क स्पेस मोकळी होईल.

डिस्क प्रतिमा वापरणे

काही वर्षांपूर्वी, अनेक शंभर मेगाबाइट्सच्या प्रतिमेचा आकार पूर्णपणे सामान्य होता: उबंटू प्रतिमेचे वजन 600 मेगाबाइट होते आणि मायक्रोसॉफ्ट .नेट प्रतिमेचे वजन अनेक गीगाबाइट्स होते. त्या हलक्या दिवसांमध्ये, फक्त एक इमेज डाउनलोड केल्याने तुमच्या फ्री डिस्क स्पेसवर मोठा परिणाम होऊ शकतो, जरी तुम्ही इमेज दरम्यान पातळी शेअर करत असाल. आज - महान स्तुती करा - प्रतिमांचे वजन खूपच कमी आहे, परंतु तरीही, आपण काही खबरदारी न घेतल्यास आपण उपलब्ध संसाधने द्रुतपणे भरू शकता.

अशा अनेक प्रकारच्या प्रतिमा आहेत ज्या अंतिम वापरकर्त्याला थेट दिसत नाहीत:

• इंटरमीडिएट प्रतिमा, ज्याच्या आधारावर इतर प्रतिमा संकलित केल्या जातात - आपण या "इतर" प्रतिमांवर आधारित कंटेनर वापरल्यास त्या हटविल्या जाऊ शकत नाहीत;
• डँगलिंग इमेज या इंटरमीडिएट इमेज आहेत ज्यांचा संदर्भ कोणत्याही चालू कंटेनरद्वारे दिला जात नाही - त्या हटवल्या जाऊ शकतात.
• खालील आदेशाने तुम्ही तुमच्या सिस्टीमवर लटकणाऱ्या प्रतिमा तपासू शकता:

$ docker image ls -f dangling=true
REPOSITORY  TAG      IMAGE ID         CREATED             SIZE
none      none   21e658fe5351     12 minutes ago      71.3MB

आपण त्यांना खालील प्रकारे काढू शकता:

$ docker image rm $(docker image ls -f dangling=true -q)

आम्ही prune subcommand देखील वापरू शकतो:

$ docker image prune
WARNING! This will remove all dangling images.
Are you sure you want to continue? [y/N] y
Deleted Images:
deleted: sha256:143407a3cb7efa6e95761b8cd6cea25e3f41455be6d5e7cda
deleted: sha256:738010bda9dd34896bac9bbc77b2d60addd7738ad1a95e5cc
deleted: sha256:fa4f0194a1eb829523ecf3bad04b4a7bdce089c8361e2c347
deleted: sha256:c5041938bcb46f78bf2f2a7f0a0df0eea74c4555097cc9197
deleted: sha256:5945bb6e12888cf320828e0fd00728947104da82e3eb4452f

Total reclaimed space: 12.9kB

जर आम्हाला अचानक एका आदेशाने सर्व प्रतिमा पूर्णपणे हटवायची असतील (आणि फक्त लटकत नाहीत) तर आम्ही हे करू शकतो:

$ docker image rm $(docker image ls -q)

खंडानुसार डिस्क वापर

कंटेनरच्या फाइल सिस्टमच्या बाहेर डेटा साठवण्यासाठी व्हॉल्यूमचा वापर केला जातो. उदाहरणार्थ, जर आम्हाला अॅप्लिकेशनचे परिणाम इतर मार्गाने वापरण्यासाठी सेव्ह करायचे असतील. एक सामान्य उदाहरण म्हणजे डेटाबेस.

चला एक MongoDB कंटेनर लाँच करू, कंटेनरवर बाह्य व्हॉल्यूम माउंट करू आणि त्यातून डेटाबेस बॅकअप पुनर्संचयित करू (आमच्याकडे ते bck.json फाइलमध्ये उपलब्ध आहे):

# Running a mongo container
$ docker run --name db -v $PWD:/tmp -p 27017:27017 -d mongo:4.0

# Importing an existing backup (from a huge bck.json file)
$ docker exec -ti db mongoimport 
  --db 'test' 
  --collection 'demo' 
  --file /tmp/bck.json 
  --jsonArray

डेटा होस्ट मशीनवर /var/lib/docker/volumes निर्देशिकेत स्थित असेल. पण कंटेनरच्या वाचन-लेखनाच्या पातळीवर का नाही? कारण मोंगोडीबी प्रतिमेच्या डॉकरफाइलमध्ये, /डेटा/डीबी निर्देशिका (जेथे मोंगोडीबी त्याचा डेटा डीफॉल्टनुसार संग्रहित करते) व्हॉल्यूम म्हणून परिभाषित केले आहे.

साइड टीप: डेटा तयार करणार्‍या अनेक प्रतिमा त्या डेटा संग्रहित करण्यासाठी व्हॉल्यूम वापरतात.

जेव्हा आम्ही MongoDB सह पुरेसे खेळतो आणि कंटेनर थांबवतो (किंवा कदाचित हटवू) तेव्हा व्हॉल्यूम हटविला जाणार नाही. जोपर्यंत आम्ही यासारख्या कमांडसह स्पष्टपणे हटवत नाही तोपर्यंत ते आमची मौल्यवान डिस्क जागा घेत राहील:

$ docker volume rm $(docker volume ls -q)

बरं, किंवा आम्ही छाटणी उपकमांड वापरू शकतो जी आम्हाला आधीच परिचित आहे:

$ docker volume prune
WARNING! This will remove all local volumes not used by at least one container.
Are you sure you want to continue? [y/N] y
Deleted Volumes:
d50b6402eb75d09ec17a5f57df4ed7b520c448429f70725fc5707334e5ded4d5
8f7a16e1cf117cdfddb6a38d1f4f02b18d21a485b49037e2670753fa34d115fc
599c3dd48d529b2e105eec38537cd16dac1ae6f899a123e2a62ffac6168b2f5f
...
732e610e435c24f6acae827cd340a60ce4132387cfc512452994bc0728dd66df
9a3f39cc8bd0f9ce54dea3421193f752bda4b8846841b6d36f8ee24358a85bae
045a9b534259ec6c0318cb162b7b4fca75b553d4e86fc93faafd0e7c77c79799
c6283fe9f8d2ca105d30ecaad31868410e809aba0909b3e60d68a26e92a094da

Total reclaimed space: 25.82GB
luc@saturn:~$

इमेज बिल्ड कॅशेसाठी डिस्क वापरणे

डॉकर 18.09 मध्ये, बिल्डकिट टूलमुळे प्रतिमा निर्मिती प्रक्रियेत काही बदल झाले आहेत. ही गोष्ट प्रक्रियेचा वेग वाढवते आणि डेटा स्टोरेज आणि सुरक्षा व्यवस्थापन अनुकूल करते. येथे आम्ही या अद्भुत साधनाच्या सर्व तपशीलांचा विचार करणार नाही; आम्ही फक्त ते डिस्क स्पेस वापरण्याच्या समस्यांचे निराकरण कसे करते यावर लक्ष केंद्रित करू.

समजा आमच्याकडे एक पूर्णपणे साधा Node.Js ऍप्लिकेशन आहे:

• index.js फाइल एक साधा HTTP सर्व्हर सुरू करते जी प्राप्त झालेल्या प्रत्येक विनंतीला एका ओळीने प्रतिसाद देते:
• package.json फाइल अवलंबित्व परिभाषित करते, ज्यापैकी फक्त एक्सप्रेसजेचा वापर HTTP सर्व्हर चालवण्यासाठी केला जातो:

$ cat index.js
var express = require('express');
var util    = require('util');
var app = express();
app.get('/', function(req, res) {
  res.setHeader('Content-Type', 'text/plain');
  res.end(util.format("%s - %s", new Date(), 'Got Request'));
});
app.listen(process.env.PORT || 80);

$ cat package.json
    {
      "name": "testnode",
      "version": "0.0.1",
      "main": "index.js",
      "scripts": {
        "start": "node index.js"
      },
      "dependencies": {
        "express": "^4.14.0"
      }
    }

प्रतिमा तयार करण्यासाठी डॉकरफाइल असे दिसते:

FROM node:13-alpine
COPY package.json /app/package.json
RUN cd /app && npm install
COPY . /app/
WORKDIR /app
EXPOSE 80
CMD ["npm", "start"]

बिल्डकिट न वापरता नेहमीच्या पद्धतीने प्रतिमा तयार करूया:

$ docker build -t app:1.0 .

डिस्क स्पेसचा वापर तपासल्यास, फक्त बेस इमेज (नोड:१३-अल्पाइन) आणि डेस्टिनेशन इमेज (अॅप:१.०) जागा घेत असल्याचे आपण पाहू शकतो:

TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         2          0          109.3MB    109.3MB (100%)
Containers     0          0          0B         0B
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

बिल्डकिट वापरून आमच्या ऍप्लिकेशनची दुसरी आवृत्ती बनवू. हे करण्यासाठी, आम्हाला फक्त DOCKER_BUILDKIT व्हेरिएबल 1 वर सेट करणे आवश्यक आहे:

$ DOCKER_BUILDKIT=1 docker build -t app:2.0 .

जर आपण आता डिस्कचा वापर तपासला, तर बिल्ड कॅशे (buid-cache) आता तेथे गुंतलेले असल्याचे आपल्याला दिसेल:

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         2          0          109.3MB    109.3MB (100%)
Containers     0          0          0B         0B
Local Volumes  0          0          0B         0B
Build Cache    11         0          8.949kB    8.949kB

ते साफ करण्यासाठी, खालील आदेश वापरा:

$ docker builder prune
WARNING! This will remove all dangling build cache.
Are you sure you want to continue? [y/N] y
Deleted build cache objects:
rffq7b06h9t09xe584rn4f91e
ztexgsz949ci8mx8p5tzgdzhe
3z9jeoqbbmj3eftltawvkiayi

Total reclaimed space: 8.949kB

सर्व साफ करा!

म्हणून, आम्ही कंटेनर, प्रतिमा आणि खंडांनी व्यापलेली डिस्क स्पेस साफ करण्याकडे पाहिले. prune subcommand आम्हाला यामध्ये मदत करते. परंतु ते डॉकर सिस्टम स्तरावर देखील वापरले जाऊ शकते आणि ते जे काही करू शकते ते साफ करेल:

$ docker system prune
WARNING! This will remove:
  - all stopped containers
  - all networks not used by at least one container
  - all dangling images
  - all dangling build cache

Are you sure you want to continue? [y/N]

जर काही कारणास्तव तुम्ही डॉकर चालवणार्‍या मशीनवर डिस्क स्पेस वाचवत असाल, तर वेळोवेळी ही कमांड चालवणे ही सवय झाली पाहिजे.

स्त्रोत: www.habr.com