ডকার টিপস: আপনার মেশিনের আবর্জনা সাফ করুন

হে হাবর! আমি নিবন্ধটির অনুবাদ আপনার দৃষ্টি আকর্ষণ করছি "ডকার টিপস: আপনার স্থানীয় মেশিন পরিষ্কার করুন" লেখক লুক জুগারি.

আজ আমরা কিভাবে ডকার হোস্ট মেশিনের ডিস্ক স্পেস ব্যবহার করে সে সম্পর্কে কথা বলব, এবং আমরা অব্যবহৃত ছবি এবং পাত্রের স্ক্র্যাপ থেকে এই স্থানটিকে কীভাবে মুক্ত করতে পারি তাও বের করব।

মোট খরচ

ডকার একটি দুর্দান্ত জিনিস, সম্ভবত খুব কম লোকই এটিকে সন্দেহ করে। মাত্র কয়েক বছর আগে, এই পণ্যটি আমাদের যেকোন পরিবেশ তৈরি, বিতরণ এবং চালানোর জন্য একটি সম্পূর্ণ নতুন উপায় দিয়েছে, যা আমাদের উল্লেখযোগ্যভাবে CPU এবং RAM সংস্থানগুলি সংরক্ষণ করতে দেয়। এটি ছাড়াও (এবং কারো জন্য এটি সবচেয়ে গুরুত্বপূর্ণ বিষয় হবে) ডকার আমাদের উত্পাদন পরিবেশের জীবনচক্র পরিচালনাকে অবিশ্বাস্যভাবে সরল এবং একীভূত করার অনুমতি দিয়েছে।

যাইহোক, আধুনিক জীবনের এই সমস্ত আনন্দ একটি মূল্যে আসে। যখন আমরা কন্টেইনার চালাই, আমাদের নিজস্ব ছবি ডাউনলোড করি বা তৈরি করি এবং জটিল ইকোসিস্টেম স্থাপন করি, তখন আমাদের অর্থ প্রদান করতে হয়। এবং আমরা ডিস্ক স্পেস সহ অন্যান্য জিনিসগুলির মধ্যে অর্থ প্রদান করি।

ডকার আসলে আপনার মেশিনে কতটা জায়গা নেয় সে সম্পর্কে আপনি যদি কখনও ভাবেন না, তাহলে আপনি এই কমান্ডের আউটপুট দ্বারা অপ্রীতিকরভাবে অবাক হতে পারেন:

$ docker system df

এটি বিভিন্ন প্রসঙ্গে ডকারের ডিস্ক ব্যবহার দেখায়:

• ছবি – ইমেজ রিপোজিটরি থেকে ডাউনলোড করা এবং আপনার সিস্টেমে তৈরি করা ছবির মোট আকার;
• কন্টেইনার - কন্টেইনার চালানোর মাধ্যমে ব্যবহৃত ডিস্কের মোট পরিমাণ (অর্থাৎ সমস্ত কন্টেইনারের রিড-রাইট লেয়ারের মোট ভলিউম);
• স্থানীয় ভলিউম - পাত্রে মাউন্ট করা স্থানীয় স্টোরেজের পরিমাণ;
• বিল্ড ক্যাশে - ইমেজ বিল্ডিং প্রক্রিয়ার দ্বারা তৈরি অস্থায়ী ফাইল (বিল্ডকিট টুল ব্যবহার করে, ডকার সংস্করণ 18.09 থেকে শুরু করে উপলব্ধ)।

আমি বাজি ধরছি যে এই সাধারণ স্থানান্তরের পরে আপনি আপনার আবর্জনার ডিস্ক পরিষ্কার করতে এবং মূল্যবান গিগাবাইটগুলিকে জীবিত করতে আগ্রহী (দ্রষ্টব্য: বিশেষ করে যদি আপনি প্রতি মাসে এই গিগাবাইটের জন্য ভাড়া দেন)।

পাত্রে ডিস্ক ব্যবহার

প্রতিবার আপনি হোস্ট মেশিনে একটি ধারক তৈরি করার সময়, /var/lib/docker ডিরেক্টরিতে বেশ কয়েকটি ফাইল এবং ডিরেক্টরি তৈরি করা হয়, যার মধ্যে নিম্নলিখিতগুলি লক্ষণীয়:

• ডিরেক্টরি /var/lib/docker/containers/container_ID - স্ট্যান্ডার্ড লগিং ড্রাইভার ব্যবহার করার সময়, এখানে ইভেন্ট লগগুলি JSON ফর্ম্যাটে সংরক্ষিত হয়। অত্যধিক বিস্তারিত লগ, সেইসাথে লগ যেগুলি কেউ পড়ে না বা অন্যভাবে প্রক্রিয়া করে না, প্রায়শই ডিস্ক পূর্ণ হয়ে যায়।
• /var/lib/docker/overlay2 ডিরেক্টরিতে কন্টেইনার রিড-রাইট লেয়ার থাকে (বেশিরভাগ Linux ডিস্ট্রিবিউশনে ওভারলে2 পছন্দের ড্রাইভার)। যদি ধারকটি তার ফাইল সিস্টেমে ডেটা সঞ্চয় করে, তবে এটি এই ডিরেক্টরিতে এটি স্থাপন করা হবে।

আসুন এমন একটি সিস্টেমের কল্পনা করি যার উপর একটি প্রাথমিক ডকার ইনস্টল করা আছে, যা কখনই কন্টেইনার চালু করা বা ছবি তৈরিতে জড়িত ছিল না। এর ডিস্ক স্পেস ব্যবহারের প্রতিবেদনটি দেখতে এইরকম হবে:

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         0          0          0B         0B
Containers     0          0          0B         0B
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

আসুন কিছু ধারক চালু করি, উদাহরণস্বরূপ, NGINX:

$ docker container run --name www -d -p 8000:80 nginx:1.16

ডিস্কের কি হবে:

• চিত্রগুলি 126 MB দখল করে, এটি একই NGINX যা আমরা কন্টেইনারে চালু করেছি;
• পাত্রে একটি হাস্যকর 2 বাইট গ্রহণ করে।

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         1          1          126M       0B (0%)
Containers     1          1          2B         0B (0%)
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

উপসংহার দ্বারা বিচার করে, আমাদের এখনও এমন কোন স্থান নেই যা আমরা খালি করতে পারি। যেহেতু 2 বাইট সম্পূর্ণরূপে অযৌক্তিক, আসুন আমরা কল্পনা করি যে আমাদের NGINX অপ্রত্যাশিতভাবে কোথাও 100 মেগাবাইট ডেটা লিখেছে এবং নিজের ভিতরে ঠিক এই আকারের একটি ফাইল test.img তৈরি করেছে।

$ docker exec -ti www 
  dd if=/dev/zero of=test.img bs=1024 count=0 seek=$[1024*100]

হোস্টে ডিস্ক স্পেস ব্যবহার আবার পরীক্ষা করা যাক। আমরা দেখব যে কন্টেইনার (কন্টেইনার) সেখানে 100 মেগাবাইট দখল করে আছে।

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         1          1          126M       0B (0%)
Containers     1          1          104.9MB    0B (0%)
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

আমি মনে করি আপনার অনুসন্ধিৎসু মস্তিষ্ক ইতিমধ্যেই ভাবছে যে আমাদের test.img ফাইলটি কোথায় অবস্থিত। আসুন এটি সন্ধান করি:

$ find /var/lib/docker -type f -name test.img
/var/lib/docker/overlay2/83f177...630078/merged/test.img
/var/lib/docker/overlay2/83f177...630078/diff/test.img

বিশদ বিবরণে না গিয়ে, আমরা লক্ষ্য করতে পারি যে test.img ফাইলটি সুবিধাজনকভাবে রিড-রাইট লেভেলে অবস্থিত, ওভারলে২ ড্রাইভার দ্বারা নিয়ন্ত্রিত। যদি আমরা আমাদের ধারকটি বন্ধ করি, হোস্ট আমাদের বলবে যে এই স্থানটি, নীতিগতভাবে, খালি করা যেতে পারে:

# Stopping the www container
$ docker stop www

# Visualizing the impact on the disk usage
$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         1          1          126M       0B (0%)
Containers     1          0          104.9MB    104.9MB (100%)
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

এটা আমরা কিভাবে করতে পারি? ধারকটি মুছে ফেলার মাধ্যমে, যা পড়তে-লিখতে স্তরে সংশ্লিষ্ট স্থানটি পরিষ্কার করতে হবে।

নিম্নলিখিত কমান্ডের সাহায্যে, আপনি সমস্ত ইনস্টল করা কন্টেইনারগুলিকে এক ঝাঁকুনিতে সরিয়ে ফেলতে পারেন এবং তাদের দ্বারা তৈরি সমস্ত রিড-রাইট ফাইলের আপনার ডিস্ক সাফ করতে পারেন:

$ docker container prune
WARNING! This will remove all stopped containers.
Are you sure you want to continue? [y/N] y
Deleted Containers:
5e7f8e5097ace9ef5518ebf0c6fc2062ff024efb495f11ccc89df21ec9b4dcc2

Total reclaimed space: 104.9MB

সুতরাং, আমরা কন্টেইনার মুছে 104,9 মেগাবাইট খালি করেছি। কিন্তু যেহেতু আমরা আর পূর্বে ডাউনলোড করা ছবি ব্যবহার করি না, তাই এটি আমাদের সংস্থানগুলি মুছে ফেলা এবং মুক্ত করার জন্য প্রার্থী হয়ে ওঠে:

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         1          0          126M       126M (100%)
Containers     0          0          0B         0B
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

দ্রষ্টব্য: যতক্ষণ পর্যন্ত অন্তত একটি ধারক দ্বারা ছবিটি ব্যবহার করা হচ্ছে, আপনি এই কৌশলটি ব্যবহার করতে পারবেন না।

আমরা উপরে যে ছাঁটাই সাবকমান্ডটি ব্যবহার করেছি তা শুধুমাত্র থামানো পাত্রে প্রভাব ফেলে। যদি আমরা কেবল বন্ধই নয় বরং চলমান কন্টেইনারগুলিও মুছতে চাই তবে আমাদের এই কমান্ডগুলির মধ্যে একটি ব্যবহার করা উচিত:

# Historical command
$ docker rm -f $(docker ps –aq)

# More recent command
$ docker container rm -f $(docker container ls -aq)

সাইড নোট: আপনি যদি একটি ধারক শুরু করার সময় -rm প্যারামিটার ব্যবহার করেন, তবে এটি বন্ধ হয়ে গেলে, এটি দখল করা সমস্ত ডিস্কের স্থান খালি করা হবে।

ডিস্ক ইমেজ ব্যবহার করে

কয়েক বছর আগে, কয়েকশ মেগাবাইটের একটি চিত্রের আকার সম্পূর্ণ স্বাভাবিক ছিল: একটি উবুন্টু ছবির ওজন ছিল 600 মেগাবাইট, এবং একটি মাইক্রোসফ্ট .নেট ছবির ওজন কয়েক গিগাবাইট। সেই ঝাঁঝালো দিনগুলিতে, শুধুমাত্র একটি ছবি ডাউনলোড করা আপনার মুক্ত ডিস্কের স্থানের উপর একটি বড় টোল নিতে পারে, এমনকি আপনি চিত্রগুলির মধ্যে স্তরগুলি ভাগ করে নিলেও৷ আজ - মহানের প্রশংসা হোক - চিত্রগুলির ওজন অনেক কম, তবে তবুও, আপনি কিছু সতর্কতা অবলম্বন না করলে আপনি দ্রুত উপলব্ধ সংস্থানগুলি পূরণ করতে পারেন৷

বিভিন্ন ধরণের চিত্র রয়েছে যা শেষ ব্যবহারকারীর কাছে সরাসরি দৃশ্যমান নয়:

• মধ্যবর্তী চিত্র, যার ভিত্তিতে অন্যান্য চিত্রগুলি সংগ্রহ করা হয় - আপনি যদি এই "অন্যান্য" চিত্রগুলির উপর ভিত্তি করে পাত্রে ব্যবহার করেন তবে সেগুলি মুছে ফেলা যাবে না;
• ঝুলানো ছবিগুলি হল মধ্যবর্তী ছবি যা চলমান কোন পাত্রে উল্লেখ করা হয় না - সেগুলি মুছে ফেলা যেতে পারে।
• নিম্নলিখিত কমান্ডের সাহায্যে আপনি আপনার সিস্টেমে ঝুলন্ত চিত্রগুলি পরীক্ষা করতে পারেন:

$ docker image ls -f dangling=true
REPOSITORY  TAG      IMAGE ID         CREATED             SIZE
none      none   21e658fe5351     12 minutes ago      71.3MB

আপনি নিম্নলিখিত উপায়ে তাদের অপসারণ করতে পারেন:

$ docker image rm $(docker image ls -f dangling=true -q)

আমরা ছাঁটাই সাবকমান্ডও ব্যবহার করতে পারি:

$ docker image prune
WARNING! This will remove all dangling images.
Are you sure you want to continue? [y/N] y
Deleted Images:
deleted: sha256:143407a3cb7efa6e95761b8cd6cea25e3f41455be6d5e7cda
deleted: sha256:738010bda9dd34896bac9bbc77b2d60addd7738ad1a95e5cc
deleted: sha256:fa4f0194a1eb829523ecf3bad04b4a7bdce089c8361e2c347
deleted: sha256:c5041938bcb46f78bf2f2a7f0a0df0eea74c4555097cc9197
deleted: sha256:5945bb6e12888cf320828e0fd00728947104da82e3eb4452f

Total reclaimed space: 12.9kB

যদি আমরা হঠাৎ করে একটি কমান্ডের মাধ্যমে সমস্ত ছবি সম্পূর্ণভাবে মুছে ফেলতে চাই (এবং শুধু ঝুলতে নয়), তাহলে আমরা এটি করতে পারি:

$ docker image rm $(docker image ls -q)

ভলিউম দ্বারা ডিস্ক ব্যবহার

ভলিউমগুলি কন্টেইনারের ফাইল সিস্টেমের বাইরে ডেটা সংরক্ষণ করতে ব্যবহৃত হয়। উদাহরণস্বরূপ, যদি আমরা একটি অ্যাপ্লিকেশনের ফলাফলগুলিকে অন্য কোনো উপায়ে ব্যবহার করার জন্য সংরক্ষণ করতে চাই। একটি সাধারণ উদাহরণ হল ডাটাবেস।

আসুন একটি MongoDB কন্টেইনার চালু করি, কন্টেইনারে বাহ্যিক একটি ভলিউম মাউন্ট করি এবং এটি থেকে একটি ডাটাবেস ব্যাকআপ পুনরুদ্ধার করি (আমাদের কাছে এটি bck.json ফাইলে উপলব্ধ রয়েছে):

# Running a mongo container
$ docker run --name db -v $PWD:/tmp -p 27017:27017 -d mongo:4.0

# Importing an existing backup (from a huge bck.json file)
$ docker exec -ti db mongoimport 
  --db 'test' 
  --collection 'demo' 
  --file /tmp/bck.json 
  --jsonArray

ডেটা /var/lib/docker/volumes ডিরেক্টরিতে হোস্ট মেশিনে অবস্থিত হবে। কিন্তু পাত্রের পঠন-পাঠন পর্যায়ে নয় কেন? কারণ MongoDB চিত্রের ডকারফাইলে, /data/db ডিরেক্টরি (যেখানে MongoDB ডিফল্টভাবে তার ডেটা সংরক্ষণ করে) একটি ভলিউম হিসাবে সংজ্ঞায়িত করা হয়েছে।

পার্শ্ব দ্রষ্টব্য: অনেক ছবি যেগুলিকে অবশ্যই ডেটা তৈরি করতে হবে সেই ডেটা সংরক্ষণ করতে ভলিউম ব্যবহার করে।

যখন আমরা MongoDB এর সাথে যথেষ্ট খেলা করি এবং কন্টেইনারটি বন্ধ করে (বা এমনকি মুছে ফেলতে) তখন ভলিউমটি মুছে ফেলা হবে না। এটি আমাদের মূল্যবান ডিস্কের স্থান গ্রহণ করতে থাকবে যতক্ষণ না আমরা এটিকে এইরকম একটি কমান্ড দিয়ে স্পষ্টভাবে মুছে ফেলি:

$ docker volume rm $(docker volume ls -q)

ঠিক আছে, অথবা আমরা ছাঁটাই সাবকমান্ড ব্যবহার করতে পারি যা ইতিমধ্যে আমাদের কাছে পরিচিত:

$ docker volume prune
WARNING! This will remove all local volumes not used by at least one container.
Are you sure you want to continue? [y/N] y
Deleted Volumes:
d50b6402eb75d09ec17a5f57df4ed7b520c448429f70725fc5707334e5ded4d5
8f7a16e1cf117cdfddb6a38d1f4f02b18d21a485b49037e2670753fa34d115fc
599c3dd48d529b2e105eec38537cd16dac1ae6f899a123e2a62ffac6168b2f5f
...
732e610e435c24f6acae827cd340a60ce4132387cfc512452994bc0728dd66df
9a3f39cc8bd0f9ce54dea3421193f752bda4b8846841b6d36f8ee24358a85bae
045a9b534259ec6c0318cb162b7b4fca75b553d4e86fc93faafd0e7c77c79799
c6283fe9f8d2ca105d30ecaad31868410e809aba0909b3e60d68a26e92a094da

Total reclaimed space: 25.82GB
luc@saturn:~$

ইমেজ বিল্ড ক্যাশে জন্য ডিস্ক ব্যবহার করে

ডকার 18.09-এ, বিল্ডকিট টুলের জন্য ইমেজ তৈরির প্রক্রিয়ায় কিছু পরিবর্তন হয়েছে। এই জিনিসটি প্রক্রিয়ার গতি বাড়ায় এবং ডেটা স্টোরেজ এবং নিরাপত্তা ব্যবস্থাপনাকে অপ্টিমাইজ করে। এখানে আমরা এই বিস্ময়কর টুলের সমস্ত বিবরণ বিবেচনা করব না; আমরা কেবল এটি কীভাবে ডিস্ক স্পেস ব্যবহারের সমস্যাগুলি সমাধান করে তার উপর ফোকাস করব।

ধরা যাক আমাদের একটি সম্পূর্ণ সাধারণ Node.Js অ্যাপ্লিকেশন রয়েছে:

• index.js ফাইলটি একটি সাধারণ HTTP সার্ভার শুরু করে যা প্রাপ্ত প্রতিটি অনুরোধের একটি লাইনের সাথে প্রতিক্রিয়া জানায়:
• package.json ফাইলটি নির্ভরতা নির্ধারণ করে, যার মধ্যে শুধুমাত্র Expressjs ব্যবহার করা হয় HTTP সার্ভার চালানোর জন্য:

$ cat index.js
var express = require('express');
var util    = require('util');
var app = express();
app.get('/', function(req, res) {
  res.setHeader('Content-Type', 'text/plain');
  res.end(util.format("%s - %s", new Date(), 'Got Request'));
});
app.listen(process.env.PORT || 80);

$ cat package.json
    {
      "name": "testnode",
      "version": "0.0.1",
      "main": "index.js",
      "scripts": {
        "start": "node index.js"
      },
      "dependencies": {
        "express": "^4.14.0"
      }
    }

ইমেজ তৈরির জন্য ডকারফাইলটি এইরকম দেখাচ্ছে:

FROM node:13-alpine
COPY package.json /app/package.json
RUN cd /app && npm install
COPY . /app/
WORKDIR /app
EXPOSE 80
CMD ["npm", "start"]

আসুন বিল্ডকিট ব্যবহার না করেই স্বাভাবিক উপায়ে ইমেজ তৈরি করি:

$ docker build -t app:1.0 .

যদি আমরা ডিস্ক স্পেস ব্যবহার পরীক্ষা করি, আমরা দেখতে পাব যে শুধুমাত্র বেস ইমেজ (নোড:13-আল্পাইন) এবং টার্গেট ইমেজ (অ্যাপ:1.0) জায়গা নিচ্ছে:

TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         2          0          109.3MB    109.3MB (100%)
Containers     0          0          0B         0B
Local Volumes  0          0          0B         0B
Build Cache    0          0          0B         0B

বিল্ডকিট ব্যবহার করে আমাদের অ্যাপ্লিকেশনটির দ্বিতীয় সংস্করণ তৈরি করা যাক। এটি করার জন্য, আমাদের শুধু DOCKER_BUILDKIT ভেরিয়েবলটিকে 1 এ সেট করতে হবে:

$ DOCKER_BUILDKIT=1 docker build -t app:2.0 .

আমরা যদি এখন ডিস্কের ব্যবহার পরীক্ষা করি, আমরা দেখতে পাব যে বিল্ড ক্যাশে (buid-cache) এখন সেখানে জড়িত:

$ docker system df
TYPE           TOTAL      ACTIVE     SIZE       RECLAIMABLE
Images         2          0          109.3MB    109.3MB (100%)
Containers     0          0          0B         0B
Local Volumes  0          0          0B         0B
Build Cache    11         0          8.949kB    8.949kB

এটি পরিষ্কার করতে, নিম্নলিখিত কমান্ডটি ব্যবহার করুন:

$ docker builder prune
WARNING! This will remove all dangling build cache.
Are you sure you want to continue? [y/N] y
Deleted build cache objects:
rffq7b06h9t09xe584rn4f91e
ztexgsz949ci8mx8p5tzgdzhe
3z9jeoqbbmj3eftltawvkiayi

Total reclaimed space: 8.949kB

সব পরিষ্কার করে দাও!

সুতরাং, আমরা কন্টেইনার, ছবি এবং ভলিউম দ্বারা দখলকৃত ডিস্কের স্থান পরিষ্কার করার দিকে তাকিয়েছি। ছাঁটাই সাবকমান্ড এটি আমাদের সাহায্য করে। তবে এটি ডকার সিস্টেম স্তরেও ব্যবহার করা যেতে পারে এবং এটি যা যা করতে পারে তা পরিষ্কার করবে:

$ docker system prune
WARNING! This will remove:
  - all stopped containers
  - all networks not used by at least one container
  - all dangling images
  - all dangling build cache

Are you sure you want to continue? [y/N]

যদি কোনো কারণে আপনি ডকার চালিত একটি মেশিনে ডিস্কের স্থান সংরক্ষণ করেন, তাহলে পর্যায়ক্রমে এই কমান্ডটি চালানো একটি অভ্যাস হয়ে যাওয়া উচিত।

উত্স: www.habr.com