भंडारण क्षमता ट्रैकिंग के साथ अल्पकालिक वॉल्यूम: स्टेरॉयड पर खाली डिर

कुछ एप्लिकेशन को डेटा संग्रहीत करने की भी आवश्यकता होती है, लेकिन वे इस तथ्य से काफी सहज हैं कि पुनरारंभ के बाद डेटा सहेजा नहीं जाएगा।

उदाहरण के लिए, कैशिंग सेवाएं रैम द्वारा सीमित होती हैं, लेकिन उन डेटा को भी स्थानांतरित कर सकती हैं जिनका उपयोग शायद ही कभी स्टोरेज में किया जाता है जो रैम की तुलना में धीमी होती है, जिसका समग्र प्रदर्शन पर बहुत कम प्रभाव पड़ता है। अन्य अनुप्रयोगों को यह जानने की आवश्यकता है कि फ़ाइलों में कुछ रीड-ओनली इनपुट हो सकते हैं, जैसे सेटिंग्स या गुप्त कुंजियाँ।

कुबेरनेट्स के पहले से ही कई प्रकार हैं क्षणिक मात्राएँ, लेकिन उनकी कार्यक्षमता K8s में लागू की गई चीज़ों तक ही सीमित है।

अल्पकालिक सीएसआई वॉल्यूम हल्के स्थानीय संस्करणों के लिए समर्थन प्रदान करने के लिए कुबेरनेट्स को सीएसआई ड्राइवरों के साथ विस्तारित करने की अनुमति दी गई। इस तरह इसका उपयोग संभव है मनमानी संरचनाएँ: सेटिंग्स, रहस्य, पहचान डेटा, चर, इत्यादि। इस कुबेरनेट्स सुविधा का समर्थन करने के लिए सीएसआई ड्राइवरों को संशोधित किया जाना चाहिए, क्योंकि यह माना जाता है कि नियमित मानकीकृत ड्राइवर काम नहीं करेंगे - लेकिन यह माना जाता है कि ऐसे वॉल्यूम का उपयोग पॉड के लिए चयनित किसी भी नोड पर किया जा सकता है।

यह उन वॉल्यूम के लिए एक समस्या हो सकती है जो महत्वपूर्ण होस्ट संसाधनों का उपभोग करते हैं या भंडारण के लिए जो केवल कुछ होस्ट पर उपलब्ध है। यही कारण है कि Kubernetes 1.19 दो नए अल्फा परीक्षण वॉल्यूम फीचर पेश करता है जो वैचारिक रूप से EmptyDir वॉल्यूम के समान हैं:

• सामान्य प्रयोजन अल्पकालिक मात्राएँ;

• सीएसआई भंडारण क्षमता ट्रैकिंग।

नये दृष्टिकोण के लाभ:

• भंडारण स्थानीय हो सकता है या नेटवर्क के माध्यम से जुड़ा हो सकता है;

• वॉल्यूम में एक निर्दिष्ट आकार हो सकता है जिसे एप्लिकेशन द्वारा पार नहीं किया जा सकता है;

• किसी भी सीएसआई ड्राइवर के साथ काम करता है जो लगातार वॉल्यूम के प्रावधान का समर्थन करता है और (क्षमता ट्रैकिंग का समर्थन करने के लिए) कॉल को कार्यान्वित करता है GetCapacity;

• ड्राइवर और सेटिंग्स के आधार पर वॉल्यूम में कुछ प्रारंभिक डेटा हो सकता है;

• वॉल्यूम के साथ सभी मानक संचालन (स्नैपशॉट बनाना, आकार बदलना, आदि) समर्थित हैं;

• वॉल्यूम का उपयोग किसी भी एप्लिकेशन नियंत्रक के साथ किया जा सकता है जो मॉड्यूल या वॉल्यूम विनिर्देश स्वीकार करता है;

• कुबेरनेट्स शेड्यूलर अपने आप उपयुक्त नोड्स का चयन करता है, इसलिए अब शेड्यूलर एक्सटेंशन को प्रावधान और कॉन्फ़िगर करने या वेबहुक को संशोधित करने की कोई आवश्यकता नहीं है।

आवेदन के विकल्प

इसलिए, सामान्य प्रयोजन के अल्पकालिक वॉल्यूम निम्नलिखित उपयोग के मामलों के लिए उपयुक्त हैं:

मेमकैच्ड के लिए रैम के प्रतिस्थापन के रूप में स्थायी मेमोरी

मेमकैच्ड की नवीनतम रिलीज़ अतिरिक्त समर्थन लगातार मेमोरी (इंटेल ऑप्टेन, आदि) का उपयोग करना लगभग। अनुवादक) नियमित रैम के बजाय। एप्लिकेशन कंट्रोलर के माध्यम से मेमकैच्ड को तैनात करते समय, आप सामान्य प्रयोजन के अल्पकालिक वॉल्यूम का उपयोग यह अनुरोध करने के लिए कर सकते हैं कि सीएसआई ड्राइवर का उपयोग करके पीएमईएम से दिए गए आकार का वॉल्यूम आवंटित किया जाए, उदाहरण के लिए पीएमईएम-सीएसआई.

कार्यस्थल के रूप में LVM स्थानीय भंडारण

जो एप्लिकेशन रैम से बड़े डेटा के साथ काम करते हैं, उन्हें आकार या प्रदर्शन मेट्रिक्स के साथ स्थानीय भंडारण की आवश्यकता हो सकती है जो कि कुबेरनेट्स के नियमित एम्प्टीडिर वॉल्यूम प्रदान नहीं कर सकते हैं। उदाहरण के लिए, इसी उद्देश्य से यह लिखा गया था टोपोएलवीएम.

डेटा वॉल्यूम के लिए केवल पढ़ने योग्य पहुंच

किसी वॉल्यूम के आवंटन के परिणामस्वरूप पूर्ण वॉल्यूम का निर्माण हो सकता है जब:

• स्वास्थ्य लाभ वॉल्यूम स्नैपशॉट;

• सृजन वॉल्यूम प्रतियां;

• काम डेटा प्लेसहोल्डर.

इन वॉल्यूम को रीड-ओनली मोड में माउंट किया जा सकता है।

Как это работает

सामान्य प्रयोजन अल्पकालिक खंड

सामान्य प्रयोजन के अल्पकालिक संस्करणों की एक प्रमुख विशेषता नया वॉल्यूम स्रोत है, EphemeralVolumeSource, जिसमें वॉल्यूम अनुरोध बनाने के लिए सभी फ़ील्ड शामिल हैं (ऐतिहासिक रूप से इसे लगातार वॉल्यूम अनुरोध, पीवीसी कहा जाता है)। नया नियंत्रक kube-controller-manager उन पॉड्स को देखता है जो इस तरह का वॉल्यूम स्रोत बनाते हैं, और फिर उन पॉड्स के लिए पीवीसी बनाते हैं। सीएसआई ड्राइवर के लिए, यह अनुरोध अन्य अनुरोधों के समान ही दिखता है, इसलिए यहां किसी विशेष समर्थन की आवश्यकता नहीं है।

जब तक ऐसे पीवीसी मौजूद हैं, उनका उपयोग वॉल्यूम पर किसी भी अन्य अनुरोध की तरह किया जा सकता है। विशेष रूप से, किसी वॉल्यूम की प्रतिलिपि बनाते समय या किसी वॉल्यूम से स्नैपशॉट बनाते समय उन्हें डेटा स्रोत के रूप में संदर्भित किया जा सकता है। पीवीसी ऑब्जेक्ट में वॉल्यूम की वर्तमान स्थिति भी शामिल होती है।

स्वचालित रूप से बनाए गए पीवीसी के नाम पूर्वनिर्धारित हैं: वे पॉड नाम और वॉल्यूम नाम का एक संयोजन हैं, जो एक हाइफ़न द्वारा अलग किए गए हैं। पूर्वनिर्धारित नाम पीवीसी के साथ इंटरैक्ट करना आसान बनाते हैं क्योंकि यदि आप पॉड नाम और वॉल्यूम नाम जानते हैं तो आपको इसे खोजने की ज़रूरत नहीं है। नकारात्मक पक्ष यह है कि नाम पहले से ही उपयोग में हो सकता है, जिसका पता कुबेरनेट्स द्वारा लगाया जाता है और परिणामस्वरूप पॉड शुरू होने से अवरुद्ध हो जाता है।

यह सुनिश्चित करने के लिए कि वॉल्यूम को पॉड के साथ हटा दिया गया है, नियंत्रक मालिक के तहत वॉल्यूम के लिए एक अनुरोध करता है। जब पॉड हटा दिया जाता है, तो मानक कचरा संग्रहण तंत्र काम करता है, जो अनुरोध और वॉल्यूम दोनों को हटा देता है।

स्टोरेज क्लास के सामान्य तंत्र के माध्यम से स्टोरेज ड्राइवर द्वारा अनुरोधों का मिलान किया जाता है। हालाँकि तत्काल और देर से बाइंडिंग वाली कक्षाएं (उर्फ WaitForFirstConsumer) समर्थित हैं, अल्पकालिक संस्करणों के लिए इसका उपयोग करना समझ में आता है WaitForFirstConsumer, तो नोड का चयन करते समय शेड्यूलर नोड उपयोग और भंडारण उपलब्धता दोनों पर विचार कर सकता है। यहां एक नई सुविधा दिखाई देती है.

भंडारण क्षमता ट्रैकिंग

आमतौर पर शेड्यूलर को इस बात की जानकारी नहीं होती है कि सीएसआई ड्राइवर वॉल्यूम कहां बनाएगा। इस जानकारी का अनुरोध करने के लिए शेड्यूलर के पास सीधे ड्राइवर से संपर्क करने का कोई तरीका नहीं है। इसलिए, शेड्यूलर नोड्स को तब तक पोल करता है जब तक उसे ऐसा कोई न मिल जाए जिस पर वॉल्यूम एक्सेस किया जा सके (देर से बाइंडिंग) या स्थान का चुनाव पूरी तरह से ड्राइवर (तत्काल बाइंडिंग) पर छोड़ देता है।

नया API CSIStorageCapacity, जो अल्फा चरण में है, आवश्यक डेटा को आदि में संग्रहीत करने की अनुमति देता है ताकि यह शेड्यूलर के लिए उपलब्ध हो। सामान्य प्रयोजन के अल्पकालिक वॉल्यूम के लिए समर्थन के विपरीत, जब आप ड्राइवर को तैनात करते हैं, तो आपको भंडारण क्षमता ट्रैकिंग सक्षम करनी होगी: external-provisioner ड्राइवर से प्राप्त क्षमता की जानकारी सामान्य रूप से प्रकाशित करनी चाहिए GetCapacity.

यदि शेड्यूलर को अनबाउंड वॉल्यूम वाले पॉड के लिए एक नोड का चयन करने की आवश्यकता होती है जो लेट बाइंडिंग का उपयोग करता है, और ड्राइवर ने फ़्लैग सेट करके तैनाती के दौरान इस सुविधा को सक्षम किया है CSIDriver.storageCapacity, तो जिन नोड्स में पर्याप्त भंडारण क्षमता नहीं है उन्हें स्वचालित रूप से हटा दिया जाएगा। यह सामान्य प्रयोजन के अल्पकालिक और लगातार दोनों संस्करणों के लिए काम करता है, लेकिन सीएसआई अल्पकालिक संस्करणों के लिए नहीं क्योंकि उनके पैरामीटर कुबेरनेट्स द्वारा नहीं पढ़े जा सकते हैं।

हमेशा की तरह, पॉड्स शेड्यूल होने से पहले तुरंत लिंक किए गए वॉल्यूम बनाए जाते हैं, और उनका प्लेसमेंट स्टोरेज ड्राइवर द्वारा चुना जाता है, इसलिए कॉन्फ़िगर करते समय external-provisioner डिफ़ॉल्ट रूप से, तत्काल बाइंडिंग वाले स्टोरेज क्लास को छोड़ दिया जाता है, क्योंकि इस डेटा का वैसे भी उपयोग नहीं किया जाएगा।

चूंकि कुबेरनेट्स शेड्यूलर को संभावित रूप से पुरानी जानकारी के साथ काम करने के लिए मजबूर किया जाता है, इसलिए इस बात की कोई गारंटी नहीं है कि वॉल्यूम बनाए जाने पर हर मामले में क्षमता उपलब्ध होगी, लेकिन संभावना है कि इसे बिना पुनः प्रयास किए बनाया जाएगा।

एनबी आप अधिक विस्तृत जानकारी प्राप्त कर सकते हैं, साथ ही सुरक्षित रूप से "बिल्लियों के स्टैंड पर अभ्यास" कर सकते हैं, और पूरी तरह से समझ से बाहर की स्थिति के मामले में, गहन पाठ्यक्रमों में योग्य तकनीकी सहायता सहायता प्राप्त कर सकते हैं - कुबेरनेट्स बेस 28-30 सितंबर को और अधिक उन्नत विशेषज्ञों के लिए आयोजित किया जाएगा कुबेरनेट्स मेगा अक्टूबर 14-16.

सुरक्षा

सीएसआईएसभंडारणक्षमता

CSIStorageCapacity ऑब्जेक्ट नेमस्पेस में रहते हैं; प्रत्येक CSI ड्राइवर को अपने नेमस्पेस में रोल आउट करते समय, उस स्थान में CSIStorageCapacity के RBAC अधिकारों को प्रतिबंधित करने की अनुशंसा की जाती है क्योंकि यह स्पष्ट है कि डेटा कहाँ से आ रहा है। कुबेरनेट्स वैसे भी इसकी जाँच नहीं करता है, और आमतौर पर ड्राइवरों को एक ही नामस्थान में रखा जाता है, इसलिए अंततः ड्राइवरों से काम करने की उम्मीद की जाती है और गलत डेटा प्रकाशित नहीं किया जाता है (और यहीं पर मेरा कार्ड विफल हो गया, लगभग। दाढ़ी वाले चुटकुले पर आधारित अनुवादक)

सामान्य प्रयोजन अल्पकालिक खंड

यदि उपयोगकर्ताओं के पास पॉड (प्रत्यक्ष या अप्रत्यक्ष रूप से) बनाने का अधिकार है, तो वे सामान्य प्रयोजन के अल्पकालिक वॉल्यूम भी बनाने में सक्षम होंगे, भले ही उनके पास वॉल्यूम पर अनुरोध बनाने का अधिकार न हो। ऐसा इसलिए है क्योंकि आरबीएसी अनुमति जांच पीवीसी बनाने वाले नियंत्रक पर लागू होती है, उपयोगकर्ता पर नहीं। यह जोड़ने वाला मुख्य परिवर्तन है आपके खाते में, इस सुविधा को उन समूहों पर सक्षम करने से पहले जहां अविश्वसनीय उपयोगकर्ताओं के पास वॉल्यूम बनाने का अधिकार नहीं होना चाहिए।

उदाहरण

अपना शाखा पीएमईएम-सीएसआई में अल्फा चरण में सभी सुविधाओं के साथ क्यूईएमयू वर्चुअल मशीनों के अंदर कुबेरनेट्स 1.19 क्लस्टर चलाने के लिए सभी आवश्यक परिवर्तन शामिल हैं। ड्राइवर कोड नहीं बदला है, केवल परिनियोजन बदल गया है।

एक उपयुक्त मशीन पर (लिनक्स, एक सामान्य उपयोगकर्ता उपयोग कर सकता है डाक में काम करनेवाला मज़दूर, देखना यहां विवरण) ये आदेश क्लस्टर लाएंगे और पीएमईएम-सीएसआई ड्राइवर स्थापित करेंगे:

git clone --branch=kubernetes-1-19-blog-post https://github.com/intel/pmem-csi.git
cd pmem-csi
export TEST_KUBERNETES_VERSION=1.19 TEST_FEATURE_GATES=CSIStorageCapacity=true,GenericEphemeralVolume=true TEST_PMEM_REGISTRY=intel
make start && echo && test/setup-deployment.sh

सब कुछ काम करने के बाद, आउटपुट में उपयोग के लिए निर्देश होंगे:

The test cluster is ready. Log in with [...]/pmem-csi/_work/pmem-govm/ssh.0, run
kubectl once logged in.  Alternatively, use kubectl directly with the
following env variable:
   KUBECONFIG=[...]/pmem-csi/_work/pmem-govm/kube.config

secret/pmem-csi-registry-secrets created
secret/pmem-csi-node-secrets created
serviceaccount/pmem-csi-controller created
...
To try out the pmem-csi driver ephemeral volumes:
   cat deploy/kubernetes-1.19/pmem-app-ephemeral.yaml |
   [...]/pmem-csi/_work/pmem-govm/ssh.0 kubectl create -f -

CSIStorageCapacity ऑब्जेक्ट मनुष्यों द्वारा पढ़ने के लिए नहीं हैं, इसलिए कुछ प्रसंस्करण की आवश्यकता है। गोलांग टेम्पलेट फ़िल्टर भंडारण कक्षाएं दिखाएंगे, यह उदाहरण नाम, टोपोलॉजी और क्षमता दिखाएगा:

$ kubectl get 
        -o go-template='{{range .items}}{{if eq .storageClassName "pmem-csi-sc-late-binding"}}{{.metadata.name}} {{.nodeTopology.matchLabels}} {{.capacity}}
{{end}}{{end}}' 
        csistoragecapacities
csisc-2js6n map[pmem-csi.intel.com/node:pmem-csi-pmem-govm-worker2] 30716Mi
csisc-sqdnt map[pmem-csi.intel.com/node:pmem-csi-pmem-govm-worker1] 30716Mi
csisc-ws4bv map[pmem-csi.intel.com/node:pmem-csi-pmem-govm-worker3] 30716Mi

एक एकल वस्तु में निम्नलिखित सामग्री होती है:

$ kubectl describe csistoragecapacities/csisc-6cw8j
Name:         csisc-sqdnt
Namespace:    default
Labels:       <none>
Annotations:  <none>
API Version:  storage.k8s.io/v1alpha1
Capacity:     30716Mi
Kind:         CSIStorageCapacity
Metadata:
  Creation Timestamp:  2020-08-11T15:41:03Z
  Generate Name:       csisc-
  Managed Fields:
    ...
  Owner References:
    API Version:     apps/v1
    Controller:      true
    Kind:            StatefulSet
    Name:            pmem-csi-controller
    UID:             590237f9-1eb4-4208-b37b-5f7eab4597d1
  Resource Version:  2994
  Self Link:         /apis/storage.k8s.io/v1alpha1/namespaces/default/csistoragecapacities/csisc-sqdnt
  UID:               da36215b-3b9d-404a-a4c7-3f1c3502ab13
Node Topology:
  Match Labels:
    pmem-csi.intel.com/node:  pmem-csi-pmem-govm-worker1
Storage Class Name:           pmem-csi-sc-late-binding
Events:                       <none>

आइए एकल सामान्य प्रयोजन क्षणिक वॉल्यूम के साथ एक डेमो एप्लिकेशन बनाने का प्रयास करें। फ़ाइल सामग्री pmem-app-ephemeral.yaml:

# This example Pod definition demonstrates
# how to use generic ephemeral inline volumes
# with a PMEM-CSI storage class.
kind: Pod
apiVersion: v1
metadata:
  name: my-csi-app-inline-volume
spec:
  containers:
    - name: my-frontend
      image: intel/pmem-csi-driver-test:v0.7.14
      command: [ "sleep", "100000" ]
      volumeMounts:
      - mountPath: "/data"
        name: my-csi-volume
  volumes:
  - name: my-csi-volume
    ephemeral:
      volumeClaimTemplate:
        spec:
          accessModes:
          - ReadWriteOnce
          resources:
            requests:
              storage: 4Gi
          storageClassName: pmem-csi-sc-late-binding

बनाने के बाद, जैसा कि ऊपर दिए गए निर्देशों में दिखाया गया है, अब हमारे पास एक अतिरिक्त पॉड और पीवीसी है:

$ kubectl get pods/my-csi-app-inline-volume -o wide
NAME                       READY   STATUS    RESTARTS   AGE     IP          NODE                         NOMINATED NODE   READINESS GATES
my-csi-app-inline-volume   1/1     Running   0          6m58s   10.36.0.2   pmem-csi-pmem-govm-worker1   <none>           <none>
$ kubectl get pvc/my-csi-app-inline-volume-my-csi-volume
NAME                                     STATUS   VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS               AGE
my-csi-app-inline-volume-my-csi-volume   Bound    pvc-c11eb7ab-a4fa-46fe-b515-b366be908823   4Gi        RWO            pmem-csi-sc-late-binding   9m21s

पीवीसी स्वामी - अंतर्गत:

$ kubectl get -o yaml pvc/my-csi-app-inline-volume-my-csi-volume
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  annotations:
    pv.kubernetes.io/bind-completed: "yes"
    pv.kubernetes.io/bound-by-controller: "yes"
    volume.beta.kubernetes.io/storage-provisioner: pmem-csi.intel.com
    volume.kubernetes.io/selected-node: pmem-csi-pmem-govm-worker1
  creationTimestamp: "2020-08-11T15:44:57Z"
  finalizers:
  - kubernetes.io/pvc-protection
  managedFields:
    ...
  name: my-csi-app-inline-volume-my-csi-volume
  namespace: default
  ownerReferences:
  - apiVersion: v1
    blockOwnerDeletion: true
    controller: true
    kind: Pod
    name: my-csi-app-inline-volume
    uid: 75c925bf-ca8e-441a-ac67-f190b7a2265f
...

के लिए अपेक्षित अद्यतन जानकारी pmem-csi-pmem-govm-worker1:

csisc-2js6n map[pmem-csi.intel.com/node:pmem-csi-pmem-govm-worker2] 30716Mi
csisc-sqdnt map[pmem-csi.intel.com/node:pmem-csi-pmem-govm-worker1] 26620Mi
csisc-ws4bv map[pmem-csi.intel.com/node:pmem-csi-pmem-govm-worker3] 30716Mi

यदि किसी अन्य एप्लिकेशन को 26620Mi से अधिक की आवश्यकता है, तो शेड्यूलर इस पर ध्यान नहीं देगा pmem-csi-pmem-govm-worker1 किसी भी स्थिति में।

आगे क्या है?

दोनों सुविधाएँ अभी भी विकास में हैं। अल्फा परीक्षण के दौरान कई एप्लिकेशन खोले गए। सुधार प्रस्ताव उस दस्तावेज़ को लिंक करता है जिसे बीटा चरण में जाने के लिए किए जाने की आवश्यकता है, साथ ही किन विकल्पों पर पहले ही विचार किया जा चुका है और अस्वीकार कर दिया गया है:

• केईपी-1698: सामान्य अल्पकालिक इनलाइन वॉल्यूम

• KEP-1472: भंडारण क्षमता ट्रैकिंग

स्रोत: www.habr.com