सीएसई: वीक्लाउड में मौजूद लोगों के लिए कुबेरनेट्स

सभी को नमस्कार!

ऐसा हुआ कि हमारी छोटी टीम, हाल ही में और निश्चित रूप से अचानक नहीं, कुछ (और भविष्य में सभी) उत्पादों को कुबेरनेट्स में स्थानांतरित करने के लिए बढ़ी है।

इसके कई कारण थे, लेकिन हमारी कहानी होलीवर के बारे में नहीं है।

बुनियादी ढांचे के आधार के संबंध में हमारे पास बहुत कम विकल्प थे। vCloud निदेशक और vCloud निदेशक। हमने नया चुना और शुरू करने का फैसला किया।

एक बार फिर, "द हार्ड वे" को देखते हुए, मैं बहुत जल्दी इस निष्कर्ष पर पहुंचा कि कम से कम बुनियादी प्रक्रियाओं, जैसे तैनाती और आकार को स्वचालित करने के लिए एक उपकरण की कल आवश्यकता थी। Google में गहराई से देखने पर VMware कंटेनर सर्विस एक्सटेंशन (CSE) जैसे उत्पाद सामने आया - एक खुला स्रोत उत्पाद जो आपको vCloud में k8s क्लस्टर के निर्माण और आकार को स्वचालित करने की अनुमति देता है।

अस्वीकरण: सीएसई की अपनी सीमाएँ हैं, लेकिन हमारे उद्देश्यों के लिए यह एकदम सही था। साथ ही, समाधान को क्लाउड प्रदाता द्वारा समर्थित होना चाहिए, लेकिन चूंकि सर्वर भाग भी ओपन-सोर्स है, इसलिए अपने निकटतम प्रबंधक से इसे उपलब्ध कराने के लिए कहें :)

इसका उपयोग शुरू करने के लिए, आपको vCloud संगठन में एक व्यवस्थापक खाते और क्लस्टर के लिए पहले से बनाए गए रूटेड नेटवर्क की आवश्यकता है (परिनियोजन प्रक्रिया के दौरान, आपको इस नेटवर्क से इंटरनेट एक्सेस की आवश्यकता है, फ़ायरवॉल/NAT को कॉन्फ़िगर करना न भूलें)। संबोधन से कोई फर्क नहीं पड़ता. इस उदाहरण में, आइए 10.0.240.0/24 लें

चूंकि निर्माण के बाद, क्लस्टर को किसी तरह प्रबंधित करने की आवश्यकता होगी, इसलिए बनाए गए नेटवर्क पर रूटिंग के साथ एक वीपीएन रखने की सिफारिश की जाती है। हम अपने संगठन के एज गेटवे पर कॉन्फ़िगर किए गए एक मानक एसएसएल वीपीएन का उपयोग करते हैं।

इसके बाद, आपको CSE क्लाइंट इंस्टॉल करना होगा जहां k8s क्लस्टर प्रबंधित किए जाएंगे। मेरे मामले में, यह एक कार्यशील लैपटॉप और कुछ छुपे हुए कंटेनर हैं जो स्वचालन चलाते हैं।

क्लाइंट को पायथन संस्करण 3.7.3 और उच्चतर स्थापित और मॉड्यूल स्थापित करने की आवश्यकता है वीसीडी-सीएलआई, तो आइए दोनों को इंस्टॉल करें।

pip3 install vcd-cli

pip3 install container-service-extension

स्थापना के बाद, हम सीएसई संस्करण की जांच करते हैं और निम्नलिखित प्राप्त करते हैं:

# vcd cse version
Error: No such command "cse".

अप्रत्याशित, लेकिन सुधार योग्य. जैसा कि यह निकला, सीएसई को वीसीडी-सीएलआई में एक मॉड्यूल के रूप में संलग्न करने की आवश्यकता है।
ऐसा करने के लिए, आपको पहले हमारे संगठन में vcd-cli में लॉग इन करना होगा:

# vcd login MyCloud.provider.com org-dev admin
Password: 
admin logged in, org: 'org-dev', vdc: 'org-dev_vDC01'

इसके बाद, vcd-cli एक कॉन्फ़िगरेशन फ़ाइल बनाएगा ~/.vcd-cli/profiles.yaml
अंत में आपको निम्नलिखित जोड़ना होगा:

extensions:
  - container_service_extension.client.cse

फिर हम दोबारा जाँच करते हैं:

# vcd cse version
CSE, Container Service Extension for VMware vCloud Director, version 2.5.0

क्लाइंट इंस्टॉलेशन चरण पूरा हो गया है। आइए पहले क्लस्टर को तैनात करने का प्रयास करें।
सीएसई के पास उपयोग मापदंडों के कई सेट हैं, उन सभी को देखा जा सकता है यहाँ.

सबसे पहले, आइए भविष्य के क्लस्टर तक पासवर्ड रहित पहुंच के लिए कुंजी बनाएं। यह बिंदु महत्वपूर्ण है, क्योंकि डिफ़ॉल्ट रूप से, नोड्स में पासवर्ड लॉगिन अक्षम हो जाएगा, और यदि आप कुंजी सेट नहीं करते हैं, तो आप वर्चुअल मशीन कंसोल के माध्यम से बहुत सारे काम प्राप्त कर सकते हैं, जो सुविधाजनक नहीं है।

# ssh-keygen
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa): 
Created directory '/root/.ssh'.
Enter passphrase (empty for no passphrase): 
Enter same passphrase again: 
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.

आइए एक क्लस्टर बनाना शुरू करने का प्रयास करें:

vcd cse cluster create MyCluster --network k8s_cluster_net --ssh-key ~/.ssh/id_rsa.pub --nodes 3 --enable-nfs

अगर हमें कोई त्रुटि मिलती है त्रुटि: सत्र समाप्त हो गया है या उपयोगकर्ता ने लॉग इन नहीं किया है। कृपया पुनः लॉगिन करें. - ऊपर बताए अनुसार फिर से vcd-cli से vCloud में लॉग इन करें और पुनः प्रयास करें।

इस बार सब कुछ ठीक है और क्लस्टर बनाने का काम शुरू हो गया है.

cluster operation: Creating cluster vApp 'MyCluster' (38959587-54f4-4a49-8f2e-61c3a3e879e0) from template 'photon-v2_k8-1.12_weave-2.3.0' (revision 1)

कार्य को पूरा करने में लगभग 20 मिनट लगेंगे; इस बीच, आइए बुनियादी लॉन्च मापदंडों पर नजर डालें।

—नेटवर्क—वह नेटवर्क जो हमने पहले बनाया था।
—ssh-key — हमारे द्वारा बनाई गई कुंजियाँ, जो क्लस्टर नोड्स पर लिखी जाएंगी
-नोड्स एन - क्लस्टर में वर्कर नोड्स की संख्या। हमेशा एक ही मास्टर होगा, यह सीएसई की सीमा है
—enable-nfs — लगातार वॉल्यूम के तहत एनएफएस शेयरों के लिए एक अतिरिक्त नोड बनाएं। यह थोड़ा-सा पैडल विकल्प है; हम थोड़ी देर बाद इसकी ट्यूनिंग पर वापस लौटेंगे कि यह क्या करता है।

इस बीच, vCloud में आप क्लस्टर के निर्माण की दृष्टि से निगरानी कर सकते हैं


एक बार क्लस्टर बनाने का कार्य पूरा हो जाने पर, यह उपयोग के लिए तैयार है।

आइए कमांड के साथ तैनाती की शुद्धता की जांच करें वीसीडी सीएसई क्लस्टर जानकारी MyCluster

आगे हमें उपयोग के लिए क्लस्टर कॉन्फ़िगरेशन प्राप्त करने की आवश्यकता है Kubectl

# vcd cse cluster config MyCluster > ./.kube/config

और आप इसका उपयोग करके क्लस्टर की स्थिति की जांच कर सकते हैं:

इस बिंदु पर, क्लस्टर को सशर्त रूप से काम करने वाला माना जा सकता है, यदि लगातार वॉल्यूम वाली कहानी के लिए नहीं। चूँकि हम vCloud में हैं, हम vSphere प्रदाता का उपयोग नहीं कर पाएंगे। विकल्प --सक्षम-एनएफएस इस उपद्रव को शांत करने के लिए डिज़ाइन किया गया था, लेकिन यह पूरी तरह से काम नहीं कर सका। मैन्युअल समायोजन आवश्यक है.

आरंभ करने के लिए, हमारे नोड को vCloud में एक अलग स्वतंत्र डिस्क बनाने की आवश्यकता है। यह गारंटी देता है कि हटाए जाने पर हमारा डेटा क्लस्टर के साथ गायब नहीं होगा। इसके अलावा, डिस्क को एनएफएस से कनेक्ट करें

# vcd disk create nfs-shares-1 100g --description 'Kubernetes NFS shares'
# vcd vapp attach mycluster nfsd-9604 nfs-shares-1

उसके बाद, हम ssh के माध्यम से अपने NFS नोड पर जाते हैं (क्या आपने वास्तव में कुंजियाँ बनाई हैं?) और अंत में डिस्क को कनेक्ट करते हैं:

root@nfsd-9604:~# parted /dev/sdb
(parted) mklabel gpt
Warning: The existing disk label on /dev/sdb will be destroyed and all data on
this disk will be lost. Do you want to continue?
Yes/No? yes
(parted) unit GB
(parted) mkpart primary 0 100
(parted) print
Model: VMware Virtual disk (scsi)
Disk /dev/sdb: 100GB
Sector size (logical/physical): 512B/512B
Partition Table: gpt
Disk Flags:

Number  Start   End    Size   File system  Name     Flags
 1      0.00GB  100GB  100GB               primary

(parted) quit
root@nfsd-9604:~# mkfs -t ext4 /dev/sdb1
Creating filesystem with 24413696 4k blocks and 6111232 inodes
Filesystem UUID: 8622c0f5-4044-4ebf-95a5-0372256b34f0
Superblock backups stored on blocks:
	32768, 98304, 163840, 229376, 294912, 819200, 884736, 1605632, 2654208,
	4096000, 7962624, 11239424, 20480000, 23887872

Allocating group tables: done
Writing inode tables: done
Creating journal (32768 blocks): done
Writing superblocks and filesystem accounting information: done

डेटा के लिए एक निर्देशिका बनाएं और वहां एक नया विभाजन माउंट करें:

mkdir /export
echo '/dev/sdb1  /export   ext4  defaults   0 0' >> /etc/fstab
mount -a

आइए पाँच परीक्षण विभाजन बनाएँ और उन्हें क्लस्टर के लिए साझा करें:

>cd /export
>mkdir vol1 vol2 vol3 vol4 vol5
>vi /etc/exports
#Добавим это в конец файла
/export/vol1 *(rw,sync,no_root_squash,no_subtree_check)
/export/vol2 *(rw,sync,no_root_squash,no_subtree_check)
/export/vol3 *(rw,sync,no_root_squash,no_subtree_check)
/export/vol4 *(rw,sync,no_root_squash,no_subtree_check)
/export/vol5 *(rw,sync,no_root_squash,no_subtree_check)
#:wq! ;)
#Далее - экспортируем разделы
>exportfs -r

इस सारे जादू के बाद, हम अपने क्लस्टर में कुछ इस तरह पीवी और पीवीसी बना सकते हैं:
पीवी:

cat <<EOF | kubectl apply -f -
apiVersion: v1
kind: PersistentVolume
metadata:
  name: nfs-vol1
spec:
  capacity:
    storage: 10Gi
  accessModes:
    - ReadWriteMany
  nfs:
    # Same IP as the NFS host we ssh'ed to earlier.
    server: 10.150.200.22
    path: "/export/vol1"
EOF

परमवीर चक्र:

cat <<EOF | kubectl apply -f -
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: nfs-pvc
spec:
  accessModes:
    - ReadWriteMany
  storageClassName: ""
  resources:
    requests:
      storage: 10Gi
EOF

यहीं पर एक समूह के निर्माण की कहानी समाप्त होती है और उसके जीवन चक्र की कहानी शुरू होती है। बोनस के रूप में, दो और उपयोगी सीएसई कमांड हैं जो आपको कभी-कभी संसाधनों को बचाने की अनुमति देते हैं या नहीं:

#Увеличиваем размер кластера до 8 воркер нод
>cse cluster resize MyCluster --network k8s_cluster_net --nodes 8

#Выводим ненужные ноды из кластера с их последующим удалением
>vcd cse node delete MyCluster node-1a2v node-6685 --yes

आपके समय के लिए आप सभी का धन्यवाद, यदि आपके कोई प्रश्न हैं, तो टिप्पणियों में पूछें।

स्रोत: www.habr.com