Эҷоди инфрасохтори ба хатогиҳо тобовар IT. Қисми 1 - омодагӣ ба ҷойгиркунии кластери oVirt 4.3

Хонандагон даъват карда мешаванд, ки бо принсипҳои бунёди инфрасохтори ба камбудиҳо тобовар барои корхонаи хурд дар дохили як маркази ягонаи додаҳо шинос шаванд, ки дар ин бора дар як силсила мақолаҳо муфассал баррасӣ хоҳанд шуд.

Муқаддима

Бо Маркази маълумот (Маркази коркарди маълумот) метавонад чунин фаҳмида шавад:

  • рейки шахсии шумо дар "уҷраи сервер"-и худ дар бинои корхона, ки ба талаботи ҳадди ақал барои таъмини нерӯи барқ ​​​​ва хунуккунии таҷҳизот мувофиқат мекунад ва инчунин тавассути ду провайдери мустақил дастрасӣ ба Интернет дорад;
  • rack иҷора бо таҷҳизоти худ, воқеъ дар як маркази маълумоти воқеӣ - ба ном. ҷойгиршавӣ, ки ба стандарти Tier III ё IV мувофиқат мекунад ва таъминоти боэътимоди қувваи барқ, хунуккунӣ ва дастрасии ба хатогиҳои интернетиро кафолат медиҳад;
  • таҷҳизоти пурра ба иҷора гирифташуда дар маркази додаҳои Tier III ё IV.

Кадом варианти манзил дар ҳар як ҳолат инфиродист ва одатан аз якчанд омилҳои асосӣ вобаста аст:

  • Чаро корхона ба инфрасохтори IT-и худ ниёз дорад?
  • корхона маҳз аз инфрасохтори ТИ чӣ мехоҳад (эътимоднокӣ, миқёспазирӣ, идорашавандагӣ ва ғ.);
  • ҳаҷми сармоягузориҳои ибтидоӣ ба инфрасохтори IT, инчунин кадом намуди хароҷот барои он - сармоя (яъне шумо таҷҳизоти худро мехаред) ё амалиётӣ (таҷҳизот одатан ба иҷора гирифта мешавад);
  • уфуки планкашии худи корхона.

Дар бораи омилҳое, ки ба тасмими корхона дар мавриди эҷод ва истифодаи инфрасохтори IT таъсир мерасонанд, бисёр навиштан мумкин аст, аммо ҳадафи мо дар амал нишон додани он аст, ки чӣ гуна маҳз ин инфрасохторро эҷод кунем, то он ҳам ба камбудиҳо тобовар бошад ва ҳам пулро сарфа кунад. арзиши хариди нармафзори тиҷоратӣ, ё аз онҳо комилан канорагирӣ кунед.

Тавре ки таҷрибаи дарозмуддат нишон медиҳад, сарфа кардани сахтафзор бамаврид нест, зеро бахил ду маротиба ва ҳатто бештар аз он пардохт мекунад. Аммо боз такрор мекунам, ки таҷҳизоти хуб танҳо як тавсия аст ва дар охир маҳз чиро харидан ва ба кадом маблағ аз имкониятҳои корхона ва «тамаъ»-и роҳбарияти он вобаста аст. Гузашта аз ин, калимаи "тамаъкорӣ" бояд ба маънои хуби ин калима фаҳмида шавад, зеро беҳтар аст, ки ба сахтафзор дар марҳилаи аввал сармоягузорӣ кунед, то бо дастгирӣ ва миқёси минбаъдаи он мушкилоти ҷиддӣ надошта бошед, зеро дар аввал банақшагирии нодуруст ва сарфаи аз ҳад зиёд метавонад боиси афзоиши хароҷоти назар ба оғози лоиҳа гардад.

Ҳамин тариқ, маълумоти ибтидоӣ барои лоиҳа:

  • корхонае мавҷуд аст, ки тасмим гирифтааст веб-портали худро таъсис диҳад ва фаъолияти худро ба Интернет расонад;
  • ширкат тасмим гирифт, ки рахи иҷораро барои ҷойгир кардани таҷҳизоти худ дар маркази хуби маълумот, ки тибқи стандарти Tier III тасдиқ шудааст;
  • ширкат тасмим гирифт, ки сахтафзорро сарфа накунад ва аз ин рӯ таҷҳизоти зеринро бо кафолат ва дастгирии васеъ харидорӣ кард:

Рӯйхати таҷҳизот

  • ду серверҳои физикии Dell PowerEdge R640 ба таври зерин:
  • ду протсессори Intel Xeon Gold 5120
  • 512 Гб RAM
  • ду диски SAS дар RAID1, барои насби OS
  • дарунсохташуда 4-порти корти шабакавии 1G
  • ду корти шабакавии 2-порти 10G
  • як 2-порти ФК HBA 16G.
  • 2-Назоратчии системаи нигаҳдории Dell MD3820f, пайваст тавассути ФК 16G бевосита ба лашкариёнашон Dell;
  • ду Калидҳои сатҳи дуюм - Cisco WS-C2960RX-48FPS-L чуќурї;
  • ду Калидҳои сатҳи сеюм - Cisco WS-C3850-24T-E, чуќурї;
  • Rack, UPS, PDU, серверҳои консолӣ аз ҷониби маркази додаҳо таъмин карда мешаванд.

Тавре ки мо мебинем, таҷҳизоти мавҷуда дурнамои хуби миқёси уфуқӣ ва амудиро дорад, агар корхона метавонад бо дигар ширкатҳои дорои намуди шабеҳ дар Интернет рақобат кунад ва ба даст овардани фоида оғоз кунад, ки онро барои васеъ кардани захираҳо барои рақобати минбаъда сармоягузорӣ кардан мумкин аст. ва афзоиши фоида.

Кадом таҷҳизотро мо метавонем илова кунем, агар корхона тасмим гирад, ки самаранокии кластери ҳисоббарории моро афзоиш диҳад:

  • мо дар шумораи портҳо дар гузаргоҳҳои 2960X захираи калон дорем, ки ин маънои онро дорад, ки мо метавонем серверҳои сахтафзорро бештар илова кунем;
  • барои пайваст кардани системаҳои нигоҳдорӣ ва серверҳои иловагӣ ба онҳо ду коммутатори иловагии ФК харед;
  • серверҳои мавҷударо такмил додан мумкин аст - хотира илова кунед, протсессорҳоро бо протсессори пурқувват иваз кунед, бо истифода аз адаптерҳои мавҷудаи шабака ба шабакаи 10G пайваст шавед;
  • Шумо метавонед рафҳои дискҳои иловагиро ба системаи нигаҳдорӣ бо навъи диски лозимӣ - SAS, SATA ё SSD, вобаста ба сарбории ба нақша гирифташуда илова кунед;
  • пас аз илова кардани коммутаторҳои FC, шумо метавонед системаи нигаҳдории дигарро барои илова кардани иқтидори боз ҳам бештари диск харидорӣ кунед ва агар шумо ба он опсияи махсуси Replication Remote Remote -ро харед, шумо метавонед такрори маълумотро дар байни системаҳои нигоҳдорӣ ҳам дар як маркази додаҳо ва ҳам дар байни марказҳои додаҳо насб кунед ( аммо ин аллакай аз доираи мақола берун аст);
  • Инчунин коммутаторҳои сатҳи сеюм мавҷуданд - Cisco 3850, ки онҳоро метавон ҳамчун ядрои шабакаи ба хатогиҳо таҳаммулпазир барои масири баландсуръат байни шабакаҳои дохилӣ истифода бурд. Ин дар оянда хеле муфид хоҳад буд, зеро инфраструктураи дохилӣ афзоиш меёбад. 3850 инчунин портҳои 10G дорад, ки онҳоро баъдтар ҳангоми навсозии таҷҳизоти шабакавии шумо ба суръати 10G истифода бурдан мумкин аст.

Азбаски ҳоло ҳеҷ ҷое бидуни виртуализатсия вуҷуд надорад, мо албатта дар тамоюл хоҳем буд, бахусус азбаски ин як роҳи олиҷаноби кам кардани хароҷоти харидани серверҳои гаронбаҳо барои унсурҳои инфиродии инфрасохтор (веб-серверҳо, пойгоҳи додаҳо ва ғайра), ки на ҳамеша вуҷуд доранд. оптималӣ ҳангоми сарбории кам истифода мешаванд ва маҳз ҳамин чиз дар оғози оғози лоиҳа рӯй медиҳад.

Илова бар ин, виртуализатсия бартариҳои зиёде дорад, ки метавонанд барои мо хеле муфид бошанд: таҳаммулпазирии хатогиҳои VM бар зидди нокомии сервери сахтафзор, Муҳоҷирати мустақим байни гиреҳҳои кластери сахтафзор барои нигоҳдории онҳо, тақсимоти дастӣ ё автоматии сарборӣ байни гиреҳҳои кластер ва ғайра.

Барои сахтафзоре, ки аз ҷониби корхона харидорӣ шудааст, ҷойгиркунии кластери хеле дастраси VMware vSphere аз худ бармеояд, аммо азбаски ҳама гуна нармафзори VMware бо нархҳои "асп" маълум аст, мо барои идоракунии виртуализатсия нармафзори комилан ройгонро истифода хоҳем кард - oVirt, ки дар асоси он маҳсулоти маъруф, вале аллакай тиҷоратӣ офарида шудааст - РЕВ.

Software oVirt зарур аст, ки ҳамаи унсурҳои инфрасохторро дар як том муттаҳид созанд, то тавонанд бо мошинҳои виртуалии дастрас ба осонӣ кор кунанд - инҳо пойгоҳи додаҳо, веб-барномаҳо, серверҳои прокси, мувозинат, серверҳо барои ҷамъоварии гузоришҳо ва таҳлилҳо ва ғайра мебошанд, яъне веб-портали корхонаи мо иборат аст.

Барои ҷамъбасти ин муқаддима, мо метавонем мақолаҳои зеринро интизор шавем, ки дар амал дақиқ чӣ гуна ҷойгир кардани тамоми инфрасохтори сахтафзор ва нармафзори корхонаро нишон медиҳанд:

Рӯйхати мақолаҳо

  • Қисми 1. Омодагӣ ба ҷойгиркунии кластери oVirt 4.3.
  • Қисми 2. Насб ва танзим кардани кластери oVirt 4.3.
  • Қисми 3. Насб кардани кластери VyOS, ташкили масири беруна ба хатогиҳо.
  • Қисми 4. Насб кардани стек Cisco 3850, ташкили масири интранет.

Қисми 1. Омодагӣ барои ҷойгиркунии кластери oVirt 4.3

Танзимоти асосии мизбон

Насб ва конфигуратсияи ОС қадами осонтарин аст. Дар бораи чӣ гуна дуруст насб кардан ва танзим кардани OS мақолаҳои зиёде мавҷуданд, аз ин рӯ кӯшиши додани чизи истисноӣ дар ин бора маъно надорад.

Ҳамин тавр, мо ду ҳостҳои Dell PowerEdge R640 дорем, ки дар онҳо мо бояд ОС-ро насб кунем ва танзимоти пешакӣ гузаронем, то онҳоро ҳамчун гипервизорҳо барои кор кардани мошинҳои виртуалӣ дар кластери oVirt 4.3 истифода барем.

Азбаски мо нақша дорем, ки нармафзори ройгони oVirt-ро истифода барем, OS барои ҷойгиркунии ҳостҳо интихоб карда шуд. CentOS 7.7, гарчанде ки дигар OS-ҳоро дар ҳостҳои oVirt насб кардан мумкин аст:

  • сохти махсус дар асоси RHEL, ба ном. гиреҳи oVirt;
  • OS Oracle Linux, тобистони соли 2019 эълон карда шуд дар бораи дастгирии кори oVirt оид ба он.

Пеш аз насб кардани ОС тавсия дода мешавад:

  • интерфейси шабакаи iDRAC-ро дар ҳарду ҳост танзим кунед;
  • BIOS ва нармафзори iDRAC-ро ба версияҳои охирин навсозӣ кунед;
  • профили системаи серверро танзим кунед, беҳтараш дар реҷаи иҷроиш;
  • RAID-ро аз дискҳои маҳаллӣ танзим кунед (RAID1 тавсия дода мешавад) барои насб кардани OS дар сервер.

Сипас, мо ОС-ро дар диски қаблан тавассути iDRAC сохташуда насб мекунем - раванди насбкунӣ муқаррарӣ аст, дар он лаҳзаҳои махсус вуҷуд надоранд. Дастрасӣ ба консоли сервер барои оғози насби ОС-ро тавассути iDRAC низ ба даст овардан мумкин аст, гарчанде ҳеҷ чиз ба шумо барои пайваст кардани монитор, клавиатура ва муш мустақиман ба сервер ва насби ОС аз диски флешдор монеъ намешавад.

Пас аз насб кардани ОС, мо танзимоти ибтидоии онро иҷро мекунем:

systemctl enable network.service
systemctl start network.service
systemctl status network.service

systemctl stop NetworkManager
systemctl disable NetworkManager
systemctl status NetworkManager

yum install -y ntp
systemctl enable ntpd.service
systemctl start ntpd.service

cat /etc/sysconfig/selinux
SELINUX=disabled
SELINUXTYPE=targeted

cat /etc/security/limits.conf
 *               soft    nofile         65536
 *               hard   nofile         65536

cat /etc/sysctl.conf
vm.max_map_count = 262144
vm.swappiness = 1

Насб кардани маҷмӯи асосии нармафзор

Барои конфигуратсияи ибтидоии ОС, шумо бояд ҳама гуна интерфейси шабакавиро дар сервер танзим кунед, то шумо метавонед ба Интернет барои навсозии ОС ва насб кардани бастаҳои нармафзори зарурӣ дастрасӣ пайдо кунед. Инро ҳам дар ҷараёни насби ОС ва ҳам баъд аз он анҷом додан мумкин аст.

yum -y install epel-release
yum update
yum -y install bind-utils yum-utils net-tools git htop iotop nmon pciutils sysfsutils sysstat mc nc rsync wget traceroute gzip unzip telnet 

Ҳамаи танзимот ва маҷмӯи нармафзори дар боло зикршуда масъалаи афзалиятҳои шахсӣ мебошанд ва ин маҷмӯа танҳо як тавсия аст.

Азбаски мизбони мо нақши гипервизорро бозӣ хоҳад кард, мо профили иҷрои лозимиро фаъол хоҳем кард:

systemctl enable tuned 
systemctl start tuned 
systemctl status tuned 

tuned-adm profile 
tuned-adm profile virtual-host 

Шумо метавонед бештар дар бораи профили иҷроиш инҷо бихонед: "Фасли 4. мураттаб ва оханг-адм".

Пас аз насб кардани ОС, мо ба қисми навбатӣ мегузарем - насб кардани интерфейсҳои шабакавӣ дар ҳостҳо ва стеки коммутаторҳои Cisco 2960X.

Танзими як стек Гузариш Cisco 2960X

Лоиҳаи мо барои ҷудо кардани намудҳои гуногуни трафик рақамҳои зерини VLAN - ё доменҳои пахши аз ҳамдигар ҷудошударо истифода мебарад:

VLAN 10 - Интернет
VLAN 17 – Идоракунӣ (iDRAC, системаи нигоҳдорӣ, идоракунии коммутаторҳо)
VLAN 32 – Шабакаи истеҳсолии VM
VLAN 33 – шабакаи пайвастшавӣ (ба пудратчиёни беруна)
VLAN 34 - Шабакаи санҷиши VM
VLAN 35 – Шабакаи таҳиягарони VM
VLAN 40 - Шабакаи мониторинг

Пеш аз оғози кор, ин диаграмма дар сатҳи L2 аст, ки мо бояд дар ниҳоят ба он расем:

Эҷоди инфрасохтори ба хатогиҳо тобовар IT. Қисми 1 - омодагӣ ба ҷойгиркунии кластери oVirt 4.3

Барои ҳамкории шабакавии ҳостҳои oVirt ва мошинҳои виртуалӣ бо ҳамдигар, инчунин барои идоракунии системаи нигаҳдории мо, конфигуратсияи стеки коммутаторҳои Cisco 2960X лозим аст.

Хостҳои Dell дорои кортҳои шабакавии 4-порти дарунсохт ҳастанд, аз ин рӯ, тавсия дода мешавад, ки пайвасти онҳоро ба Cisco 2960X бо истифода аз пайвасти шабакавии ба хато тоқатфарсо, бо истифода аз гурӯҳбандии портҳои шабакаи физикӣ ба интерфейси мантиқӣ ва протоколи LACP ( 802.3ad):

  • ду порти аввал дар ҳост дар ҳолати пайвасткунӣ танзим карда шудаанд ва ба гузариши 2960X пайваст карда шудаанд - ин интерфейси мантиқӣ танзим карда мешавад пул бо суроғаи идоракунии ҳост, мониторинг, иртибот бо дигар ҳостҳо дар кластери oVirt, он инчунин барои муҳоҷирати мустақими мошинҳои виртуалӣ истифода мешавад;
  • ду бандарҳои дуюми ҳост низ дар ҳолати пайвасткунӣ танзим карда шудаанд ва ба 2960X пайваст карда шудаанд - дар ин интерфейси мантиқӣ бо истифода аз oVirt, дар оянда пулҳо сохта мешаванд (дар VLAN-ҳои мувофиқ), ки ба онҳо мошинҳои виртуалӣ пайваст карда мешаванд.
  • ҳарду бандарҳои шабакавӣ, дар дохили як интерфейси мантиқӣ, фаъол хоҳанд буд, яъне. трафик аз болои онҳо метавонад ҳамзамон дар ҳолати мувозинат интиқол дода шавад.
  • танзимоти шабака дар гиреҳҳои кластер бояд комилан якхела бошанд, ба истиснои суроғаҳои IP.

Танзимоти асосии стеки гузариш 2960X ва портҳои он

Калидҳои мо бояд аввал инҳо бошанд:

  • рахи насбшуда;
  • тавассути ду кабели махсуси дарозии лозима пайваст карда мешавад, масалан, CAB-STK-E-1M;
  • пайваст ба таъминоти барқ;
  • ба истгоҳи кории администратор тавассути бандари консол барои конфигуратсияи ибтидоии онҳо пайваст.

Дастурҳои заруриро барои ин дар инҷо дастрас кардан мумкин аст саҳифаи расмӣ истеҳсолкунанда.

Пас аз анҷом додани қадамҳои дар боло зикршуда, мо коммутаторҳоро танзим мекунем.
Ҳар як фармон чӣ маъно дорад, ки дар доираи ин мақола кушодан нест; агар лозим бошад, ҳама маълумотро мустақилона пайдо кардан мумкин аст.
Ҳадафи мо ин аст, ки ҳарчи зудтар конфигуратсияи стеки коммутаторҳо ва пайваст кардани ҳостҳо ва интерфейсҳои идоракунии нигаҳдорӣ ба он.

1) Ба калиди асосӣ пайваст шавед, ба ҳолати имтиёзнок гузаред, сипас ба ҳолати конфигуратсия гузаред ва танзимоти асосиро созед.

Конфигуратсияи асосии гузариш:

 enable
 configure terminal

 hostname 2960X

 no service pad
 service timestamps debug datetime msec
 service timestamps log datetime localtime show-timezone msec
 no service password-encryption
 service sequence-numbers

 switch 1 priority 15
 switch 2 priority 14
 stack-mac persistent timer 0

 clock timezone MSK 3
  vtp mode transparent
  ip subnet-zero

 vlan 17
  name Management

 vlan 32
  name PROD 

 vlan 33
  name Interconnect

 vlan 34
  name Test

 vlan 35
  name Dev

 vlan 40
  name Monitoring

 spanning-tree mode rapid-pvst
 spanning-tree etherchannel guard misconfig
 spanning-tree portfast bpduguard default
 spanning-tree extend system-id
 spanning-tree vlan 1-40 root primary
 spanning-tree loopguard default
 vlan internal allocation policy ascending
 port-channel load-balance src-dst-ip

 errdisable recovery cause loopback
 errdisable recovery cause bpduguard
 errdisable recovery interval 60

line con 0
 session-timeout 60
 exec-timeout 60 0
 logging synchronous
line vty 5 15
 session-timeout 60
 exec-timeout 60 0
 logging synchronous

 ip http server
 ip http secure-server
 no vstack

interface Vlan1
 no ip address
 shutdown

 exit 

Мо конфигуратсияро бо фармони " захира мекунемwr meme"ва стеки коммутаторро бо фармон аз нав оғоз кунед"дубора бор кардан» дар калиди асосӣ 1.

2) Мо портҳои шабакаи коммутаторро дар ҳолати дастрасӣ дар VLAN 17 барои пайваст кардани интерфейсҳои идоракунии системаҳои нигоҳдорӣ ва серверҳои iDRAC танзим мекунем.

Насб кардани портҳои идоракунӣ:

interface GigabitEthernet1/0/5
 description iDRAC - host1
 switchport access vlan 17
 switchport mode access
 spanning-tree portfast edge

interface GigabitEthernet1/0/6
 description Storage1 - Cntr0/Eth0
 switchport access vlan 17
 switchport mode access
 spanning-tree portfast edge

interface GigabitEthernet2/0/5
 description iDRAC - host2
 switchport access vlan 17
 switchport mode access
 spanning-tree portfast edge

interface GigabitEthernet2/0/6
 description Storage1 – Cntr1/Eth0
 switchport access vlan 17
 switchport mode access
 spanning-tree portfast edge
 exit

3) Пас аз боркунии стек, санҷед, ки он дуруст кор мекунад:

Санҷиши фаъолияти стек:

2960X#show switch stack-ring speed

Stack Ring Speed        : 20G
Stack Ring Configuration: Full
Stack Ring Protocol     : FlexStack

2960X#show switch stack-ports
  Switch #    Port 1       Port 2
  --------    ------       ------
    1           Ok           Ok
    2           Ok           Ok

2960X#show switch neighbors
  Switch #    Port 1       Port 2
  --------    ------       ------
      1         2             2
      2         1             1

2960X#show switch detail
Switch/Stack Mac Address : 0cd0.f8e4.ХХХХ
Mac persistency wait time: Indefinite
                                           H/W   Current
Switch#  Role   Mac Address     Priority Version  State
----------------------------------------------------------
*1       Master 0cd0.f8e4.ХХХХ    15     4       Ready
 2       Member 0029.c251.ХХХХ     14     4       Ready

         Stack Port Status             Neighbors
Switch#  Port 1     Port 2           Port 1   Port 2
--------------------------------------------------------
  1        Ok         Ok                2        2
  2        Ok         Ok                1        1

4) Танзими дастрасии SSH ба стек 2960X

Барои идоракунии фосилавии стек тавассути SSH, мо IP 172.20.1.10-ро истифода хоҳем кард, ки барои SVI танзим шудааст (гузариши интерфейси виртуалӣ) VLAN17.

Ҳарчанд тавсия дода мешавад, ки бандари махсус дар коммутатор барои мақсадҳои идоракунӣ истифода шавад, ин масъалаи афзалият ва имкониятҳои шахсӣ аст.

Танзими дастрасии SSH ба стеки коммутаторҳо:

ip default-gateway 172.20.1.2

interface vlan 17
 ip address 172.20.1.10 255.255.255.0

hostname 2960X
 ip domain-name hw.home-lab.ru
 no ip domain-lookup

clock set 12:47:04 06 Dec 2019

crypto key generate rsa

ip ssh version 2
ip ssh time-out 90

line vty 0 4
 session-timeout 60
 exec-timeout 60 0
 privilege level 15
 logging synchronous
 transport input ssh

line vty 5 15
 session-timeout 60
 exec-timeout 60 0
 privilege level 15
 logging synchronous
 transport input ssh

aaa new-model
aaa authentication login default local 
username cisco privilege 15 secret my_ssh_password

Барои ворид шудан ба ҳолати имтиёзнок парол насб кунед:

enable secret *myenablepassword*
service password-encryption

Насб кардани NTP:

ntp server 85.21.78.8 prefer
ntp server 89.221.207.113
ntp server 185.22.60.71
ntp server 192.36.143.130
ntp server 185.209.85.222

show ntp status
show ntp associations
show clock detail

5) Интерфейсҳои мантиқии Etherchannel ва портҳои физикии ба ҳостҳо пайвастшударо танзим кунед. Барои осонии конфигуратсия, ҳама VLAN-ҳои дастрас дар ҳама интерфейсҳои мантиқӣ фаъол карда мешаванд, аммо ба таври умум тавсия дода мешавад, ки танҳо он чизеро, ки лозим аст, танзим кунед:

Танзими интерфейсҳои Etherchannel:

interface Port-channel1
 description EtherChannel with Host1-management
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 spanning-tree portfast edge trunk

interface Port-channel2
 description EtherChannel with Host2-management
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 spanning-tree portfast edge trunk

interface Port-channel3
 description EtherChannel with Host1-VM
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 spanning-tree portfast edge trunk

interface Port-channel4
 description EtherChannel with Host2-VM
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 spanning-tree portfast edge trunk

interface GigabitEthernet1/0/1
 description Host1-management
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 1 mode active

interface GigabitEthernet1/0/2
 description Host2-management
  switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 2 mode active

interface GigabitEthernet1/0/3
 description Host1-VM
  switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 3 mode active

interface GigabitEthernet1/0/4
 description Host2-VM
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 4 mode active

interface GigabitEthernet2/0/1
 description Host1-management
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 1 mode active

interface GigabitEthernet2/0/2
 description Host2-management
  switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 2 mode active

interface GigabitEthernet2/0/3
 description Host1-VM
  switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 3 mode active

interface GigabitEthernet2/0/4
 description Host2-VM
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 4 mode active

Конфигуратсияи ибтидоии интерфейсҳои шабакавӣ барои мошинҳои виртуалӣ дар ҳостҳо Мизбон1 и Мизбон2

Мо мавҷудияти модулҳои заруриро барои пайвастшавӣ дар система тафтиш мекунем, модулро барои идоракунии пулҳо насб мекунем:

modinfo bonding
modinfo 8021q
yum install bridge-utils

Танзими интерфейси мантиқии BOND1 барои мошинҳои виртуалӣ ва интерфейсҳои физикии он дар ҳостҳо:

cat /etc/sysconfig/network-scripts/ifcfg-bond1
#DESCRIPTION - management
DEVICE=bond1
NAME=bond1
TYPE=Bond
IPV6INIT=no
ONBOOT=yes
USERCTL=no
NM_CONTROLLED=no
BOOTPROTO=none
BONDING_OPTS='mode=4 lacp_rate=1 xmit_hash_policy=2'

cat /etc/sysconfig/network-scripts/ifcfg-em2
#DESCRIPTION - management
DEVICE=em2
TYPE=Ethernet
BOOTPROTO=none
ONBOOT=yes
MASTER=bond1
SLAVE=yes
USERCTL=no 
NM_CONTROLLED=no 

cat /etc/sysconfig/network-scripts/ifcfg-em3
#DESCRIPTION - management
DEVICE=em3
TYPE=Ethernet
BOOTPROTO=none
ONBOOT=yes
MASTER=bond1
SLAVE=yes
USERCTL=no 
NM_CONTROLLED=no 

Пас аз ба итмом расонидани танзимот дар стек 2960С ва ҳостҳо, мо шабакаро дар ҳостҳо бозоғоз мекунем ва кори интерфейси мантиқиро тафтиш мекунем.

  • дар мизбон:

systemctl restart network

cat /proc/net/bonding/bond1
Ethernet Channel Bonding Driver: v3.7.1 (April 27, 2011)

Bonding Mode: IEEE 802.3ad Dynamic link aggregation
Transmit Hash Policy: layer2+3 (2)
MII Status: up
MII Polling Interval (ms): 100
Up Delay (ms): 0
Down Delay (ms): 0
...
802.3ad info
LACP rate: fast
Min links: 0
Aggregator selection policy (ad_select): stable
System priority: 65535
...
Slave Interface: em2
MII Status: up
Speed: 1000 Mbps
Duplex: full
...
Slave Interface: em3
MII Status: up
Speed: 1000 Mbps
Duplex: full

  • дар стеки гузариш 2960С:

2960X#show lacp internal
Flags:  S - Device is requesting Slow LACPDUs
        F - Device is requesting Fast LACPDUs
        A - Device is in Active mode       P - Device is in Passive mode

Channel group 1
                            LACP port     Admin     Oper    Port        Port
Port      Flags   State     Priority      Key       Key     Number      State
Gi1/0/1   SA      bndl      32768         0x1       0x1     0x102       0x3D
Gi2/0/1   SA      bndl      32768         0x1       0x1     0x202       0x3D

2960X#sh etherchannel summary
Flags:  D - down        P - bundled in port-channel
        I - stand-alone s - suspended
        H - Hot-standby (LACP only)
        R - Layer3      S - Layer2
        U - in use      N - not in use, no aggregation
        f - failed to allocate aggregator

        M - not in use, minimum links not met
        m - not in use, port not aggregated due to minimum links not met
        u - unsuitable for bundling
        w - waiting to be aggregated
        d - default port

        A - formed by Auto LAG

Number of channel-groups in use: 11
Number of aggregators:           11

Group  Port-channel  Protocol    Ports
------+-------------+-----------+-----------------------------------------------
1      Po1(SU)         LACP      Gi1/0/1(P)  Gi2/0/1(P)

Конфигуратсияи ибтидоии интерфейсҳои шабакавӣ барои идоракунии захираҳои кластер дар ҳостҳо Мизбон1 и Мизбон2

Танзими интерфейси мантиқии BOND1 барои идоракунӣ ва интерфейсҳои физикии он дар ҳостҳо:

cat /etc/sysconfig/network-scripts/ifcfg-bond0
#DESCRIPTION - management
DEVICE=bond0
NAME=bond0
TYPE=Bond
BONDING_MASTER=yes
IPV6INIT=no
ONBOOT=yes
USERCTL=no
NM_CONTROLLED=no
BOOTPROTO=none
BONDING_OPTS='mode=4 lacp_rate=1 xmit_hash_policy=2'

cat /etc/sysconfig/network-scripts/ifcfg-em0
#DESCRIPTION - management
DEVICE=em0
TYPE=Ethernet
BOOTPROTO=none
ONBOOT=yes
MASTER=bond0
SLAVE=yes
USERCTL=no 
NM_CONTROLLED=no 

cat /etc/sysconfig/network-scripts/ifcfg-em1
#DESCRIPTION - management
DEVICE=em1
TYPE=Ethernet
BOOTPROTO=none
ONBOOT=yes
MASTER=bond0
SLAVE=yes
USERCTL=no 
NM_CONTROLLED=no 

Пас аз ба итмом расонидани танзимот дар стек 2960С ва ҳостҳо, мо шабакаро дар ҳостҳо бозоғоз мекунем ва кори интерфейси мантиқиро тафтиш мекунем.

systemctl restart network
cat /proc/net/bonding/bond1

2960X#show lacp internal
2960X#sh etherchannel summary

Мо интерфейси шабакаи идоракуниро дар ҳар як мизбон танзим мекунем VLAN 17, ва онро ба интерфейси мантиқии BOND1 пайваст кунед:

Танзими VLAN17 дар Host1:

cat /etc/sysconfig/network-scripts/ifcfg-bond1.17
DEVICE=bond1.17
NAME=bond1-vlan17
BOOTPROTO=none
ONBOOT=yes 
USERCTL=no 
NM_CONTROLLED=no 
VLAN=yes
MTU=1500  
IPV4_FAILURE_FATAL=yes
IPV6INIT=no
IPADDR=172.20.17.163
NETMASK=255.255.255.0
GATEWAY=172.20.17.2
DEFROUTE=yes
DNS1=172.20.17.8
DNS2=172.20.17.9
ZONE=public

Танзими VLAN17 дар Host2:

cat /etc/sysconfig/network-scripts/ifcfg-bond1.17
DEVICE=bond1.17
NAME=bond1-vlan17
BOOTPROTO=none
ONBOOT=yes 
USERCTL=no 
NM_CONTROLLED=no 
VLAN=yes
MTU=1500  
IPV4_FAILURE_FATAL=yes
IPV6INIT=no
IPADDR=172.20.17.164
NETMASK=255.255.255.0
GATEWAY=172.20.17.2
DEFROUTE=yes
DNS1=172.20.17.8
DNS2=172.20.17.9
ZONE=public

Мо шабакаро дар ҳостҳо бозоғоз мекунем ва дидани онҳоро ба ҳамдигар тафтиш мекунем.

Ин конфигуратсияи стеки коммутаторҳои Cisco 2960X-ро ба анҷом мерасонад ва агар ҳама чиз дуруст анҷом дода шуда бошад, пас ҳоло мо пайвасти шабакавии ҳамаи унсурҳои инфрасохторро ба ҳамдигар дар сатҳи L2 дорем.

Танзими системаи нигаҳдории Dell MD3820f

Пеш аз оғози кор оид ба танзими системаи нигоҳдорӣ, он бояд аллакай ба стеки коммутаторҳои Cisco пайваст карда шавад 2960С интерфейсҳои назорат, инчунин ба мизбон Мизбон1 и Мизбон2 тавассути FC.

Диаграммаи умумии он, ки чӣ тавр системаҳои нигоҳдорӣ бояд ба як стек коммутаторҳо пайваст карда шаванд, дар боби қаблӣ дода шуда буд.

Диаграммаи пайваст кардани системаи нигоҳдорӣ тавассути FC ба ҳостҳо бояд чунин бошад:

Эҷоди инфрасохтори ба хатогиҳо тобовар IT. Қисми 1 - омодагӣ ба ҷойгиркунии кластери oVirt 4.3

Ҳангоми пайвастшавӣ, шумо бояд суроғаҳои WWPN-ро барои ҳостҳои FC HBA, ки ба портҳои FC дар системаи нигаҳдорӣ пайвастанд, нависед - ин барои баъдтар танзим кардани пайвастшавии ҳостҳо ба LUNҳо дар системаи нигоҳдорӣ зарур аст.

Дар истгоҳи кории администратор утилитаро барои идоракунии системаи нигаҳдории Dell MD3820f зеркашӣ ва насб кунед - PowerVault Мудири нигаҳдории дискҳои модулӣ (MDSM).
Мо ба он тавассути суроғаҳои IP-и пешфарзаш пайваст мешавем ва сипас суроғаҳои худро аз он танзим мекунем VLAN17, барои идоракунии контроллерҳо тавассути TCP/IP:

Захира1:

ControllerA IP - 172.20.1.13, MASK - 255.255.255.0, Gateway - 172.20.1.2
ControllerB IP - 172.20.1.14, MASK - 255.255.255.0, Gateway - 172.20.1.2

Пас аз насб кардани суроғаҳо, ба интерфейси идоракунии нигаҳдорӣ гузаред ва паролро таъин кунед, вақтро таъин кунед, нармафзори протюшениро барои контроллерҳо ва дискҳо, агар лозим бошад, навсозӣ кунед ва ғайра.
Чӣ тавр ин кор дар зер тавсиф шудааст роҳнамои маъмурият Системаи нигоҳдорӣ

Пас аз ба итмом расонидани танзимоти дар боло зикршуда, мо бояд танҳо чанд қадамро иҷро кунем:

  1. Танзимоти ID-ҳои порти мизбони FC - Идентификаторҳои порти мизбон.
  2. Эҷоди гурӯҳи мизбон - Гурӯҳи мизбон ва ду мизбони Dell моро ба он илова кунед.
  3. Дар он гурӯҳи дискҳо ва дискҳои виртуалӣ (ё LUNs) эҷод кунед, ки ба ҳостҳо пешниҳод карда мешаванд.
  4. Муаррифии дискҳои виртуалӣ (ё LUNs) барои ҳостҳоро танзим кунед.

Илова кардани ҳостҳои нав ва идентификаторҳои порти ҳост FC ба онҳо тавассути меню анҷом дода мешавад - Харитаҳои мизбон -> Муайян кунед -> Мизбонҳо…
Суроғаҳои WWPN-и ҳостҳои FC HBA-ро, масалан, дар серверҳои iDRAC пайдо кардан мумкин аст.

Дар натиҷа, мо бояд чунин чизе ба даст орем:

Эҷоди инфрасохтори ба хатогиҳо тобовар IT. Қисми 1 - омодагӣ ба ҷойгиркунии кластери oVirt 4.3

Илова кардани гурӯҳи нави ҳостҳо ва пайваст кардани ҳостҳо ба он тавассути меню анҷом дода мешавад - Харитаҳои мизбон -> Муайян кунед -> Гурӯҳи мизбон…
Барои ҳостҳо, навъи OS -ро интихоб кунед - Linux (DM-MP).

Пас аз ташкили гурӯҳи мизбон, тавассути ҷадвал Хидматҳои нигоҳдорӣ ва нусхабардорӣ, гурӯҳи дискҳо эҷод кунед - Гурӯҳи дискҳо, бо навъи вобаста ба талабот ба таҳаммулпазирии хатогиҳо, масалан, RAID10 ва дар он дискҳои виртуалии андозаи зарурӣ:

Эҷоди инфрасохтори ба хатогиҳо тобовар IT. Қисми 1 - омодагӣ ба ҷойгиркунии кластери oVirt 4.3

Ва ниҳоят, марҳилаи ниҳоӣ муаррифии дискҳои виртуалӣ (ё LUNs) ба ҳостҳо мебошад.
Барои ин, тавассути меню - Харитаҳои мизбон -> Харитасозии моҳ -> Илова кардан… Мо дискҳои виртуалиро бо ҳостҳо тавассути додани рақамҳо ба онҳо пайваст мекунем.

Ҳама чиз бояд ба ин скриншот монанд бошад:

Эҷоди инфрасохтори ба хатогиҳо тобовар IT. Қисми 1 - омодагӣ ба ҷойгиркунии кластери oVirt 4.3

Ин аст, ки мо насб кардани системаи нигаҳдории худро ба анҷом мерасонем ва агар ҳама чиз дуруст анҷом дода шуда бошад, пас соҳибон бояд LUN-ро тавассути FC HBA-и худ бубинанд.
Биёед системаро маҷбур кунем, ки маълумотро дар бораи дискҳои пайвастшуда нав кунад:

ls -la /sys/class/scsi_host/
echo "- - -" > /sys/class/scsi_host/host[0-9]/scan

Биёед бубинем, ки кадом дастгоҳҳо дар серверҳои мо намоёнанд:

cat /proc/scsi/scsi
Attached devices:
Host: scsi0 Channel: 02 Id: 00 Lun: 00
  Vendor: DELL     Model: PERC H330 Mini   Rev: 4.29
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi15 Channel: 00 Id: 00 Lun: 00
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi15 Channel: 00 Id: 00 Lun: 01
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi15 Channel: 00 Id: 00 Lun: 04
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi15 Channel: 00 Id: 00 Lun: 11
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi15 Channel: 00 Id: 00 Lun: 31
  Vendor: DELL     Model: Universal Xport  Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi18 Channel: 00 Id: 00 Lun: 00
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi18 Channel: 00 Id: 00 Lun: 01
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi18 Channel: 00 Id: 00 Lun: 04
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi18 Channel: 00 Id: 00 Lun: 11
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi18 Channel: 00 Id: 00 Lun: 31
  Vendor: DELL     Model: Universal Xport  Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05

lsscsi
[0:2:0:0]    disk    DELL     PERC H330 Mini   4.29  /dev/sda
[15:0:0:0]   disk    DELL     MD38xxf          0825  -
[15:0:0:1]   disk    DELL     MD38xxf          0825  /dev/sdb
[15:0:0:4]   disk    DELL     MD38xxf          0825  /dev/sdc
[15:0:0:11]  disk    DELL     MD38xxf          0825  /dev/sdd
[15:0:0:31]  disk    DELL     Universal Xport  0825  -
 [18:0:0:0]   disk    DELL     MD38xxf          0825  -
[18:0:0:1]   disk    DELL     MD38xxf          0825  /dev/sdi
[18:0:0:4]   disk    DELL     MD38xxf          0825  /dev/sdj
[18:0:0:11]  disk    DELL     MD38xxf          0825  /dev/sdk
[18:0:0:31]  disk    DELL     Universal Xport  0825  -

Дар ҳостҳо шумо инчунин метавонед ба таври иловагӣ танзим кунед бисёрсоҳавӣ, ва гарчанде ки ҳангоми насб кардани oVirt ин корро худаш иҷро карда метавонад, беҳтар аст, ки кори дурусти MP-ро пешакӣ худатон тафтиш кунед.

Насб ва конфигуратсияи DM Multipath

yum install device-mapper-multipath
mpathconf --enable --user_friendly_names y

cat /etc/multipath.conf | egrep -v "^s*(#|$)"
defaults {
    user_friendly_names yes
            find_multipaths yes
}

blacklist {
  wwid 26353900f02796769
  devnode "^(ram|raw|loop|fd|md|dm-|sr|scd|st)[0-9]*"     
  devnode "^hd[a-z]"
 }

Хизматрасонии MP-ро барои худкор оғоз кардан ва оғоз кардани он танзим кунед:

systemctl enable multipathd && systemctl restart multipathd

Санҷиши маълумот дар бораи модулҳои боршуда барои фаъолияти MP:

lsmod | grep dm_multipath
dm_multipath           27792  6 dm_service_time
dm_mod                124407  139 dm_multipath,dm_log,dm_mirror

modinfo dm_multipath
filename:       /lib/modules/3.10.0-957.12.2.el7.x86_64/kernel/drivers/md/dm-multipath.ko.xz
license:        GPL
author:         Sistina Software <[email protected]>
description:    device-mapper multipath target
retpoline:      Y
rhelversion:    7.6
srcversion:     985A03DCAF053D4910E53EE
depends:        dm-mod
intree:         Y
vermagic:       3.10.0-957.12.2.el7.x86_64 SMP mod_unload modversions
signer:         CentOS Linux kernel signing key
sig_key:        A3:2D:39:46:F2:D3:58:EA:52:30:1F:63:37:8A:37:A5:54:03:00:45
sig_hashalgo:   sha256

Биёед маълумоти мухтасарро дар бораи конфигуратсияи мавҷудаи бисёрқабата бубинем:

mpathconf
multipath is enabled
find_multipaths is disabled
user_friendly_names is disabled
dm_multipath module is loaded
multipathd is running

Пас аз илова кардани LUN-и нав ба системаи нигоҳдорӣ ва пешниҳоди он ба мизбон, шумо бояд HBA-ҳои ба мизбон пайвастшударо скан кунед.

systemctl reload multipathd
multipath -v2

Ва дар ниҳоят, мо тафтиш мекунем, ки оё ҳама LUN-ҳо дар системаи нигаҳдории мизбонҳо пешниҳод шудаанд ва оё ба ҳамаи онҳо ду роҳ вуҷуд дорад.

Санҷиши кори MP:

multipath -ll
3600a098000e4b4b3000003175cec1840 dm-2 DELL    ,MD38xxf
size=2.0T features='3 queue_if_no_path pg_init_retries 50' hwhandler='1 rdac' wp=rw
|-+- policy='service-time 0' prio=14 status=active
| `- 15:0:0:1  sdb 8:16  active ready running
`-+- policy='service-time 0' prio=9 status=enabled
  `- 18:0:0:1  sdi 8:128 active ready running
3600a098000e4b48f000002ab5cec1921 dm-6 DELL    ,MD38xxf
size=10T features='3 queue_if_no_path pg_init_retries 50' hwhandler='1 rdac' wp=rw
|-+- policy='service-time 0' prio=14 status=active
| `- 18:0:0:11 sdk 8:160 active ready running
`-+- policy='service-time 0' prio=9 status=enabled
  `- 15:0:0:11 sdd 8:48  active ready running
3600a098000e4b4b3000003c95d171065 dm-3 DELL    ,MD38xxf
size=150G features='3 queue_if_no_path pg_init_retries 50' hwhandler='1 rdac' wp=rw
|-+- policy='service-time 0' prio=14 status=active
| `- 15:0:0:4  sdc 8:32  active ready running
`-+- policy='service-time 0' prio=9 status=enabled
  `- 18:0:0:4  sdj 8:144 active ready running

Тавре ки шумо мебинед, ҳар се диски виртуалӣ дар системаи нигаҳдорӣ дар ду роҳ намоёнанд. Ҳамин тариқ, тамоми корҳои омодагӣ ба анҷом расиданд, яъне шумо метавонед ба қисми асосӣ - таъсиси кластери oVirt гузаред, ки дар мақолаи оянда муҳокима карда мешавад.

Манбаъ: will.com

Илова Эзоҳ