Cruthachadh bun-structair IT a tha fulangach air lochdan. Pàirt 1 - Ag ullachadh airson buidheann oVirt 4.3 a chleachdadh

Thathas a’ toirt cuireadh do luchd-leughaidh eòlas fhaighinn air na prionnsapalan mu bhith a’ togail bun-structar fulangach air lochdan airson iomairt bheag taobh a-staigh aon ionad dàta, a thèid a dheasbad gu mionaideach ann an sreath ghoirid de artaigilean.

Ro-ràdh

Le ionad dàta (Ionad Pròiseas Dàta) a thuigsinn mar:

  • raca fhèin anns an “seòmar frithealaiche” aige fhèin air fearann ​​​​an iomairt, a choinnicheas ris na riatanasan as ìsle airson solar cumhachd agus uidheamachd fuarachaidh, agus cuideachd aig a bheil ruigsinneachd eadar-lìn tro dhà sholaraiche neo-eisimeileach;
  • raca air màl le uidheamachd fhèin, suidhichte ann am fìor ionad dàta - ris an canar. cruinneachadh Ìre III no IV a tha a’ gealltainn cumhachd earbsach, fuarachadh agus fàilligeadh air an eadar-lìn;
  • uidheamachd làn-mhàl ann an ionad dàta Ìre III no IV.

Dè an roghainn àite-fuirich a thaghadh - anns gach cùis, tha a h-uile dad fa leth, agus mar as trice bidh e an urra ri grunn phrìomh nithean:

  • carson a tha feum aig iomairt air a bhun-structar IT fhèin idir;
  • dè dìreach a tha an iomairt ag iarraidh bhon bhun-structar IT (earbsachd, scalability, riaghladh, msaa);
  • an ìre de thasgadh tùsail ann am bun-structar IT, a bharrachd air dè an seòrsa cosgaisean air a shon - calpa (a tha a ’ciallachadh a bhith a’ ceannach an uidheamachd agad fhèin), no ag obair (mar as trice bidh uidheamachd air màl);
  • sealladh dealbhaidh na h-iomairt fhèin.

Faodaidh tu tòrr a sgrìobhadh mu na factaran a tha a’ toirt buaidh air co-dhùnadh iomairt a bhun-structar IT a chruthachadh agus a chleachdadh, ach is e ar n-amas sealltainn ann an cleachdadh mar a chruthaicheas tu am bun-structar seo gus am bi e an dà chuid fulangach air lochdan agus gun urrainn dhut fhathast a shàbhaladh - lughdaich cosgais bathar-bog malairteach fhaighinn, no seachain iad gu tur.

Mar a tha cleachdadh fada a 'sealltainn, chan fhiach a bhith a' sàbhaladh air iarann, oir bidh an truagh a 'pàigheadh ​​​​dà uair, agus eadhon mòran a bharrachd. Ach a-rithist - deagh bhathar-cruaidh, is e dìreach moladh a tha seo, agus aig a’ cheann thall dè dìreach a cheannaicheas tu agus dè an ìre a tha an urra ri comasan na h-iomairt, agus an “greed” de riaghladh. A bharrachd air an sin, bu chòir am facal "greed" a thuigsinn ann an deagh mhothachadh an fhacail, leis gu bheil e nas fheàrr tasgadh a dhèanamh ann am bathar-cruaidh aig a ’chiad ìre, gus nach bi duilgheadasan mòra agad nas fhaide air adhart le tuilleadh taic agus sgèileadh, leis gu bheil e ceàrr an toiseach. faodaidh planadh agus cus shàbhalaidhean leantainn gu cosgaisean nas àirde na nuair a thòisicheas tu air pròiseact.

Mar sin, an dàta tùsail airson a’ phròiseict:

  • tha iomairt ann a tha air co-dhùnadh a portal lìn fhèin a chruthachadh agus a ghnìomhachdan a thoirt chun eadar-lìn;
  • cho-dhùin a’ chompanaidh raca fhaighinn air màl gus an uidheamachd aca a ghabhail ann an ionad dàta math le teisteanas a rèir inbhe Ìre III;
  • cho-dhùin a’ chompanaidh gun a bhith a’ sàbhaladh mòran air bathar-cruaidh, agus mar sin cheannaich iad an uidheamachd a leanas le barantas is taic leudaichte:

Clàr innealan

  • dà fhrithealaiche corporra Dell PowerEdge R640 mar a leanas:
  • dà phròiseasar Intel Xeon Gold 5120
  • RAM 512 Gb
  • dà dhiosca SAS ann an RAID1, airson stàladh OS
  • cairt lìonra 4-port 1G togte
  • dà chairt lìonra 2-port 10G
  • aon phort 2 FC HBA 16G.
  • Stòradh rianadair Dell MD2f 3820 ceangailte tro FC 16G gu dìreach ri luchd-aoigheachd Dell;
  • dà suidse den dàrna ìre - Cisco WS-C2960RX-48FPS-L air a chruachadh;
  • dà suidse den treas ìre - Cisco WS-C3850-24T-E, còmhla ann an stac;
  • Raca, UPS, PDU, frithealaichean tòcan - air an toirt seachad leis an ionad dàta.

Mar a chì sinn, tha deagh chothroman aig an uidheamachd a th’ ann mar-thà airson sgèileadh còmhnard is dìreach, mas urrainn don iomairt farpais ri companaidhean eile den aon seòrsa ìomhaigh air an eadar-lìn, agus tòiseachadh air prothaid a dhèanamh a ghabhas tasgadh ann a bhith a’ leudachadh ghoireasan airson tuilleadh farpais agus fàs prothaid.

Dè an uidheamachd as urrainn dhuinn a chuir ris ma cho-dhùnas an iomairt coileanadh ar cruinneachadh coimpiutaireachd àrdachadh:

  • tha tèarmann mòr againn a thaobh an àireamh de phuirt air na suidsichean 2960X, a tha a’ ciallachadh gun urrainn dhuinn barrachd frithealaichean bathar-cruaidh a chur ris;
  • ceannaich dà suidse FC gus siostaman stòraidh agus frithealaichean a bharrachd a cheangal riutha;
  • faodar na frithealaichean a th’ ann mar-thà ùrachadh - cuir cuimhne, cuir feadhainn nas èifeachdaiche an àite luchd-giullachd, ceangail ri lìonra 10G le innealan-atharrachaidh lìonra a th’ ann mar-thà;
  • faodaidh tu sgeilpichean diosc a bharrachd a chuir ris an t-siostam stòraidh leis an t-seòrsa diosc a tha a dhìth - SAS, SATA no SSD, a rèir an luchd a tha san amharc;
  • às deidh dhut suidsichean FC a chuir ris, faodaidh tu siostam stòraidh eile a cheannach gus eadhon barrachd comas diosc a chuir ris, agus ma cheannaicheas tu roghainn sònraichte Remote Replication dha, faodaidh tu ath-riochdachadh dàta a rèiteachadh eadar siostaman stòraidh an dà chuid taobh a-staigh crìochan aon ionad dàta agus eadar ionadan dàta (ach tha seo mu thràth taobh a-muigh raon an artaigil);
  • tha suidsichean treas-ìre ann cuideachd - Cisco 3850, a dh’ fhaodar a chleachdadh mar chridhe lìonra a tha fulang le lochdan airson slighe àrd-astar eadar lìonraidhean a-staigh. Cuidichidh seo mòran san àm ri teachd, mar a bhios am bun-structar a-staigh a’ fàs. Tha puirt 3850G aig an 10 cuideachd a ghabhas cleachdadh nas fhaide air adhart nuair a bhios iad ag ùrachadh uidheamachd lìonra gu astar 10G.

Leis nach eil àite ann às aonais virtualization, bidh sinn gu cinnteach ann an gluasad, gu h-àraidh leis gu bheil seo na dhòigh math air cosgais a bhith a’ faighinn frithealaichean daor a lughdachadh airson eileamaidean bun-structair fa leth (frithealaichean lìn, stòran-dàta, msaa), nach eil an-còmhnaidh cho math. air a chleachdadh ma tha luchdan ìosal, agus is e seo dìreach a bhios aig toiseach cur air bhog a’ phròiseict.

A bharrachd air an sin, tha mòran bhuannachdan eile aig virtualization a dh’ fhaodadh a bhith glè fheumail dhuinn: fulangas locht VM bho fhàilligeadh frithealaiche bathar-cruaidh, Imrich beò eadar nodan bathar-cruaidh brabhsair airson an cumail suas, cuairteachadh luchdan làimhe no fèin-ghluasadach eadar nodan brabhsair, msaa.

Airson a’ bhathar-chruaidh a cheannaich an iomairt, tha cleachdadh brabhsair VMware vSphere a tha ri fhaighinn gu mòr ga mholadh fhèin, ach leis gu bheil bathar-bog sam bith bho VMware ainmeil airson na tagaichean prìse “each” aige, cleachdaidh sinn bathar-bog riaghlaidh virtualization a tha gu tur an-asgaidh - oVirt, air a bheil toradh aithnichte, ach mar-thà malairteach air a chruthachadh - rev.

Bathar-bog oVirt riatanach gus na h-eileamaidean uile den bhun-structar a chur còmhla ann an aon iomlan gus a bhith comasach air obrachadh gu h-iomchaidh le innealan brìgheil a tha rim faighinn gu mòr - is iad sin stòran-dàta, tagraidhean lìn, frithealaichean proxy, luchd-cothromachaidh, frithealaichean airson logaichean a chruinneachadh agus anailisean, msaa, is e sin , na tha ann am portal lìn na h-iomairt againn.

A’ toirt geàrr-chunntas air an ro-ràdh seo, tha na h-artaigilean a leanas a’ feitheamh rinn, a sheallas gu dìreach mar a chleachdas tu bun-structar bathar-cruaidh is bathar-bog iomairt gu lèir:

Liosta de na h-artaigilean

  • Часть 1. Ag ullachadh airson Buidheann oVirt a chuir an sàs 4.3.
  • Часть 2. A’ stàladh agus a’ rèiteachadh cruinneachadh oVirt 4.3.
  • Часть 3. A’ stèidheachadh cruinneachadh VyOS, a’ cur slighe taobh a-muigh fulangach air lochdan air dòigh.
  • Часть 4. A’ stèidheachadh stac Cisco 3850, a’ cur slighe eadra-lìon air dòigh.

Pàirt 1. Ag ullachadh airson Buidheann oVirt 4.3 a chleachdadh

Suidheachadh aoigheachd bunaiteach

Is e stàladh agus rèiteachadh an OS an ceum as fhasa. Tha tòrr artaigilean ann air mar a stàlaicheas agus a rèiticheas tu an OS gu ceart, agus mar sin chan eil e ciallach feuchainn ri rudeigin sònraichte a thoirt seachad mu dheidhinn seo.

Mar sin, tha dà òstair Dell PowerEdge R640 againn air am feum sinn an OS a chuir a-steach agus suidheachaidhean tòiseachaidh a dhèanamh gus an cleachdadh mar hypervisors gus innealan brìgheil a ruith ann am brabhsair oVirt 4.3.

Leis gu bheil sinn an dùil am bathar-bog neo-mhalairteach an-asgaidh oVirt a chleachdadh, thagh sinn an OS airson luchd-aoigheachd a chleachdadh CentOS 7.7, ged a tha e comasach siostaman obrachaidh eile a chuir a-steach air luchd-aoigheachd airson oVirt:

  • togalach sònraichte stèidhichte air RHEL, ris an canar. oVirt Node;
  • OS Oracle Linux Samhradh 2019 chaidh ainmeachadh mu chumail oVirt a' ruith air.

Mus stàlaich thu an OS, thathar a 'moladh:

  • rèiteachadh eadar-aghaidh lìonra iDRAC air an dà òstair;
  • ùrachadh firmware airson BIOS agus iDRAC gu na dreachan as ùire;
  • rèiteachadh Pròifil an t-siostaim den fhrithealaiche, mas fheàrr ann am modh Coileanaidh;
  • rèiteachadh RAID bho dhioscaichean ionadail (tha RAID1 air a mholadh) gus an OS a stàladh air an fhrithealaiche.

An uairsin bidh sinn a 'stàladh an OS air an diosg a chaidh a chruthachadh na bu tràithe tro iDRAC - tha am pròiseas stàlaidh àbhaisteach, chan eil amannan sònraichte ann. Faodaidh tu cuideachd faighinn gu consol an fhrithealaiche gus stàladh OS a thòiseachadh tro iDRAC, ged nach eil dad a ’cur casg ort bho bhith a’ ceangal monitor, meur-chlàr agus luchag gu dìreach ris an fhrithealaiche agus an OS a chuir a-steach bho dhràibhear flash.

Às deidh dhuinn an OS a chuir a-steach, nì sinn na roghainnean tùsail aige:

systemctl enable network.service
systemctl start network.service
systemctl status network.service

systemctl stop NetworkManager
systemctl disable NetworkManager
systemctl status NetworkManager

yum install -y ntp
systemctl enable ntpd.service
systemctl start ntpd.service

cat /etc/sysconfig/selinux
SELINUX=disabled
SELINUXTYPE=targeted

cat /etc/security/limits.conf
 *               soft    nofile         65536
 *               hard   nofile         65536

cat /etc/sysctl.conf
vm.max_map_count = 262144
vm.swappiness = 1

Stàladh am bathar-bog bunaiteach

Airson a’ chiad stèidheachadh OS, feumaidh tu eadar-aghaidh lìonra sam bith a rèiteachadh air an fhrithealaiche gus am faigh thu cothrom air an eadar-lìn gus an OS ùrachadh agus na pacaidean bathar-bog riatanach a stàladh. Faodar seo a dhèanamh an dà chuid rè pròiseas stàlaidh an OS agus às deidh sin.

yum -y install epel-release
yum update
yum -y install bind-utils yum-utils net-tools git htop iotop nmon pciutils sysfsutils sysstat mc nc rsync wget traceroute gzip unzip telnet 

Tha a h-uile suidheachadh gu h-àrd agus seata bathar-bog na chùis de roghainn pearsanta, agus chan eil anns an t-seata seo ach moladh.

Leis gum bi an neach-aoigheachd againn mar hypervisor, bheir sinn comas don phròifil dèanadais a tha thu ag iarraidh:

systemctl enable tuned 
systemctl start tuned 
systemctl status tuned 

tuned-adm profile 
tuned-adm profile virtual-host 

Faodaidh tu barrachd a leughadh mun phròifil coileanaidh an seo:Caibideil 4".

Às deidh dhuinn an OS a chuir a-steach, gluaisidh sinn air adhart chun ath phàirt - a’ rèiteachadh eadar-aghaidh lìonra air luchd-aoigheachd, agus stac de suidsichean Cisco 2960X.

A’ rèiteachadh Stac Switch Cisco 2960X

Anns a’ phròiseact againn, thèid na h-àireamhan VLAN a leanas a chleachdadh - no raointean craolaidh iomallach bho chèile, gus diofar sheòrsaichean trafaic a sgaradh:

VLAN 10 - Eadar-lìn
VLAN 17 - Riaghladh (iDRAC, stòradh, riaghladh suidse)
VLAN 32 - lìonra riochdachaidh VM
VLAN 33 - lìonra eadar-cheangail (gu cunnradairean taobh a-muigh)
VLAN 34 - lìonra deuchainn VM
VLAN 35 - lìonra leasaiche VM
VLAN 40 - lìonra sgrùdaidh

Mus tòisich sinn air an obair, bheir sinn seachad diagram aig ìre L2, air am bu chòir dhuinn tighinn gu:

Cruthachadh bun-structair IT a tha fulangach air lochdan. Pàirt 1 - Ag ullachadh airson buidheann oVirt 4.3 a chleachdadh

Airson eadar-obrachadh lìonra de luchd-aoigheachd oVirt agus innealan brìgheil le chèile, a bharrachd air a bhith a’ riaghladh ar siostam stòraidh, feumar stac de suidsichean Cisco 2960X a rèiteachadh.

Tha cairtean lìonra 4-port stèidhichte aig luchd-aoigheachd Dell, mar sin, tha e ciallach an ceangal aca ris an Cisco 2960X a chuir air dòigh a’ cleachdadh ceangal lìonra a tha fulangach air lochdan, a’ cleachdadh a bhith a’ cruinneachadh puirt lìonra corporra gu eadar-aghaidh loidsigeach, agus an LACP (802.3 ad) protocol:

  • tha a’ chiad dà phort air an òstair air an rèiteachadh ann am modh ceangail agus ceangailte ris an tionndadh 2960X - thèid an eadar-aghaidh loidsigeach seo a rèiteachadh drochaid le seòladh airson riaghladh aoigheachd, sgrùdadh, conaltradh le luchd-aoigheachd eile anns a’ bhuidheann oVirt, thèid a chleachdadh cuideachd airson imrich beò de dh’ innealan brìgheil;
  • tha an dàrna dà phort air an òstair cuideachd air an rèiteachadh ann am modh ceangail agus ceangailte ris an 2960X - air an eadar-aghaidh loidsigeach seo a’ cleachdadh oVirt, thèid drochaidean a chruthachadh nas fhaide air adhart (anns na VLANn co-fhreagarrach) ris am bi innealan brìgheil a’ ceangal.
  • bidh an dà phort lìonra taobh a-staigh an aon eadar-aghaidh loidsigeach gnìomhach, i.e. faodar trafaic orra a ghluasad aig an aon àm, sa mhodh cothromachaidh.
  • feumaidh roghainnean lìonra air nodan cnuasachaidh a bhith dìreach mar a tha iad, ach a-mhàin seòlaidhean IP.

Suidheachadh stac suidse bunaiteach 2960X agus na puirt aige

Roimhe seo, bu chòir na suidsichean againn a bhith:

  • raca air a chuir suas;
  • ceangailte le dà chàball sònraichte den fhad riatanach, mar eisimpleir, CAB-STK-E-1M;
  • ceangailte ris an t-solar cumhachd;
  • ceangailte ri stèisean-obrach an rianaire tro phort a’ chonsail airson a’ chiad rèiteachadh aca.

Tha an stiùireadh riatanach airson seo ri fhaighinn aig duilleag oifigeil saothraiche.

Às deidh na ceumannan gu h-àrd a chrìochnachadh, bidh sinn a’ rèiteachadh na suidsichean.
Chan eil còir aig gach àithne a bhith air a mhìneachadh taobh a-staigh frèam an artaigil seo; ma tha sin riatanach, gheibhear am fiosrachadh gu lèir gu neo-eisimeileach.
Is e ar n-amas stac suidse a chuir air dòigh gu sgiobalta agus luchd-aoigheachd agus eadar-aghaidh riaghlaidh stòraidh a cheangal ris.

1) Bidh sinn a ’ceangal ris a’ phrìomh shuidse, a ’dol chun mhodh sochair, an uairsin a’ dol chun mhodh rèiteachaidh agus dèan na roghainnean bunaiteach.

Suidheachadh suidse bunaiteach:

 enable
 configure terminal

 hostname 2960X

 no service pad
 service timestamps debug datetime msec
 service timestamps log datetime localtime show-timezone msec
 no service password-encryption
 service sequence-numbers

 switch 1 priority 15
 switch 2 priority 14
 stack-mac persistent timer 0

 clock timezone MSK 3
  vtp mode transparent
  ip subnet-zero

 vlan 17
  name Management

 vlan 32
  name PROD 

 vlan 33
  name Interconnect

 vlan 34
  name Test

 vlan 35
  name Dev

 vlan 40
  name Monitoring

 spanning-tree mode rapid-pvst
 spanning-tree etherchannel guard misconfig
 spanning-tree portfast bpduguard default
 spanning-tree extend system-id
 spanning-tree vlan 1-40 root primary
 spanning-tree loopguard default
 vlan internal allocation policy ascending
 port-channel load-balance src-dst-ip

 errdisable recovery cause loopback
 errdisable recovery cause bpduguard
 errdisable recovery interval 60

line con 0
 session-timeout 60
 exec-timeout 60 0
 logging synchronous
line vty 5 15
 session-timeout 60
 exec-timeout 60 0
 logging synchronous

 ip http server
 ip http secure-server
 no vstack

interface Vlan1
 no ip address
 shutdown

 exit 

Sàbhail an rèiteachadh leis an àithne "wr mem" agus ath-thòisich an stac suidse leis an àithne "ath-luchdachadh» air a’ phrìomh suidse 1.

2) Bidh sinn a’ rèiteachadh puirt lìonra an suidse sa mhodh ruigsinneachd (ruigsinneachd) ann an VLAN 17, gus eadar-aghaidh smachd siostaman stòraidh agus frithealaichean iDRAC a cheangal.

A’ rèiteachadh puirt riaghlaidh:

interface GigabitEthernet1/0/5
 description iDRAC - host1
 switchport access vlan 17
 switchport mode access
 spanning-tree portfast edge

interface GigabitEthernet1/0/6
 description Storage1 - Cntr0/Eth0
 switchport access vlan 17
 switchport mode access
 spanning-tree portfast edge

interface GigabitEthernet2/0/5
 description iDRAC - host2
 switchport access vlan 17
 switchport mode access
 spanning-tree portfast edge

interface GigabitEthernet2/0/6
 description Storage1 – Cntr1/Eth0
 switchport access vlan 17
 switchport mode access
 spanning-tree portfast edge
 exit

3) Às deidh dhut an stac ath-luchdachadh, dèan cinnteach gu bheil e ag obair ceart:

A’ sgrùdadh gnìomhachd a’ chruach:

2960X#show switch stack-ring speed

Stack Ring Speed        : 20G
Stack Ring Configuration: Full
Stack Ring Protocol     : FlexStack

2960X#show switch stack-ports
  Switch #    Port 1       Port 2
  --------    ------       ------
    1           Ok           Ok
    2           Ok           Ok

2960X#show switch neighbors
  Switch #    Port 1       Port 2
  --------    ------       ------
      1         2             2
      2         1             1

2960X#show switch detail
Switch/Stack Mac Address : 0cd0.f8e4.ХХХХ
Mac persistency wait time: Indefinite
                                           H/W   Current
Switch#  Role   Mac Address     Priority Version  State
----------------------------------------------------------
*1       Master 0cd0.f8e4.ХХХХ    15     4       Ready
 2       Member 0029.c251.ХХХХ     14     4       Ready

         Stack Port Status             Neighbors
Switch#  Port 1     Port 2           Port 1   Port 2
--------------------------------------------------------
  1        Ok         Ok                2        2
  2        Ok         Ok                1        1

4) A’ stèidheachadh ruigsinneachd SSH air a’ chruach 2960X

Gus an stac a riaghladh air astar tro SSH, cleachdaidh sinn IP 172.20.1.10 air a rèiteachadh air SVI (atharraich eadar-aghaidh brìgheil) VLAN17.

Ged a tha e ion-mhiannaichte port sònraichte a chleachdadh air an suidse airson adhbharan riaghlaidh, tha seo na chùis air roghainn agus cothrom pearsanta.

A’ stèidheachadh ruigsinneachd SSH air a’ chruach suidse:

ip default-gateway 172.20.1.2

interface vlan 17
 ip address 172.20.1.10 255.255.255.0

hostname 2960X
 ip domain-name hw.home-lab.ru
 no ip domain-lookup

clock set 12:47:04 06 Dec 2019

crypto key generate rsa

ip ssh version 2
ip ssh time-out 90

line vty 0 4
 session-timeout 60
 exec-timeout 60 0
 privilege level 15
 logging synchronous
 transport input ssh

line vty 5 15
 session-timeout 60
 exec-timeout 60 0
 privilege level 15
 logging synchronous
 transport input ssh

aaa new-model
aaa authentication login default local 
username cisco privilege 15 secret my_ssh_password

Suidhich facal-faire gus a dhol a-steach don mhodh sochair:

enable secret *myenablepassword*
service password-encryption

Stèidhich NTP:

ntp server 85.21.78.8 prefer
ntp server 89.221.207.113
ntp server 185.22.60.71
ntp server 192.36.143.130
ntp server 185.209.85.222

show ntp status
show ntp associations
show clock detail

5) Stèidhich eadar-aghaidh loidsigeach Etherchannel agus puirt fiosaigeach ceangailte ri luchd-aoigheachd. Airson a bhith furasta a rèiteachadh, bidh a h-uile VLAN a tha ri fhaighinn ceadaichte air a h-uile eadar-aghaidh loidsigeach, ach sa chumantas thathar a’ moladh na tha a dhìth a rèiteachadh a-mhàin:

A 'rèiteachadh eadar-aghaidh Etherchannel:

interface Port-channel1
 description EtherChannel with Host1-management
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 spanning-tree portfast edge trunk

interface Port-channel2
 description EtherChannel with Host2-management
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 spanning-tree portfast edge trunk

interface Port-channel3
 description EtherChannel with Host1-VM
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 spanning-tree portfast edge trunk

interface Port-channel4
 description EtherChannel with Host2-VM
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 spanning-tree portfast edge trunk

interface GigabitEthernet1/0/1
 description Host1-management
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 1 mode active

interface GigabitEthernet1/0/2
 description Host2-management
  switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 2 mode active

interface GigabitEthernet1/0/3
 description Host1-VM
  switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 3 mode active

interface GigabitEthernet1/0/4
 description Host2-VM
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 4 mode active

interface GigabitEthernet2/0/1
 description Host1-management
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 1 mode active

interface GigabitEthernet2/0/2
 description Host2-management
  switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 2 mode active

interface GigabitEthernet2/0/3
 description Host1-VM
  switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 3 mode active

interface GigabitEthernet2/0/4
 description Host2-VM
 switchport trunk allowed vlan 10,17,30-40
 switchport mode trunk
 channel-protocol lacp
 channel-group 4 mode active

Rèiteachadh tùsail de eadar-aghaidh lìonra airson innealan brìgheil, air luchd-aoigheachd òstair1 и òstair2

Nì sinn sgrùdadh air làthaireachd nam modalan a tha riatanach airson obrachadh ceangail san t-siostam, stàlaich am modal airson drochaidean a stiùireadh:

modinfo bonding
modinfo 8021q
yum install bridge-utils

A’ rèiteachadh an eadar-aghaidh loidsigeach BOND1 airson innealan brìgheil agus an eadar-aghaidh fiosaigeach air luchd-aoigheachd:

cat /etc/sysconfig/network-scripts/ifcfg-bond1
#DESCRIPTION - management
DEVICE=bond1
NAME=bond1
TYPE=Bond
IPV6INIT=no
ONBOOT=yes
USERCTL=no
NM_CONTROLLED=no
BOOTPROTO=none
BONDING_OPTS='mode=4 lacp_rate=1 xmit_hash_policy=2'

cat /etc/sysconfig/network-scripts/ifcfg-em2
#DESCRIPTION - management
DEVICE=em2
TYPE=Ethernet
BOOTPROTO=none
ONBOOT=yes
MASTER=bond1
SLAVE=yes
USERCTL=no 
NM_CONTROLLED=no 

cat /etc/sysconfig/network-scripts/ifcfg-em3
#DESCRIPTION - management
DEVICE=em3
TYPE=Ethernet
BOOTPROTO=none
ONBOOT=yes
MASTER=bond1
SLAVE=yes
USERCTL=no 
NM_CONTROLLED=no 

An dèidh crìoch a chur air na roghainnean air a 'chruach 2960e agus luchd-aoigheachd, ath-thòisich an lìonra air na h-aoighean, agus thoir sùil air comasachd an eadar-aghaidh loidsigeach.

  • air aoigheachd:

systemctl restart network

cat /proc/net/bonding/bond1
Ethernet Channel Bonding Driver: v3.7.1 (April 27, 2011)

Bonding Mode: IEEE 802.3ad Dynamic link aggregation
Transmit Hash Policy: layer2+3 (2)
MII Status: up
MII Polling Interval (ms): 100
Up Delay (ms): 0
Down Delay (ms): 0
...
802.3ad info
LACP rate: fast
Min links: 0
Aggregator selection policy (ad_select): stable
System priority: 65535
...
Slave Interface: em2
MII Status: up
Speed: 1000 Mbps
Duplex: full
...
Slave Interface: em3
MII Status: up
Speed: 1000 Mbps
Duplex: full

  • air an stac suidse 2960e:

2960X#show lacp internal
Flags:  S - Device is requesting Slow LACPDUs
        F - Device is requesting Fast LACPDUs
        A - Device is in Active mode       P - Device is in Passive mode

Channel group 1
                            LACP port     Admin     Oper    Port        Port
Port      Flags   State     Priority      Key       Key     Number      State
Gi1/0/1   SA      bndl      32768         0x1       0x1     0x102       0x3D
Gi2/0/1   SA      bndl      32768         0x1       0x1     0x202       0x3D

2960X#sh etherchannel summary
Flags:  D - down        P - bundled in port-channel
        I - stand-alone s - suspended
        H - Hot-standby (LACP only)
        R - Layer3      S - Layer2
        U - in use      N - not in use, no aggregation
        f - failed to allocate aggregator

        M - not in use, minimum links not met
        m - not in use, port not aggregated due to minimum links not met
        u - unsuitable for bundling
        w - waiting to be aggregated
        d - default port

        A - formed by Auto LAG

Number of channel-groups in use: 11
Number of aggregators:           11

Group  Port-channel  Protocol    Ports
------+-------------+-----------+-----------------------------------------------
1      Po1(SU)         LACP      Gi1/0/1(P)  Gi2/0/1(P)

Rèiteachadh tùsail eadar-aghaidh lìonra airson a bhith a’ riaghladh ghoireasan cnuasachaidh, air luchd-aoigheachd òstair1 и òstair2

A’ rèiteachadh an eadar-aghaidh loidsigeach BOND1 airson riaghladh air luchd-aoigheachd, agus an eadar-aghaidh fiosaigeach aige:

cat /etc/sysconfig/network-scripts/ifcfg-bond0
#DESCRIPTION - management
DEVICE=bond0
NAME=bond0
TYPE=Bond
BONDING_MASTER=yes
IPV6INIT=no
ONBOOT=yes
USERCTL=no
NM_CONTROLLED=no
BOOTPROTO=none
BONDING_OPTS='mode=4 lacp_rate=1 xmit_hash_policy=2'

cat /etc/sysconfig/network-scripts/ifcfg-em0
#DESCRIPTION - management
DEVICE=em0
TYPE=Ethernet
BOOTPROTO=none
ONBOOT=yes
MASTER=bond0
SLAVE=yes
USERCTL=no 
NM_CONTROLLED=no 

cat /etc/sysconfig/network-scripts/ifcfg-em1
#DESCRIPTION - management
DEVICE=em1
TYPE=Ethernet
BOOTPROTO=none
ONBOOT=yes
MASTER=bond0
SLAVE=yes
USERCTL=no 
NM_CONTROLLED=no 

An dèidh crìoch a chur air na roghainnean air a 'chruach 2960e agus luchd-aoigheachd, ath-thòisich an lìonra air na h-aoighean, agus thoir sùil air comasachd an eadar-aghaidh loidsigeach.

systemctl restart network
cat /proc/net/bonding/bond1

2960X#show lacp internal
2960X#sh etherchannel summary

Stèidhich eadar-aghaidh lìonra riaghlaidh air gach aoigh a-steach VLAN 17, agus ceangail e ris an eadar-aghaidh loidsigeach BOND1:

A’ rèiteachadh VLAN17 air Host1:

cat /etc/sysconfig/network-scripts/ifcfg-bond1.17
DEVICE=bond1.17
NAME=bond1-vlan17
BOOTPROTO=none
ONBOOT=yes 
USERCTL=no 
NM_CONTROLLED=no 
VLAN=yes
MTU=1500  
IPV4_FAILURE_FATAL=yes
IPV6INIT=no
IPADDR=172.20.17.163
NETMASK=255.255.255.0
GATEWAY=172.20.17.2
DEFROUTE=yes
DNS1=172.20.17.8
DNS2=172.20.17.9
ZONE=public

A’ rèiteachadh VLAN17 air Host2:

cat /etc/sysconfig/network-scripts/ifcfg-bond1.17
DEVICE=bond1.17
NAME=bond1-vlan17
BOOTPROTO=none
ONBOOT=yes 
USERCTL=no 
NM_CONTROLLED=no 
VLAN=yes
MTU=1500  
IPV4_FAILURE_FATAL=yes
IPV6INIT=no
IPADDR=172.20.17.164
NETMASK=255.255.255.0
GATEWAY=172.20.17.2
DEFROUTE=yes
DNS1=172.20.17.8
DNS2=172.20.17.9
ZONE=public

Bidh sinn ag ath-thòiseachadh an lìonra air na h-aoighean agus a’ dèanamh cinnteach gu bheil iad follaiseach dha chèile.

Bidh seo a’ crìochnachadh rèiteachadh stac suidse Cisco 2960X, agus ma chaidh a h-uile càil a dhèanamh ceart, a-nis tha ceangal lìonra againn de gach eileamaid bun-structair ri chèile aig ìre L2.

Suidheachadh stòraidh Dell MD3820f

Mus tòisich thu air obair air an t-siostam stòraidh a rèiteachadh, feumaidh e a bhith ceangailte ri stac suidse Cisco 2960e eadar-aghaidh riaghlaidh, a bharrachd air luchd-aoigheachd òstair1 и òstair2 tro FC.

Chaidh an sgeama coitcheann air mar a bu chòir an siostam stòraidh a cheangal ris a’ chruach suidse a thoirt seachad sa chaibideil roimhe seo.

Bu chòir gum biodh an sgeama airson stòradh a cheangal tro FC ri luchd-aoigheachd a’ coimhead mar seo:

Cruthachadh bun-structair IT a tha fulangach air lochdan. Pàirt 1 - Ag ullachadh airson buidheann oVirt 4.3 a chleachdadh

Rè a 'cheangail, feumar na seòlaidhean WWPN airson luchd-aoigheachd FC HBA a tha ceangailte ris na puirt FC air an t-siostam stòraidh a sgrìobhadh sìos - bidh feum air seo airson rèiteachadh ceangal aoigheachd gu LUNn air an t-siostam stòraidh.

Luchdaich sìos agus stàlaich goireas riaghlaidh stòraidh Dell MD3820f air ionad-obrach an rianaire - Manaidsear stòraidh diosc modular PowerVault (MDSM).
Bidh sinn a’ ceangal rithe tro na seòlaidhean IP bunaiteach aice, agus an uairsin a’ rèiteachadh ar seòlaidhean bho VLAN17, gus rianadairean a stiùireadh tro TCP/IP:

Stòradh1:

ControllerA IP - 172.20.1.13, MASK - 255.255.255.0, Gateway - 172.20.1.2
ControllerB IP - 172.20.1.14, MASK - 255.255.255.0, Gateway - 172.20.1.2

Às deidh dhuinn na seòlaidhean a stèidheachadh, thèid sinn chun eadar-aghaidh riaghlaidh stòraidh agus suidhich facal-faire, suidhich an ùine, ùraich am firmware airson riaghladairean agus diosgan, ma tha sin riatanach, msaa.
Tha mar a tha seo air a dhèanamh air a mhìneachadh ann an stiùireadh rianachd stòradh.

Às deidh dhuinn na roghainnean gu h-àrd a dhèanamh, chan fheum sinn ach beagan rudan a dhèanamh:

  1. Dèan rèiteachadh air IDan port FC aoigheachd - Luchd-aithneachaidh Port aoigheachd.
  2. Cruthaich buidheann aoigheachd - buidheann aoigheachd agus cuir an dà òstair Dell againn ris.
  3. Cruthaich buidheann diosc agus diosgan brìgheil (no LUNn) ann, a thèid a thaisbeanadh dha na h-aoighean.
  4. Dèan rèiteachadh air taisbeanadh diosc brìgheil (no LUNs) airson luchd-aoigheachd.

Thathas a’ cur a-steach luchd-aoigheachd ùra agus aithnichearan ceangail de phuirt aoigheachd FC thuca tron ​​​​chlàr - Mapaichean aoigheachd -> Sgrìobh -> Luchd-aoigheachd…
Gheibhear seòlaidhean WWPN luchd-aoigheachd FC HBA, mar eisimpleir, ann an iDRAC an fhrithealaiche.

Mar thoradh air an sin, bu chòir dhuinn rudeigin mar an dealbh seo fhaighinn:

Cruthachadh bun-structair IT a tha fulangach air lochdan. Pàirt 1 - Ag ullachadh airson buidheann oVirt 4.3 a chleachdadh

Thathas a’ cur buidheann aoigheachd ùr ris agus a’ ceangal luchd-aoigheachd ris tron ​​chlàr - Mapaichean aoigheachd -> Sgrìobh -> Buidheann aoigheachd…
Airson luchd-aoigheachd, tagh an seòrsa OS - Linux (DM-MP).

Às deidh dhut buidheann aoigheachd a chruthachadh, tron ​​​​tab Seirbheisean stòraidh is lethbhreac, cruthaich buidheann diosc - Buidheann diosc, le seòrsa a rèir riatanasan fulangas locht, mar eisimpleir, RAID10, agus ann an diosgan brìgheil den mheud a tha a dhìth:

Cruthachadh bun-structair IT a tha fulangach air lochdan. Pàirt 1 - Ag ullachadh airson buidheann oVirt 4.3 a chleachdadh

Agus mu dheireadh, is e an ìre mu dheireadh taisbeanadh diosc brìgheil (no LUNn) airson luchd-aoigheachd.
Gus seo a dhèanamh, tron ​​​​chlàr - Mapaichean aoigheachd -> Lun mapadh -> Cuir ... bidh sinn a’ ceangal diosgan brìgheil ri luchd-aoigheachd le bhith a’ sònrachadh àireamhan dhaibh.

Bu chòir gum biodh a h-uile dad coltach ris an dealbh-sgrìn seo:

Cruthachadh bun-structair IT a tha fulangach air lochdan. Pàirt 1 - Ag ullachadh airson buidheann oVirt 4.3 a chleachdadh

Seo far am bi sinn a’ crìochnachadh leis an t-suidheachadh stòraidh, agus ma chaidh a h-uile càil a dhèanamh ceart, bu chòir dha na h-aoighean na LUNn fhaicinn air an toirt dhaibh tro na FC HBAn aca.
Bheir sinn air an t-siostam fiosrachadh ùrachadh mu dhràibhearan ceangailte:

ls -la /sys/class/scsi_host/
echo "- - -" > /sys/class/scsi_host/host[0-9]/scan

Chì sinn dè na h-innealan a tha rim faicinn air na frithealaichean againn:

cat /proc/scsi/scsi
Attached devices:
Host: scsi0 Channel: 02 Id: 00 Lun: 00
  Vendor: DELL     Model: PERC H330 Mini   Rev: 4.29
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi15 Channel: 00 Id: 00 Lun: 00
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi15 Channel: 00 Id: 00 Lun: 01
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi15 Channel: 00 Id: 00 Lun: 04
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi15 Channel: 00 Id: 00 Lun: 11
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi15 Channel: 00 Id: 00 Lun: 31
  Vendor: DELL     Model: Universal Xport  Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi18 Channel: 00 Id: 00 Lun: 00
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi18 Channel: 00 Id: 00 Lun: 01
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi18 Channel: 00 Id: 00 Lun: 04
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi18 Channel: 00 Id: 00 Lun: 11
  Vendor: DELL     Model: MD38xxf          Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05
Host: scsi18 Channel: 00 Id: 00 Lun: 31
  Vendor: DELL     Model: Universal Xport  Rev: 0825
  Type:   Direct-Access                    ANSI  SCSI revision: 05

lsscsi
[0:2:0:0]    disk    DELL     PERC H330 Mini   4.29  /dev/sda
[15:0:0:0]   disk    DELL     MD38xxf          0825  -
[15:0:0:1]   disk    DELL     MD38xxf          0825  /dev/sdb
[15:0:0:4]   disk    DELL     MD38xxf          0825  /dev/sdc
[15:0:0:11]  disk    DELL     MD38xxf          0825  /dev/sdd
[15:0:0:31]  disk    DELL     Universal Xport  0825  -
 [18:0:0:0]   disk    DELL     MD38xxf          0825  -
[18:0:0:1]   disk    DELL     MD38xxf          0825  /dev/sdi
[18:0:0:4]   disk    DELL     MD38xxf          0825  /dev/sdj
[18:0:0:11]  disk    DELL     MD38xxf          0825  /dev/sdk
[18:0:0:31]  disk    DELL     Universal Xport  0825  -

Air luchd-aoigheachd, faodaidh tu cuideachd rèiteachadh a dhèanamh ioma-shlighe, agus ged as urrainn dha fhèin a dhèanamh nuair a bhios e a’ stàladh oVirt, tha e nas fheàrr sgrùdadh a dhèanamh air ceartachd a’ BhP ro-làimh.

A 'stàladh agus a' rèiteachadh DM Multipath

yum install device-mapper-multipath
mpathconf --enable --user_friendly_names y

cat /etc/multipath.conf | egrep -v "^s*(#|$)"
defaults {
    user_friendly_names yes
            find_multipaths yes
}

blacklist {
  wwid 26353900f02796769
  devnode "^(ram|raw|loop|fd|md|dm-|sr|scd|st)[0-9]*"     
  devnode "^hd[a-z]"
 }

Suidhich an t-seirbheis BP gu fèin-thòiseachadh agus tòisich e:

systemctl enable multipathd && systemctl restart multipathd

A’ sgrùdadh fiosrachadh mu mhodalan luchdaichte airson obrachadh BP:

lsmod | grep dm_multipath
dm_multipath           27792  6 dm_service_time
dm_mod                124407  139 dm_multipath,dm_log,dm_mirror

modinfo dm_multipath
filename:       /lib/modules/3.10.0-957.12.2.el7.x86_64/kernel/drivers/md/dm-multipath.ko.xz
license:        GPL
author:         Sistina Software <[email protected]>
description:    device-mapper multipath target
retpoline:      Y
rhelversion:    7.6
srcversion:     985A03DCAF053D4910E53EE
depends:        dm-mod
intree:         Y
vermagic:       3.10.0-957.12.2.el7.x86_64 SMP mod_unload modversions
signer:         CentOS Linux kernel signing key
sig_key:        A3:2D:39:46:F2:D3:58:EA:52:30:1F:63:37:8A:37:A5:54:03:00:45
sig_hashalgo:   sha256

A’ coimhead air geàrr-chunntas den rèiteachadh multipath a th’ ann mar-thà:

mpathconf
multipath is enabled
find_multipaths is disabled
user_friendly_names is disabled
dm_multipath module is loaded
multipathd is running

Às deidh dhut LUN ùr a chuir ris an t-siostam stòraidh agus a thaisbeanadh don aoigh, feumaidh tu na HBAn a tha ceangailte ris an aoigh air a sganadh.

systemctl reload multipathd
multipath -v2

Agus mu dheireadh, nì sinn sgrùdadh a bheil a h-uile LUN air a thaisbeanadh air an t-siostam stòraidh airson luchd-aoigheachd, agus a bheil dà shlighe gu na h-uile.

Sgrùdadh gnìomhachd MP:

multipath -ll
3600a098000e4b4b3000003175cec1840 dm-2 DELL    ,MD38xxf
size=2.0T features='3 queue_if_no_path pg_init_retries 50' hwhandler='1 rdac' wp=rw
|-+- policy='service-time 0' prio=14 status=active
| `- 15:0:0:1  sdb 8:16  active ready running
`-+- policy='service-time 0' prio=9 status=enabled
  `- 18:0:0:1  sdi 8:128 active ready running
3600a098000e4b48f000002ab5cec1921 dm-6 DELL    ,MD38xxf
size=10T features='3 queue_if_no_path pg_init_retries 50' hwhandler='1 rdac' wp=rw
|-+- policy='service-time 0' prio=14 status=active
| `- 18:0:0:11 sdk 8:160 active ready running
`-+- policy='service-time 0' prio=9 status=enabled
  `- 15:0:0:11 sdd 8:48  active ready running
3600a098000e4b4b3000003c95d171065 dm-3 DELL    ,MD38xxf
size=150G features='3 queue_if_no_path pg_init_retries 50' hwhandler='1 rdac' wp=rw
|-+- policy='service-time 0' prio=14 status=active
| `- 15:0:0:4  sdc 8:32  active ready running
`-+- policy='service-time 0' prio=9 status=enabled
  `- 18:0:0:4  sdj 8:144 active ready running

Mar a chì thu, tha na trì diosgan brìgheil air an t-siostam stòraidh rim faicinn ann an dà dhòigh. Mar sin, tha a h-uile obair ullachaidh air a chrìochnachadh, a tha a 'ciallachadh gun urrainn dhut a dhol air adhart chun phrìomh phàirt - stèidheachadh buidheann oVirt, a thèid a dheasbad san ath artaigil.

Source: www.habr.com

Cuir beachd ann