Ceph e ala i le iSCSI - poʻo le faaseʻe aʻo tu i luga o se faga

E i ai nisi oi tatou (tsefovodov) e le fiafia i le "faʻapitoa faʻapolofesa"?

E le taumate - a leai o le a tatou le faʻafefe solo i lenei oloa sili ona manaia ma malie.

O le toʻatele oi latou na aʻafia i le faʻagaioiga a Ceph na latou maua se tasi e le masani ai (pe sili atu foi e le masani ai) ae o nisi taimi e manaʻomia ai - faʻafesoʻotaʻi Ceph e ala i le iSCSI poʻo le FC. Mo le a? Ia, mo se faʻataʻitaʻiga, tuʻuina atu se ata mai Ceph i se Windows poʻo Solaris server e leʻi faʻamaonia mo nisi mafuaaga. Poʻo se mea faʻapitoa, ae faʻaaoga se hypervisor e le mafai ona faia Ceph - ma, e pei ona tatou iloa, e tele naua. Faataitaiga? Ia, mo se faʻataʻitaʻiga, HyperV poʻo ESXi, o loʻo faʻaaogaina malosi. Ma afai e tulaʻi mai le galuega o le tuʻuina atu o se ata mai Ceph i se masini faʻafeiloaʻi, e avea lenei mea ma se galuega sili ona manaia.

O lea la, tuuina atu:

  1. se fuifui Ceph ua uma ona tamo'e
  2. o se ata ua leva ona iai e tatau ona fa'aogaina e ala ile iSCSI
  3. igoa vaitaele la'u vaitaele, igoa ata lo'u ata

Amata?

Muamua, pe a tatou talanoa e uiga i le FC poʻo le iSCSI, o loʻo i ai a tatou faʻalapotopotoga e pei o le amataga ma le faʻamoemoe. O le sini o le mea moni o se 'au'aunaga, o le amataga o se tagata fa'atau. O la matou galuega o le tuʻuina atu lea o le ata Ceph i le amataga ma se taumafaiga itiiti. O lona uiga e tatau ona fa'alautele le fa'amoemoe. Ae o fea, i luga o le a le komepiuta?

O le mea e lelei ai, i totonu o le Ceph cluster e le itiiti ifo ma le tasi le vaega o loʻo faʻamautu le tuatusi IP ma o loʻo faʻatulagaina se tasi o vaega sili ona taua o Ceph, ma o lena vaega o le mataʻituina. E tusa ai, matou te faʻapipiʻi se iSCSI sini i luga o le mataʻituina (ma se Initiator i le taimi e tasi, a itiiti mai mo suʻega). Na ou faia lenei mea i CentOS, ae o le fofo e talafeagai foi mo soʻo se isi tufatufaga - naʻo lou manaʻomia e faʻapipiʻi afifi i le auala e talia i lau tufatufaga.

# yum -y install iscsi-initiator-utils targetcli

O le a le fa'amoemoega o afifi fa'apipi'i?

  • targetcli - o se aoga mo le puleaina o le SCSI sini faʻapipiʻiina i totonu o le fatu Linux
  • iscsi-initiator-utils - o se afifi ma mea aoga e faʻaaogaina e pulea ai le iSCSI initiator fausia i totonu ole fatu Linux

Ina ia mafai ona tuʻuina atu se ata e ala i le iSCSI i le amataga, e lua filifiliga mo le atinaʻeina o mea e tutupu - faʻaaoga le userspace backend o le sini poʻo le faʻafesoʻotaʻi le ata o se masini poloka e vaʻaia i le faiga faʻaogaina ma auina atu i fafo e ala i le iSCSI. O le a tatou alu i le auala lona lua - o le userspace backend o loʻo i ai pea i se tulaga "faʻataʻitaʻiga" ma e leʻi sauni mo le faʻaogaina lelei. E le gata i lea, o loʻo i ai faʻalavelave faʻatasi ma ia, e mafai ona e talanoa tele ma (oi le fefe!) finau.

Afai tatou te faʻaaogaina se tufatufaga mautu ma se taamilosaga lagolago umi, o lona uiga o le fatu o loʻo ia i tatou o se kopi tuai, tuai. Mo se faʻataʻitaʻiga, i CentOS7 o le 3.10.*, i le CentOS8 o le 4.19. Ma matou te fiafia i se fatu o le itiiti ifo i le 5.3 (poʻo le 5.4) ma le fou. Aisea? Talu ai ona o le faʻaogaina o ata Ceph o loʻo i ai se seti o filifiliga e mafai ona le fetaui ma fatu matutua. O lona uiga tatou te faʻafesoʻotaʻi se fale teu oloa ma se fatu fou mo la tatou tufatufaga (mo se faʻataʻitaʻiga, mo CentOS o le elrepo), faʻapipiʻi le fatu fou ma toe faʻafou le faiga e galue ai ma le fatu fou:

  • Fa'afeso'ota'i i le mata'itū ua filifilia mo le su'ega
  • Matou te faʻafesoʻotaʻi faleoloa elrepo e tusa ai ma faʻatonuga - elrepo.org/tiki/tiki-index.php
  • Faʻapipiʻi le fatu: yum -y -enablerepo=elrepo-kernel faʻapipiʻi kernel-ml
  • Toe faʻafou le 'auʻaunaga ma le mataʻituina (e tolu a matou siaki, saʻo?)

Faʻafesoʻotaʻi le ata o se masini poloka

# rbd map mypool/myimage
/dev/rbd0

Pau lava le mea o loʻo totoe o le faʻatulagaina o le sini. I lenei faʻataʻitaʻiga, o le a ou faʻapipiʻiina le taulaʻiga i le mea e taʻua. faiga fa'ata'ita'i - e aunoa ma se fa'amaoni, va'aia ma maua e tagata uma. I totonu o se siosiomaga gaosiga, atonu e te manaʻo e faʻapipiʻi le faʻamaoni - ae o se mea e le mafai ona faʻaogaina mo le faʻamalositino i aso nei.

Fausia se pito i tua e taʻua o le disk1 e fesoʻotaʻi ma le faila /dev/rbd/mypool/myimage. O le faila faʻamaonia o se fesoʻotaʻiga faʻatusa na faia e le udev daemon i / dev / rbd0. Matou te faʻaogaina se fesoʻotaʻiga faʻatusa ona o le igoa o le masini rbd e mafai ona suia e faʻatatau i le faasologa o loʻo fesoʻotaʻi ai ata Ceph i le talimalo.

Fausia se pito i tua:

# targetcli /backstores/block create disk1 /dev/rbd/mypool/myimage

Fausia se iSCSI sini:

# targetcli /iscsi create iqn.2020-01.demo.ceph:mypool

Matou te faʻafesoʻotaʻi le pito i tua o se LUN i le sini:

# targetcli /iscsi/iqn.2020-01.demo.ceph:mypool/tpg1/luns create /backstores/block/disk1

Se'i o tatou fetu'una'i le sini mo le fa'ata'ita'iga faiga:

# targetcli /iscsi/iqn.2020-01.demo.ceph:mypool/tpg1/ set
> attribute demo_mode_write_protect=0
# targetcli /iscsi/iqn.2020-01.demo.ceph:mypool/tpg1/ set
> attribute generate_node_acls=1
# targetcli /iscsi/iqn.2020-01.demo.ceph:mypool/tpg1/ set
> attribute cache_dynamic_acls=1

Fa'asaoina le fa'atulagaga:

# targetcli saveconfig

Siaki le avanoa o le sini:

# iscsiadm -m discovery -t st -p 127.0.0.1:3260
127.0.0.1:3260,1 iqn.2020-01.demo.ceph:mypool

Matou te faʻafesoʻotaʻi le sini:

# iscsiadm -m node --login
Logging in to [iface: default, target: iqn.2020-01.demo.ceph:mypool, portal: 127.0.0.1,3260] (multiple)
Login to [iface: default, target: iqn.2020-01.demo.ceph:mypool, portal: 127.0.0.1,3260] successful.

Afai na e faia saʻo mea uma, o le a faʻaalia se tisiki fou i luga o le 'auʻaunaga, e foliga mai o se masini SCSI, ae o le mea moni o se ata mai Ceph, faʻaogaina e ala i le iSCSI sini. Ina ia aloese mai faʻafitauli o le taʻavale, e sili atu le aveese o le tisiki fesoʻotaʻi ma le faʻamoemoe e iloa mai le amataga o le lotoifale:

# iscsiadm -m node --logout
# iscsiadm -m discoverydb -o delete -t st -p 127.0.0.1:3260

Pau lava le mea o loʻo totoe o le faʻaauau pea o le faʻatulagaina ina ia otometi le fesoʻotaʻiga o le ata ma, pe a maeʻa fesoʻotaʻiga, e faʻapipiʻi le sini. O le faʻalauiloaina o se faʻamoemoe e aofia ai laasaga e lua - faʻafesoʻotaʻi le RBD ma faʻalauiloa moni le sini.

Muamua, seʻi o tatou faʻatulagaina le fesoʻotaʻiga otometi o ata RBD i le talimalo. E faia lenei mea i le faʻaopoopoina o laina nei i le /etc/ceph/rbdmap faila:

# cat /etc/ceph/rbdmap
# RbdDevice Parameters
mypool/myimage id=admin
# systemctl enable rbdmap

O le toe faʻaleleia o le faʻatulagaina o faʻatulagaga e sili atu ona faigata - matou te manaʻomia le tusia o se iunite mo systemd e toe faʻafoʻisia ai le faʻatulagaga:

# cat /usr/lib/systemd/system/scsi-target.service
[Unit] Description=Start iSCSI target

After=network-online.target rbdmap.service
Before=remote-fs-pre.target
Wants=network-online.target remote-fs-pre.target

[Service] Type=oneshot
RemainAfterExit=yes
ExecStart=/bin/targetcli restoreconfig

[Install] WantedBy=multi-user.target

# systemctl daemon-reload
# systemctl enable scsi-target

O le suʻega mulimuli o le toe faʻafouina lea o le matou mataʻituina (ua avea nei ma iSCSI sini). E tatau ona maitauina pe afai matou te leʻi faʻamamaina le faʻamaumauga a le initiator ma le faʻatonuga iscsiadm -n discoverydb -o tape ... e mafai ona e fa'ai'u i se 'au'aunaga e le'i utaina pe umi se taimi e fa'atumu ai.

O le a le mea o totoe?

Fa'atulaga le initiator i luga o le 'au'aunaga i le mea matou te manana'o e lafo ai le fa'amoemoe.

E fa'apefea ona fa'amautinoa le fa'apalepale masei o la tatou fa'amoemoe?

E mafai foʻi ona e faʻapipiʻi faʻatatau i luga o isi mataʻituina ma faʻatūina multipath (vmware o le a malamalama i lenei mea ma e oʻo lava i le galue, Hyper-V o le a le malamalama - e manaʻomia SCSI loka). Talu ai e le faʻaogaina e le tagata o tausia le Ceph mai le fatu, o le mea lea e aoga tele. Po'o le isi filifiliga o le fatuina lea o se punaoa fa'apipi'i o vaega e tolu - o se tuatusi IP fa'apitoa ma rbdmap ma scsi-target services, ma pulea lenei punaoa e ala i meafaigaluega fa'apipi'i (o ai na fai mai le pacemaker?)

Nai lo le tautalaga

E pei ona manino, o lenei tusiga o se mea malie - ae i totonu na ou taumafai ai e "vave ma faʻataʻitaʻiga" mafaufau i le tele o autu lauiloa i le taimi lava e tasi - iSCSI sini, atonu e le mafai ona auina atu i fafo ata Ceph - ae mo se faʻataʻitaʻiga, auina atu i fafo voluma LVM, faavae o le galulue faatasi ma se iSCSI initiator (faʻafefea ona suʻesuʻeina se taulaʻi, faʻafefea ona faʻafesoʻotaʻi i se taulaʻi, motusia, tape se faʻamaufaʻailoga mai le database), tusia lau lava iunite mo systemd ma isi.

Ou te faʻamoemoe e tusa lava pe e te le toe faia atoa lenei faʻataʻitaʻiga atoa, a itiiti mai o se mea mai lenei tusiga o le a aoga ia te oe.

puna: www.habr.com

Faaopoopo i ai se faamatalaga