U ovom Älanku želim govoriti o karakteristikama svih Flash AccelStor nizova koji rade s jednom od najpopularnijih platformi za virtualizaciju - VMware vSphere. Konkretno, usredotoÄite se na one parametre koji Äe vam pomoÄi da postignete maksimalan uÄinak koriÅ”tenjem tako moÄnog alata kao Å”to je All Flash.

AccelStor NeoSapphire⢠Svi Flash nizovi su ili Ävorni ureÄaji bazirani na SSD diskovima s fundamentalno drugaÄijim pristupom implementaciji koncepta pohrane podataka i organiziranju pristupa istima koriÅ”tenjem vlasniÄke tehnologije umjesto veoma popularnih RAID algoritama. Nizovi pružaju blok pristup hostovima preko Fibre Channel ili iSCSI interfejsa. Da budemo poÅ”teni, napominjemo da modeli sa ISCSI interfejsom takoÄe imaju pristup fajlovima kao lep bonus. Ali u ovom Älanku Äemo se fokusirati na koriÅ”tenje blok protokola kao najproduktivnijeg za All Flash.
Cijeli proces implementacije i naknadne konfiguracije zajedniÄkog rada AccelStor niza i VMware vSphere virtualizacijskog sistema može se podijeliti u nekoliko faza:
- Implementacija topologije povezivanja i konfiguracije SAN mreže;
- Postavljanje All Flash polja;
- Konfiguriranje ESXi hostova;
- Postavljanje virtuelnih maŔina.
AccelStor NeoSapphire⢠Fibre Channel nizovi i iSCSI nizovi su koriŔteni kao uzorak hardvera. Osnovni softver je VMware vSphere 6.7U1.
Prije implementacije sistema opisanih u ovom Älanku, toplo se preporuÄuje da proÄitate dokumentaciju od VMware-a u vezi s problemima performansi ( ) i iSCSI postavke ()
Topologija veze i konfiguracija SAN mreže
Glavne komponente SAN mreže su HBA u ESXi hostovima, SAN prekidaÄi i Ävorovi niza. TipiÄna topologija za takvu mrežu bi izgledala ovako:

Termin Switch se ovdje odnosi i na odvojeni fiziÄki prekidaÄ ili skup prekidaÄa (Fabric), i na ureÄaj koji se dijeli izmeÄu razliÄitih usluga (VSAN u sluÄaju Fibre Channel i VLAN u sluÄaju iSCSI). KoriÅ”tenje dva nezavisna prekidaÄa/tkanine Äe eliminirati moguÄu taÄku kvara.
Direktno povezivanje hostova na niz, iako je podržano, se ne preporuÄuje. Performanse svih Flash nizova su priliÄno visoke. A za maksimalnu brzinu moraju se koristiti svi portovi niza. Stoga je prisustvo barem jednog prekidaÄa izmeÄu hosta i NeoSapphire⢠obavezno.
Prisustvo dva porta na host HBA je takoÄer obavezan zahtjev za postizanje maksimalnih performansi i osiguravanje tolerancije greÅ”aka.
Kada se koristi interfejs Fibre Channel, zoniranje mora biti konfigurisano da eliminiÅ”e moguÄe kolizije izmeÄu inicijatora i ciljeva. Zone su izgraÄene po principu ājedan port inicijatora ā jedan ili viÅ”e portova nizaā.
Ako koristite vezu preko iSCSI u sluÄaju koriÅ”tenja prekidaÄa koji se dijeli s drugim uslugama, tada je imperativ izolirati iSCSI promet unutar zasebnog VLAN-a. TakoÄe se preporuÄuje da se omoguÄi podrÅ”ka za Jumbo okvire (MTU = 9000) kako bi se poveÄala veliÄina paketa na mreži i na taj naÄin smanjila koliÄina dodatnih informacija tokom prenosa. MeÄutim, vrijedno je zapamtiti da je za ispravan rad potrebno promijeniti MTU parametar na svim mrežnim komponentama duž lanca "inicijator-prekidaÄ-cilj".
Postavljanje All Flash polja
Niz se isporuÄuje kupcima sa veÄ formiranim grupama . Stoga, ne treba preduzimati nikakve radnje za kombinovanje pogona u jednu strukturu. Vi samo trebate stvoriti volumene potrebne veliÄine i koliÄine.
Radi praktiÄnosti, postoji funkcionalnost za kreiranje serije nekoliko volumena odreÄene veliÄine odjednom. Podrazumevano se kreiraju tanki volumeni, jer to omoguÄava efikasnije koriÅ”Äenje dostupnog prostora za skladiÅ”tenje (ukljuÄujuÄi podrÅ”ku za Space Reclamation). Å to se tiÄe performansi, razlika izmeÄu ātankihā i ādebelihā volumena ne prelazi 1%. MeÄutim, ako želite "iscijediti sav sok" iz niza, uvijek možete pretvoriti bilo koji "tanak" volumen u "debeo". Ali treba imati na umu da je takva operacija nepovratna.
Zatim ostaje āobjavitiā kreirane volumene i postaviti im prava pristupa sa hostova koristeÄi ACL-ove (IP adrese za iSCSI i WWPN za FC) i fiziÄko razdvajanje po portovima niza. Za iSCSI modele to se radi kreiranjem cilja.
Za FC modele, objavljivanje se deŔava kroz kreiranje LUN-a za svaki port niza.
Da bi se ubrzao proces postavljanja, hostovi se mogu kombinovati u grupe. Å taviÅ”e, ako host koristi viÅ”eportni FC HBA (Å”to se u praksi najÄeÅ”Äe deÅ”ava), tada sistem automatski utvrÄuje da portovi takvog HBA pripadaju jednom hostu zahvaljujuÄi WWPN-ovima koji se razlikuju za jedan. Grupno kreiranje Target/LUN-a je takoÄe podržano za oba interfejsa.
Važna napomena kada se koristi iSCSI interfejs je kreiranje viÅ”e ciljeva za volumene odjednom kako bi se poveÄale performanse, buduÄi da se red na cilju ne može promeniti i da Äe efektivno biti usko grlo.
Konfiguriranje ESXi hostova
Na strani ESXi hosta, osnovna konfiguracija se izvodi prema potpuno oÄekivanom scenariju. Procedura za iSCSI vezu:
- Dodajte softverski iSCSI adapter (nije potrebno ako je veÄ dodat ili ako koristite hardverski iSCSI adapter);
- Kreiranje vSwitch-a kroz koji Äe proÄi iSCSI saobraÄaj i dodavanje fiziÄkog uplink-a i VMkernala na njega;
- Dodavanje niza adresa u Dynamic Discovery;
- Kreiranje skladiŔta podataka
Neke važne napomene:
- U opÅ”tem sluÄaju, naravno, možete koristiti postojeÄi vSwitch, ali u sluÄaju zasebnog vSwitch-a, upravljanje postavkama hosta Äe biti mnogo lakÅ”e.
- Neophodno je razdvojiti Upravljanje i iSCSI promet na zasebne fiziÄke veze i/ili VLAN-ove kako bi se izbjegli problemi s performansama.
- IP adrese VMkernala i odgovarajuÄi portovi All Flash niza moraju biti unutar iste podmreže, opet zbog problema sa performansama.
- Da bi se osigurala tolerancija greÅ”aka prema VMware pravilima, vSwitch mora imati najmanje dvije fiziÄke uplink-a
- Ako se koriste Jumbo okviri, morate promijeniti MTU i vSwitch i VMkernal
- Bilo bi korisno podsjetiti da je prema VMware preporukama za fiziÄke adaptere koji Äe se koristiti za rad sa iSCSI prometom potrebno konfigurirati Teaming i Failover. Konkretno, svaki VMkernal mora raditi samo preko jedne uzlazne veze, druga uplink mora biti prebaÄena u neiskoriÅ”teni naÄin rada. Za toleranciju greÅ”aka, morate dodati dva VMkernala, od kojih Äe svaki raditi preko vlastite uplink-a.
VMkernel adapter (vmk#)
FiziÄki mrežni adapter (vmnic#)
vmk1 (Storage01)
Aktivni adapteri
vmnic2
NekoriŔteni adapteri
vmnic3
vmk2 (Storage02)
Aktivni adapteri
vmnic3
NekoriŔteni adapteri
vmnic2
Nisu potrebni nikakvi preliminarni koraci za povezivanje putem Fibre Channel-a. Možete odmah kreirati Datastore.
Nakon kreiranja Datastore, morate biti sigurni da se Round Robin politika za putanje do cilja/LUN-a koristi kao najuÄinkovitija.
Podrazumevano, VMware postavke predviÄaju koriÅ”tenje ove politike prema Å”emi: 1000 zahtjeva kroz prvu putanju, sljedeÄih 1000 zahtjeva kroz drugu putanju, itd. Takva interakcija izmeÄu domaÄina i niza dva kontrolera Äe biti neuravnotežena. Stoga preporuÄujemo postavljanje parametra Round Robin = 1 putem Esxcli/PowerCLI.
parametri
Za Esxcli:
- Navedite dostupne LUN-ove
esxcli lista nmp ureÄaja za pohranu
- Kopiraj naziv ureÄaja
- Promijenite Round Robin politiku
esxcli memorija nmp psp roundrobin konfiguracija ureÄaja set ātype=iops āiops=1 ādevice=āDevice_IDā
VeÄina modernih aplikacija dizajnirana je za razmjenu velikih paketa podataka kako bi se maksimalno iskoristila propusnost i smanjilo optereÄenje CPU-a. Stoga, ESXi po defaultu izdaje I/O zahtjeve ureÄaju za skladiÅ”tenje u komadima do 32767 KB. MeÄutim, za neke scenarije, razmjena manjih dijelova Äe biti produktivnija. Za AccelStor nizove, ovo su sljedeÄi scenariji:
- Virtuelna maŔina koristi UEFI umesto zastarelog BIOS-a
- Koristi vSphere replikaciju
Za takve scenarije, preporuÄuje se da promijenite vrijednost parametra Disk.DiskMaxIOSize na 4096.
Za iSCSI konekcije, preporuÄuje se da promijenite parametar Timeout prijave na 30 (podrazumevano 5) kako biste poveÄali stabilnost veze i onemoguÄili odgodu DelayedAck za potvrde proslijeÄenih paketa. Obje opcije su u vSphere Client-u: Host ā Konfiguriraj ā SkladiÅ”te ā Adapteri za skladiÅ”tenje ā Napredne opcije za iSCSI adapter
PriliÄno suptilna taÄka je broj volumena koji se koriste za skladiÅ”te podataka. Jasno je da radi lakÅ”eg upravljanja postoji želja da se stvori jedan veliki volumen za cijeli volumen niza. MeÄutim, prisustvo nekoliko volumena i, shodno tome, skladiÅ”te podataka ima povoljan uÄinak na ukupne performanse (viÅ”e o redovima Äekanja u nastavku). Stoga preporuÄujemo stvaranje najmanje dva toma.
Do relativno nedavno, VMware je savjetovao ograniÄavanje broja virtuelnih maÅ”ina na jednom skladiÅ”tu podataka, opet kako bi se postigle najveÄe moguÄe performanse. MeÄutim, sada, posebno sa Å”irenjem VDI, ovaj problem viÅ”e nije tako akutan. Ali ovo ne poniÅ”tava dugotrajno pravilo - distribuirati virtuelne maÅ”ine koje zahtevaju intenzivan IO u razliÄitim skladiÅ”tima podataka. Za odreÄivanje optimalnog broja virtuelnih maÅ”ina po volumenu, ne postoji niÅ”ta bolje od toga u okviru svoje infrastrukture.
Postavljanje virtuelnih maŔina
Nema posebnih zahtjeva prilikom postavljanja virtuelnih maÅ”ina, odnosno sasvim su obiÄni:
- KoriÅ”tenje najviÅ”e moguÄe VM verzije (kompatibilnost)
- Pažljivije je podesiti veliÄinu RAM-a kada se virtuelne maÅ”ine postavljaju gusto, na primjer, u VDI (poÅ”to se prema zadanim postavkama pri pokretanju kreira datoteka stranice veliÄine srazmjerne RAM-u, koja troÅ”i korisni kapacitet i utiÄe na finalni nastup)
- Koristite najproduktivnije verzije adaptera u smislu IO: mrežni tip VMXNET 3 i SCSI tip PVSCSI
- Koristite tip diska Thick Provision Eager Zeroed za maksimalne performanse i Thin Provisioning za maksimalno koriŔtenje prostora za pohranu
- Ako je moguÄe, ograniÄite rad maÅ”ina koje nisu kritiÄne za I/O koriÅ”tenjem Virtual Disk Limit
- Obavezno instalirajte VMware Tools
Napomene o redovima
Red Äekanja (ili izvanredni I/O) je broj zahtjeva za unos/izlaz (SCSI naredbe) koji Äekaju na obradu u bilo kojem trenutku za odreÄeni ureÄaj/aplikaciju. U sluÄaju prekoraÄenja reda, izdaju se QFULL greÅ”ke, Å”to u konaÄnici rezultira poveÄanjem parametra kaÅ”njenja. Kada koristite disk (vreteno) sisteme za skladiÅ”tenje, teoretski, Å”to je veÄi red Äekanja, to su njihove performanse veÄe. MeÄutim, ne biste ga trebali zloupotrebljavati, jer je lako naiÄi na QFULL. U sluÄaju All Flash sistema, s jedne strane, sve je neÅ”to jednostavnije: na kraju krajeva, niz ima latencije koje su redove veliÄine niže i stoga, najÄeÅ”Äe, nema potrebe za posebnom regulacijom veliÄine redova. Ali s druge strane, u nekim scenarijima upotrebe (snažna iskrivljenost u IO zahtjevima za odreÄene virtuelne maÅ”ine, testovi za maksimalnu performansu, itd.) potrebno je, ako ne promijeniti parametre redova, onda barem razumjeti koji indikatori može se postiÄi, a najvažnije je na koje naÄine.
Na samom AccelStor All Flash nizu nema ograniÄenja u odnosu na volumene ili I/O portove. Ako je potrebno, Äak i jedan volumen može primiti sve resurse niza. Jedino ograniÄenje u redu Äekanja je za iSCSI ciljeve. Iz tog razloga je gore naznaÄena potreba za kreiranjem nekoliko (idealno do 8 komada) ciljeva za svaki volumen kako bi se prevaziÅ”lo ovo ograniÄenje. Ponovimo i da su AccelStor nizovi vrlo produktivna rjeÅ”enja. Stoga biste trebali koristiti sve portove interfejsa sistema da biste postigli maksimalnu brzinu.
Na strani domaÄina ESXi, situacija je potpuno drugaÄija. Sam domaÄin primjenjuje praksu jednakog pristupa resursima za sve uÄesnike. Stoga postoje odvojeni IO redovi za gostujuÄi OS i HBA. Redovi do gostujuÄeg OS-a se kombiniraju od redova do virtualnog SCSI adaptera i virtualnog diska:

Red do HBA zavisi od specifiÄnog tipa/prodavca:

KonaÄna izvedba virtuelne maÅ”ine Äe biti odreÄena najnižom granicom dubine reda meÄu komponentama hosta.
ZahvaljujuÄi ovim vrijednostima, možemo procijeniti pokazatelje uÄinka koje možemo dobiti u odreÄenoj konfiguraciji. Na primjer, želimo da znamo teorijske performanse virtuelne maÅ”ine (bez povezivanja bloka) sa latencijom od 0.5 ms. Tada je njegov IOPS = (1,000/latencija) * Izvanredni I/O (ograniÄenje dubine reda)
primjeri
primjer 1
- FC Emulex HBA adapter
- Jedan VM po skladiŔtu podataka
- VMware paravirtualni SCSI adapter
Ovdje je ograniÄenje dubine Äekanja odreÄeno Emulex HBA. Stoga IOPS = (1000/0.5)*32 = 64K
primjer 2
- VMware iSCSI softverski adapter
- Jedan VM po skladiŔtu podataka
- VMware paravirtualni SCSI adapter
Ovdje je granica dubine reda veÄ odreÄena paravirtualnim SCSI adapterom. Stoga IOPS = (1000/0.5)*64 = 128K
Najbolji modeli svih Flash AccelStor nizova (na primjer, ) su u stanju da isporuÄe performanse pisanja od 700K IOPS u bloku od 4K. Sa takvom veliÄinom bloka, sasvim je oÄigledno da jedna virtuelna maÅ”ina nije sposobna da uÄita takav niz. Da biste to uÄinili, trebat Äe vam 11 (na primjer 1) ili 6 (na primjer 2) virtuelnih maÅ”ina.
Kao rezultat toga, uz ispravnu konfiguraciju svih opisanih komponenti virtuelnog data centra, možete dobiti vrlo impresivne rezultate u pogledu performansi.

4K nasumiÄno, 70% Äitanja/30% pisanja
U stvari, stvarni svijet je mnogo složeniji nego Å”to se može opisati jednostavnom formulom. Jedan host uvijek hostuje viÅ”e virtuelnih maÅ”ina sa razliÄitim konfiguracijama i IO zahtevima. A I/O obradom upravlja glavni procesor, Äija snaga nije beskonaÄna. Dakle, da otkljuÄamo puni potencijal istog u stvarnosti Äe vam trebati tri hosta. Osim toga, aplikacije koje se pokreÄu unutar virtuelnih maÅ”ina vrÅ”e vlastita prilagoÄavanja. Stoga za precizno dimenzioniranje nudimo Svi Flash nizovi unutar infrastrukture korisnika na stvarnim tekuÄim zadacima.
izvor: www.habr.com
