VMware vSphere жүйесінде VM өнімділігін талдау. 3-бөлім: Сақтау

VMware vSphere жүйесінде VM өнімділігін талдау. 3-бөлім: Сақтау

1-бөлім. Орталық процессор туралы
2-бөлім. Жад туралы

Бүгін біз vSphere ішіндегі дискілік ішкі жүйенің көрсеткіштерін талдаймыз. Сақтау мәселесі - виртуалды машинаның баяу жұмыс істеуінің ең көп тараған себебі. Егер процессор мен жедел жад жағдайында ақауларды жою гипервизор деңгейінде аяқталса, дискіде ақаулар болса, деректер желісі мен сақтау жүйесімен айналысуға тура келуі мүмкін.

Мен тақырыпты сақтау жүйелеріне кіруді блоктау мысалында талқылаймын, дегенмен файлдарға қол жеткізу үшін есептегіштер шамамен бірдей.

Біраз теория

Виртуалды машиналардың дискілік ішкі жүйесінің өнімділігі туралы айтқанда, адамдар әдетте өзара байланысты үш параметрге назар аударады:

  • енгізу/шығару операцияларының саны (Input/Output Operations Per Second, IOPS);
  • өткізу қабілеті;
  • енгізу/шығару операцияларының кешігуі (Кідіріс).

IOPS саны әдетте кездейсоқ жұмыс жүктемелері үшін маңызды: әртүрлі жерлерде орналасқан диск блоктарына қол жеткізу. Мұндай жүктеменің мысалы ретінде дерекқорлар, бизнес-қосымшалар (ERP, CRM) және т.б.

Өткізу қабілеті дәйекті жүктемелер үшін маңызды: бірінен соң бірі орналасқан блоктарға қол жеткізу. Мысалы, файлдық серверлер (бірақ әрқашан емес) және бейнебақылау жүйелері мұндай жүктемені жасай алады.

Өткізу қабілеттілігі енгізу/шығару операцияларының санына төмендегідей байланысты:

Өткізу қабілеті = IOPS * Блок өлшемі, мұндағы Блок өлшемі - блок өлшемі.

Блок өлшемі өте маңызды сипаттама болып табылады. ESXi заманауи нұсқалары өлшемі 32 767 КБ дейінгі блоктарға мүмкіндік береді. Егер блок одан да үлкен болса, ол бірнеше бөлікке бөлінеді. Барлық сақтау жүйелері мұндай үлкен блоктармен тиімді жұмыс істей алмайды, сондықтан ESXi Advanced Settings ішінде DiskMaxIOSize параметрі бар. Оны пайдалану арқылы сіз гипервизор өткізіп жіберген максималды блок өлшемін азайта аласыз (толығырақ осында). Бұл параметрді өзгертпес бұрын, сақтау жүйесінің өндірушісімен кеңесуді немесе кем дегенде зертханалық стендте өзгерістерді тексеруді ұсынамын. 

Үлкен блок өлшемі сақтау өнімділігіне зиянды әсер етуі мүмкін. IOPS саны мен өткізу қабілеті салыстырмалы түрде аз болса да, үлкен блок өлшемімен жоғары кідірістерді байқауға болады. Сондықтан осы параметрге назар аударыңыз.

Кідіріс – ең қызықты өнімділік параметрі. Виртуалды машинаның енгізу/шығару кідірісі мыналардан тұрады:

  • гипервизор ішіндегі кешігулер (KAVG, Average Kernel MilliSec/Read);
  • деректер желісі және сақтау жүйесі (DAVG, Average Driver MilliSec/Command) қамтамасыз ететін кідіріс.

Қонақ ОЖ (GAVG, Average Guest MilliSec/Command) көрінетін жалпы кідіріс KAVG және DAVG қосындысы болып табылады.

GAVG және DAVG өлшенеді және KAVG есептеледі: GAVG–DAVG.

VMware vSphere жүйесінде VM өнімділігін талдау. 3-бөлім: Сақтау
Көзі

Толығырақ қарастырайық KAVG. Қалыпты жұмыс кезінде KAVG нөлге тең болуы немесе кем дегенде DAVG-ден әлдеқайда аз болуы керек. KAVG қай жерде жоғары болатынын білетін жалғыз жағдай - VM дискідегі IOPS шегі. Бұл жағдайда сіз шектен асып кетуге тырысқанда, KAVG артады.

KAVG ең маңызды құрамдас бөлігі QAVG болып табылады - гипервизор ішіндегі өңдеу кезегі уақыты. KAVG қалған құрамдастары шамалы.

Диск адаптері драйверіндегі кезек пен айларға кезек белгіленген өлшемге ие. Жоғары жүктелген орталар үшін бұл өлшемді үлкейту пайдалы болуы мүмкін. Бұл адаптер драйверіндегі кезектерді қалай көбейту керектігін сипаттайды (бір уақытта айларға кезек артады). Бұл параметр аймен бір ғана VM жұмыс істегенде жұмыс істейді, бұл сирек кездеседі. Айда бірнеше VM болса, параметрді де арттыру керек Disk.SchedNumReqOutstanding (нұсқаулар  осында). Кезекті ұлғайту арқылы сіз QAVG және KAVG сәйкесінше азайтасыз.

Бірақ қайтадан, алдымен HBA жеткізушісінің құжаттамасын оқып шығыңыз және өзгерістерді зертханалық стендте тексеріңіз.

Айға кезектің өлшеміне SIOC (Storage I/O Control) механизмінің қосылуы әсер етуі мүмкін. Ол серверлердегі айға кезекті динамикалық түрде өзгерту арқылы кластердегі барлық серверлерден айға біркелкі қол жеткізуді қамтамасыз етеді. Яғни, егер хосттардың бірі пропорционалды емес өнімділікті талап ететін VM іске қосса (шулы көрші VM), SIOC осы хосттағы айға дейінгі кезек ұзақтығын азайтады (DQLEN). Қосымша мәліметтер осында.

Біз KAVG сұрыптадық, енді аздап DAVG. Мұнда бәрі қарапайым: DAVG - сыртқы орта (деректер желісі және сақтау жүйесі) енгізетін кідіріс. Әрбір заманауи және соншалықты заманауи емес сақтау жүйесінде өзінің өнімділік есептегіштері бар. DAVG проблемаларын талдау үшін оларға қараудың мәні бар. ESXi және сақтау жағында бәрі жақсы болса, деректер желісін тексеріңіз.

Өнімділік мәселелерін болдырмау үшін сақтау жүйесі үшін дұрыс жолды таңдау саясатын (PSP) таңдаңыз. Барлық дерлік заманауи сақтау жүйелері PSP Round-Robin (ALUA бар немесе онсыз, асимметриялық логикалық блокқа қол жеткізу) қолдайды. Бұл саясат сақтау жүйесіне қолжетімді барлық жолдарды пайдалануға мүмкіндік береді. ALUA жағдайында айға иелік ететін контроллерге апаратын жолдар ғана пайдаланылады. ESXi жүйесіндегі барлық сақтау жүйелерінде Round-Robin саясатын орнататын әдепкі ережелер жоқ. Сақтау жүйеңіз үшін ереже болмаса, кластердегі барлық хосттарда сәйкес ережені жасайтын сақтау жүйесінің өндірушісінен плагинді пайдаланыңыз немесе ережені өзіңіз жасаңыз. Егжей осында

Сондай-ақ, кейбір сақтау жүйесінің өндірушілері жолдағы IOPS санын стандартты 1000 мәннен 1-ге дейін өзгертуді ұсынады. Біздің тәжірибемізде бұл сақтау жүйесінен көбірек өнімділікті «сығуға» және істен шығуға қажетті уақытты айтарлықтай қысқартуға мүмкіндік берді. контроллер ақаулығы немесе жаңарту жағдайында. Жеткізушінің ұсыныстарын тексеріңіз, егер қарсы көрсетілімдер болмаса, осы параметрді өзгертіп көріңіз. Егжей осында.

Негізгі виртуалды машина дискінің ішкі жүйесінің өнімділік есептегіштері

vCenter жүйесіндегі дискілік ішкі жүйе өнімділігі есептегіштері Datastore, Disk, Virtual Disk бөлімдерінде жиналады:

VMware vSphere жүйесінде VM өнімділігін талдау. 3-бөлім: Сақтау

бөлім Деректер қоймасы VM дискілері орналасқан vSphere диск қоймаларына (деректер қоймаларына) арналған көрсеткіштер бар. Мұнда сіз стандартты есептегіштерді таба аласыз:

  • IOPS (секундына орташа оқу/жазу сұранысы), 
  • өткізу қабілеті (оқу/жазу жылдамдығы), 
  • кешігулер (Оқу/Жазу/Ең жоғары кідіріс).

Негізінде, есептегіштердің атауларынан бәрі түсінікті. Мұндағы статистика нақты VM (немесе VM дискі) үшін емес, бүкіл деректер қоймасының жалпы статистикасы екеніне тағы бір рет назарларыңызды аударуға рұқсат етіңіздер. Менің ойымша, бұл статистиканы ESXTOP-те қарау ыңғайлырақ, кем дегенде, ол жерде ең аз өлшеу кезеңі 2 секунд екеніне негізделген.

бөлім диск VM пайдаланатын блоктық құрылғыларда көрсеткіштер бар. Қосынды түріндегі IOPS үшін есептегіштер (өлшеу кезеңіндегі енгізу/шығару операцияларының саны) және блокқа кіруге қатысты бірнеше есептегіштер (Пәрмендер тоқтатылды, Автобус қалпына келтірілді). Менің ойымша, бұл ақпаратты ESXTOP ішінде қарау да ыңғайлы.

Бөлім Виртуалды диск – VM дискінің ішкі жүйесінің өнімділік мәселелерін табу тұрғысынан ең пайдалысы. Мұнда сіз әрбір виртуалды дискінің өнімділігін көре аласыз. Дәл осы ақпарат белгілі бір виртуалды машинада ақау бар-жоғын түсіну үшін қажет. Енгізу/шығару операцияларының санына, оқу/жазу көлеміне және кідірістерге арналған стандартты есептегіштерден басқа, бұл бөлімде блок өлшемін көрсететін пайдалы есептегіштер бар: Оқу/жазу сұранысының өлшемі.

Төмендегі суретте IOPS санын, күту уақытын және блок өлшемін көруге болатын VM дискінің өнімділігінің графигі берілген. 

VMware vSphere жүйесінде VM өнімділігін талдау. 3-бөлім: Сақтау

Сондай-ақ, SIOC қосылған болса, бүкіл деректер қоймасының өнімділік көрсеткіштерін көруге болады. Мұнда орташа кідіріс және IOPS туралы негізгі ақпарат берілген. Әдепкі бойынша, бұл ақпаратты тек нақты уақытта көруге болады.

VMware vSphere жүйесінде VM өнімділігін талдау. 3-бөлім: Сақтау

ESXTOP

ESXTOP-те жалпы хост дискінің ішкі жүйесі, жеке виртуалды машиналар және олардың дискілері туралы ақпарат беретін бірнеше экрандар бар.

Виртуалды машиналар туралы ақпараттан бастайық. «Disk VM» экраны «v» пернесі арқылы шақырылады:

VMware vSphere жүйесінде VM өнімділігін талдау. 3-бөлім: Сақтау

NVDISK VM дискілерінің саны болып табылады. Әрбір дискіге арналған ақпаратты көру үшін «e» түймесін басып, қызықтыратын VM GID енгізіңіз.

Бұл экрандағы қалған параметрлердің мағынасы олардың атауларынан анық.

Ақаулықтарды жою кезіндегі тағы бір пайдалы экран - диск адаптері. «d» пернесі арқылы шақырылады (төмендегі суретте A,B,C,D,E,G өрістері таңдалған):

VMware vSphere жүйесінде VM өнімділігін талдау. 3-бөлім: Сақтау

NPTH – осы адаптерден көрінетін айға апаратын жолдардың саны. Адаптердегі әрбір жол туралы ақпаратты алу үшін «e» түймесін басып, адаптердің атын енгізіңіз:

VMware vSphere жүйесінде VM өнімділігін талдау. 3-бөлім: Сақтау

AQLEN – адаптердегі кезектің максималды өлшемі.

Сондай-ақ, осы экранда мен жоғарыда айтқан кешіктіру есептегіштері бар: KAVG/cmd, GAVG/cmd, DAVG/cmd, QAVG/cmd.

«u» пернесін басу арқылы шақырылатын Диск құрылғысының экраны жеке блоктық құрылғылар - айлар туралы ақпаратты береді (төмендегі суретте A, B, F, G, I өрістері таңдалған). Мұнда сіз айлар кезегінің күйін көре аласыз.

VMware vSphere жүйесінде VM өнімділігін талдау. 3-бөлім: Сақтау

DQLEN – блоктық құрылғы үшін кезек өлшемі.
ACTV – ESXi ядросындағы енгізу/шығару командаларының саны.
QUED – кезектегі енгізу/шығару командаларының саны.
%АҚШ ДОЛЛАРЫ – ACTV / DQLEN × 100%.
САЛУ – (ACTV + QUED) / DQLEN.

%USD жоғары болса, кезекті ұлғайту мүмкіндігін қарастыру керек. Кезектегі командалар неғұрлым көп болса, соғұрлым QAVG және сәйкесінше KAVG жоғары болады.

Сондай-ақ, диск құрылғысының экранында VAAI (массив интеграциясына арналған vStorage API) сақтау жүйесінде жұмыс істеп тұрғанын көре аласыз. Ол үшін A және O өрістерін таңдаңыз.

VAAI механизмі жұмыстың бір бөлігін гипервизордан тікелей сақтау жүйесіне тасымалдауға мүмкіндік береді, мысалы, нөлге келтіру, блоктарды көшіру немесе блоктау.

VMware vSphere жүйесінде VM өнімділігін талдау. 3-бөлім: Сақтау

Жоғарыдағы суретте көріп отырғаныңыздай, VAAI бұл сақтау жүйесінде жұмыс істейді: Zero және ATS примитивтері белсенді қолданылады.

ESXi жүйесіндегі дискілік ішкі жүйемен жұмысты оңтайландыру бойынша кеңестер

  • Блок өлшеміне назар аударыңыз.
  • HBA жүйесінде оңтайлы кезек өлшемін орнатыңыз.
  • Деректер қоймаларында SIOC қосуды ұмытпаңыз.
  • Сақтау жүйесін өндірушінің ұсыныстарына сәйкес PSP таңдаңыз.
  • VAAI жұмыс істеп тұрғанына көз жеткізіңіз.

Тақырыбы бойынша пайдалы мақалалар:http://www.yellow-bricks.com/2011/06/23/disk-schednumreqoutstanding-the-story/
http://www.yellow-bricks.com/2009/09/29/whats-that-alua-exactly/
http://www.yellow-bricks.com/2019/03/05/dqlen-changes-what-is-going-on/
https://www.codyhosterman.com/2017/02/understanding-vmware-esxi-queuing-and-the-flasharray/
https://www.codyhosterman.com/2018/03/what-is-the-latency-stat-qavg/
https://kb.vmware.com/s/article/1267
https://kb.vmware.com/s/article/1268
https://kb.vmware.com/s/article/1027901
https://kb.vmware.com/s/article/2069356
https://kb.vmware.com/s/article/2053628
https://kb.vmware.com/s/article/1003469
https://www.vmware.com/content/dam/digitalmarketing/vmware/en/pdf/techpaper/performance/vsphere-esxi-vcenter-server-67-performance-best-practices.pdf

Ақпарат көзі: www.habr.com

пікір қалдыру