VMware vSphereде VM иштешинин анализи. 3-бөлүк: Сактоо

VMware vSphereде VM иштешинин анализи. 3-бөлүк: Сактоо

1-бөлүк. CPU жөнүндө
2-бөлүк. Эстутум жөнүндө

Бүгүн биз vSphereдеги дисктин подсистемасынын көрсөткүчтөрүн талдайбыз. Сактоо маселеси жай виртуалдык машинанын эң кеңири таралган себеби болуп саналат. Эгерде CPU жана оперативдүү эс тутумда каталарды жоюу гипервизордун деңгээлинде аяктаса, анда дискте көйгөйлөр пайда болсо, маалымат тармагы жана сактоо тутуму менен күрөшүүгө туура келиши мүмкүн.

Мен файлга кирүү үчүн эсептегичтер болжол менен бирдей болсо да, сактоо тутумдарына кирүү мүмкүнчүлүгүн бөгөттөө мисалында теманы талкуулайм.

теориясынын бир үзүм

Виртуалдык машиналардын дисктик подсистемасынын иштеши жөнүндө сөз кылып жатып, адамдар адатта өз ара байланышкан үч параметрге көңүл бурушат:

  • киргизүү/чыгаруу операцияларынын саны (Секундда киргизүү/чыгаруу операциялары, IOPS);
  • өткөрүү жөндөмдүүлүгү;
  • киргизүү/чыгаруу операцияларынын кечигүү (Кечигүү).

IOPS саны кокустук жүктөө үчүн, адатта, маанилүү: ар кайсы жерлерде жайгашкан диск блокторуна кирүү. Мындай жүктүн мисалы маалымат базалары, бизнес тиркемелери (ERP, CRM) ж.б. болушу мүмкүн.

кубаттуулугу ырааттуу жүктер үчүн маанилүү: биринин артынан бири жайгашкан блокторго жетүү. Мисалы, файл серверлери (бирок дайыма эмес) жана видеокөзөмөл системалары мындай жүктү жаратышы мүмкүн.

Өткөрүү жөндөмдүүлүгү төмөнкүдөй киргизүү/чыгаруу операцияларынын санына байланыштуу:

Өткөрүү жөндөмдүүлүгү = IOPS * Блоктун көлөмү, бул жерде Блоктун өлчөмү блоктун өлчөмү.

Блок өлчөмү абдан маанилүү мүнөздөмөсү болуп саналат. ESXi'нин заманбап версиялары 32 767 КБ өлчөмүндөгү блокторго уруксат берет. Блок андан да чоң болсо, ал бир нечеге бөлүнөт. Бардык сактоо тутумдары мындай чоң блоктор менен эффективдүү иштей албайт, андыктан ESXi Advanced Settings ичинде DiskMaxIOSize параметри бар. Аны колдонуу менен сиз гипервизор өткөрүп жиберген блоктун максималдуу өлчөмүн азайта аласыз (толук маалымат бул жерде). Бул параметрди өзгөртүүдөн мурун, мен сизге сактоо тутумунун өндүрүүчүсү менен кеңешүүнү же жок дегенде лабораториялык отургучта өзгөртүүлөрдү сынап көрүүнү сунуштайм. 

Чоң блоктун көлөмү сактоо көрсөткүчүнө терс таасирин тийгизиши мүмкүн. IOPS саны жана өткөрүү жөндөмдүүлүгү салыштырмалуу аз болсо да, чоң блок өлчөмү менен жогорку кечигүүлөрдү байкоого болот. Ошондуктан, бул параметрге көңүл буруңуз.

кечигүү – эң кызыктуу аткаруу параметри. Виртуалдык машинанын киргизүү/чыгаруу күтүү убактысы төмөнкүлөрдөн турат:

  • гипервизордун ичиндеги кечигүүлөр (KAVG, Average Kernel MilliSec/Read);
  • маалымат тармагы жана сактоо системасы (DAVG, Average Driver MilliSec/Command) тарабынан берилген кечигүү.

Конок OS (GAVG, Average Guest MilliSec/Command) көрүнгөн жалпы кечигүү KAVG жана DAVG суммасы болуп саналат.

GAVG жана DAVG өлчөнөт жана KAVG эсептелет: GAVG–DAVG.

VMware vSphereде VM иштешинин анализи. 3-бөлүк: Сактоо
булак

Келгиле, кененирээк карап көрөлү КАВГ. Кадимки иштөө учурунда KAVG нөлгө же жок дегенде DAVGге караганда бир топ азыраак болушу керек. KAVG кайсы жерде күтүлүп жаткандыгы жөнүндө мен билем, бул VM дискиндеги IOPS чеги. Бул учурда, сиз чектен ашканга аракет кылганыңызда, КАВГ көбөйөт.

KAVGтин эң маанилүү компоненти QAVG - гипервизордун ичиндеги иштетүү кезеги убактысы. КАВГдын калган компоненттери анчалык деле жок.

Диск адаптер драйвериндеги кезек жана айларга кезек белгиленген өлчөмдө бар. Жогорку жүктөлгөн чөйрөлөр үчүн бул өлчөмүн көбөйтүү пайдалуу болушу мүмкүн. бул адаптер драйверинде кезектерди кантип көбөйтүүнү сүрөттөйт (ошол эле учурда айларга кезек көбөйөт). Бул жөндөө ай менен бир гана VM иштеп жатканда иштейт, бул сейрек кездешет. Айда бир нече VM бар болсо, сиз да параметрди жогорулатуу керек Disk.SchedNumReqOutstanding (көрсөтмөлөр  бул жерде). Кезекти көбөйтүү менен, сиз QAVG жана KAVG тиешелүүлүгүнө жараша азайтасыз.

Бирок дагы бир жолу, адегенде HBA сатуучусунун документтерин окуп чыгып, лабораториялык стенддеги өзгөртүүлөрдү сынап көрүңүз.

Айга кезектин өлчөмү SIOC (Storage I/O Control) механизмин киргизүү менен таасир этиши мүмкүн. Ал серверлердеги айга кезекти динамикалык түрдө өзгөртүү менен кластердеги бардык серверлерден Айга бирдей жетүү мүмкүнчүлүгүн камсыз кылат. Башкача айтканда, эгерде хосттордун бири пропорционалдуу эмес өндүрүмдүүлүктү талап кылган VM иштетип жатса (ызы-чуу кошуна VM), SIOC бул хосттогу (DQLEN) айга чейинки кезектин узундугун кыскартат. Кененирээк маалымат бул жерде.

Биз KAVGди иргедик, азыр бир аз DAVG. Бул жерде баары жөнөкөй: DAVG тышкы чөйрө (маалымат тармагы жана сактоо системасы) тарабынан киргизилген кечигүү. Ар бир заманбап жана анчалык деле заманбап эмес сактоо тутумунун өзүнүн аткаруу эсептегичтери бар. DAVG менен көйгөйлөрдү талдоо үчүн, аларды карап чыгуунун мааниси бар. ESXi жана сактоо жагында баары жакшы болсо, маалымат тармагын текшериңиз.

Майнаптуулук көйгөйлөрүн болтурбоо үчүн, сактоо тутумуңуз үчүн туура Жол тандоо саясатын (PSP) тандаңыз. Дээрлик бардык заманбап сактоо тутумдары PSP Round-Robinди колдойт (ALUA менен же жок, Асимметриялык логикалык бирдикке кирүү). Бул саясат сактоо тутумуна бардык жеткиликтүү жолдорду колдонууга мүмкүндүк берет. ALUA учурда, айга ээ болгон контроллерге баруучу жолдор гана колдонулат. ESXiдеги бардык сактоо тутумдарында Round-Robin саясатын койгон демейки эрежелер жок. Сактоо тутумуңуз үчүн эреже жок болсо, сактоо тутумунун өндүрүүчүсүнүн плагинин колдонуңуз, ал кластердеги бардык хосттордо тиешелүү эрежени түзөт же эрежени өзүңүз түзүңүз. Толук маалымат бул жерде

Ошондой эле, кээ бир сактоо тутумунун өндүрүүчүлөрү жол боюнча IOPS санын 1000 стандарттык мааниден 1ге чейин өзгөртүүнү сунушташат. Биздин практикада бул сактоо тутумунан көбүрөөк өндүрүмдүүлүктү "кысууга" жана иштен чыгуу үчүн талап кылынган убакытты бир топ кыскартууга мүмкүндүк берди. контроллер иштебей калган же жаңыртылган учурда. Сатуучунун сунуштарын текшериңиз, эгерде каршы көрсөтмөлөр жок болсо, бул параметрди өзгөртүүгө аракет кылыңыз. Толук маалымат бул жерде.

Негизги виртуалдык машина диск подсистемасынын аткаруу эсептегичтери

vCenter ичиндеги дисктин подсистемасынын иштешинин эсептегичтери Datastore, Disk, Virtual Disk бөлүмдөрүндө чогултулат:

VMware vSphereде VM иштешинин анализи. 3-бөлүк: Сактоо

Бөлүмүндө маалымат дүкөнү VM дисктери жайгашкан vSphere диск сактагычтары (маалыматтар сактагычтары) үчүн көрсөткүчтөр бар. Бул жерде сиз стандарттуу эсептегичтерди таба аласыз:

  • IOPS (секундасына орточо окуу/жазуу сурамдары), 
  • өткөрүү жөндөмдүүлүгү (окуу/жазуу ылдамдыгы), 
  • кечигүү (Оку/Жазуу/Эң жогорку күтүү).

Негизи эсептегичтердин аттарынан баары түшүнүктүү. Бул жердеги статистика конкреттүү VM (же VM диски) үчүн эмес, жалпы маалыматтар кампасынын жалпы статистикасы экенине дагы бир жолу көңүлүңүздү бурайын. Менин оюмча, бул статистиканы ESXTOPде кароо ыңгайлуураак, жок дегенде өлчөөнүн минималдуу мезгили 2 секунд экендигине таянуу менен.

Бөлүмүндө диск VM колдонгон блоктук түзмөктөрдө көрсөткүчтөр бар. Жыйынтыктоо түрүндөгү IOPS үчүн эсептегичтер (өлчөө мезгилиндеги киргизүү/чыгарма операцияларынын саны) жана бөгөт коюуга тиешелүү бир нече эсептегичтер (Буйруктар токтотулду, Автобус баштапкы абалга келтирилди). Менимче, бул маалыматты ESXTOPде көрүү дагы ыңгайлуу.

бөлүм Виртуалдык диск – VM дискинин подсистемасынын иштөө көйгөйлөрүн табуу көз карашынан алганда эң пайдалуу. Бул жерде сиз ар бир виртуалдык дисктин иштешин көрө аласыз. Бул белгилүү бир виртуалдык машинада көйгөй бар же жок экенин түшүнүү үчүн зарыл болгон маалымат. Киргизүү/чыгаруу операцияларынын саны, окуу/жазуу көлөмү жана кечигүү үчүн стандарттуу эсептегичтерден тышкары, бул бөлүм блоктун өлчөмүн көрсөткөн пайдалуу эсептегичтерди камтыйт: Окуу/Жазуу өтүнүчүнүн өлчөмү.

Төмөндөгү сүрөттө VM дискинин иштешинин графиги бар, анда сиз IOPS санын, күтүү убактысын жана блоктун өлчөмүн көрө аласыз. 

VMware vSphereде VM иштешинин анализи. 3-бөлүк: Сактоо

SIOC иштетилген болсо, сиз ошондой эле бүт маалымат кампасынын аткаруу көрсөткүчтөрүн көрө аласыз. Бул жерде орточо Latency жана IOPS боюнча негизги маалымат. Демейки боюнча, бул маалыматты реалдуу убакытта гана көрүүгө болот.

VMware vSphereде VM иштешинин анализи. 3-бөлүк: Сактоо

ESXTOP

ESXTOP бир нече экранга ээ, алар жалпысынан хост дискинин подсистемасы, жеке виртуалдык машиналар жана алардын дисктери жөнүндө маалымат берет.

Виртуалдык машиналар жөнүндө маалымат менен баштайлы. "Disk VM" экраны "v" баскычы менен чакырылат:

VMware vSphereде VM иштешинин анализи. 3-бөлүк: Сактоо

NVDISK VM дисктеринин саны. Ар бир диск үчүн маалыматты көрүү үчүн "e" баскычын басып, кызыккан VMнин GID кодун киргизиңиз.

Бул экранда калган параметрлердин мааниси алардын аттарынан көрүнүп турат.

Кыйынчылыктарды жоюуда дагы бир пайдалуу экран - Диск адаптери. "d" баскычы менен чакырылат (төмөнкү сүрөттө A,B,C,D,E,G талаалары тандалган):

VMware vSphereде VM иштешинин анализи. 3-бөлүк: Сактоо

NPTH – бул адаптерден көрүнүп турган айга жолдордун саны. Адаптердеги ар бир жол боюнча маалымат алуу үчүн "e" баскычын басып, адаптердин атын киргизиңиз:

VMware vSphereде VM иштешинин анализи. 3-бөлүк: Сактоо

AQLEN – адаптердеги кезектин максималдуу өлчөмү.

Ошондой эле бул экранда мен жогоруда айткан кечигүү эсептегичтери бар: KAVG/cmd, GAVG/cmd, DAVG/cmd, QAVG/cmd.

"u" баскычын басуу аркылуу чакырылган Диск түзүлүшүнүн экраны жеке блоктук түзүлүштөр - айлар (төмөндөгү сүрөттө тандалган A, B, F, G, I талаалары) жөнүндө маалымат берет. Бул жерден сиз айлар үчүн кезектин абалын көрө аласыз.

VMware vSphereде VM иштешинин анализи. 3-бөлүк: Сактоо

DQLEN – блоктук түзүлүш үчүн кезек өлчөмү.
ACTV – ESXi өзөгүндөгү киргизүү/чыгаруу буйруктарынын саны.
QUED – кезектеги киргизүү/чыгаруу командаларынын саны.
%USD – ACTV / DQLEN × 100%.
LOAD – (ACTV + QUED) / DQLEN.

Эгер %USD жогору болсо, кезекти көбөйтүүнү ойлонушуңуз керек. Кезектеги командалар канчалык көп болсо, ошончолук QAVG жана ошончолук жогору болот.

VAAI (Array Integration for vStorage API) сактоо тутумунда иштеп жатканын да Диск түзмөгүнүн экранынан көрө аласыз. Бул үчүн A жана O талааларын тандаңыз.

VAAI механизми иштин бир бөлүгүн гипервизордон түздөн-түз сактоо тутумуна өткөрүүгө мүмкүндүк берет, мисалы, нөлгө түшүрүү, блокторду көчүрүү же бөгөттөө.

VMware vSphereде VM иштешинин анализи. 3-бөлүк: Сактоо

Жогорудагы сүрөттө көрүнүп тургандай, VAAI бул сактоо тутумунда иштейт: Zero жана ATS примитивдери активдүү колдонулат.

ESXiдеги дисктин подсистемасы менен иштөөнү оптималдаштыруу боюнча кеңештер

  • Блоктун өлчөмүнө көңүл буруңуз.
  • HBAдагы кезектин оптималдуу өлчөмүн коюңуз.
  • Маалымат дүкөндөрүндө SIOCти иштетүүнү унутпаңыз.
  • Сактоо тутумунун өндүрүүчүсүнүн сунуштарына ылайык PSP тандаңыз.
  • VAAI иштеп жатканын текшериңиз.

Тема боюнча пайдалуу макалалар:http://www.yellow-bricks.com/2011/06/23/disk-schednumreqoutstanding-the-story/
http://www.yellow-bricks.com/2009/09/29/whats-that-alua-exactly/
http://www.yellow-bricks.com/2019/03/05/dqlen-changes-what-is-going-on/
https://www.codyhosterman.com/2017/02/understanding-vmware-esxi-queuing-and-the-flasharray/
https://www.codyhosterman.com/2018/03/what-is-the-latency-stat-qavg/
https://kb.vmware.com/s/article/1267
https://kb.vmware.com/s/article/1268
https://kb.vmware.com/s/article/1027901
https://kb.vmware.com/s/article/2069356
https://kb.vmware.com/s/article/2053628
https://kb.vmware.com/s/article/1003469
https://www.vmware.com/content/dam/digitalmarketing/vmware/en/pdf/techpaper/performance/vsphere-esxi-vcenter-server-67-performance-best-practices.pdf

Source: www.habr.com

Комментарий кошуу