Февраль айында Стэнфорддо жогорку өндүрүмдүү эсептөөлөр (HPC) боюнча конференция өттү. VMware өкүлдөрү GPU менен иштөөдө модификацияланган ESXi гипервизоруна негизделген система жылаңач металл чечимдеринен ылдамдыгы жагынан кем калбасын айтышты.
Биз буга жетишүүгө мүмкүндүк берген технологиялар жөнүндө сөз кылабыз.
/ сүрөт
Аткаруу маселеси
Аналитиктердин айтымында, маалымат борборлорунун жүктөмүнүн болжол менен 70% . Бирок, калган 30% дагы эле гипервизорлорсуз жылаңач металлда иштейт. Бул 30% көбүнчө нейрондук тармактарды окутуу жана GPU колдонуу сыяктуу жогорку жүктөмдүү тиркемелерден турат.
Эксперттер бул тенденцияны гипервизор аралык абстракция катмары катары бүткүл системанын иштешине таасир этиши менен түшүндүрүшөт. Беш жыл мурун окууда иштин ылдамдыгын 10 процентке кыскартуу женунде. Ошондуктан, компаниялар жана маалымат борборунун операторлору HPC иш жүгүн виртуалдык чөйрөгө өткөрүүгө шашылбайт.
Бирок виртуалдаштыруу технологиялары өнүгүп, жакшырып жатат. Бир ай мурун өткөн конференцияда VMware ESXi гипервизору GPU иштешине терс таасирин тийгизбейт деп айтты. Эсептөө ылдамдыгын үч пайызга кыскартууга болот, бул жылаңач металл менен салыштырууга болот.
Бул кандай иштейт
GPU менен HPC системаларынын иштешин жакшыртуу үчүн, VMware гипервизорго бир катар өзгөртүүлөрдү киргизди. Атап айтканда, ал vMotion функциясынан арылган. Бул жүктү теңдөө үчүн керек жана адатта виртуалдык машиналарды (VM) серверлер же GPU ортосунда өткөрөт. vMotion өчүрүлгөндө, ар бир VM азыр белгилүү GPU ыйгарылган. Бул маалымат алмашууда чыгымдарды кыскартууга жардам берди.
Системанын дагы бир негизги компоненти DirectPath I/O. Бул CUDA параллелдүү эсептөө драйверине гипервизорду айланып өтүп, виртуалдык машиналар менен түздөн-түз иштешүүгө мүмкүндүк берет. Бир эле учурда бир GPUде бир нече VM иштетүү керек болгондо, GRID vGPU чечими колдонулат. Ал картанын эс тутумун бир нече сегменттерге бөлөт (бирок эсептөө циклдери бөлүнбөйт).
Бул учурда эки виртуалдык машинанын иштөө диаграммасы төмөнкүдөй болот:
Натыйжалар жана божомолдор
компания негизинде тил моделин окутуу менен hypervisor . Аткаруу "зыян" жылаңач металлга салыштырмалуу 3-4% гана болгон. Өз кезегинде система учурдагы жүктөмгө жараша ресурстарды суроо-талап боюнча бөлүштүрө алган.
IT гиганты да контейнерлер менен. Компаниянын инженерлери нейрон тармактарын сүрөттөрдү таанууга үйрөтүштү. Ошол эле учурда, бир GPU ресурстары төрт контейнер VM ортосунда бөлүштүрүлгөн. Натыйжада, айрым машиналардын өндүрүмдүүлүгү 17% га төмөндөгөн (GPU ресурстарына толук мүмкүнчүлүгү бар бир VMге салыштырмалуу). Бирок, секундасына иштетилген сүрөттөрдүн саны үч жолу. Мындай системалар күтүлүүдө маалыматтарды талдоо жана компьютердик моделдөө боюнча колдонмолор.
VMware туш болушу мүмкүн болгон көйгөйлөрдүн арасында, эксперттер кыйла тар максаттуу аудитория. Аз сандагы компаниялар дагы эле жогорку натыйжалуу системалар менен иштеп жатышат. Статистада болсо да 2021-жылга карата дүйнөдөгү маалымат борборлорунун жүктөмүнүн 94% виртуалдаштырылат. By аналитиктердин айтымында, HPC рыногунун наркы 32-жылдан 45-жылга чейинки мезгилде 2017ден 2022 миллиард долларга чейин өсөт.
/ сүрөт PD
Окшош чечимдер
Рынокто ири IT-компаниялар тарабынан иштелип чыккан бир нече аналогдор бар: AMD жана Intel.
GPU виртуалдаштыруу үчүн биринчи компания SR-IOV (бир тамырлуу киргизүү/чыгарууну виртуалдаштыруу) негизиндеги мамиле. Бул технология VMге системанын аппараттык мүмкүнчүлүктөрүнүн бир бөлүгүнө мүмкүнчүлүк берет. Чечим GPU'ну виртуалдаштырылган системалардын бирдей иштеши менен 16 колдонуучулардын ортосунда бөлүшүүгө мүмкүндүк берет.
Экинчи IT гигантына келсек, алар Citrix XenServer 7 гипервизорунда.Ал стандарттык GPU драйверинин жана виртуалдык машинанын ишин айкалыштырат, бул акыркыга жүздөгөн колдонуучулардын түзүлүштөрүндө 3D тиркемелерин жана иш такталарын көрсөтүүгө мүмкүндүк берет.
Технологиянын келечеги
Виртуалдык GPU иштеп чыгуучулары AI системаларын ишке ашыруу жана бизнес-технологиялар рыногунда жогорку натыйжалуу чечимдердин популярдуулугу өсүүдө. Алар чоң көлөмдөгү маалыматтарды иштетүү зарылдыгы vGPUларга суроо-талапты жогорулатат деп үмүттөнүшөт.
Азыр өндүрүүчүлөр графикага байланыштуу маселелерди чечүүнү, математикалык эсептөөлөрдү, логикалык операцияларды жана маалыматтарды иштеп чыгууну тездетүү үчүн CPU жана GPU функцияларын бир өзөктө бириктирет. Келечекте мындай өзөктөрдүн рынокто пайда болушу ресурсту виртуалдаштырууга болгон мамилени жана аларды виртуалдык жана булут чөйрөлөрүндөгү иш жүктөмдөрүнүн ортосунда бөлүштүрүүнү өзгөртөт.
Биздин корпоративдик блогубуздагы тема боюнча эмнени окуу керек:
Биздин Telegram каналыбыздан бир нече билдирүүлөр:
Source: www.habr.com