ສະຖານະການ: GPUs virtual ບໍ່ຕໍ່າກວ່າໃນການປະຕິບັດການແກ້ໄຂບັນຫາຮາດແວ

ໃນເດືອນກຸມພາ, Stanford ເປັນເຈົ້າພາບກອງປະຊຸມກ່ຽວກັບຄອມພິວເຕີ້ທີ່ມີປະສິດທິພາບສູງ (HPC). ຜູ້ຕາງຫນ້າ VMware ກ່າວວ່າເມື່ອເຮັດວຽກກັບ GPU, ລະບົບທີ່ອີງໃສ່ hypervisor ESXi ທີ່ຖືກດັດແປງແມ່ນບໍ່ຕໍ່າກວ່າຄວາມໄວໃນການແກ້ໄຂບັນຫາໂລຫະ.

ພວກເຮົາສົນທະນາກ່ຽວກັບເຕັກໂນໂລຢີທີ່ເຮັດໃຫ້ມັນເປັນໄປໄດ້ທີ່ຈະບັນລຸເປົ້າຫມາຍດັ່ງກ່າວ.

/ ຮູບ Victorgrigas CC BY-SA

ບັນຫາການປະຕິບັດ

ອີງຕາມນັກວິເຄາະ, ປະມານ 70% ຂອງວຽກຢູ່ໃນສູນຂໍ້ມູນ virtualized. ຢ່າງໃດກໍ່ຕາມ, 30% ທີ່ຍັງເຫຼືອຍັງແລ່ນຢູ່ໃນໂລຫະເປົ່າໂດຍບໍ່ມີ hypervisors. ນີ້ 30% ສ່ວນຫຼາຍແມ່ນປະກອບດ້ວຍຄໍາຮ້ອງສະຫມັກທີ່ມີການໂຫຼດສູງ, ເຊັ່ນ: ທີ່ກ່ຽວຂ້ອງກັບການຝຶກອົບຮົມເຄືອຂ່າຍ neural, ແລະການນໍາໃຊ້ GPUs.

ຜູ້ຊ່ຽວຊານອະທິບາຍແນວໂນ້ມນີ້ໂດຍຄວາມຈິງທີ່ວ່າ hypervisor, ເປັນຊັ້ນ abstraction ລະດັບປານກາງ, ສາມາດສົ່ງຜົນກະທົບຕໍ່ການປະຕິບັດຂອງລະບົບທັງຫມົດ. ໃນການສຶກສາຫ້າປີກ່ອນ ທ່ານ​ສາ​ມາດ​ຊອກ​ຫາ​ຂໍ້​ມູນ​ໄດ້​ ກ່ຽວກັບການຫຼຸດຜ່ອນຄວາມໄວຂອງການເຮັດວຽກ 10%. ດັ່ງນັ້ນ, ບໍລິສັດແລະຜູ້ປະຕິບັດການສູນຂໍ້ມູນແມ່ນບໍ່ຮີບຮ້ອນທີ່ຈະໂອນ HPC workloads ໄປສູ່ສະພາບແວດລ້ອມ virtual.

ແຕ່ເຕັກໂນໂລຢີ virtualization ກໍາລັງພັດທະນາແລະປັບປຸງ. ໃນກອງປະຊຸມຫນຶ່ງເດືອນກ່ອນຫນ້ານີ້, VMware ກ່າວວ່າ hypervisor ESXi ບໍ່ມີຜົນກະທົບທາງລົບຕໍ່ການປະຕິບັດ GPU. ຄວາມໄວຂອງຄອມພິວເຕີ້ສາມາດຫຼຸດລົງສາມສ່ວນຮ້ອຍ, ເຊິ່ງທຽບເທົ່າກັບໂລຫະເປົ່າ.

ວິທີການເຮັດວຽກນີ້

ເພື່ອປັບປຸງປະສິດທິພາບຂອງລະບົບ HPC ກັບ GPUs, VMware ໄດ້ມີການປ່ຽນແປງຈໍານວນຫນຶ່ງຕໍ່ກັບ hypervisor. ໂດຍສະເພາະ, ມັນຖືກກໍາຈັດຂອງຟັງຊັນ vMotion. ມັນເປັນສິ່ງຈໍາເປັນສໍາລັບການດຸ່ນດ່ຽງການໂຫຼດແລະປົກກະຕິແລ້ວການໂອນເຄື່ອງ virtual (VMs) ລະຫວ່າງເຄື່ອງແມ່ຂ່າຍຫຼື GPUs. ການປິດການນຳໃຊ້ vMotion ສົ່ງຜົນໃຫ້ແຕ່ລະ VM ໄດ້ຖືກມອບໝາຍ GPU ສະເພາະ. ນີ້ຊ່ວຍຫຼຸດຜ່ອນຄ່າໃຊ້ຈ່າຍໃນເວລາແລກປ່ຽນຂໍ້ມູນ.

ອົງປະກອບທີ່ສໍາຄັນອີກອັນຫນຶ່ງຂອງລະບົບ ແມ່ນ​ເຕັກ​ໂນ​ໂລ​ຊີ​ DirectPath I/O. ມັນອະນຸຍາດໃຫ້ໄດເວີຄອມພິວເຕີ້ຂະຫນານ CUDA ພົວພັນກັບເຄື່ອງຈັກ virtual ໂດຍກົງ, ຂ້າມ hypervisor. ເມື່ອທ່ານຕ້ອງການເປີດໃຊ້ VM ຫຼາຍອັນໃນ GPU ດຽວ, ການແກ້ໄຂ GRID vGPU ຖືກນໍາໃຊ້. ມັນແບ່ງຫນ່ວຍຄວາມຈໍາຂອງບັດອອກເປັນຫຼາຍພາກສ່ວນ (ແຕ່ວົງຈອນການຄິດໄລ່ບໍ່ໄດ້ແບ່ງອອກ).

ແຜນວາດການດໍາເນີນງານຂອງສອງເຄື່ອງ virtual ໃນກໍລະນີນີ້ຈະມີລັກສະນະນີ້:

ຜົນໄດ້ຮັບແລະການຄາດຄະເນ

ບໍ​ລິ​ສັດ ໄດ້​ດໍາ​ເນີນ​ການ​ທົດ​ສອບ​ hypervisor ໂດຍການຝຶກອົບຮົມຮູບແບບພາສາໂດຍອີງໃສ່ TensorFlow. ການປະຕິບັດ "ຄວາມເສຍຫາຍ" ແມ່ນພຽງແຕ່ 3-4% ເມື່ອທຽບກັບໂລຫະເປົ່າ. ໃນທາງກັບກັນ, ລະບົບສາມາດແຈກຢາຍຊັບພະຍາກອນຕາມຄວາມຕ້ອງການໂດຍອີງຕາມການໂຫຼດໃນປະຈຸບັນ.

ຍັກໃຫຍ່ໄອທີເຊັ່ນກັນ ໄດ້​ດໍາ​ເນີນ​ການ​ທົດ​ສອບ​ ກັບບັນຈຸ. ວິສະວະກອນຂອງບໍລິສັດໄດ້ຝຶກອົບຮົມເຄືອຂ່າຍ neural ເພື່ອຮັບຮູ້ຮູບພາບ. ໃນເວລາດຽວກັນ, ຊັບພະຍາກອນຂອງຫນຶ່ງ GPU ໄດ້ຖືກແຈກຢາຍລະຫວ່າງສີ່ຖັງ VMs. ດັ່ງນັ້ນ, ການປະຕິບັດຂອງເຄື່ອງຈັກແຕ່ລະຄົນຫຼຸດລົງ 17% (ເມື່ອປຽບທຽບກັບ VM ດຽວທີ່ມີການເຂົ້າເຖິງຊັບພະຍາກອນ GPU ຢ່າງເຕັມທີ່). ຢ່າງໃດກໍຕາມ, ຈໍານວນຂອງຮູບພາບທີ່ປະມວນຜົນຕໍ່ວິນາທີ ເພີ່ມຂຶ້ນ ສາມເທື່ອ. ຄາດວ່າລະບົບດັ່ງກ່າວ ຈະພົບເຫັນ ຄໍາຮ້ອງສະຫມັກໃນການວິເຄາະຂໍ້ມູນແລະການສ້າງແບບຈໍາລອງຄອມພິວເຕີ.

ໃນບັນດາບັນຫາທີ່ເປັນໄປໄດ້ທີ່ VMware ອາດຈະປະເຊີນ, ຜູ້ຊ່ຽວຊານ ຈັດສັນ ຜູ້ຊົມເປົ້າຫມາຍແຄບ. ບໍລິສັດຈໍານວນນ້ອຍຍັງເຮັດວຽກກັບລະບົບທີ່ມີປະສິດທິພາບສູງ. ເຖິງແມ່ນວ່າຢູ່ໃນ Statista ສະເຫຼີມສະຫຼອງວ່າໃນປີ 2021, 94% ຂອງວຽກສູນຂໍ້ມູນຂອງໂລກຈະຖືກ virtualized. ໂດຍ ການຄາດຄະເນ ນັກວິເຄາະ, ມູນຄ່າຂອງຕະຫຼາດ HPC ຈະເຕີບໂຕຈາກ 32 ຫາ 45 ຕື້ໂດລາໃນໄລຍະເວລາຈາກ 2017 ຫາ 2022.

/ ຮູບ ຈຸດເຂົ້າເຖິງທົ່ວໂລກ PD

ວິທີແກ້ໄຂທີ່ຄ້າຍຄືກັນ

ມີຫຼາຍ analogues ໃນຕະຫຼາດທີ່ພັດທະນາໂດຍບໍລິສັດ IT ຂະຫນາດໃຫຍ່: AMD ແລະ Intel.

ບໍລິສັດທໍາອິດສໍາລັບການ virtualization GPU ຂໍ້ສະ ເໜີ ວິທີການໂດຍອີງໃສ່ SR-IOV (ການປ້ອນຂໍ້ມູນ / ຜົນຜະລິດ virtualization ຮາກດຽວ). ເທກໂນໂລຍີນີ້ໃຫ້ VM ເຂົ້າເຖິງສ່ວນຫນຶ່ງຂອງຄວາມສາມາດຂອງຮາດແວຂອງລະບົບ. ການ​ແກ້​ໄຂ​ອະ​ນຸ​ຍາດ​ໃຫ້​ທ່ານ​ທີ່​ຈະ​ແບ່ງ​ປັນ GPU ລະ​ຫວ່າງ 16 ຜູ້​ໃຊ້​ທີ່​ມີ​ການ​ປະ​ຕິ​ບັດ​ທີ່​ເທົ່າ​ທຽມ​ກັນ​ຂອງ​ລະ​ບົບ virtualized​.

ສໍາລັບຍັກໃຫຍ່ IT ທີສອງ, ພວກເຂົາ ເຕັກ​ໂນ​ໂລ​ຊີ​ອີງ​ໃສ່​ ໃນ Citrix XenServer 7 hypervisor. ມັນປະສົມປະສານການເຮັດວຽກຂອງໄດເວີ GPU ມາດຕະຖານແລະເຄື່ອງ virtual, ເຊິ່ງຊ່ວຍໃຫ້ອັນສຸດທ້າຍສາມາດສະແດງແອັບພລິເຄຊັນ 3D ແລະ desktop ໃນອຸປະກອນຂອງຜູ້ໃຊ້ຫຼາຍຮ້ອຍຄົນ.

ອະນາຄົດຂອງເຕັກໂນໂລຊີ

ນັກພັດທະນາ Virtual GPU ເຮັດການເດີມພັນ ກ່ຽວກັບການປະຕິບັດລະບົບ AI ແລະຄວາມນິຍົມເພີ່ມຂຶ້ນຂອງການແກ້ໄຂປະສິດທິພາບສູງໃນຕະຫຼາດເຕັກໂນໂລຢີທຸລະກິດ. ພວກເຂົາຫວັງວ່າຄວາມຕ້ອງການທີ່ຈະປະມວນຜົນຂໍ້ມູນຈໍານວນຫລາຍຈະເພີ່ມຄວາມຕ້ອງການສໍາລັບ vGPUs.

ໃນປັດຈຸບັນຜູ້ຜະລິດ ຊອກຫາວິທີທາງ ສົມທົບການທໍາງານຂອງ CPU ແລະ GPU ໃນແກນດຽວເພື່ອເລັ່ງການແກ້ໄຂບັນຫາທີ່ກ່ຽວຂ້ອງກັບກາຟິກ, ປະຕິບັດການຄິດໄລ່ທາງຄະນິດສາດ, ການດໍາເນີນງານຕາມເຫດຜົນແລະການປຸງແຕ່ງຂໍ້ມູນ. ຮູບລັກສະນະຂອງແກນດັ່ງກ່າວໃນຕະຫຼາດໃນອະນາຄົດຈະປ່ຽນວິທີການ virtualization ຊັບພະຍາກອນແລະການແຈກຢາຍຂອງພວກເຂົາລະຫວ່າງວຽກຢູ່ໃນສະພາບແວດລ້ອມ virtual ແລະຟັງ.

ສິ່ງທີ່ຕ້ອງອ່ານກ່ຽວກັບຫົວຂໍ້ໃນ blog ຂອງບໍລິສັດຂອງພວກເຮົາ:

• ເປັນຫຍັງບໍລິສັດຈຶ່ງໃຊ້ເຄື່ອງ virtual ຫຼາຍກວ່າເຄື່ອງບັນຈຸ
• "VMware ເຮັດວຽກແນວໃດ": ການທົບທວນຄືນວິທີແກ້ໄຂໃຫມ່
• VMware vSphere 6.7: ປະໂຫຍດຂອງຄຸນສົມບັດ hypervisor ໃໝ່ແມ່ນຫຍັງ

ສອງສາມຂໍ້ຄວາມຈາກຊ່ອງທາງ Telegram ຂອງພວກເຮົາ:

• ສະຖາປັດຕະຍະກໍາ IT ຂອງອະນາຄົດ - ໃຜກໍາລັງກະກຽມສໍາລັບມັນແລະວິທີການ
• 5 ເຄື່ອງມືຄຸ້ມຄອງຄລາວ
• ຜູ້ໃຫ້ບໍລິການ IaaS ປົກປ້ອງຂໍ້ມູນລູກຄ້າແນວໃດ

ແຫຼ່ງຂໍ້ມູນ: www.habr.com