สถานการณ์: GPU เสมือนไม่ได้ด้อยกว่าในด้านประสิทธิภาพของโซลูชันฮาร์ดแวร์

ในเดือนกุมภาพันธ์ Stanford ได้จัดการประชุมเกี่ยวกับคอมพิวเตอร์ประสิทธิภาพสูง (HPC) ตัวแทนของ VMware กล่าวว่าเมื่อทำงานกับ GPU ระบบที่ใช้ไฮเปอร์ไวเซอร์ ESXi ที่ได้รับการดัดแปลงนั้นไม่ได้ด้อยไปกว่าความเร็วของโซลูชันโลหะเปลือย

เราพูดถึงเทคโนโลยีที่ทำให้บรรลุเป้าหมายนี้ได้

สถานการณ์: GPU เสมือนไม่ได้ด้อยกว่าในด้านประสิทธิภาพของโซลูชันฮาร์ดแวร์
/ รูปถ่าย วิคเตอร์กรีกัส CC BY-SA

ปัญหาด้านประสิทธิภาพ

ตามที่นักวิเคราะห์ระบุว่า ประมาณ 70% ของปริมาณงานในศูนย์ข้อมูล เสมือนจริง. อย่างไรก็ตาม ส่วนที่เหลืออีก 30% ยังคงทำงานบน Bare Metal โดยไม่มีไฮเปอร์ไวเซอร์ 30% นี้ส่วนใหญ่ประกอบด้วยแอปพลิเคชันที่มีภาระงานสูง เช่น แอปพลิเคชันที่เกี่ยวข้องกับการฝึกอบรมโครงข่ายประสาทเทียม และการใช้ GPU

ผู้เชี่ยวชาญอธิบายแนวโน้มนี้โดยข้อเท็จจริงที่ว่าไฮเปอร์ไวเซอร์ซึ่งเป็นเลเยอร์นามธรรมระดับกลางสามารถส่งผลกระทบต่อประสิทธิภาพของทั้งระบบได้ ในการศึกษาเมื่อห้าปีที่แล้ว คุณสามารถค้นหาข้อมูลได้ เกี่ยวกับการลดความเร็วในการทำงานลง 10% ดังนั้นบริษัทและผู้ดำเนินการศูนย์ข้อมูลจึงไม่รีบร้อนในการถ่ายโอนปริมาณงาน HPC ไปยังสภาพแวดล้อมเสมือนจริง

แต่เทคโนโลยีเวอร์ช่วลไลเซชั่นกำลังพัฒนาและปรับปรุง ในการประชุมเมื่อเดือนที่แล้ว VMware กล่าวว่าไฮเปอร์ไวเซอร์ ESXi ไม่มีผลกระทบด้านลบต่อประสิทธิภาพของ GPU ความเร็วในการประมวลผลสามารถลดลงได้สามเปอร์เซ็นต์ ซึ่งเทียบได้กับโลหะเปลือย

Какэтоработает

เพื่อปรับปรุงประสิทธิภาพของระบบ HPC ด้วย GPU VMware ได้ทำการเปลี่ยนแปลงไฮเปอร์ไวเซอร์หลายประการ โดยเฉพาะอย่างยิ่ง มันถูกลบออกจากฟังก์ชัน vMotion จำเป็นสำหรับการทำโหลดบาลานซ์ และมักจะถ่ายโอนเครื่องเสมือน (VM) ระหว่างเซิร์ฟเวอร์หรือ GPU การปิดใช้งาน vMotion ส่งผลให้แต่ละ VM ได้รับการกำหนด GPU เฉพาะ ซึ่งช่วยลดต้นทุนในการแลกเปลี่ยนข้อมูล

องค์ประกอบสำคัญอีกประการหนึ่งของระบบ คือเทคโนโลยี DirectPath I/O ช่วยให้ไดรเวอร์การประมวลผลแบบขนาน CUDA สามารถโต้ตอบกับเครื่องเสมือนได้โดยตรง โดยข้ามไฮเปอร์ไวเซอร์ เมื่อคุณต้องการเรียกใช้ VM หลายเครื่องบน GPU ตัวเดียวพร้อมกัน ระบบจะใช้โซลูชัน GRID vGPU แบ่งหน่วยความจำของการ์ดออกเป็นหลายส่วน (แต่รอบการคำนวณจะไม่ถูกแบ่ง)

แผนภาพการทำงานของเครื่องเสมือนสองเครื่องในกรณีนี้จะมีลักษณะดังนี้:

สถานการณ์: GPU เสมือนไม่ได้ด้อยกว่าในด้านประสิทธิภาพของโซลูชันฮาร์ดแวร์

ผลลัพธ์และการคาดการณ์

บริษัท ดำเนินการทดสอบ ไฮเปอร์ไวเซอร์โดยการฝึกโมเดลภาษาตาม TensorFlow. “ความเสียหาย” ประสิทธิภาพเพียง 3–4% เมื่อเทียบกับโลหะเปลือย ในทางกลับกัน ระบบสามารถกระจายทรัพยากรตามความต้องการโดยขึ้นอยู่กับปริมาณงานในปัจจุบัน

ยักษ์ใหญ่ด้านไอทีอีกด้วย ดำเนินการทดสอบ พร้อมภาชนะ วิศวกรของบริษัทได้ฝึกอบรมโครงข่ายประสาทเทียมให้จดจำภาพได้ ในเวลาเดียวกัน ทรัพยากรของ GPU หนึ่งตัวถูกกระจายไปยัง VM คอนเทนเนอร์สี่ตัว เป็นผลให้ประสิทธิภาพของแต่ละเครื่องลดลง 17% (เมื่อเทียบกับ VM เดียวที่เข้าถึงทรัพยากร GPU ได้เต็มรูปแบบ) อย่างไรก็ตามจำนวนภาพที่ประมวลผลต่อวินาที เพิ่มขึ้น สามครั้ง. คาดว่าระบบดังกล่าว จะหา การประยุกต์ในการวิเคราะห์ข้อมูลและการสร้างแบบจำลองคอมพิวเตอร์

ผู้เชี่ยวชาญในบรรดาปัญหาที่อาจเกิดขึ้นที่ VMware อาจเผชิญ จัดสรร กลุ่มเป้าหมายที่ค่อนข้างแคบ มีบริษัทจำนวนไม่มากที่ยังคงทำงานกับระบบที่มีประสิทธิภาพสูง แม้ว่าใน Statista เครื่องหมายว่าภายในปี 2021 94% ของปริมาณงานศูนย์ข้อมูลของโลกจะถูกทำให้เป็นแบบเวอร์ช่วลไลซ์ โดย การคาดการณ์ นักวิเคราะห์ มูลค่าของตลาด HPC จะเพิ่มขึ้นจาก 32 เป็น 45 พันล้านดอลลาร์ในช่วงปี 2017 ถึง 2022

สถานการณ์: GPU เสมือนไม่ได้ด้อยกว่าในด้านประสิทธิภาพของโซลูชันฮาร์ดแวร์
/ รูปถ่าย จุดเข้าใช้งานทั่วโลก PD

โซลูชันที่คล้ายกัน

มีอะนาล็อกหลายตัวในตลาดที่พัฒนาโดย บริษัท ไอทีขนาดใหญ่: AMD และ Intel

บริษัทแรกสำหรับการจำลองเสมือน GPU ข้อเสนอ วิธีการที่ใช้ SR-IOV (การจำลองเสมือนอินพุต/เอาต์พุตรูทเดียว) เทคโนโลยีนี้ช่วยให้ VM สามารถเข้าถึงความสามารถด้านฮาร์ดแวร์ของระบบบางส่วนได้ โซลูชันนี้ช่วยให้คุณสามารถแชร์ GPU ระหว่างผู้ใช้ 16 คนโดยมีประสิทธิภาพเท่ากันของระบบเวอร์ช่วลไลซ์

ส่วนไอทียักษ์ใหญ่อันดับสองนั้น ใช้เทคโนโลยี บนไฮเปอร์ไวเซอร์ Citrix XenServer 7 มันรวมการทำงานของไดรเวอร์ GPU มาตรฐานและเครื่องเสมือนซึ่งช่วยให้หลังสามารถแสดงแอปพลิเคชัน 3 มิติและเดสก์ท็อปบนอุปกรณ์ของผู้ใช้หลายร้อยคน

อนาคตของเทคโนโลยี

นักพัฒนา GPU เสมือน ทำการเดิมพัน เกี่ยวกับการใช้งานระบบ AI และความนิยมที่เพิ่มขึ้นของโซลูชันประสิทธิภาพสูงในตลาดเทคโนโลยีธุรกิจ พวกเขาหวังว่าความจำเป็นในการประมวลผลข้อมูลจำนวนมากจะเพิ่มความต้องการ vGPU

ตอนนี้ผู้ผลิต กำลังมองหาวิธี รวมฟังก์ชันการทำงานของ CPU และ GPU ไว้ในคอร์เดียวเพื่อเร่งความเร็วในการแก้ปัญหาที่เกี่ยวข้องกับกราฟิก การคำนวณทางคณิตศาสตร์ การดำเนินการเชิงตรรกะ และการประมวลผลข้อมูล การปรากฏตัวของคอร์ดังกล่าวในตลาดในอนาคตจะเปลี่ยนแนวทางในการจำลองเสมือนของทรัพยากรและการกระจายระหว่างปริมาณงานในสภาพแวดล้อมเสมือนและคลาวด์

สิ่งที่ควรอ่านในหัวข้อนี้ในบล็อกบริษัทของเรา:

โพสต์บางส่วนจากช่อง Telegram ของเรา:

ที่มา: will.com

เพิ่มความคิดเห็น