ಪರಿಸ್ಥಿತಿ: ವರ್ಚುವಲ್ GPU ಗಳು ಹಾರ್ಡ್‌ವೇರ್ ಪರಿಹಾರಗಳಿಗಿಂತ ಕಾರ್ಯಕ್ಷಮತೆಯಲ್ಲಿ ಕೆಳಮಟ್ಟದಲ್ಲಿಲ್ಲ

ಫೆಬ್ರವರಿಯಲ್ಲಿ, ಸ್ಟ್ಯಾನ್‌ಫೋರ್ಡ್ ಉನ್ನತ-ಕಾರ್ಯಕ್ಷಮತೆಯ ಕಂಪ್ಯೂಟಿಂಗ್ (HPC) ಕುರಿತು ಸಮ್ಮೇಳನವನ್ನು ಆಯೋಜಿಸಿತು. GPU ನೊಂದಿಗೆ ಕೆಲಸ ಮಾಡುವಾಗ, ಮಾರ್ಪಡಿಸಿದ ESXi ಹೈಪರ್ವೈಸರ್ ಆಧಾರಿತ ಸಿಸ್ಟಮ್ ಬೇರ್ ಮೆಟಲ್ ಪರಿಹಾರಗಳಿಗೆ ವೇಗದಲ್ಲಿ ಕೆಳಮಟ್ಟದಲ್ಲಿಲ್ಲ ಎಂದು VMware ಪ್ರತಿನಿಧಿಗಳು ಹೇಳಿದ್ದಾರೆ.

ಇದನ್ನು ಸಾಧಿಸಲು ಸಾಧ್ಯವಾಗಿಸಿದ ತಂತ್ರಜ್ಞಾನಗಳ ಬಗ್ಗೆ ನಾವು ಮಾತನಾಡುತ್ತೇವೆ.

ಪರಿಸ್ಥಿತಿ: ವರ್ಚುವಲ್ GPU ಗಳು ಹಾರ್ಡ್‌ವೇರ್ ಪರಿಹಾರಗಳಿಗಿಂತ ಕಾರ್ಯಕ್ಷಮತೆಯಲ್ಲಿ ಕೆಳಮಟ್ಟದಲ್ಲಿಲ್ಲ
/ ಫೋಟೋ ವಿಕ್ಟರ್ಗ್ರಿಗಾಸ್ ಸಿಸಿ ಬೈ-ಎಸ್ಎ

ಕಾರ್ಯಕ್ಷಮತೆಯ ಸಮಸ್ಯೆ

ವಿಶ್ಲೇಷಕರ ಪ್ರಕಾರ, ಡೇಟಾ ಕೇಂದ್ರಗಳಲ್ಲಿ ಸುಮಾರು 70% ಕೆಲಸದ ಹೊರೆಗಳು ವರ್ಚುವಲೈಸ್ಡ್. ಆದಾಗ್ಯೂ, ಉಳಿದ 30% ಇನ್ನೂ ಹೈಪರ್ವೈಸರ್ಗಳಿಲ್ಲದೆ ಬೇರ್ ಮೆಟಲ್ನಲ್ಲಿ ಚಲಿಸುತ್ತದೆ. ಈ 30% ಹೆಚ್ಚಾಗಿ ಹೆಚ್ಚಿನ ಲೋಡ್ ಅಪ್ಲಿಕೇಶನ್‌ಗಳನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ, ಉದಾಹರಣೆಗೆ ತರಬೇತಿ ನರಗಳ ನೆಟ್‌ವರ್ಕ್‌ಗಳಿಗೆ ಸಂಬಂಧಿಸಿದಂತಹ ಮತ್ತು GPU ಗಳನ್ನು ಬಳಸುವುದು.

ಹೈಪರ್ವೈಸರ್, ಮಧ್ಯಂತರ ಅಮೂರ್ತ ಪದರವಾಗಿ, ಸಂಪೂರ್ಣ ಸಿಸ್ಟಮ್ನ ಕಾರ್ಯಕ್ಷಮತೆಯ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರಬಹುದು ಎಂಬ ಅಂಶದಿಂದ ತಜ್ಞರು ಈ ಪ್ರವೃತ್ತಿಯನ್ನು ವಿವರಿಸುತ್ತಾರೆ. ಐದು ವರ್ಷಗಳ ಹಿಂದೆ ಅಧ್ಯಯನದಲ್ಲಿ ನೀವು ಡೇಟಾವನ್ನು ಕಂಡುಹಿಡಿಯಬಹುದು ಕೆಲಸದ ವೇಗವನ್ನು 10% ರಷ್ಟು ಕಡಿಮೆ ಮಾಡುವ ಬಗ್ಗೆ. ಆದ್ದರಿಂದ, ಕಂಪನಿಗಳು ಮತ್ತು ಡೇಟಾ ಸೆಂಟರ್ ಆಪರೇಟರ್‌ಗಳು HPC ಕೆಲಸದ ಹೊರೆಗಳನ್ನು ವರ್ಚುವಲ್ ಪರಿಸರಕ್ಕೆ ವರ್ಗಾಯಿಸಲು ಯಾವುದೇ ಆತುರವಿಲ್ಲ.

ಆದರೆ ವರ್ಚುವಲೈಸೇಶನ್ ತಂತ್ರಜ್ಞಾನಗಳು ಅಭಿವೃದ್ಧಿ ಹೊಂದುತ್ತಿವೆ ಮತ್ತು ಸುಧಾರಿಸುತ್ತಿವೆ. ಒಂದು ತಿಂಗಳ ಹಿಂದೆ ನಡೆದ ಸಮ್ಮೇಳನದಲ್ಲಿ, ESXi ಹೈಪರ್‌ವೈಸರ್ GPU ಕಾರ್ಯಕ್ಷಮತೆಯ ಮೇಲೆ ನಕಾರಾತ್ಮಕ ಪರಿಣಾಮ ಬೀರುವುದಿಲ್ಲ ಎಂದು VMware ಹೇಳಿದೆ. ಕಂಪ್ಯೂಟಿಂಗ್ ವೇಗವನ್ನು ಮೂರು ಪ್ರತಿಶತದಷ್ಟು ಕಡಿಮೆ ಮಾಡಬಹುದು, ಇದು ಬೇರ್ ಮೆಟಲ್ಗೆ ಹೋಲಿಸಬಹುದು.

ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ

GPUಗಳೊಂದಿಗೆ HPC ಸಿಸ್ಟಮ್‌ಗಳ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಸುಧಾರಿಸಲು, VMware ಹೈಪರ್‌ವೈಸರ್‌ಗೆ ಹಲವಾರು ಬದಲಾವಣೆಗಳನ್ನು ಮಾಡಿದೆ. ನಿರ್ದಿಷ್ಟವಾಗಿ, ಇದು vMotion ಕಾರ್ಯವನ್ನು ತೊಡೆದುಹಾಕಿತು. ಲೋಡ್ ಬ್ಯಾಲೆನ್ಸಿಂಗ್‌ಗೆ ಇದು ಅಗತ್ಯವಾಗಿರುತ್ತದೆ ಮತ್ತು ಸಾಮಾನ್ಯವಾಗಿ ಸರ್ವರ್‌ಗಳು ಅಥವಾ GPU ಗಳ ನಡುವೆ ವರ್ಚುವಲ್ ಯಂತ್ರಗಳನ್ನು (VM ಗಳು) ವರ್ಗಾಯಿಸುತ್ತದೆ. vMotion ಅನ್ನು ನಿಷ್ಕ್ರಿಯಗೊಳಿಸುವುದರಿಂದ ಪ್ರತಿ VM ಗೆ ನಿರ್ದಿಷ್ಟ GPU ಅನ್ನು ನಿಯೋಜಿಸಲಾಗಿದೆ. ಇದು ಡೇಟಾವನ್ನು ವಿನಿಮಯ ಮಾಡುವಾಗ ವೆಚ್ಚವನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಸಹಾಯ ಮಾಡಿತು.

ವ್ಯವಸ್ಥೆಯ ಮತ್ತೊಂದು ಪ್ರಮುಖ ಅಂಶ ತಂತ್ರಜ್ಞಾನವಾಗಿದೆ ಡೈರೆಕ್ಟ್‌ಪಾತ್ I/O. ಇದು CUDA ಸಮಾನಾಂತರ ಕಂಪ್ಯೂಟಿಂಗ್ ಡ್ರೈವರ್ ಅನ್ನು ವರ್ಚುವಲ್ ಯಂತ್ರಗಳೊಂದಿಗೆ ನೇರವಾಗಿ ಸಂವಹನ ಮಾಡಲು ಅನುಮತಿಸುತ್ತದೆ, ಹೈಪರ್ವೈಸರ್ ಅನ್ನು ಬೈಪಾಸ್ ಮಾಡುತ್ತದೆ. ನೀವು ಏಕಕಾಲದಲ್ಲಿ ಒಂದು GPU ನಲ್ಲಿ ಹಲವಾರು VM ಗಳನ್ನು ರನ್ ಮಾಡಬೇಕಾದಾಗ, GRID vGPU ಪರಿಹಾರವನ್ನು ಬಳಸಲಾಗುತ್ತದೆ. ಇದು ಕಾರ್ಡ್‌ನ ಮೆಮೊರಿಯನ್ನು ಹಲವಾರು ಭಾಗಗಳಾಗಿ ವಿಭಜಿಸುತ್ತದೆ (ಆದರೆ ಕಂಪ್ಯೂಟೇಶನಲ್ ಚಕ್ರಗಳನ್ನು ವಿಂಗಡಿಸಲಾಗಿಲ್ಲ).

ಈ ಸಂದರ್ಭದಲ್ಲಿ ಎರಡು ವರ್ಚುವಲ್ ಯಂತ್ರಗಳ ಕಾರ್ಯಾಚರಣೆಯ ರೇಖಾಚಿತ್ರವು ಈ ರೀತಿ ಕಾಣುತ್ತದೆ:

ಪರಿಸ್ಥಿತಿ: ವರ್ಚುವಲ್ GPU ಗಳು ಹಾರ್ಡ್‌ವೇರ್ ಪರಿಹಾರಗಳಿಗಿಂತ ಕಾರ್ಯಕ್ಷಮತೆಯಲ್ಲಿ ಕೆಳಮಟ್ಟದಲ್ಲಿಲ್ಲ

ಫಲಿತಾಂಶಗಳು ಮತ್ತು ಮುನ್ಸೂಚನೆಗಳು

ಫರ್ಮ್ ಪರೀಕ್ಷೆಗಳನ್ನು ನಡೆಸಿದರು ಆಧಾರಿತ ಭಾಷಾ ಮಾದರಿಯನ್ನು ತರಬೇತಿ ಮಾಡುವ ಮೂಲಕ ಹೈಪರ್ವೈಸರ್ ಟೆನ್ಸರ್ಫ್ಲೊ. ಬೇರ್ ಮೆಟಲ್‌ಗೆ ಹೋಲಿಸಿದರೆ ಕಾರ್ಯಕ್ಷಮತೆ "ಹಾನಿ" ಕೇವಲ 3-4% ಆಗಿತ್ತು. ಪ್ರತಿಯಾಗಿ, ಪ್ರಸ್ತುತ ಹೊರೆಗೆ ಅನುಗುಣವಾಗಿ ಬೇಡಿಕೆಯ ಮೇಲೆ ಸಂಪನ್ಮೂಲಗಳನ್ನು ವಿತರಿಸಲು ಸಿಸ್ಟಮ್ಗೆ ಸಾಧ್ಯವಾಯಿತು.

ಐಟಿ ದಿಗ್ಗಜ ಕೂಡ ಪರೀಕ್ಷೆಗಳನ್ನು ನಡೆಸಿದರು ಧಾರಕಗಳೊಂದಿಗೆ. ಕಂಪನಿಯ ಎಂಜಿನಿಯರ್‌ಗಳು ಚಿತ್ರಗಳನ್ನು ಗುರುತಿಸಲು ನರ ಜಾಲಗಳಿಗೆ ತರಬೇತಿ ನೀಡಿದರು. ಅದೇ ಸಮಯದಲ್ಲಿ, ಒಂದು GPU ನ ಸಂಪನ್ಮೂಲಗಳನ್ನು ನಾಲ್ಕು ಕಂಟೇನರ್ VM ಗಳಲ್ಲಿ ವಿತರಿಸಲಾಯಿತು. ಇದರ ಪರಿಣಾಮವಾಗಿ, ಪ್ರತ್ಯೇಕ ಯಂತ್ರಗಳ ಕಾರ್ಯಕ್ಷಮತೆಯು 17% ರಷ್ಟು ಕಡಿಮೆಯಾಗಿದೆ (ಜಿಪಿಯು ಸಂಪನ್ಮೂಲಗಳಿಗೆ ಸಂಪೂರ್ಣ ಪ್ರವೇಶದೊಂದಿಗೆ ಒಂದೇ VM ಗೆ ಹೋಲಿಸಿದರೆ). ಆದಾಗ್ಯೂ, ಪ್ರತಿ ಸೆಕೆಂಡಿಗೆ ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಲಾದ ಚಿತ್ರಗಳ ಸಂಖ್ಯೆ ಹೆಚ್ಚಾಯಿತು ಮೂರು ಬಾರಿ. ಅಂತಹ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿರೀಕ್ಷಿಸಲಾಗಿದೆ ಕಂಡುಕೊಳ್ಳುತ್ತಾರೆ ಡೇಟಾ ವಿಶ್ಲೇಷಣೆ ಮತ್ತು ಕಂಪ್ಯೂಟರ್ ಮಾಡೆಲಿಂಗ್‌ನಲ್ಲಿ ಅಪ್ಲಿಕೇಶನ್‌ಗಳು.

VMware ಎದುರಿಸಬಹುದಾದ ಸಂಭಾವ್ಯ ಸಮಸ್ಯೆಗಳ ಪೈಕಿ, ತಜ್ಞರು ನಿಯೋಜಿಸಿ ಬದಲಿಗೆ ಕಿರಿದಾದ ಗುರಿ ಪ್ರೇಕ್ಷಕರು. ಕಡಿಮೆ ಸಂಖ್ಯೆಯ ಕಂಪನಿಗಳು ಇನ್ನೂ ಹೆಚ್ಚಿನ ಕಾರ್ಯಕ್ಷಮತೆಯ ವ್ಯವಸ್ಥೆಗಳೊಂದಿಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿವೆ. ಸ್ಟ್ಯಾಟಿಸ್ಟಾದಲ್ಲಿದ್ದರೂ ಆಚರಿಸಿ2021 ರ ವೇಳೆಗೆ, ಪ್ರಪಂಚದ 94% ರಷ್ಟು ಡೇಟಾ ಸೆಂಟರ್ ವರ್ಕ್‌ಲೋಡ್‌ಗಳನ್ನು ವರ್ಚುವಲೈಸ್ ಮಾಡಲಾಗುತ್ತದೆ. ಮೂಲಕ ಮುನ್ಸೂಚನೆಗಳು ವಿಶ್ಲೇಷಕರು, HPC ಮಾರುಕಟ್ಟೆಯ ಮೌಲ್ಯವು 32 ರಿಂದ 45 ರ ಅವಧಿಯಲ್ಲಿ 2017 ರಿಂದ 2022 ಶತಕೋಟಿ ಡಾಲರ್‌ಗಳಿಗೆ ಬೆಳೆಯುತ್ತದೆ.

ಪರಿಸ್ಥಿತಿ: ವರ್ಚುವಲ್ GPU ಗಳು ಹಾರ್ಡ್‌ವೇರ್ ಪರಿಹಾರಗಳಿಗಿಂತ ಕಾರ್ಯಕ್ಷಮತೆಯಲ್ಲಿ ಕೆಳಮಟ್ಟದಲ್ಲಿಲ್ಲ
/ ಫೋಟೋ ಜಾಗತಿಕ ಪ್ರವೇಶ ಬಿಂದು PD

ಇದೇ ರೀತಿಯ ಪರಿಹಾರಗಳು

ದೊಡ್ಡ ಐಟಿ ಕಂಪನಿಗಳು ಅಭಿವೃದ್ಧಿಪಡಿಸಿದ ಮಾರುಕಟ್ಟೆಯಲ್ಲಿ ಹಲವಾರು ಸಾದೃಶ್ಯಗಳಿವೆ: ಎಎಮ್‌ಡಿ ಮತ್ತು ಇಂಟೆಲ್.

GPU ವರ್ಚುವಲೈಸೇಶನ್‌ಗಾಗಿ ಮೊದಲ ಕಂಪನಿ ಕೊಡುಗೆಗಳು SR-IOV (ಸಿಂಗಲ್-ರೂಟ್ ಇನ್‌ಪುಟ್/ಔಟ್‌ಪುಟ್ ವರ್ಚುವಲೈಸೇಶನ್) ಆಧಾರಿತ ವಿಧಾನ ಈ ತಂತ್ರಜ್ಞಾನವು ಸಿಸ್ಟಮ್‌ನ ಹಾರ್ಡ್‌ವೇರ್ ಸಾಮರ್ಥ್ಯಗಳ ಭಾಗಕ್ಕೆ VM ಪ್ರವೇಶವನ್ನು ನೀಡುತ್ತದೆ. ವರ್ಚುವಲೈಸ್ಡ್ ಸಿಸ್ಟಮ್‌ಗಳ ಸಮಾನ ಕಾರ್ಯಕ್ಷಮತೆಯೊಂದಿಗೆ 16 ಬಳಕೆದಾರರ ನಡುವೆ GPU ಅನ್ನು ಹಂಚಿಕೊಳ್ಳಲು ಪರಿಹಾರವು ನಿಮಗೆ ಅನುಮತಿಸುತ್ತದೆ.

ಎರಡನೇ ಐಟಿ ದೈತ್ಯ ಬಗ್ಗೆ, ಅವರು ತಂತ್ರಜ್ಞಾನ ಆಧಾರಿತ Citrix XenServer 7 ಹೈಪರ್‌ವೈಸರ್‌ನಲ್ಲಿ ಇದು ಪ್ರಮಾಣಿತ GPU ಡ್ರೈವರ್ ಮತ್ತು ವರ್ಚುವಲ್ ಯಂತ್ರದ ಕೆಲಸವನ್ನು ಸಂಯೋಜಿಸುತ್ತದೆ, ಇದು ನೂರಾರು ಬಳಕೆದಾರರ ಸಾಧನಗಳಲ್ಲಿ 3D ಅಪ್ಲಿಕೇಶನ್‌ಗಳು ಮತ್ತು ಡೆಸ್ಕ್‌ಟಾಪ್‌ಗಳನ್ನು ಪ್ರದರ್ಶಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.

ತಂತ್ರಜ್ಞಾನದ ಭವಿಷ್ಯ

ವರ್ಚುವಲ್ GPU ಡೆವಲಪರ್‌ಗಳು ಪಂತವನ್ನು ಮಾಡಿ AI ವ್ಯವಸ್ಥೆಗಳ ಅನುಷ್ಠಾನ ಮತ್ತು ವ್ಯಾಪಾರ ತಂತ್ರಜ್ಞಾನ ಮಾರುಕಟ್ಟೆಯಲ್ಲಿ ಹೆಚ್ಚಿನ ಕಾರ್ಯಕ್ಷಮತೆಯ ಪರಿಹಾರಗಳ ಜನಪ್ರಿಯತೆಯ ಮೇಲೆ. ಹೆಚ್ಚಿನ ಪ್ರಮಾಣದ ಡೇಟಾವನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸುವ ಅಗತ್ಯವು vGPU ಗಳಿಗೆ ಬೇಡಿಕೆಯನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ ಎಂದು ಅವರು ಭಾವಿಸುತ್ತಾರೆ.

ಈಗ ತಯಾರಕರು ಒಂದು ಮಾರ್ಗವನ್ನು ಹುಡುಕುತ್ತಿದೆ ಗ್ರಾಫಿಕ್ಸ್‌ಗೆ ಸಂಬಂಧಿಸಿದ ಸಮಸ್ಯೆಗಳನ್ನು ಪರಿಹರಿಸುವುದು, ಗಣಿತದ ಲೆಕ್ಕಾಚಾರಗಳು, ತಾರ್ಕಿಕ ಕಾರ್ಯಾಚರಣೆಗಳು ಮತ್ತು ಡೇಟಾ ಸಂಸ್ಕರಣೆಗೆ ಸಂಬಂಧಿಸಿದ ಸಮಸ್ಯೆಗಳನ್ನು ವೇಗಗೊಳಿಸಲು CPU ಮತ್ತು GPU ನ ಕಾರ್ಯವನ್ನು ಒಂದು ಕೋರ್‌ನಲ್ಲಿ ಸಂಯೋಜಿಸಿ. ಭವಿಷ್ಯದಲ್ಲಿ ಮಾರುಕಟ್ಟೆಯಲ್ಲಿ ಅಂತಹ ಕೋರ್ಗಳ ನೋಟವು ಸಂಪನ್ಮೂಲ ವರ್ಚುವಲೈಸೇಶನ್ ಮತ್ತು ವರ್ಚುವಲ್ ಮತ್ತು ಕ್ಲೌಡ್ ಪರಿಸರದಲ್ಲಿ ಕೆಲಸದ ಹೊರೆಗಳ ನಡುವೆ ಅವುಗಳ ವಿತರಣೆಯ ವಿಧಾನವನ್ನು ಬದಲಾಯಿಸುತ್ತದೆ.

ನಮ್ಮ ಕಾರ್ಪೊರೇಟ್ ಬ್ಲಾಗ್‌ನಲ್ಲಿ ವಿಷಯದ ಕುರಿತು ಏನು ಓದಬೇಕು:

ನಮ್ಮ ಟೆಲಿಗ್ರಾಮ್ ಚಾನಲ್‌ನಿಂದ ಒಂದೆರಡು ಪೋಸ್ಟ್‌ಗಳು:

ಮೂಲ: www.habr.com

ಕಾಮೆಂಟ್ ಅನ್ನು ಸೇರಿಸಿ