ఫిబ్రవరిలో, స్టాన్‌ఫోర్డ్ అధిక-పనితీరు గల కంప్యూటింగ్ (HPC)పై ఒక సమావేశాన్ని నిర్వహించింది. VMware ప్రతినిధులు GPUతో పని చేస్తున్నప్పుడు, సవరించిన ESXi హైపర్‌వైజర్‌పై ఆధారపడిన సిస్టమ్ బేర్ మెటల్ సొల్యూషన్‌ల కంటే వేగంలో తక్కువ కాదు.
దీన్ని సాధించడం సాధ్యం చేసిన సాంకేతికతల గురించి మేము మాట్లాడుతాము.
/ ఫోటో
పనితీరు సమస్య
విశ్లేషకుల అభిప్రాయం ప్రకారం, డేటా సెంటర్లలో 70% పనిభారం ఉంటుంది . అయినప్పటికీ, మిగిలిన 30% ఇప్పటికీ హైపర్‌వైజర్‌లు లేకుండా బేర్ మెటల్‌పై నడుస్తుంది. ఈ 30% ఎక్కువగా నాడీ నెట్‌వర్క్‌లకు శిక్షణ ఇవ్వడం మరియు GPUలను ఉపయోగించడం వంటి అధిక-లోడ్ అప్లికేషన్‌లను కలిగి ఉంటుంది.
హైపర్వైజర్, ఇంటర్మీడియట్ అబ్‌స్ట్రాక్షన్ లేయర్‌గా, మొత్తం సిస్టమ్ పనితీరును ప్రభావితం చేయగలదని నిపుణులు ఈ ధోరణిని వివరిస్తారు. ఐదేళ్ల క్రితం చదువుల్లో పని వేగాన్ని 10% తగ్గించడం గురించి. అందువల్ల, కంపెనీలు మరియు డేటా సెంటర్ ఆపరేటర్లు HPC పనిభారాన్ని వర్చువల్ వాతావరణానికి బదిలీ చేయడానికి తొందరపడరు.
కానీ వర్చువలైజేషన్ టెక్నాలజీలు అభివృద్ధి చెందుతున్నాయి మరియు మెరుగుపడతాయి. ఒక నెల క్రితం జరిగిన సమావేశంలో, ESXi హైపర్వైజర్ GPU పనితీరుపై ప్రతికూల ప్రభావాన్ని చూపదని VMware తెలిపింది. కంప్యూటింగ్ వేగాన్ని మూడు శాతం తగ్గించవచ్చు, ఇది బేర్ మెటల్‌తో పోల్చవచ్చు.
ఎలా పని చేస్తుంది
GPUలతో HPC సిస్టమ్‌ల పనితీరును మెరుగుపరచడానికి, VMware హైపర్‌వైజర్‌లో అనేక మార్పులను చేసింది. ముఖ్యంగా, ఇది vMotion ఫంక్షన్ నుండి విముక్తి పొందింది. లోడ్ బ్యాలెన్సింగ్ కోసం ఇది అవసరం మరియు సర్వర్‌లు లేదా GPUల మధ్య సాధారణంగా వర్చువల్ మిషన్లను (VMలు) బదిలీ చేస్తుంది. vMotionని నిలిపివేయడం వలన ప్రతి VMకి ఇప్పుడు నిర్దిష్ట GPU కేటాయించబడింది. ఇది డేటాను మార్పిడి చేసేటప్పుడు ఖర్చులను తగ్గించడంలో సహాయపడింది.
సిస్టమ్ యొక్క మరొక ముఖ్య భాగం డైరెక్ట్‌పాత్ I/O. ఇది CUDA సమాంతర కంప్యూటింగ్ డ్రైవర్‌ను హైపర్‌వైజర్‌ను దాటవేస్తూ వర్చువల్ మిషన్‌లతో నేరుగా పరస్పర చర్య చేయడానికి అనుమతిస్తుంది. మీరు ఒక GPUలో ఒకేసారి అనేక VMలను అమలు చేయవలసి వచ్చినప్పుడు, GRID vGPU సొల్యూషన్ ఉపయోగించబడుతుంది. ఇది కార్డ్ మెమరీని అనేక విభాగాలుగా విభజిస్తుంది (కానీ గణన చక్రాలు విభజించబడలేదు).
ఈ సందర్భంలో రెండు వర్చువల్ మిషన్ల ఆపరేషన్ రేఖాచిత్రం ఇలా కనిపిస్తుంది:
ఫలితాలు మరియు అంచనాలు
సంస్థ ఆధారంగా ఒక భాషా నమూనా శిక్షణ ద్వారా హైపర్వైజర్ . బేర్ మెటల్‌తో పోలిస్తే పనితీరు "నష్టం" 3-4% మాత్రమే. ప్రతిగా, సిస్టమ్ ప్రస్తుత లోడ్‌పై ఆధారపడి డిమాండ్‌పై వనరులను పంపిణీ చేయగలిగింది.
ఐటీ దిగ్గజం కూడా కంటైనర్లతో. కంపెనీ ఇంజనీర్లు చిత్రాలను గుర్తించడానికి న్యూరల్ నెట్‌వర్క్‌లకు శిక్షణ ఇచ్చారు. అదే సమయంలో, ఒక GPU యొక్క వనరులు నాలుగు కంటైనర్ VMల మధ్య పంపిణీ చేయబడ్డాయి. ఫలితంగా, వ్యక్తిగత యంత్రాల పనితీరు 17% తగ్గింది (GPU వనరులకు పూర్తి ప్రాప్యత ఉన్న ఒకే VMతో పోలిస్తే). అయితే, సెకనుకు ప్రాసెస్ చేయబడిన చిత్రాల సంఖ్య మూడు రెట్లు. అలాంటి వ్యవస్థలు ఉంటాయని భావిస్తున్నారు డేటా విశ్లేషణ మరియు కంప్యూటర్ మోడలింగ్‌లో అప్లికేషన్లు.
VMware ఎదుర్కొనే సంభావ్య సమస్యలలో, నిపుణులు కాకుండా ఇరుకైన లక్ష్య ప్రేక్షకులు. తక్కువ సంఖ్యలో కంపెనీలు ఇప్పటికీ అధిక-పనితీరు గల వ్యవస్థలతో పని చేస్తున్నాయి. స్టాటిస్టాలో ఉన్నప్పటికీ 2021 నాటికి, ప్రపంచంలోని 94% డేటా సెంటర్ వర్క్‌లోడ్‌లు వర్చువలైజ్ చేయబడతాయి. ద్వారా విశ్లేషకులు, HPC మార్కెట్ విలువ 32 నుండి 45 వరకు 2017 నుండి 2022 బిలియన్ డాలర్లకు పెరుగుతుంది.
/ ఫోటో PD
ఇలాంటి పరిష్కారాలు
పెద్ద IT కంపెనీలచే అభివృద్ధి చేయబడిన అనేక అనలాగ్లు మార్కెట్లో ఉన్నాయి: AMD మరియు ఇంటెల్.
GPU వర్చువలైజేషన్ కోసం మొదటి కంపెనీ SR-IOV (సింగిల్-రూట్ ఇన్‌పుట్/అవుట్‌పుట్ వర్చువలైజేషన్) ఆధారంగా విధానం. ఈ సాంకేతికత సిస్టమ్ యొక్క హార్డ్‌వేర్ సామర్థ్యాలలో భాగానికి VM యాక్సెస్‌ను అందిస్తుంది. వర్చువలైజ్డ్ సిస్టమ్‌ల సమాన పనితీరుతో 16 మంది వినియోగదారుల మధ్య GPUని భాగస్వామ్యం చేయడానికి పరిష్కారం మిమ్మల్ని అనుమతిస్తుంది.
ఇక రెండో ఐటీ దిగ్గజం విషయానికొస్తే. Citrix XenServer 7 హైపర్‌వైజర్‌లో ఇది ప్రామాణిక GPU డ్రైవర్ మరియు వర్చువల్ మెషీన్ యొక్క పనిని మిళితం చేస్తుంది, ఇది వందలాది మంది వినియోగదారుల పరికరాలలో 3D అప్లికేషన్లు మరియు డెస్క్‌టాప్‌లను ప్రదర్శించడానికి అనుమతిస్తుంది.
సాంకేతికత యొక్క భవిష్యత్తు
వర్చువల్ GPU డెవలపర్లు AI వ్యవస్థల అమలు మరియు వ్యాపార సాంకేతిక విఫణిలో అధిక-పనితీరు పరిష్కారాల యొక్క పెరుగుతున్న ప్రజాదరణపై. పెద్ద మొత్తంలో డేటాను ప్రాసెస్ చేయాల్సిన అవసరం వల్ల vGPUలకు డిమాండ్ పెరుగుతుందని వారు భావిస్తున్నారు.
ఇప్పుడు తయారీదారులు గ్రాఫిక్స్, గణిత గణనలు, తార్కిక కార్యకలాపాలు మరియు డేటా ప్రాసెసింగ్‌కు సంబంధించిన సమస్యలను వేగవంతం చేయడానికి CPU మరియు GPU యొక్క కార్యాచరణను ఒక కోర్‌లో కలపండి. భవిష్యత్తులో మార్కెట్లో అటువంటి కోర్ల రూపాన్ని వనరుల వర్చువలైజేషన్ మరియు వర్చువల్ మరియు క్లౌడ్ పరిసరాలలో పనిభారం మధ్య వాటి పంపిణీకి సంబంధించిన విధానాన్ని మారుస్తుంది.
మా కార్పొరేట్ బ్లాగ్‌లో అంశంపై ఏమి చదవాలి:
మా టెలిగ్రామ్ ఛానెల్ నుండి కొన్ని పోస్ట్‌లు:
మూలం: www.habr.com