Τον Φεβρουάριο, το Στάνφορντ φιλοξένησε ένα συνέδριο για τους υπολογιστές υψηλής απόδοσης (HPC). Οι εκπρόσωποι της VMware είπαν ότι όταν εργάζεστε με μια GPU, ένα σύστημα που βασίζεται σε έναν τροποποιημένο hypervisor ESXi δεν είναι κατώτερο σε ταχύτητα από τις λύσεις γυμνού μετάλλου.
Μιλάμε για τις τεχνολογίες που κατέστησαν δυνατό να επιτευχθεί αυτό.
/ φωτογραφία
Ζήτημα απόδοσης
Σύμφωνα με αναλυτές, περίπου το 70% του φόρτου εργασίας στα κέντρα δεδομένων . Ωστόσο, το υπόλοιπο 30% εξακολουθεί να τρέχει σε γυμνό μέταλλο χωρίς υπερεπόπτες. Αυτό το 30% αποτελείται κυρίως από εφαρμογές υψηλού φορτίου, όπως αυτές που σχετίζονται με την εκπαίδευση νευρωνικών δικτύων και τη χρήση GPU.
Οι ειδικοί εξηγούν αυτή την τάση από το γεγονός ότι ο hypervisor, ως ένα ενδιάμεσο στρώμα αφαίρεσης, μπορεί να επηρεάσει την απόδοση ολόκληρου του συστήματος. Σε μελέτες πριν από πέντε χρόνια σχετικά με τη μείωση της ταχύτητας εργασίας κατά 10%. Επομένως, οι εταιρείες και οι φορείς εκμετάλλευσης κέντρων δεδομένων δεν βιάζονται να μεταφέρουν φόρτους εργασίας HPC σε εικονικό περιβάλλον.
Αλλά οι τεχνολογίες εικονικοποίησης αναπτύσσονται και βελτιώνονται. Σε ένα συνέδριο πριν από έναν μήνα, η VMware είπε ότι ο hypervisor ESXi δεν έχει αρνητικό αντίκτυπο στην απόδοση της GPU. Η ταχύτητα υπολογισμού μπορεί να μειωθεί κατά τρία τοις εκατό, η οποία είναι συγκρίσιμη με το γυμνό μέταλλο.
Πώς λειτουργεί;
Για να βελτιώσει την απόδοση των συστημάτων HPC με GPU, η VMware έχει κάνει ορισμένες αλλαγές στον hypervisor. Συγκεκριμένα, απαλλάχθηκε από τη λειτουργία vMotion. Χρειάζεται για την εξισορρόπηση φορτίου και συνήθως μεταφέρει εικονικές μηχανές (VM) μεταξύ διακομιστών ή GPU. Η απενεργοποίηση του vMotion είχε ως αποτέλεσμα να εκχωρείται πλέον σε κάθε VM μια συγκεκριμένη GPU. Αυτό βοήθησε στη μείωση του κόστους κατά την ανταλλαγή δεδομένων.
Ένα άλλο βασικό στοιχείο του συστήματος DirectPath I/O. Επιτρέπει στο πρόγραμμα οδήγησης παράλληλων υπολογιστών CUDA να αλληλεπιδρά απευθείας με εικονικές μηχανές, παρακάμπτοντας τον hypervisor. Όταν χρειάζεται να εκτελέσετε πολλά VM σε μία GPU ταυτόχρονα, χρησιμοποιείται η λύση GRID vGPU. Διαιρεί τη μνήμη της κάρτας σε πολλά τμήματα (αλλά οι υπολογιστικοί κύκλοι δεν χωρίζονται).
Το διάγραμμα λειτουργίας δύο εικονικών μηχανών σε αυτήν την περίπτωση θα μοιάζει με αυτό:
Αποτελέσματα και προβλέψεις
Εταιρεία hypervisor εκπαιδεύοντας ένα γλωσσικό μοντέλο που βασίζεται σε . Η «ζημία» απόδοσης ήταν μόνο 3–4% σε σύγκριση με το γυμνό μέταλλο. Σε αντάλλαγμα, το σύστημα ήταν σε θέση να διανέμει πόρους κατόπιν ζήτησης ανάλογα με το τρέχον φορτίο.
Ο γίγαντας της πληροφορικής επίσης με δοχεία. Οι μηχανικοί της εταιρείας εκπαίδευσαν νευρωνικά δίκτυα να αναγνωρίζουν εικόνες. Ταυτόχρονα, οι πόροι μιας GPU διανεμήθηκαν μεταξύ τεσσάρων VM κοντέινερ. Ως αποτέλεσμα, η απόδοση μεμονωμένων μηχανημάτων μειώθηκε κατά 17% (σε σύγκριση με ένα μόνο VM με πλήρη πρόσβαση σε πόρους GPU). Ωστόσο, ο αριθμός των εικόνων που υποβάλλονται σε επεξεργασία ανά δευτερόλεπτο τρεις φορές. Αναμένεται ότι τέτοια συστήματα εφαρμογές στην ανάλυση δεδομένων και τη μοντελοποίηση υπολογιστών.
Μεταξύ των πιθανών προβλημάτων που μπορεί να αντιμετωπίσει η VMware, οι ειδικοί μάλλον στενό κοινό-στόχο. Ένας μικρός αριθμός εταιρειών εξακολουθούν να εργάζονται με συστήματα υψηλής απόδοσης. Αν και στο Statista ότι μέχρι το 2021, το 94% του φόρτου εργασίας των κέντρων δεδομένων στον κόσμο θα είναι εικονικοποιημένο. Με αναλυτές, η αξία της αγοράς HPC θα αυξηθεί από 32 σε 45 δισεκατομμύρια δολάρια την περίοδο από το 2017 έως το 2022.
/ φωτογραφία PD
Παρόμοιες λύσεις
Υπάρχουν πολλά ανάλογα στην αγορά που αναπτύσσονται από μεγάλες εταιρείες πληροφορικής: AMD και Intel.
Η πρώτη εταιρεία για εικονικοποίηση GPU προσέγγιση που βασίζεται στο SR-IOV (εικονικοποίηση εισόδου/εξόδου μιας ρίζας). Αυτή η τεχνολογία δίνει στο VM πρόσβαση σε μέρος των δυνατοτήτων υλικού του συστήματος. Η λύση σάς επιτρέπει να μοιράζεστε την GPU μεταξύ 16 χρηστών με ίση απόδοση εικονικών συστημάτων.
Όσο για τον δεύτερο γίγαντα της πληροφορικής, αυτοί στον Hypervisor Citrix XenServer 7. Συνδυάζει την εργασία ενός τυπικού προγράμματος οδήγησης GPU και μιας εικονικής μηχανής, η οποία επιτρέπει στην τελευταία να εμφανίζει τρισδιάστατες εφαρμογές και επιτραπέζιους υπολογιστές σε συσκευές εκατοντάδων χρηστών.
Το μέλλον της τεχνολογίας
Εικονικοί προγραμματιστές GPU σχετικά με την εφαρμογή συστημάτων AI και την αυξανόμενη δημοτικότητα λύσεων υψηλής απόδοσης στην αγορά επιχειρηματικής τεχνολογίας. Ελπίζουν ότι η ανάγκη επεξεργασίας μεγάλων ποσοτήτων δεδομένων θα αυξήσει τη ζήτηση για vGPU.
Τώρα κατασκευαστές συνδυάστε τη λειτουργικότητα της CPU και της GPU σε έναν πυρήνα για να επιταχύνετε την επίλυση προβλημάτων που σχετίζονται με γραφικά, την εκτέλεση μαθηματικών υπολογισμών, λογικών πράξεων και επεξεργασίας δεδομένων. Η εμφάνιση τέτοιων πυρήνων στην αγορά στο μέλλον θα αλλάξει την προσέγγιση για την εικονικοποίηση πόρων και την κατανομή τους μεταξύ φόρτου εργασίας σε εικονικά περιβάλλοντα και περιβάλλοντα cloud.
Τι να διαβάσετε για το θέμα στο εταιρικό μας blog:
Μερικές αναρτήσεις από το κανάλι μας στο Telegram:
Πηγή: www.habr.com