vGPU - 無視できません

4 月から XNUMX 月にかけて、約 XNUMX 社の企業が仮想 GPU の機能に興味を持って私たちに問い合わせてきました。 CloudXNUMXY のグラフィックスは、すでに Sberbank の大規模子会社の XNUMX つで使用されていますが、一般的にこのサービスはあまり人気がありません。ですから、私たちはこのような活動をとてもうれしく思いました。このテクノロジーへの関心の高まりを見て、vGPU についてもう少し詳しく話すことにしました。

科学実験や研究の結果として得られる「データレイク」、ディープラーニングやその他の AI を使った作業、大きくて複雑なオブジェクトのモデリングなど、これらすべてに高性能のハードウェアが必要です。それが存在し、現在の問題をすぐに解決できるのであれば、それは良いことです。しかし、タスク (主にビジネス分析、レンダリング、DL アルゴリズムとフレームワーク) の計算の複雑さが増大しているため、デスクトップやサーバー CPU のハードウェア能力はますます役に立たなくなりつつあります。

GPU コンピューティングを使用することで解決策が見つかりました。このグラフィックス アクセラレーション テクノロジにより、単一の GPU のリソースを複数の仮想マシン間で共有できるようになります。 GPU はもともとグラフィックスを処理するように設計されているため、並列タスクを効率的に処理するために使用される数千の小さなコアで構成されています。同時に、最もリソースを大量に消費する計算の一部は GPU で実行され、残りは CPU によって引き継がれます。

GPU コンピューティングは同社によって発明されました Nvidia 2007年に遡ります。現在、このテクノロジーは新たなレベルに到達し、最大規模の企業や科学研究所のデータセンターで使用されています。ただし、従来のアプローチには、物理​​的な機器の購入が非常に高価であるという重大な欠点が XNUMX つあります。そして、ハードウェアが陳腐化していく速度を思い出すと、さらに悲しくなります。

仮想グラフィックス プロセッサのテクノロジ: vGPU は、この問題を解決するように設計されています。その助けを借りて、ユーザーは AutoCAD、3DS Max、Maya、Sony Vegas Pro などの重いアプリケーションをリモートで起動できます。仮想化は急速に市場シェアを獲得しました。結局のところ、NVidia Tesla ビデオ カードでの高速計算を好まないロシアのデータ サイエンティストがいるでしょうか?

ここで、vGPU が登場する前は、仮想共有グラフィックス アクセラレーション (vSGA および仮想専用グラフィックス アクセラレーション (vDGA)) という他のグラフィックス アクセラレーション方法が使用されていたことに注意してください。vGPU ソリューションは、両方のテクノロジーの長所を組み合わせたものです。vSGA と同様に、 vGPU 環境は、複数の仮想デスクトップ間で GPU と RAM を共有することを目的としていますが、vDGA の場合と同様に、各 VM はコマンドを GPU に直接送信します。

そもそもなぜ vGPU が必要なのでしょうか?

vGPU を使用したクラウド コンピューティングにより、企業はこれまで解決できなかった問題を解決できるようになります。あるいは、おそらく、これには非現実的に大量のリソースが必要でした。 1 台の最新の GPU サーバーで、最大 100 個の従来の CPU を置き換えることができます。他にもあります さらに印象的な数字。これは冗談ではありません。Nvidia ソリューションは、ペタバイトのデータを従来の CPU サーバーよりも数倍高速に処理します。また、同じ Google Cloud は、最大 960 テラフロップスを実現する GPU を備えた仮想マシンを提供します。

多くの専門家は、並列計算を実行できる強力なデバイスを必要としています。建築家やエンジニアは、設計システム (Autodesk など) で vGPU テクノロジを使用します。デザイナーはデジタル写真およびビデオ コンテンツ (Photoshop、CorelDraw) を操作します。 仮想マシン GPUは、患者や疾患に関するデータを蓄積して分析する医療機関でも必要とされます。 GPUと「Yandexの'。

それだけだと思いますか？たとえそれがどのようなものであっても。この技術は自動化にも使用されています 衛星画像の精度をチェックする、および 流行予測, 気象研究、モデリング 太陽周期 и ビジネスアナリスト。そしてクールなものもあります モデリングに関する記事 Unity3D環境では これはゾルデンです.

このため、vGPU に基づくソリューションはまだ世界に普及していません。そこで、2018 年に NetApp は 投票 グラフィックプロセッサを使用している企業間で。その結果、組織の 60% が依然として独自の IT インフラストラクチャで運用されていることがわかりました。クラウドを使用しているのは 23% のみです。ロシアでは、クラウド コンピューティング テクノロジーの普及はそれほど重要ではありません。しかし、新しいハードウェアおよびソフトウェア ソリューションのおかげで、GPU を搭載した仮想マシンを使用する企業の数は増え続けています。

vGPU ソリューション

多くの企業がグラフィック アクセラレータ用の仮想化テクノロジを開発していますが、その中には議論の余地のないリーダーがいます。

同社はクラウド ソリューションの分野で最も評判の高いソリューション開発者の 1 つです。 ヴイエムウェア 企業にハイパーバイザーを提供する ESXi、この条件下では、仮想 GPU の速度はベア メタルでの実装と同等になります。最近の更新で、開発者は vMotion ロード バランサーを無効にし、Hypervisor をバイパスして CUDA ドライバーを VM に接続し、データ転送を高速化する DirectPath I/O テクノロジーのサポートを追加しました。

Nvidia 市場の期待にも応えようと努めており、そのためにオープンソース プラットフォームをリリースしました。 早瀬。このソリューションは、CUDA アーキテクチャを操作するためのいくつかのライブラリを組み合わせています。これにより、ニューラル ネットワークのトレーニング中のデータの操作が簡素化され、Python コードでの作業を自動化できます。 Rapids と XGBoost 機械学習アルゴリズムを使用すると、CPU ベースのシステムと比較してパフォーマンスが 50 倍向上します。

独自の技術も持っている AMD。プラットフォームの名前は、 ROCm。 SR-IOV テクノロジーを使用し、物理デバイスのハードウェア機能を複数の仮想マシン間で共有します。 1 つのアクセラレータのリソースを 16 人のユーザーに分割して、各ユーザーのパフォーマンスを同等に維持できます。これにより、クラウドの CPU と GPU 間のデータ転送が高速化されます。また、HIP と呼ばれる特別な C++ 言語も使用されており、GPU での計算の実行が容易になります。

インテル クロスプラットフォームのハイパーバイザーに基づいてテクノロジーを構築しています Citrix XenServer 7 は、2017 年に FSTEC から適合証明書を取得しました。このソリューションは、標準の GPU ドライバーと仮想マシンの機能を組み合わせたものです。つまり、「仮想」は サポートする 大量 (数百) のユーザーのデバイス上で重いアプリケーションを実行する。

市場の見通し

独立系アナリストは、HPC システム向けソリューションの売上高が 45 年までに 2022 億ドルに達すると考えています。プラットフォーム開発者も、高性能システムに対する需要の増加を期待しています。この期待は、ビッグ データの人気と、大量のデータを処理する必要性が頻繁にあることによってさらに高まります。

また、vGPU の需要の増加により、GPU と CPU を 1 つのデバイスに統合するハイブリッド テクノロジの開発が促進される可能性があります。このような統合ソリューションでは、2 種類のコアがキャッシュを共有するため、GPU と従来のプロセッサ間のデータ転送が高速化されます。

ハイブリッドは、データセンター内の仮想化と仮想リソースの分散へのアプローチを根本的に変えるでしょう。また、ROCm や Rapids などのオープンソース ソリューションにより、データセンター オペレーターはコンピューティング リソースをより効率的に使用できるようになり、ハードウェアのパフォーマンスが向上します。

別の意見もあります。たとえば、仮想 GPU は、フォトニック データ エンコーディングを備えた光チップに置き換えられます。このようなソリューションはすでに存在しており、機械学習に使用されています。さらに、彼らは、 より生産的な 通常のGPU。しかし、その技術はまだ未熟です。

何が結論づけられるでしょうか?類似したものが登場する可能性はありますが、vGPU は非常に有望な方向性であり、多くの問題を解決できます。しかし、すべての人に適しているわけではありません。したがって、タイトルにカンマを自分で入れることができます。

PS
購読してください Telegram次の記事を見逃さないように、 -channel をご覧ください。 私たちは週に XNUMX 回まで、ビジネスに関するもののみを書きます。

登録ユーザーのみがアンケートに参加できます。 ログインお願いします。

vGPU を使用していますか?

• はい、仮想容量は多くの場合必要になります

• いいえ、ほとんどその予定はありません

23 人のユーザーが投票しました。 11名のユーザーが棄権した。

出所： habr.com