Huawei OceanStor Dorado 18000 V6: そのハイエンドの性質とは何ですか

OceanStor Dorado 18000 V6 が今後数年間に十分な容量を備えた真のハイエンド ストレージ システムである理由について詳しく説明します。 同時に、オールフラッシュストレージに対する一般的な懸念を払拭し、ファーウェイがエンドツーエンドのNVMe、SCMでの追加キャッシュ、その他多数のソリューションなど、それらをどのように最大限に活用しているかを示します。

新しいデータ環境 - 新しいデータ ストレージ

データ強度はあらゆる業界で増加しています。 銀行セクターはこれを明確に示しています。 過去数年間で、銀行取引の数は XNUMX 倍以上に増加しました。 ショーのように BCGの研究ロシアでのみ、2010年から2018年の期間に、プラスチックカードを使用した現金以外の取引の数が5,8倍以上の増加を示しました（172人当たり年間XNUMX件からXNUMX件に）。 まず第一に、マイクロペイメントの勝利です。私たちのほとんどはオンライン バンキングに関係するようになり、銀行は今や電話ですぐに利用できるようになりました。

信用機関の IT インフラストラクチャは、このような課題に対応できるようにしておく必要があります。 そしてこれは本当に挑戦です。 とりわけ、以前は銀行が営業時間内のみデータの可用性を確保する必要がありましたが、現在では 24 時間 7 日対応されています。 最近まで、5 ミリ秒が許容可能な遅延率と考えられていました。 今では 1 ミリ秒でも過剰です。 最新のストレージ システムの場合、目標は 0,5 ミリ秒です。

信頼性についても同様です。2010 年代には、そのレベルを「99,999 の 2020」、つまり 99,9999% にすれば十分であるという経験的理解が形成されました。 確かに、この理解は時代遅れになっています。 99,99999 年には、企業がストレージに XNUMX%、アーキテクチャ全体に XNUMX% を必要とするのはまったく普通のことです。 そして、これはまったく気まぐれではなく、緊急の必要性です。インフラストラクチャのメンテナンスのための時間枠がないか、時間枠が非常に短いかのどちらかです。

明確にするために、これらの指標をお金の面に投影すると便利です。 最も簡単な方法は金融機関の例です。 上のグラフは、世界の上位 10 行の各銀行の時間当たりの収入を示しています。 中国工商銀行だけでも、これは 5 万ドルを下回ることはなく、これはまさに、中国最大の信用機関の IT インフラストラクチャの XNUMX 時間のダウンタイムにかかるコストに相当します (この計算では、逸失利益のみが考慮されています)。計算です！）。 この観点から、ダウンタイムの削減と信頼性の向上は、数パーセントだけでなく、数パーセントであっても、完全に合理的に正当化されることは明らかです。 競争力を高めるためだけでなく、単に市場での地位を維持するためでもあります。

同様の変化が他の業界でも起こっています。 たとえば、航空輸送の場合、パンデミックが発生する前は、航空旅行は年々勢いを増しており、多くの人がほぼタクシーのように航空旅行を利用し始めていました。 消費者パターンとしては、サービスを完全に利用できるという習慣が社会に根付いています。空港に到着したら、Wi-Fi に接続し、決済サービスにアクセスし、周辺地図にアクセスする必要があります。その結果、公共スペースのインフラストラクチャとサービスへの負荷が何倍にも増加しました。 そして、XNUMX年前ですら許容できると考えられていたインフラストラクチャーや建設へのアプローチは、急速に時代遅れになりつつあります。

オールフラッシュに切り替えるのは時期尚早ですか?

上記の問題を解決するには、パフォーマンスの観点から、AFA (オールフラッシュ アレイ、つまり完全にフラッシュ上に構築されたアレイ) が最適です。 ただし、最近まで、HDD やハイブリッドに基づいて組み立てられたものと信頼性が同等であるかどうかについては疑問がありました。 結局のところ、ソリッドステート フラッシュ メモリには、平均故障間隔、または MTBF (平均故障間隔) と呼ばれる指標があります。 残念ながら、I/O 操作によるセルの劣化は当然のことです。

そのため、オールフラッシュの見通しは、SSD が長期間存続するよう命じられた場合にデータ損失をどう防ぐかという問題によって影が薄くなりました。 バックアップはよく知られたオプションですが、現代の要件に基づくと、回復時間だけが許容できないほど長くなる可能性があります。 別の解決策は、スピンドル ドライブに第 XNUMX レベルのストレージを設定することですが、このような方式では、「厳密にフラッシュ」システムの利点の一部が失われます。

しかし、数字はそうではありません。Google を含むデジタル経済の巨人の近年の統計では、フラッシュはハード ドライブよりも数倍信頼性が高いことが示されています。 さらに、短期間であっても長期間であっても、フラッシュ ドライブが故障するまでには平均して XNUMX ～ XNUMX 年かかります。 データ保存の信頼性の点では、スピンドル磁気ディスクのドライブと比べても遜色なく、あるいはそれを上回っています。

スピンドル ドライブを支持するもう XNUMX つの伝統的な議論は、その手頃な価格です。 間違いなく、ハード ドライブに XNUMX テラバイトを保存するコストはまだ比較的低いです。 また、機器のコストだけを考慮すると、SSD よりもスピンドル ドライブで XNUMX テラバイトを維持する方が安価です。 ただし、財務計画の観点からは、特定のデバイスをいくらで購入したかだけでなく、それを XNUMX 年から XNUMX 年という長期にわたって所有する場合の総コストがいくらになるかも重要です。

この角度から見ると全然違いますね。 原則としてフラッシュ アレイで使用され、運用の経済的利益を高める重複排除と圧縮を無視したとしても、メディアが占有するラック スペース、熱放散、電力消費などの特性は残ります。 そして彼らによれば、このフラッシュは以前のフラッシュよりも優れたパフォーマンスを発揮します。 その結果、フラッシュ ストレージ システムの TCO は、すべてのパラメータを考慮すると、スピンドル ドライブまたはハイブリッド上のアレイの場合のほぼ半分になることがよくあります。

ESG レポートによると、Dorado V6 オールフラッシュ ストレージ システムは、効率的な重複排除と圧縮、および低消費電力と低熱放散により、78 年間で最大 XNUMX% の所有コスト削減を達成できます。 ドイツの分析会社 DCIG も、現在入手可能な TCO の点で最高のものとしてこれらの使用を推奨しています。

ソリッド ステート ドライブを使用すると、使用可能なスペースを節約し、障害の数を減らし、ソリューションのメンテナンスにかかる時間を短縮し、ストレージ システムの電力消費と熱放散を削減することができます。 そして、AFA は少なくとも経済的にスピンドル ドライブ上の従来のアレイと同等であり、多くの場合それを上回ることが判明しました。

ファーウェイロイヤルフラッシュ

当社のオールフラッシュ ストレージの中で、トップの座はハイエンド システム OceanStor Dorado 18000 V6 に属します。 当社だけでなく、業界全体で、最大構成で最大 20 万 IPOS という速度記録を保持しています。 さらに、信頼性も非常に高く、XNUMX つのコントローラーが同時に飛行したり、最大 XNUMX つのコントローラーが次々に飛行したり、エンジン全体が一度に飛行したりしても、データは保持されます。 「XNUMX分のXNUMX」には、内部プロセス管理の柔軟性など、組み込まれたAIによって大きな利点が与えられます。 これがどのように達成されるかを見てみましょう。

ファーウェイが有利なスタートを切っているのは、ファーウェイが市場でストレージ システム自体を完全に自社で製造している唯一のメーカーだからだ。 私たちは独自の回路、独自のマイクロコード、独自のサービスを持っています。

OceanStor Dorado システムのコントローラーは、Huawei が独自に設計および製造したプロセッサー Kunpeng 920 をベースに構築されています。これは、同じく当社の Intelligent Baseboard Management Controller (iBMC) 制御モジュールを使用します。 障害予測を最適化し、設定を推奨する AI チップ、すなわち Ascend 310 も Huawei 製であり、I/O ボードである Smart I/O モジュールも同様です。 最後に、SSD のコントローラーは当社によって設計および製造されています。 これらすべてが、統合的にバランスの取れた高性能ソリューションを作成するための基礎を提供しました。

過去 40 年間にわたり、当社はロシア最大の銀行の 18000 つに、当社の最高級ストレージ システムであるこのシステムを導入するプロジェクトを実施してきました。 その結果、メトロ クラスター内の 6 台を超える OceanStor Dorado XNUMX VXNUMX ユニットが安定したパフォーマンスを示します。各システムから XNUMX 万を超える IOPS を除去できますが、これには距離による遅延が考慮されています。

エンドツーエンドのNVMe

ファーウェイの最新のストレージ システムはエンドツーエンドの NVMe をサポートしていますが、これには理由があります。 ドライブにアクセスするために伝統的に使用されてきたプロトコルは、IT 時代の貧弱な時代に開発されました。それらは SCSI コマンド (こんにちは、1980 年代!) に基づいており、下位互換性を確保するために多くの機能を引き出します。 どのようなアクセス方法を使用する場合でも、この場合のプロトコル オーバーヘッドは膨大になります。 その結果、SCSI に関連付けられたプロトコルを使用するストレージの場合、I/O 遅延を 0,4 ～ 0,5 ミリ秒未満にすることはできません。 さらに、NVMe (Non-Volatile Memory Express) は、フラッシュ メモリで動作するように設計されたプロトコルであり、悪名高い下位互換性のための制約から解放され、レイテンシを 0,1 ミリ秒まで短縮します。さらに、ストレージ システム上ではなく、ホストからドライブまでのスタック全体。 当然のことながら、NVMe は近い将来のデータ ストレージ開発トレンドと一致しています。 私たちは NVMe にも依存しており、徐々に SCSI から離れつつあります。 Dorado シリーズを含め、現在製造されているすべての Huawei ストレージ システムは NVMe をサポートしています (ただし、エンドツーエンドとして実装されているのは Dorado V6 シリーズの上級モデルのみです)。

FlashLink: ひと握りのテクノロジー

OceanStor Dorado シリーズ全体の基礎となるテクノロジーは FlashLink です。 より正確には、高いパフォーマンスと信頼性を確保するための一連の統合テクノロジーを組み合わせた用語です。 これには、重複排除および圧縮テクノロジー、RAID 2.0+ データ分散システムの機能、「コールド」データと「ホット」データの分離、フルストライプのシーケンシャル データ記録 (新しいデータと変更されたデータを含むランダム書き込みが XNUMX つのデータに集約される) が含まれます。スタックが大きく、順次書き込まれるため、読み取り/書き込み速度が向上します)。

とりわけ、FlashLink には、ウェア レベリングとグローバル ガベージ コレクションという XNUMX つの重要なコンポーネントが含まれています。 それらは個別に処理する必要があります。

実際、ソリッド ステート ドライブは、多数のブロックとデータの可用性を確保するコントローラーを備えた小型のストレージ システムです。 そして、それは、とりわけ、「殺された」細胞からのデータが「殺されていない」細胞に転送されるという事実によって提供されます。 これにより、確実に読み取れるようになります。 このような転送にはさまざまなアルゴリズムがあります。 一般的なケースでは、コントローラーはすべての蓄電池の消耗のバランスをとろうとします。 このアプローチには欠点があります。 データが SSD 内で移動されると、実行される I/O 操作の数が大幅に減少します。 今のところ、それは必要悪です。

したがって、システム内に多数の SSD が存在する場合、パフォーマンス グラフに「のこぎり」のように急激な上下が表示されます。 問題は、プール内の XNUMX つのドライブがいつでもデータ移行を開始できるため、アレイ内のすべての SSD の全体的なパフォーマンスが同時に低下することです。 しかし、ファーウェイのエンジニアは「のこぎり」を回避する方法を考え出しました。

幸いなことに、ドライブ内のコントローラー、ストレージ コントローラー、ファーウェイのファームウェアは両方とも「ネイティブ」であり、OceanStor Dorado 18000 V6 のこれらのプロセスはアレイ内のすべてのドライブで集中的に同期して起動されます。 さらに、ストレージ コントローラーのコマンドにより、厳密に I/O 負荷が高くなっていないときに実行されます。

人工知能チップは、データ転送の適切なタイミングの選択にも関与します。過去数か月間のヒットの統計に基づいて、近い将来にアクティブな I/O が予想されるかどうかを最も高い確率で予測できます。答えが否定で、現時点でのシステムの負荷が小さい場合、コントローラーはすべてのドライブにコマンドを送ります。ウェア レベリングが必要なユーザーは、それを一度に同期して実行する必要があります。

さらに、システム コントローラは、競合メーカーのストレージ システムとは異なり、ドライブの各セルで何が起こっているかを確認します。競合メーカーはサードパーティ ベンダーからソリッド ステート メディアを購入する必要があるため、セル レベルの詳細情報を利用できません。このようなストレージのコントローラー。

その結果、OceanStor Dorado 18000 V6 では、ウェア レベリング操作で非常に短期間のパフォーマンス低下が発生し、主に他のプロセスに干渉しない場合に実行されます。 これにより、継続的に高い安定したパフォーマンスが得られます。

OceanStor Dorado 18000 V6 の信頼性の理由

最新のデータ ストレージ システムの信頼性には XNUMX つのレベルがあります。

• ハードウェア、ドライブレベル。
• 建築、機器レベルで。
• アーキテクチャとソフトウェア部分。
• 累積的であり、ソリューション全体に関連します。

当社はストレージ システムのすべてのコンポーネント自体を設計および製造しているため、現時点でどのレベルで何が起こっているかを徹底的に監視する能力を備えた XNUMX つのレベルのそれぞれで信頼性を提供します。

ドライブの信頼性は、主に前述のウェア レベリングとグローバル ガベージ コレクションによって保証されます。 SSD がシステムにとってブラック ボックスのように見える場合、その内部のセルがどのように正確に消耗するかはわかりません。 OceanStor Dorado 18000 V6 の場合、ドライブは透過的であるため、アレイ内のすべてのドライブのバランスを均等にすることができます。 したがって、SSD の寿命が大幅に延長され、動作の高いレベルの信頼性が確保されることがわかります。

また、ドライブの信頼性は、ドライブ内の追加の冗長セルによっても影響されます。 また、ストレージ システムは、単純なリザーブとともに、RAID アレイ レベルでの保護に加えて、チェックサムと各ブロックを単一のエラーから保護するための追加コードを含む、いわゆる DIF セルを使用します。

アーキテクチャの信頼性の鍵となるのは、SmartMatrix ソリューションです。 つまり、これらは XNUMX つのエンジン (エンジン) の一部としてパッシブ バックプレーン上に配置される XNUMX つのコントローラーです。 これらのエンジンのうち XNUMX つは、それぞれ XNUMX つのコントローラーを備えており、ドライブを備えた共通のシェルフに接続されています。 SmartMatrix のおかげで、XNUMX つのコントローラのうち XNUMX つが機能しなくなっても、読み取りと書き込みの両方ですべてのデータへのアクセスは維持されます。 また、XNUMX 台のコントローラーのうち XNUMX 台が失われても、キャッシュ操作を継続することも可能になります。

同じパッシブ バックプレーン上の I/O ボードは、フロントエンドとバックエンドの両方のすべてのコントローラーで使用できます。 このようなフルメッシュ接続方式では、何が障害になってもドライブへのアクセスは常に維持されます。

アーキテクチャの信頼性については、ストレージ システムが保護できる障害モードの観点から語るのが最も適切です。

XNUMX つのコントローラーが同時に「落下」した場合でも、ストレージは損失なく状況を乗り切ります。 このような安定性は、どのキャッシュ ブロックにも必ず異なるコントローラー上にさらに XNUMX つのコピーが存在する、つまり合計 XNUMX つのコピーが存在するという事実によって実現されます。 そして、少なくとも XNUMX つは別のエンジンに搭載されています。 したがって、エンジン全体 (XNUMX つのコントローラーすべて) が動作を停止した場合でも、残りのエンジンから少なくとも XNUMX つのコントローラーにキャッシュが複製されるため、キャッシュ メモリ内にあったすべての情報が保存されることが保証されます。 最後に、シリアル接続では、最大 XNUMX つのコントローラを失う可能性があり、たとえ XNUMX つのブロックごとに削除されたとしても、すべての I/O とキャッシュからのすべてのデータは保持されます。

他のメーカーのハイエンドストレージと比較すると、XNUMX つのコントローラーまたはエンジン全体が停止した後でも、完全なデータ保護と完全な可用性を提供できるのは Huawei だけであることがわかります。 ほとんどのベンダーは、ドライブが接続されるいわゆるコントローラー ペアを使用したスキームを使用しています。 残念ながら、この構成では XNUMX つのコントローラに障害が発生すると、ドライブへの I/O アクセスが失われるリスクがあります。

残念ながら、単一コンポーネントの故障は客観的に排除されません。 この場合、パフォーマンスはしばらくの間低下します。書き込みに来たがまだ書き込まれていないか、書き込みが要求されていたブロックに関して、パスを再構築し、I/O 操作でのアクセスを再開する必要があります。読まれる。 OceanStor Dorado 18000 V6 の平均リビルド時間は約 4 秒で、業界で最も近い類似製品 (XNUMX 秒) よりも大幅に短くなります。 これは、同じパッシブ バックプレーンのおかげで実現されます。コントローラーに障害が発生すると、残りのコントローラーはその入力/出力、特にどのデータ ブロックに書き込まれていないかを直ちに確認します。 その結果、最も近いコントローラーがプロセスを取得します。 したがって、わずか XNUMX 秒でパフォーマンスを回復できるのです。 あるコントローラーでは XNUMX 秒、別のコントローラーでは XNUMX 秒など、間隔は安定していることを付け加えておきます。

OceanStor Dorado 18000 V6 パッシブ バックプレーンでは、追加のアドレス指定なしで、すべてのボードをすべてのコントローラーで使用できます。 これは、どのコントローラーもどのポートでも I/O を受け取ることができることを意味します。 どのようなフロントエンド ポート I/O が入っても、コントローラーはそれを処理する準備ができています。 したがって、内部転送の数が最小限になり、バランシングが大幅に簡素化されます。

フロントエンドのバランシングはマルチパス ドライバーを使用して実行され、すべてのコントローラーがすべての I/O ポートを認識するため、追加のバランシングはシステム自体内で実行されます。

従来、ファーウェイのアレイはすべて、単一障害点が存在しないように設計されていました。 ホットスワップは、システムを再起動することなく、コントローラー、電源モジュール、冷却モジュール、I/O ボードなどのすべてのコンポーネントに適しています。

RAID-TPなどのテクノロジーやシステム全体の信頼性を高めます。 これは RAID グループの名前であり、最大 XNUMX 台のドライブの同時障害を保証できます。 と 1 TB の再構築にかかる時間は常に 30 分未満です。 記録される最良の結果は、スピンドル ドライブ上の同じ量のデータよりも 7,68 倍高速です。 したがって、15 TB や XNUMX TB などの非常に大容量のドライブを使用しても、システムの信頼性を心配する必要はありません。

再構築はスペアドライブではなく、スペアスペース、つまり予備容量で実行することが重要です。 各ドライブには、障害後のデータ回復に使用される専用のスペースがあります。 このように、「多対一」方式ではなく、「多対多」方式でリカバリを行うことにより、処理を大幅に高速化することができる。 空き容量がある限り、リカバリを続行できます。

また、メトロクラスター、またはファーウェイの用語ではHyperMetroなど、複数のストレージからのソリューションの信頼性についても言及する必要があります。 このようなスキームは、当社のデータ ストレージ システムのモデル範囲全体でサポートされており、ファイルとブロックの両方のアクセスが可能です。 さらに、ブロック XNUMX では、ファイバー チャネルとイーサネット (iSCSI 経由を含む) の両方を介して機能します。

本質的には、あるストレージ システムから別のストレージ システムへの双方向レプリケーションについて話しています。この場合、レプリケートされた LUN にはメインの LUN と同じ LUN-ID が与えられます。 このテクノロジーは主に、XNUMX つの異なるシステムからのキャッシュの一貫性によって機能します。 したがって、ホストにとっては、ホストがどちらの側にあるかは関係ありません。ホストは、ここでもあそこでも同じ論理ドライブを認識します。 その結果、XNUMX つのサイトにまたがるフェールオーバー クラスターを展開することを妨げるものは何もありません。

クォーラムには、物理​​または仮想 Linux マシンが使用されます。 これは XNUMX 番目のサイトに配置でき、そのリソースの要件はわずかです。 一般的なシナリオは、クォーラム VM をホストするためだけに仮想サイトをレンタルすることです。

このテクノロジーにより、非同期レプリケーションを備えた、メトロ クラスター内の XNUMX つのストレージ、追加のサイトといった拡張も可能になります。

これまで、多くの顧客が「ストレージ動物園」を形成してきました。これは、さまざまなメーカー、さまざまなモデル、さまざまな世代、さまざまな機能を備えた一連のストレージ システムです。 ただし、ホストの数は膨大になる可能性があり、多くの場合、ホストは仮想化されています。 このような状況では、管理の優先事項の XNUMX つは、できればディスクの物理的な場所を詳しく調べずに、論理ディスクをホストに迅速、均一、かつ便利に提供することです。 当社の OceanStor DJ ソフトウェア ソリューションはそのために設計されており、特定のストレージ モデルに縛られることなく、さまざまなストレージ システムを統一的に管理し、そこからサービスを提供できます。

同じAI

すでに述べたように、OceanStor Dorado 18000 V6 には、人工知能アルゴリズム Ascend を備えたプロセッサが組み込まれています。 これらは、まず障害を予測するために使用され、次にチューニングの推奨事項を作成するために使用されます。これにより、ストレージのパフォーマンスと信頼性も向上します。

予測期間は XNUMX か月です。AI 機械は、拡張やアクセス ポリシーの変更の時期であるかどうかなど、この間に何が起こるかを高い確率で想定します。推奨事項が事前に発行されるため、事前にシステム メンテナンスの期間を計画することができます。時間の。

ファーウェイのAI開発の次の段階は、それを世界レベルに引き上げることです。 サービスメンテナンス（フェイルオーバーや推奨事項）の過程で、ファーウェイはすべての顧客のストレージからのログシステムからの情報を集約します。 収集された情報に基づいて、発生した障害または潜在的な障害の分析が実行され、特定の XNUMX つのストレージ システムや数十のストレージ システムの機能に基づいてではなく、何千ものそのようなストレージ システムで何が起こっているのか、また起こったのかに基づいて、全体的な推奨事項が作成されます。デバイス。 サンプルは膨大であり、それに基づいて AI アルゴリズムは非常に迅速に学習を開始するため、予測の精度が大幅に向上します。

互換性

2019 年から 2020 年にかけて、当社の機器と VMware 製品の相互作用について多くのほのめかしがありました。 最終的にそれらを阻止するために、私たちは責任を持って「VMware は Huawei のパートナーです」と宣言します。 当社のハードウェアとそのソフトウェアの互換性について、考えられるすべてのテストが実行されました。その結果、VMware Web サイトのハードウェア互換性シートには、現在利用可能な当社製品のストレージ システムが何の留保もなくリストされています。 つまり、VMware ソフトウェア環境では、Dorado V6 を含む Huawei ストレージをフルサポートで使用できます。

Brocade とのコラボレーションについても同様です。 当社は互換性について製品の対話とテストを継続しており、当社のストレージ システムが最新の Brocade FC スイッチと完全に互換性があると自信を持って言えます。

次は何ですか？

私たちはプロセッサーの開発と改良を続けています。プロセッサーはより高速になり、信頼性が高まり、パフォーマンスも向上します。 また、AI チップの改良も行っており、これに基づいて重複排除と圧縮を高速化するモジュールも製造されています。 当社のコンフィギュレーターにアクセスできる方は、これらのカードが Dorado V6 モデルですでに注文可能であることに気づいたかもしれません。

また、ストレージ クラス メモリ (読み取りあたり約 XNUMX マイクロ秒という特に待ち時間が短い不揮発性メモリ) でのキャッシュの追加も進めています。 とりわけ、SCM は、主にビッグ データを扱うときや OLTP タスクを解決するときにパフォーマンスを向上させます。 次回の更新後、SCM カードが注文可能になるはずです。

そしてもちろん、ファイルアクセス機能はファーウェイのデータストレージの全範囲に拡張される予定ですので、今後のアップデートにご期待ください。

出所： habr.com