バックルームのオブジェクトストレージ、または独自のサービスプロバイダーになる方法

オブジェクト ストレージの最初のプロトタイプは 1996 年に世界に公開されました。 10 年後には、アマゾン ウェブ サービスが Amazon S3 を立ち上げ、世界は体系的にフラットなアドレス空間に熱狂し始めるでしょう。 メタデータの操作と、負荷がかかっても低下することなく拡張できる機能のおかげで、オブジェクト ストレージはすぐにほとんどのクラウド データ ストレージ サービスの標準になりましたが、それだけではありません。 もう XNUMX つの重要な特徴は、アーカイブや同様のめったに使用されないファイルの保存に適していることです。 データ ストレージに携わる全員が喜び、新しいテクノロジーを腕に抱きました。

しかし、人々の噂は、オブジェクト ストレージは大きなクラウドにすぎず、クソ資本家からのソリューションが必要ないのであれば、独自のソリューションを作成するのは非常に困難であるという噂でいっぱいでした。 独自のクラウドの展開についてはすでに多くのことが書かれていますが、いわゆる S3 互換ソリューションの作成については十分な情報がありません。

したがって、今日は、「CEPH やより大きなファイルではなく、大人と同じように」どのようなオプションがあるかを把握し、そのうちの 3 つをデプロイし、Veeam Backup & Replication を使用してすべてが機能することを確認します。 SXNUMX 互換ストレージの操作をサポートすると主張しており、この主張をテストする予定です。

他の人はどうですか？

まずは市場とオブジェクト ストレージ オプションの概要を簡単に説明することから始めることをお勧めします。 一般に認識されているリーダーおよび標準は Amazon S3 です。 最も近い追跡者は、Microsoft Azure Blob Storage と IBM Cloud Object Storage の XNUMX つです。

それだけですか？ 本当に他に競争相手はいないのでしょうか？ もちろん、競合他社は存在しますが、Google Cloud や Oracle Cloud Object Storage のように、S3 API のサポートが不完全なまま独自の道を行く企業もあります。 Baidu Cloud など、古いバージョンの API を使用するものもあります。 また、Hitachi Cloud のように特別なロジックを必要とするものもありますが、それによって確実に問題が発生します。 いずれにせよ、誰もが業界標準とも言えるAmazonと比較されます。

しかし、オンプレミス ソリューションではさらに多くの選択肢があるため、私たちにとって重要な基準の概要を説明しましょう。 原則として、S3 API のサポートと v4 署名の使用の XNUMX つだけで十分です。 率直に言って、私たちは将来のクライアントとして、対話のためのインターフェースのみに興味があり、保管施設自体の内部キッチンにはあまり興味がありません。

多くのソリューションはこれらの単純な条件に適合します。 たとえば、古典的な企業の有力企業は次のとおりです。

• DellEMC ECS
• ネットアップ S3 ストレージグリッド
• Nutanix バケット
• Pure Storage FlashBlade と StorReduce
• Huawei FusionStorage

すぐに使える純粋なソフトウェア ソリューションのニッチな分野があります。

• Red Hat Ceph
• SUSEエンタープライズストレージ
• 雲雀

組み立て後に慎重にヤスリをかけるのが好きな人でも気分を害することはありませんでした。

• 最も純粋な形のCEPH
• Minio（Linux版、Windows版について質問が多いため）

このリストは完全ではないため、コメントで議論することができます。 実装前に、API の互換性に加えてシステムのパフォーマンスを確認することを忘れないでください。 クエリのスタックによってテラバイト単位のデータが失われることは、絶対に避けたいことです。 したがって、負荷テストを恥ずかしがらないでください。 一般に、大量のデータを扱うすべてのアダルト ソフトウェアには、少なくとも互換性レポートがあります。 の場合には Veeam社 がある プログラム全体 これにより、当社の製品と特定の機器との完全な互換性を自信を持って宣言できるようになります。 これはすでに双方向の作業であり、必ずしも速いわけではありませんが、継続的に拡張しています リスト テストされたソリューション。

スタンドの組み立て

被験者の選択について少しお話したいと思います。

まず、箱から出してすぐに機能するオプションを見つけたいと思いました。 まあ、少なくとも、不必要な動きをせずに機能する可能性が最大限に高くなります。 タンバリンを持って踊ったり、夜にコンソールをいじったりするのはとてもエキサイティングですが、すぐに動作させたい場合もあります。 そして、そのようなソリューションの全体的な信頼性は通常より高くなります。 そして、そうです、冒険精神は私たちの中に消え去り、私たちは愛する女性の窓に登るのをやめました（c）。

第 XNUMX に、正直に言うと、オブジェクト ストレージを使用する必要性はかなり大規模な企業で生じます。そのため、エンタープライズ レベルのソリューションに目を向けることは恥ずべきことではないだけでなく、推奨されることです。 いずれにせよ、そのようなソリューションを購入したために解雇された例を私はまだ知りません。

上記のすべてに基づいて、私の選択は次のとおりでした Dell EMC ECS コミュニティ エディション。 これは非常に興味深いプロジェクトなので、皆さんにお伝えする必要があると思います。

アドオンを見て最初に思い浮かぶのは コミュニティ版 - これは、ライセンスを購入することでいくつかの制限が解除された、本格的な ECS の単なるコピーであること。 だからダメだ！

覚えておいてください：

!!!Community Edition はテスト用に作成された別のプロジェクトであり、Dell からの技術サポートはありません。
そして、たとえそれを望んだとしても、本格的な ECS に変えることはできません。

理解しましょう

オブジェクト ストレージが必要な場合、Dell EMC ECS がほぼ最良のソリューションであると多くの人が信じています。 ECS ブランドのすべてのプロジェクトは、商用および企業を含めて、以下に基づいています。 ギタベ。 デルからの一種の善意です。 また、自社ブランドのハードウェアで実行されるソフトウェアに加えて、クラウド、仮想マシン、コンテナ、または任意のハードウェアにデプロイできるオープンソース バージョンもあります。 今後は OVA 版もあるので、それを使用します。
DELL ECS Community Edition 自体は、ブランドの Dell EMC ECS サーバー上で実行される本格的なソフトウェアのミニバージョンです。

私は XNUMX つの主な違いを特定しました。

• 暗号化はサポートされていません。 それは残念ですが、批判的ではありません。
• ファブリック層がありません。 これは、クラスターの構築、リソース管理、更新、監視、Docker イメージの保存を担当します。 これはすでに非常に不快な点ですが、デルの考えも理解できます。
• 前の点の最も嫌な結果は、インストールの完了後にノードのサイズを拡張できないことです。
• 技術サポートはありません。 これはテスト用の製品であり、小規模なインストールでの使用は禁止されていませんが、個人的には、ペタバイト単位の重要なデータをそこにアップロードする勇気はありません。 しかし、技術的には誰もこれを止めることはできません。

大きいバージョンには何が入っていますか？

エコシステムをより完全に理解するために、ヨーロッパ中を疾走し、鉄壁のソリューションを検討してみましょう。

DELL ECS が最高のオンプレミス オブジェクト ストレージであるという声明を何らかの形で肯定したり反論したりするつもりはありませんが、このトピックについて何かご意見があれば、コメント欄で喜んで読みます。 少なくともバージョンによれば IDC マーケットスケープ 2018 Dell EMC は、OBS 市場のリーダーとして自信を持ってトップ XNUMX に入ります。 ここではクラウドベースのソリューションは考慮されていませんが、これは別の話です。

技術的な観点から見ると、ECS はクラウド ストレージ プロトコルを使用してデータへのアクセスを提供するオブジェクト ストレージです。 AWS S3 と OpenStack Swift をサポートします。 ファイルが有効なバケットの場合、ECS はファイルごとのエクスポート用に NFSv3 をサポートします。

情報を記録するプロセスは、特に古典的なブロック ストレージ システム以降では非常に珍しいものです。

• 新しいデータが到着すると、名前、データ自体、およびメタデータを持つ新しいオブジェクトが作成されます。
• オブジェクトは 128 MB のチャンクに分割され、各チャンクは一度に XNUMX つのノードに書き込まれます。
• インデックス ファイルが更新され、識別子と保存場所が記録されます。
• ログ ファイル (ログ エントリ) が更新され、XNUMX つのノードにも書き込まれます。
• 録音の成功に関するメッセージがクライアントに送信されます
  データの XNUMX つのコピーはすべて並行して書き込まれます。 XNUMX つのコピーすべてが正常に書き込まれた場合にのみ、書き込みは成功したとみなされます。

読みやすくなります:

• クライアントはデータを要求します。
• インデックスはデータが保存されている場所を検索します。
• データは XNUMX つのノードから読み取られ、クライアントに送信されます。

サーバー自体はかなりの数があるため、最小の Dell EMC ECS EX300 を見てみましょう。 60TB から始まり、最大 1,5PB まで拡張できます。 その兄である Dell EMC ECS EX3000 では、ラックあたり最大 8,6PB を保存できます。

展開する

技術的には、Dell ECS CE は必要なだけ大規模に導入できます。 いずれにせよ、明確な制限は見つかりませんでした。 ただし、最初のノードを複製してすべてのスケーリングを行うと便利です。そのためには次のものが必要です。

• 8つのvCPU
• RAM 64GB
• OS用に16GB
• 1TBのダイレクトストレージ
• CentOS 最小限の最新リリース

これは、最初からすべてを自分でインストールしたい場合のオプションです。 このオプションは私たちには関係ありません。なぜなら... 導入には OVA イメージを使用します。

しかし、いずれにせよ、要件は XNUMX つのノードであっても非常に悪質であり、法律の条文に厳密に従う場合は、そのようなノードが XNUMX つ必要になります。

ただし、ECS CE 開発者は現実世界に住んでおり、ノードが XNUMX つであってもインストールは成功します。最小要件は次のとおりです。

• 4つのvCPU
• 16 GBのRAM
• OS用に16GB
• ストレージ自体は 104 GB

これらは、OVA イメージを展開するために必要なリソースです。 すでにはるかに人間的で現実的です。

インストールノード自体は公式から入手できます。 githubの。 オールインワン展開に関する詳細なドキュメントもありますが、公式ドキュメントでも読むことができます。 ドキュメントを読む。 したがって、OVA の展開については詳しく説明しません。そこにはトリックはありません。 重要なことは、開始する前に、ディスクを必要なボリュームに拡張するか、必要なボリュームを接続することを忘れないことです。
マシンを起動し、コンソールを開いて、最適なデフォルトの資格情報を使用します。

• ログイン: 管理者
• パスワード: チェンジミー

次に、sudo nmtui を実行し、ネットワーク インターフェイス (IP/マスク、DNS、ゲート) を構成します。 CentOS minimum には net-tools がないことに留意して、ip addr 経由で設定を確認します。

そして、勇敢な者だけが海を征服できるので、yum updateを実行し、その後再起動します。 実はかなり安全なので… すべてのデプロイメントは Playbook を通じて行われ、すべての重要な Docker パッケージは現在のバージョンにロックされます。

次に、インストール スクリプトを編集します。 派手なウィンドウや擬似 UI は必要ありません。すべてはお気に入りのテキスト エディターで実行できます。 技術的には、各コマンドを手動で実行する方法と、videoploy コンフィギュレーターをすぐに起動する方法の XNUMX つがあります。 vim で設定を開くだけで、終了時にチェックが開始されます。 ただし、意図的に作業を単純化するのは面白くないので、さらに XNUMX つのコマンドを実行してみましょう。 これは意味がありませんが、警告しました =)

それでは、vim ECS-CommunityEdition/deploy.xml を作成し、ECS が稼働するように最適な最小限の変更を加えましょう。 パラメータのリストは短くすることもできますが、私は次のようにしました。

• Licensed_accepted: true 変更する必要はありません。デプロイ時に、それを受け入れるように明示的に求められ、適切なフレーズが表示されます。 おそらくこれはイースターエッグですらあります。
  
• autonames: およびcustom: 行のコメントを解除します。ノードに必要な名前を少なくとも XNUMX つ入力します。ホスト名は、インストール プロセス中にその名前に置き換えられます。
• install_node: 192.168.1.1 ノードの実 IP を指定します。 この場合、nmtui と同じことを示します。
• dns_domain: ドメインを入力します。
• dns_servers: DNS を入力します。
• ntp_servers: 任意のサーバーを指定できます。 プール 0.pool.ntp.org から最初に見つけたものを取得しました (91.216.168.42 になりました)
• autonaming:custom コメントを解除しない場合、月は Luna と呼ばれます。
• ecs_block_devices:
  / dev / sdb
  何らかの理由で、存在しないブロック ストレージ デバイス /dev/vda が存在する可能性があります。
• ストレージプール:
  メンバー：
  192.168.1.1 ここでもノードの実際の IP を示します。
• ecs_block_devices:
  /dev/sdb 存在しないデバイスを切り出す操作を繰り返します。

一般に、ファイル全体については、次のセクションで詳しく説明されています。 ドキュメンテーション、でもこんな大変な時に誰が読むんだろう。 また、最低限必要なのは IP とマスクを指定することであるとも書かれていますが、私の研究室ではそのようなセットの起動がかなり悪く、上で指定したセットに拡張する必要がありました。

エディターを終了した後、 update_deploy /home/admin/ECS-CommunityEdition/deploy.yml を実行する必要があります。すべてが正しく行われると、これが明示的に報告されます。

その後、videoploy を起動し、環境が更新されるのを待つ必要があります。インストール自体は ova-step1 コマンドで開始でき、正常に完了したら ova-step2 コマンドで開始できます。 重要: スクリプトを手動で停止しないでください。 一部の手順にはかなりの時間がかかり、最初の試行では完了せず、すべてが壊れているように見える場合があります。 いずれの場合も、スクリプトが自然に完了するまで待つ必要があります。 最後に、次のようなメッセージが表示されるはずです。

これで、ようやく既知の IP を使用して WebUI コントロール パネルを開くことができます。 この段階で構成が変更されていない場合、デフォルトのアカウントは root/ChangeMe になります。 S3 互換ストレージをすぐに使用することもできます。 HTTP の場合はポート 9020、HTTPS の場合はポート 9021 で使用できます。 繰り返しますが、何も変更されなかった場合は、access_key: object_admin1 および Secret_key: ChangeMeChangeMeChangeMeChangeMeChangeMe になります。

しかし、先走りしすぎず、順番に始めてみましょう。

初めてログインするときは、パスワードを適切なものに変更するよう強制されますが、これは絶対に正しいものです。 メインのダッシュボードは非常にわかりやすいので、明白な指標を説明するよりもさらに興味深いことをしてみましょう。 たとえば、ストレージへのアクセスに使用するユーザーを作成してみましょう。 サービス プロバイダーの世界では、これらはテナントと呼ばれます。 これは、[管理] > [ユーザー] > [新しいオブジェクト ユーザー] で実行します。

ユーザーを作成するときは、名前空間を指定するように求められます。 技術的には、ユーザーの数と同じ数のそれらを作成することを妨げるものは何もありません。 およびその逆。 これにより、テナントごとにリソースを個別に管理できます。

したがって、必要な機能を選択し、ユーザーキーを生成します。 S3/Atmos で十分だと思います。 キーを保存することを忘れないでください 😉

ユーザーが作成されたので、今度はそのユーザーにバケットを割り当てます。 [管理] > [バケット] に移動し、必要なフィールドに入力します。 ここではすべてがシンプルです。

これで、S3 ストレージを戦闘で使用するための準備がすべて整いました。

Veeamのセットアップ

したがって、覚えているとおり、オブジェクト ストレージの主な用途の XNUMX つは、めったにアクセスされない情報を長期保存することです。 理想的な例は、バックアップをリモート サイトに保存する必要がある場合です。 Veeam Backup & Replication では、この機能はキャパシティ層と呼ばれます。

Dell ECS CE を Veeam インターフェイスに追加して、セットアップを開始しましょう。 [バックアップ インフラストラクチャ] タブで、新しいリポジトリの追加ウィザードを起動し、[オブジェクト ストレージ] を選択します。

すべての始まりである S3 互換を選択しましょう。

表示されるウィンドウで、希望の名前を入力し、「アカウント」ステップに進みます。 ここでは、フォームでサービスポイントを指定する必要があります。 https://your_IP:9021、リージョンはそのままで、作成したユーザーを追加できます。 ストレージがリモート サイトにある場合はゲート サーバーが必要ですが、これはインフラストラクチャの最適化に関するトピックであり、別の記事で説明されているため、ここではスキップしても問題ありません。

すべてが正しく指定および構成されている場合、証明書に関する警告が表示され、ファイル用のフォルダーを作成できるバケットのあるウィンドウが表示されます。

ウィザードを最後まで実行して、結果を楽しみます。

次のステップは、新しいスケールアウト バックアップ リポジトリを作成するか、既存のバックアップ リポジトリに S3 を追加することです。これはアーカイブ ストレージの容量階層として使用されます。 現在のリリースには、通常のリポジトリのように S3 互換ストレージを直接使用する機能はありません。 これを実現するには、あまりにも多くのあまり明らかではない問題を解決する必要がありますが、何でも可能です。
リポジトリ設定に移動し、キャパシティ層を有効にします。 そこではすべてが透過的ですが、興味深いニュアンスがあります。すべてのデータをできるだけ早くオブジェクト ストレージに送信したい場合は、それを 0 日に設定するだけです。

ウィザードを完了した後、待ちたくない場合は、リポジトリ上で Ctrl+RMB を押し、階層化ジョブを強制的に起動し、グラフがクロールするのを確認します。

それは今のところすべてです。 ブロックストレージは人々が思っているほど怖くないということを示すという仕事は成功したと思います。 はい、ワゴンや小型カート用のソリューションとオプションはありますが、XNUMX つの記事ですべてをカバーすることはできません。 コメントで私たちの経験を共有しましょう。

出所： habr.com