ファイルデータのバックアップ、バージョン管理、レプリケーションのためのソリューション

ファイルデータのバックアップ、バージョン管理、レプリケーションのためのソリューション

アプリケーション コードの一部ではないデータ ファイル (.wav ファイル、画像ファイルなど) は、ユーザーによってアップロードおよび変更され、増え続けています。ファイルの数は数千に上り、合計サイズは GB に達します。

当社は、世界中のさまざまな場所 (米国、EU、ME) に複数のサーバー クラスターを持っています。各クラスターでは、データが S3 からではなくローカルで提供されることが重要です (データ ファイルはクライアントに直接提供されるのではなく、サーバーによって処理されます)。各場所にファイル サーバーを指定して、同じクラスター内の他のノードに NFS 経由でファイルを提供する必要があります。

つまり、結論は次のようになります。

  • アプリケーション経由でアップロードされたファイルは に保存されますS3
  • 各ファイル サーバー ノードはそれらのファイルを複製する必要があります。

いくつかの選択肢があります:

  • バックアップ/バージョン管理のために、および(または同様のもの)経由でノードにorigin複製するファイル サーバーを使用します。S3rsync
  • 上記と同じですが、スレーブはS3S3 ツールなどを使用して複製します。
  • を使用しない場合origin、アプリ コードは に直接アップロードされS3、スレーブは上記のように複製されます。

推奨されるソリューションはどれか、またレプリケーション部分(ファイルシステム間カテゴリ、およびファイルシステム/S3 カテゴリ)に使用できるツールは何か、知りたいと思いました。

関連情報