ベクター データベース Milvus クラウド パーティション キー: 多数のテナントと単一テナントの少ないデータ向けの 3 つのソリューション

3つの解決策

この質問が提起されたとき、Milvus の最新バージョンは 2.2.8 でした。私たちはロール スワップを実行しました。その時点で、このユーザーの観点からは、いくつかの選択肢が残されていました。

  • テナントごとにコレクションを作成する

  • テナントごとにパーティションを作成する

  • テナント名を使用してスカラー フィールドを作成します

次に、これら 3 つのオプションの実現可能性を順番に分析します。

  • オプション 1: 各テナントのコレクションを作成します。

これは私たちが考える最も自然な方法です。非常に直感的で使いやすいですが、致命的な欠陥があります。Milvus クラスターは最大 65536 個のコレクションしか作成できません。この制限の理由は、Milvus のコレクションがメッセージ システム (Pulsar/Kafka) のトピックにバインドされているためです。Pulsar/Kafka のトピック数には上限があります。コレクションの数が多すぎると、トピックの再利用率も非常に高く、高いと深刻な読み取り増幅の問題が発生する可能性があります。10,000 ~ 20,000 のテナントがあるため、テナントごとに 1 つのコレクションは機能しません。

しかし、良いニュースは、コミュニティがすでにいくつかの軽量メッセージ システム (NATS) の導入を計画しており、コレクションの数は将来的にはより高いレベルに達すると予想されることです。コレクション数の問題が解決できれば、MySQLのようにテーブル数の上限が数億に達する可能性もある

おすすめ

転載: blog.csdn.net/qinglingye/article/details/132263066