ClickHouseと彼の友人（13）ReplicateMergeTreeテーブルエンジンと同期メカニズム

元のソース：https：//bohutang.me/2020/09/13/clickhouse-and-friends-replicated-merge-tree/

最終更新日：2020-09-13

MySQLでは、高い可用性とデータセキュリティを確保するために、マスタースレーブモードが採用され、データはbinlogを介して同期されます。

ClickHouseでは、ReplicateMergeTreeエンジンを使用でき、データの同期はzookeeperを介して行われます。

この記事では、マルチレプリカクラスターの構築から始めて、基礎となるメカニズムと簡単な説明を垣間見ることができます。

1.クラスター構築

2レプリカテストクラスターをセットアップします。条件が限られているため、クリックハウスサーバー（2レプリカ）+動物園キーパー（1）が同じ物理マシンにセットアップされます。ポートの競合を回避するために、2つのレプリカポートは異なります。

1.1動物園の飼育係

docker run  -p 2181:2181 --name some-zookeeper --restart always -d zookeeper

1.2レプリカクラスター

レプリカ-1config.xml：

   <zookeeper>
      <node index="1">
         <host>172.17.0.2</host>
         <port>2181</port>
      </node>
   </zookeeper>

   <remote_servers>
      <mycluster_1>
         <shard_1>
            <internal_replication>true</internal_replication>
            <replica>
               <host>s1</host>
               <port>9000</port>
            </replica>
            <replica>
               <host>s2</host>
               <port>9001</port>
            </replica>
         </shard_1>
      </mycluster_1>
   </remote_servers>

   <macros>
      <cluster>mycluster_1</cluster>
      <shard>1</shard>
      <replica>s1</replica>
   </macros>


   <tcp_port>9101</tcp_port>
   <interserver_http_port>9009</interserver_http_port>
   <path>/cluster/d1/datas/</path>

レプリカ-2config.xml：

   <zookeeper>
      <node index="1">
         <host>172.17.0.2</host>
         <port>2181</port>
      </node>
   </zookeeper>

   <remote_servers>
      <mycluster_1>
         <shard_1>
            <internal_replication>true</internal_replication>
            <replica>
               <host>s1</host>
               <port>9000</port>
            </replica>
            <replica>
               <host>s2</host>
               <port>9001</port>
            </replica>
         </shard_1>
      </mycluster_1>
   </remote_servers>

   <macros>
      <cluster>mycluster_1</cluster>
      <shard>1</shard>
      <replica>s2</replica>
   </macros>

   <tcp_port>9102</tcp_port>
   <interserver_http_port>9010</interserver_http_port>
   <path>/cluster/d2/datas/</path>

1.3テストテーブルを作成する

CREATE TABLE default.rtest1 ON CLUSTER 'mycluster_1'
(
    `id` Int64,
    `p` Int16
)
ENGINE = ReplicatedMergeTree('/clickhouse/tables/replicated/test', '{replica}')
PARTITION BY p
ORDER BY id

1.4飼育係を見る

docker exec -it some-zookeeper bash
./bin/zkCli.sh

[zk: localhost:2181(CONNECTED) 17] ls /clickhouse/tables/replicated/test/replicas
[s1, s2]

両方のレプリカが動物園の飼育係に登録されています。

2.同期の原則 

書き込みがレプリカ1で実行される場合：

replica-1> INSERT INTO rtest VALUES(33,33);

データはどのようにレプリカ2に同期されますか？

s1.  replica-1> StorageReplicatedMergeTree::write --> ReplicatedMergeTreeBlockOutputStream::write(const Block & block)
s2.  replica-1> storage.writer.writeTempPart，写入本地磁盘
s3.  replica-1> ReplicatedMergeTreeBlockOutputStream::commitPart
s4.  replica-1> StorageReplicatedMergeTree::getCommitPartOp，提交LogEntry到zookeeper，信息包括:
    ReplicatedMergeTreeLogEntry {
     type: GET_PART,
     source_replica: replica-1,
     new_part_name: part->name,
     new_part_type: part->getType
    }
s5.  replica-1> zkutil::makeCreateRequest(zookeeper_path + "/log/log-0000000022")，更新log_pointer到zookeeper

s6.  replica-2> StorageReplicatedMergeTree::queueUpdatingTask()，定时pull任务
s7.  replica-2> ReplicatedMergeTreeQueue::pullLogsToQueue ，拉取
s8.  replica-2> zookeeper->get(replica_path + "/log_pointer") ，向zookeeper获取当前replica已经同步的位点
s9.  replica-2> zookeeper->getChildrenWatch(zookeeper_path + "/log") ，向zookeeper获取所有的LogEntry信息
s10. replica-2> 根据同步位点log_pointer从所有LogEntry中筛选需要同步的LogEntry，写到queue
s11. replica-2> StorageReplicatedMergeTree::queueTask，消费queue任务
s12. replica-2> StorageReplicatedMergeTree::executeLogEntry(LogEntry & entry)，根据LogEntry type执行消费
s13. replica-2> StorageReplicatedMergeTree::executeFetch(LogEntry & entry) 
s14. replica-2> StorageReplicatedMergeTree::fetchPart，从replica-1的interserver_http_port下载part目录数据
s15. replica-2> MergeTreeData::renameTempPartAndReplace，把文件写入本地并更新内存meta信息
s16. replica-2> 数据同步完成

zookeeper dockerに入って、LogEntryを直接表示することもできます。

[zk: localhost:2181(CONNECTED) 85] get /clickhouse/tables/replicated/test/log/log-0000000022
format version: 4
create_time: 2020-09-13 16:39:05
source replica: s1
block_id: 33_2673203974107464807_7670041793554220344
get
33_2_2_0

3.まとめ

この記事では、例として書き込みを取り上げ、ClickHouse ReplicatedMergeTreeの動作原理を下から分析し、ロジックは複雑ではありません。

異なるレプリカのデータ同期には、サブスクリプション/消費モデルであるメタデータ調整のためにzookeeper（コミュニティの誰かが現在etcd統合pr＃10376（https://github.com/ClickHouse/ClickHouse/pull/10376）を実行しています）が必要です。特定のデータディレクトリも、interserver_http_portポートを介してダウンロードするために、対応するレプリカに移動する必要があります。

レプリカの同期はファイルディレクトリに基づいているため、ClickHouseのストレージと計算の分離を簡単に実現でき、複数のクリックハウスサーバーが同じデータをマウントして同時に計算でき、これらのサーバーの各ノードに利点があります。書き込み可能です。Hu兄弟は動作するプロトタイプを実装しました。詳細については、次の記事<ストレージとコンピューティングの分離スキームと実装>を参照してください。

4.リファレンス

[1] StorageReplicatedMergeTree.cpp（https://github.com/ClickHouse/ClickHouse/blob/f37814b36754bf11b52bd9c77d0e15f4d1825033/src/Storages/StorageReplicatedMergeTree.cpp）

[2] ReplicatedMergeTreeBlockOutputStream.cpp（https://github.com/ClickHouse/ClickHouse/blob/f37814b36754bf11b52bd9c77d0e15f4d1825033/src/Storages/MergeTree/ReplicatedMut）

[3] ReplicatedMergeTreeLogEntry.cpp（https://github.com/ClickHouse/ClickHouse/blob/f37814b36754bf11b52bd9c77d0e15f4d1825033/src/Storages/MergeTree/ReplicatedMergeT

[4] ReplicatedMergeTreeQueue.cpp（https://github.com/ClickHouse/ClickHouse/blob/f37814b36754bf11b52bd9c77d0e15f4d1825033/src/Storages/MergeTree/ReplicatedMergeTree）

全文は終わりました。

ClickHouseをお楽しみください:)

TeacherYeの「MySQLCoreOptimization」クラスがMySQL8.0にアップグレードされました。コードをスキャンして、MySQL8.0の練習の旅を始めてください。