Fuente original: https://bohutang.me/2020/09/13/clickhouse-and-friends-replicated-merge-tree/
Última actualización: 2020-09-13
En MySQL, para garantizar una alta disponibilidad y seguridad de los datos, se adopta un modo maestro-esclavo y los datos se sincronizan a través de binlog.
En ClickHouse, podemos usar el motor ReplicatedMergeTree y la sincronización de datos se realiza a través de zookeeper.
Este artículo comienza con la creación de un clúster de réplicas múltiples y luego da una idea del mecanismo subyacente y un simple bocado.
1. Construcción de clústeres
Configure un clúster de prueba de 2 réplicas. Debido a las condiciones limitadas, clickhouse-server (2 réplicas) + zookeeper (1) está configurado en la misma máquina física. Para evitar conflictos de puertos, los dos puertos de réplica serán diferentes.
1.1 cuidador del zoológico
docker run -p 2181:2181 --name some-zookeeper --restart always -d zookeeper
1.2 clúster de réplica
replica-1 config.xml:
<zookeeper>
<node index="1">
<host>172.17.0.2</host>
<port>2181</port>
</node>
</zookeeper>
<remote_servers>
<mycluster_1>
<shard_1>
<internal_replication>true</internal_replication>
<replica>
<host>s1</host>
<port>9000</port>
</replica>
<replica>
<host>s2</host>
<port>9001</port>
</replica>
</shard_1>
</mycluster_1>
</remote_servers>
<macros>
<cluster>mycluster_1</cluster>
<shard>1</shard>
<replica>s1</replica>
</macros>
<tcp_port>9101</tcp_port>
<interserver_http_port>9009</interserver_http_port>
<path>/cluster/d1/datas/</path>
replica-2 config.xml:
<zookeeper>
<node index="1">
<host>172.17.0.2</host>
<port>2181</port>
</node>
</zookeeper>
<remote_servers>
<mycluster_1>
<shard_1>
<internal_replication>true</internal_replication>
<replica>
<host>s1</host>
<port>9000</port>
</replica>
<replica>
<host>s2</host>
<port>9001</port>
</replica>
</shard_1>
</mycluster_1>
</remote_servers>
<macros>
<cluster>mycluster_1</cluster>
<shard>1</shard>
<replica>s2</replica>
</macros>
<tcp_port>9102</tcp_port>
<interserver_http_port>9010</interserver_http_port>
<path>/cluster/d2/datas/</path>
1.3 Crear una tabla de prueba
CREATE TABLE default.rtest1 ON CLUSTER 'mycluster_1'
(
`id` Int64,
`p` Int16
)
ENGINE = ReplicatedMergeTree('/clickhouse/tables/replicated/test', '{replica}')
PARTITION BY p
ORDER BY id
1.4 Ver cuidador del zoológico
docker exec -it some-zookeeper bash
./bin/zkCli.sh
[zk: localhost:2181(CONNECTED) 17] ls /clickhouse/tables/replicated/test/replicas
[s1, s2]
Ambas réplicas se han registrado a nombre del guardián del zoológico.
2. Principio de sincronización
Si se realiza una escritura en réplica-1:
replica-1> INSERT INTO rtest VALUES(33,33);
¿Cómo se sincronizan los datos con replica-2?
s1. replica-1> StorageReplicatedMergeTree::write --> ReplicatedMergeTreeBlockOutputStream::write(const Block & block)
s2. replica-1> storage.writer.writeTempPart，写入本地磁盘
s3. replica-1> ReplicatedMergeTreeBlockOutputStream::commitPart
s4. replica-1> StorageReplicatedMergeTree::getCommitPartOp，提交LogEntry到zookeeper，信息包括:
ReplicatedMergeTreeLogEntry {
type: GET_PART,
source_replica: replica-1,
new_part_name: part->name,
new_part_type: part->getType
}
s5. replica-1> zkutil::makeCreateRequest(zookeeper_path + "/log/log-0000000022")，更新log_pointer到zookeeper
s6. replica-2> StorageReplicatedMergeTree::queueUpdatingTask()，定时pull任务
s7. replica-2> ReplicatedMergeTreeQueue::pullLogsToQueue ，拉取
s8. replica-2> zookeeper->get(replica_path + "/log_pointer") ，向zookeeper获取当前replica已经同步的位点
s9. replica-2> zookeeper->getChildrenWatch(zookeeper_path + "/log") ，向zookeeper获取所有的LogEntry信息
s10. replica-2> 根据同步位点log_pointer从所有LogEntry中筛选需要同步的LogEntry，写到queue
s11. replica-2> StorageReplicatedMergeTree::queueTask，消费queue任务
s12. replica-2> StorageReplicatedMergeTree::executeLogEntry(LogEntry & entry)，根据LogEntry type执行消费
s13. replica-2> StorageReplicatedMergeTree::executeFetch(LogEntry & entry)
s14. replica-2> StorageReplicatedMergeTree::fetchPart，从replica-1的interserver_http_port下载part目录数据
s15. replica-2> MergeTreeData::renameTempPartAndReplace，把文件写入本地并更新内存meta信息
s16. replica-2> 数据同步完成
También puede ingresar a la ventana acoplable guardián del zoológico para ver directamente una entrada de registro:
[zk: localhost:2181(CONNECTED) 85] get /clickhouse/tables/replicated/test/log/log-0000000022
format version: 4
create_time: 2020-09-13 16:39:05
source replica: s1
block_id: 33_2673203974107464807_7670041793554220344
get
33_2_2_0
3. Resumen
Este artículo toma la escritura como ejemplo, analiza el principio de funcionamiento de ClickHouse ReplicatedMergeTree desde abajo y la lógica no es complicada.
La sincronización de datos de diferentes réplicas requiere zookeeper (actualmente alguien en la comunidad está haciendo la integración etcd pr # 10376 (https://github.com/ClickHouse/ClickHouse/pull/10376)) para la coordinación de metadatos, que es un modelo de suscripción / consumo que involucra El directorio de datos específico también debe ir a la réplica correspondiente para descargar a través del puerto interserver_http_port.
La sincronización de las réplicas se basa en el directorio de archivos, lo que trae una ventaja: podemos realizar fácilmente la separación del almacenamiento y el cálculo de ClickHouse, múltiples servidores de clickhouse pueden montar los mismos datos para el cálculo al mismo tiempo, y cada nodo de estos servidores Se puede escribir. Brother Hu ha implementado un prototipo que puede funcionar. Para obtener más información, consulte la siguiente parte de < Implementación y esquema de separación de almacenamiento y computación >.
4. Referencia
[1] StorageReplicatedMergeTree.cpp (https://github.com/ClickHouse/ClickHouse/blob/f37814b36754bf11b52bd9c77d0e15f4d1825033/src/Storages/StorageReplicatedMergeTree.cpp)
[2] ReplicatedMergeTreeBlockOutputStream.cpp (https://github.com/ClickHouse/ClickHouse/blob/f37814b36754bf11b52bd9c77d0e15f4d1825033/src/Storages/MergeTree/ReplicatedMut)
[3] ReplicatedMergeTreeLogEntry.cpp (https://github.com/ClickHouse/ClickHouse/blob/f37814b36754bf11b52bd9c77d0e15f4d1825033/src/Storages/MergeTree/ReplicatedMergeT
[4] ReplicatedMergeTreeQueue.cpp (https://github.com/ClickHouse/ClickHouse/blob/f37814b36754bf11b52bd9c77d0e15f4d1825033/src/Storages/MergeTree/ReplicatedMergeTree)
Se acabó el texto completo.
Disfruta ClickHouse :)
La clase "MySQL Core Optimization" de Teacher Ye se ha actualizado a MySQL 8.0, escanee el código para comenzar el viaje de la práctica de MySQL 8.0