GreptimeDB v0.3 正式发布|分布式能力全面提升

六月即将过半,伴着夏日的声声蝉鸣,GreptimeDB v0.3 如期而至。

在 4 月中旬发布的 v0.2 版本中,我们主要目标集中在单机PromQL 兼容写入性能优化等。v0.2 的单机版本有了较好的基础,而在 v0.3 版本,我们的关键词则是 “分布式”,也就是所有的能力或是更新均在分布式版本上提供(分布式提供了单机版本不具备的扩展性、高可用性和容错性等),总结来讲,主要是以下几个方面:

  • 分布式性能优化:实现了 Region 级别的高可用性,提供了快速的容灾切换调度。同时也对分布式写入性能进行了优化。
  • 查询能力提升:包括支持分布式查询优化、重要 SQL 查询(如 TopK)的改善以及优化数据压缩策略来加快查询速度。
  • 稳定性增强:为了增加系统的健壮性和可靠性,引入了 Procedure 框架来保障多步操作的最终一致性。同时提供了更细粒度的 Hybrid-flush 策略以提高写入的稳定性,并增加了更多性能指标度量的埋点来提升系统的可观测性,支持如 Tokio console 等工具。

从 0.2 到 0.3,一个半月时间,仅 GreptimeDB 项目就合并了 222 PRs, 涉及到 674 个文件修改,包含了 120+ 个功能优化,50+ 个修复以及 20+ 重构,这些数字的背后是 27 位社区贡献者的努力。特别感谢社区和团队的努力,接下来,我们重点回顾 v0.3 的核心内容。

GreptimeDB v0.3 重点内容

实现 Region 级别的高可用

在分布式系统中,为了保障高可用,需要做到 region 级别的容灾, GreptimeDB 在 v0.3 版本中支持了这一特性,是最终达到分布式高可用的重要里程碑.由于涉及到 Frontend, Meta 和 Datanode 等不同组件的改造,影响面较广,我们通过 Issue#1126 来跟踪整个实现过程,如果你对此感兴趣,欢迎关注,当然,一切是从 RFC: Region Fault Tolerance 开始:

重要的 SQL 查询场景优化

基于过去的业务经验,在 GreptimeDB v0.3 开发中重点优化了最常用的查询场景,比如 TopK 等,主要还是利用了剪枝的思维,我们也将整个工作分成了多个子任务,并通过 Issue#1286 跟踪。

分布式查询优化,支持常用算子下推

为了数据库的分析能力,很早就有人提出 Near-Data Processing 的方式,也就是给予存储层一定的算力,让一些简单的计算在数据中心完成之后再返回,这样可以避免大量原始数据的传输,而算子下推(operator push-down) 是最常见的实现方式,GreptimeDB v0.3 支持了 PromQL 大部分算子和谓词的下推,优化分布式查询。这么重要的功能,我们也事先通过 RFC: Distributed Planner 讨论实现方案,具体实现可参见 PR#1660. (Greptime 开发日常:这个 PR 超过了 1000 行代码的修改,在我们内部是极不推荐的,但因为 author 会发红包,大家也就勉强原谅了 ta,甚至还有点期待)

引入了 Procedure 框架,保障多步操作的最终一致性

为了增加系统的健壮性和可靠性,受 Apache HBase's ProcedureV2 framework 启发,GreptimeDB 也用 Rust 写了一个 Procedure 框架来保障多步操作的最终一致性,这又是一个从 RFC: Procedure Framework 开始的故事,而且有一个超级庞大的 Issue#286 在跟踪,v0.3 并不是他的终点,故事还将继续。(对了,如果你觉得 RFC 太枯燥,也可以参考 九转大肠 来理解到底什么是 Procedure)

增加更多的性能指标提升系统的可观测性

作为可观测体系下的可靠存储方案,GreptimeDB 自身的可观测性也必须做好,在 v0.3 在版本中,增加了更多的 metric 指标用来检测系统的运行情况,这部分内容遍及到每个组件中,可以参看 PR list

其他细节的优化:

  • 支持查询外部数据,导入导出 CSV/JSON/Parquet 格式文件
  • 支持 TQL EXPLAIN/ TQL ANALYZE 从句,分析 PromQL 查询性能
  • 提高了 PromQL 兼容性
  • 在集群模式下支持启用 Tokio 控制台
  • 等等

整体上,v0.3 会是一个初步可以试用的分布式版本,它具备了 region 粒度的服务高可用(数据高可靠还待后续版本完成),重点场景的分布式查询(重点是 PromQL 查询方向)和写入性能均达到或者略微超过主流同类数据库性能的水位线。

升级注意事项

如果您是从 0.2 升级而来,需要特别注意以下几点:

  • 使用本地存储,需要修改配置 data_dir ,该选项已经废弃,假设您原来设置 data_dir = "/greptimedb/data",那么需要修改为 data_home = "/greptimedb"data_home 替代指定数据根目录。
  • 建议升级之前使用 COPY 命令备份数据

GreptimeDB v0.4 计划

从 0.3 开始便将研发重点聚焦到分布式,并制定了中长期计划,按月迭代,0.4 的主题就是性能和完善现有功能,将聚焦在以下几个功能:

  • 分布式 DDL 语句的支持像 Create Table, Drop Table 等接入 Procedure 框架确保分布式多步操作的正确执行
  • 异步的压缩和索引,提升查询性能
  • 在 0.3 版本我们支持了 PromQL 大部分算子和谓词的下推,0.4 版本将聚焦到 SQL 中的常见算子的下推以提升 SQL 查询性能
  • 重点优化表引擎和存储引擎,提升读写性能,降低资源消耗

致谢社区

感谢亲爱的社区和所有贡献者们,是你们的每一个建议、BUG 修复和代码贡献,才让这个项目不断壮大、迈向新高峰。

截屏20230602 15.28.19.png

关于 Greptime

Greptime 格睿科技于 2022 年创立,目前正在完善和打造时序数据库GreptimeDB 和格睿云 GreptimeCloud 这两款产品。

GreptimeDB 是一款用 Rust 语言编写的时序数据库,具有分布式、开源、云原生、兼容性强等特点,帮助企业实时读写、处理和分析时序数据的同时,降低长期存储的成本。

GreptimeCloud 基于开源的 GreptimeDB,为用户提供全托管的 DBaaS,以及与可观测性、物联网等领域结合的应用产品。利用云提供软件和服务,可以达到快速的自助开通和交付,标准化的运维支持,和更好的资源弹性。GreptimeCloud 已正式开放内测,欢迎关注公众号或官网了解最新动态!

官网:https://greptime.com/

公众号:GreptimeDB

GitHub: https://github.com/GreptimeTeam/greptimedb

文档:https://docs.greptime.com/

Twitter: https://twitter.com/Greptime

Slack: https://greptime.com/slack

LinkedIn: https://www.linkedin.com/company/greptime/

开源框架 NanUI 作者转行卖钢材,项目暂停开发 苹果 App Store 免费榜第一是黄色软件 TypeScript 刚刚流行起来,为什么大牛们就开始抛弃了? TIOBE 10 月榜单:Java 跌幅最大,C# 逼近 Java Rust 1.73.0 发布 男子受 AI 女友怂恿刺杀英国女王,被判入狱九年 Qt 6.6 正式发布 路透社:RISC-V 技术成为中美科技战的新战场 RISC-V:不受任何单一公司或国家的控制 联想计划推出 Android PC
{{o.name}}
{{m.name}}

猜你喜欢

转载自my.oschina.net/u/6839317/blog/10090384