Apache InLong百万亿级数据流处理

全球最大的开源软件基金会Apache软件基金会正式宣布,Apache InLong成功从Apache孵化器毕业成为社区顶级项目,这个最初由腾讯捐献给Apache社区的一站式海量数据集成框架,可以为大数据开发者提供百万亿级数据流高性能处理能力,以及千亿级数据流高可靠服务。

科普一下,Apache软件基金会对所有的 Apache 项目都要严格筛选并经过孵化器孵化,满足一系列质量要求之后才可毕业。从孵化器里毕业的顶级项目,表明该项目的社区和产品已根据ASF的精英流程和原则得到良好管理。

InLong中文名“应龙”是中国神话中引流入海的神兽,意寓InLong在大数据社区生态中的价值:大数据接入集成。

InLong以腾讯内部使用的TDBank为基础,依托万亿级的数据摄取和处理能力,将数据采集、聚合、存储、排序数据处理的全流程整合在一起。不仅提供自动、安全、可靠和高性能的数据传输能力,还支持基于流式的数据分析、建模和应用,帮助企业简化数据处理的过程。

比如,InLong 作为一个基于SaaS的服务平台,用户可以选择主题的数据发布和订阅,来轻松快速地报告、传输和分发数据,大幅降低了使用门槛。同时InLong可以为100万亿级数据流提供高性能处理能力,为1000亿级数据流提供高可靠服务,保障用户享受到稳定可靠的在线服务。

InLong支持多种数据访问方式,包括不同类型的消息队列服务集成和实时数据提取、转换、加载以及基于规则的排序功能;在服务方面,InLong为用户提供统一的系统监控和告警服务。通过细粒度的指标来促进数据可视化,用户可以在统一的数据度量平台中直接查看队列的运行状态,大大提高了业务的主动性。

实际上,在腾讯内部InLong项目原名TubeMQ,主要专注于高性能、低成本的消息队列服务,并长期服务微信支付、腾讯视频、广点通等产品。为了进一步释放TubeMQ周边的生态能力,腾讯将项目升级为InLong,专注打造一站式海量数据集成框架。该项目于2019年11月进入 Apache 孵化器,2022 年6月毕业成为顶级项目。

目前, Apache InLong已经发布第12个版本,腾讯大数据 InLong 团队和社区开发者一起,在孵化期间不断更新和完善其功能,比如Manager 元数据管理重构、基于 Flink SQL 的 Sort ETL 方案、基于标签的跨地域多集群等特性等,为社区和企业提供更多元化的开放解决方案。与此同时,InLong正在广泛应用于广告、支付、社交、游戏、人工智能等各个行业领域,为多领域客户提供高效化便捷化服务。

值得一提的是,在此之前,腾讯另外的一个开源项目 Angel 也从 LF AI 基金会毕业,成为世界顶级的 AI 开源项目。作为国内国内大数据领域开源最全面的公司,Apache InLong毕业成为Apache顶级项目,不仅创造了腾讯大数据团队在开源领域创造的又一里程碑,也将进一步巩固腾讯在大数据领域的领先地位。

猜你喜欢

转载自blog.csdn.net/ytp552200ytp/article/details/125526133