百度举办第七届技术开放日,揭秘春晚红包技术支撑

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/cpongo4/article/details/89084830

4月4日,第七届百度技术开放日活动在京举办,在这次开放日中,百度分享了在刚刚过去的春节红包背后的技术支撑,百度高级副总裁、AI技术平台体系(AIG)和基础技术体系(TG)总负责人王海峰到场致辞。

王海峰表示,百度于2018年12月份进行的组织架构调整中,将打造技术中台作为战略方向之一,打造技术中台的行动由王海峰直接带领,2019春晚红包则是新成立的技术中台的第一场大考。

百度副总裁、春晚红包项目技术负责人侯振宇在分享中表示,春晚红包是在世界范围内都极为少见的极端并发场景,比双十一的流量更大更集中,在过去几年里,有几个公司挑战过这项活动,结果都遭遇了滑铁卢。百度临危受命,遭遇时间短、技术难、场景复杂、要求高四大挑战,最终,在全公司各部门通力协作,并组织1000多人进行专项攻关,最终平稳度过。

百度春晚红包具体的技术支撑包括:

全系统全链路的优化设计。这次春晚红包项目架构设计中,采用的是以大化小、隔离,弹性、智能、动态、自愈,同时高效控制总成本的设计理念。

春晚红包采用摇一摇、信息流、视频、语音、搜索等多样化参与形式。摇一摇红包系统采用SET化方案,将业务和存储层切割成多个中大型分布式系统。按用户条带化,形成多个单元化集群,对业务优化适配,可防止故障扩散,形成更可控的完整异常预案。基于SET化和高性能存储方案,实现同步实时读写,避免异步处理带来的延迟和不一致问题。并结合日志对帐,以保障安全性和用户体验。

Feed信息流推荐系统采用弹性架构设计,以便高效的支撑更高的瞬间并发流量挑战。设置多级异常容忍能力,采用自适应,层级化自治架构;在资源固定,保稳定前提下,自动动态调整参数,给最好的推荐效果。

对于视频红包,采用开源的百度智能小程序方案,支持预加载,且采用多版本结合的形式,以灵活应对CDN巨大压力,且对视频全流程体验进化优化。

对于语音模块,专项定制高速模型+动态调度+GPU/FPGA硬件优化。对于搜索,利用用户行为的热点特征,采用多级Cache+漏斗控制,集群状态分级,以抵御突增的并发压力。

对登录系统面临瞬间海量用户涌入的压力,与百度云、运营商共建短信和一键登录的海量能力,包括互通登录在内的多种登录手段结合,多管齐下。采用自动感知、自动决策、自动恢复的自愈式的设计,以应对春晚极端并发和现场直播的压力。

对于春晚红包流量调度,由BFE(百度统一前端)提供支撑。BFE是百度早年研发的统一的七层流量转发平台。在春晚红包项目中,BFE是IDC流量的统一入口,提供了流量调度、接入转发、限流、应用层防火墙等能力。

对于数据库,通过set化等关键技术方案达到对业务透明、且灵活扩展、故障最小化隔离能力;在流量管控上,基于流量画像能力,结合安全检测及拦截能力、多维度多层级流控能力,达到对整体服务的过载保护以及安全防护能力,能有效保障整体服务的可用性、数据的安全性,达到数据库千万级QPS处理能力;最后结合近百项的剧本及自动监控预案措施,进一步加固了春晚数据库服务保障能力。

服务混部与弹性供给。春晚期间,亿级别用户同时启动,上亿的用户同时与百度云服务发起建连;相较于以往简单的摇一摇,这次用户同时访问的业务覆盖搜索、推荐、语音、视频等复杂业务。两周时间内要实现数万服务器级别规模的资源快速筹备与使用方案制定。

技术方案上,重点通过百度云集群内部全混部,利用集群流转支持满足春晚活动资源需求。混部调度意味着选择合适资源,部署合适任务,并做好安全的隔离与服务保护机制。百度春晚活动服务混部调度采用BestEffort模式,弹性使用全百度云的集群资源。BE模式对原正常业务实现了无侵入使用,并满足了春晚服务提前进场与快速便捷退场的需求,顺利通过了活动的多轮压测工作与最终的线上的效率与质量考验。同时围绕潜在问题场景,设计好秒级弹性伸缩的方案。

同时,百度CDN为了应对春晚,3周内完成CDN近百个节点新建、新增数十T带宽储备,保障了这次历史上最大的突发量;技术方面,在核心的存储分发架构上,基于高可靠存储、链路加速、精准调度、高性能Cache等核心技术,中央调度系统通过实时计算的日志监控流来进行全局流控,通过分级分业务的流控对峰值进行合理调度和控制,同时保障柔性降级的安全预案,实现了春晚高峰流量的平稳承载。

大规模工程能力保障。春晚红包项目涉及数十个个产品和平台,110+种场景,280+个预案,百余团队参与,上千人协同,平均每天新增需求和任务千余个,自动化测试上万次。春晚红包项目能够高质量交付,离不开百度长期积累的技术文化和工程能力、集团统一的工程标准和研发规范、可靠高效的开发工具和协作平台。百度在内部沉淀并发布了《百度方法+白皮书》、《百度工程能力白皮书》。

另外,为了春晚红包保障,百度专门建立了临时的春晚蓝军团队,进行全要素全链路压测,模拟真实用户行为,构造大于春晚极限并发的压力洪峰,验证从供电、网络等基础设施,到上层软件架构的服务能力。

负责本次春晚总体架构设计的百度主任架构师吴永巍,将在5月6日的QCon北京站上分享《从高并发到极端并发:百度 Feed 与春晚红包的高可用实践》,欢迎关注。

猜你喜欢

转载自blog.csdn.net/cpongo4/article/details/89084830
0条评论
添加一条新回复