9月5日，2023百度云智大会在北京举办。为了帮助企业更快地用上、用好大模型，百度智能云在大会上宣布四大举措：全新升级百度智能云千帆大模型平台；基于文心大模型重构数字政府、金融、工业、交通四大行业解决方案；发布覆盖服务营销、办公提效、生产优化三大领域的11款面向通用场景的AI原生应用；推出大模型新生态政策，为伙伴提供资金、算力、技术、营销等全方位的强力支持。
会上，百度集团副总裁侯震宇在做《大模型驱动云计算创新变革》主题演讲时表示，“大模型将驱动云计算的创新，并重塑云计算的产业格局。大模型的发展不同于以往的AI技术迭代，它同时驱动了底层IT基础设施的重构，也带来了上层应用开发模式的变革。”
百度集团副总裁侯震宇
以下是演讲实录：
各位嘉宾朋友们，大家上午好。
刚才沈抖博士已经全面分享了大模型带来的技术革命，发布了百度智能云千帆大模型平台2.0，也介绍了大模型在千行百业的成功落地的案例，相信大家对我们正在进入的大模型时代也都充满着期待。
接下来我分享的内容想回归到云计算本身，分享一下大模型会给云计算带来哪些颠覆与变革。我们相信：大模型将驱动云计算的创新并重塑云计算的产业格局。
大模型的发展不同于以往的AI技术迭代，它同时驱动了底层IT基础设施的重构，也带来了上层应用开发模式的变革。
我们回顾一下过去多年来技术发展的脉络。
自2012年以来，深度学习就逐步成为人工智能的主流算法。在移动应用上，深度学习大放异彩，算法模型能力成为很多移动互联网企业的核心竞争力。但是，深度学习仅停留在对应用的赋能上，没有从实质上改变应用的研发范式。
自经典云计算诞生以来，计算网络存储的虚拟化使算力成为基础服务，数字化基础设施的格局被云计算所改变。移动应用则采用了对云更加亲和的云原生架构理念做设计，这大幅提升了移动应用的开发迭代效率，一定程度助力了移动应用市场的繁荣。
我们发现，移动应用、深度学习和云计算三个时代有所重叠，移动应用市场的蓬勃也受益于深度学习和云计算的发展，但是应用、AI技术和IT基础设施仍然是三条平行线独立演进。而在大模型开启的AI原生时代，这三条平行线终于迎来了交汇：
>>在应用层，大模型独有的理解、生成、逻辑、记忆的能力将会在场景中以AI原生应用的方式落地。
>>与此同时，大模型会成为通用的服务，即MaaS，这将大幅降低AI落地的门槛、实现真正的AI普惠。
>>而作为基础设施的云计算将会在大模型发展的驱动下，在AI原生应用的引领下发展成为AI原生云，重塑云计算的产业格局。
生成式AI会催生新的研发范式，这体现在AI原生应用落地需要新的架构指导，AI模型能力的研发和推理需要新的服务承载，而基础设施也会发展出以AI为核心的新的计算体系结构。
下面我们逐个来介绍一下：
第一，新的架构。AI原生应用是面向“大模型”，以大模型为核心来设计的，要充分发挥大模型新的特征，因此对应用提出了新架构的要求。
我们认为构建AI原生应用需要几个关键技术组件：
>>首先是Model，就是模型能力，将以API调用的形式提供服务。这里的模型包含基础模型也包括客户自己的微调模型。
>>然后是Prompt，帮助用户从模型获得更好的回答。
>>还有Chain和Agent来实现静态编排和动态编排，利用大模型的独有能力实现链式调用。
这些是可以更好的使用到的模型能力，是大语言模型带来的变化。而基于大模型的这些能力带来的变化，应用自然需要对其数据流和业务流进行重塑。
第二，新的服务。模型能力将成为新的基础服务MaaS，而MaaS需要具备丰富、易用和面向AI原生的三个特点。这要求：
>>首先，大模型平台应该提供丰富的大模型供客户选择。因为我们相信应用一定是“通专结合”的，未来不可能一个模型解决所有问题，需要模型组合去满足不同客户场景的需求。
>>其次，大模型平台要简单易用，需要有全套工具链 ，覆盖从数据收集标注到模型研发训练评估，再到模型上线推理优化的全生命周期。
>>最后，大家都知道数据对于AI模型至关重要，平台需要帮助客户建立起自己的数据闭环能力，更好的支持客户模型迭代。
第三：新的计算。大模型需要进行大量数据的高密度计算，对于计算体系结构带来新的要求。
我们看到计算负载在加速向异构计算迁移，且规模越来越大。微秒级互联成为将算力规模化扩展的关键能力。这些都需要我们从整个体系结构的层面上，用软硬一体的方法去解决。
下面我会进一步介绍AI原生应用新架构、模型新服务和面向AI的新计算基础设施。
AI需要在场景内落地，这将由一个应用来实现承载。一个AI原生应用如何设计、都包含哪些服务组件，我想这是大家非常关心的。
我这里分享一下一般的业务调用流是什么样的。大模型应用流程从用户的一次请求开始，系统先对用户意图进行拆解编排，得到的多个子任务通常以领域知识增强、搜索增强等方式实现，输出的内容通过大语言模型合成完整结果，最后经过安全模块的审计后返回给用户，基础设施为任务的编排调试、系统的日志监控等提供支持。
简单总结来看，AI原生应用开发背后需要三个关键的能力：一是高效的应用开发环境，百度会提供低代码工具、丰富的垂类应用模板和可视化调试工具；二是丰富的领域增强支持，百度提供自研向量数据库及数据湖、搜索增强等服务；三是完备的内容安全保障，我们提供多种手段保障输出内容的安全。
基于以上能力，客户可以非常方便的搭建一个AI原生应用。
刚才沈抖博士的分享，大家已经看到我们百度智能云千帆大模型平台2.0的超强能力，帮助企业跨越大模型应用的鸿沟，千帆大模型平台正是按照AI原生的全新技术栈打造。我们在数据、Model、Prompt、Chain、Agents每一层都提供了丰富的功能和组件，让大模型应用更便捷。
百度智能云千帆大模型平台的特点总结起来有三个：
>>一是提供多个好用的大模型，不仅有百度自研的文心大模型，也提供了多个第三方大模型。同时面向这些模型，提供了重训、微调等可视化工具，支持快速便捷的训模型。
>>二是提供丰富的生态工具并配合整体百度智能云的服务，为大模型落地应用做好了准备。
>>三是预置丰富的数据集，同时也支持应用数据回馈到模型迭代更新，实现数据主动驱动业务迭代。
百度智能云千帆大模型平台为大模型的研发、服务提供了全生命周期的支持。
在基础设施层，百度研发了百舸异构计算平台。百舸平台为大模型和AI原生应用提供了：稳定高可靠的系统、高性能的训练推理服务和基于高速网络的数据交换能力。
>>在高可靠方面，大规模并行训练的稳定性是客户关注的基础设施关键能力之一，百舸具备强大的容错能力，能做到秒级故障感知、分钟级自动故障容错，能实现万卡训练月级不中断，充分满足客户大模型训练需求。
>>在高性能方面，经过百度多年在AI基础设施上的积累，百舸已经实现对公开模型库的训练性能提升30%+，推理吞吐提升10倍。
>>在高速网络方面，我们有自研的高速网络，支持更低的通信延时和更大的通信吞吐，为算力规模的扩张打好了基础。
面对AI原生时代的历史机遇，百度智能云已经打造了全方位的产品。这里我们展示一下百度AI原生云的产品全景图，大家可以看到我分享的内容只是其中一小部分，更多的产品分享会在下午的《智能计算&大模型技术》分论坛，欢迎大家到时莅临我们分论坛现场。
实现AI普惠是我们的信念，我们一直致力于让每一个人、每一个组织都能享受到AI技术的便利，打破数字鸿沟，实现公平与进步，让智能触手可及，用科技让复杂的世界更简单，谢谢大家！
点击“阅读原文”，回顾大会详情