探讨DPU驱动的高效AI大模型算力底座 中科驭数亮相中国IDC产业(长三角)年度大典

8月31日,以“AI造物 算引变革”为主题的第十八届中国IDC产业(长三角)年度大典今日在上海隆重召开。大会由中国IDC产业年度大典组委会、上海市通信学会“算力浦江”专委会、中国通信工业协会数据中心委员会联合主办。中科驭数产品运营部副总经理曹辉受邀在主会场发表主题演讲——《基于DPU的高效AI大模型算力底座》。

8a19505a2dd420eb1fc14f1f4f5eba1c.jpeg

▲ 中科驭数产品运营部副总经理曹辉应邀发表主题演讲

随着人工智能的不断发展,传统算力底座已成为制约AI算力提升的瓶颈。曹辉在演讲中强调,以ChatGPT为代表的大规模AI模型应用对算力的渴求,正在推动算力底座向着大带宽和低延迟的方向演进。在这一背景下,数据处理单元(DPU)的出现为AI算力底座的升级提供了关键支持,为其提供了必要的大带宽和低时延能力。

曹辉提到,三U一体(CPU/GPU/DPU)成为智算中心的新型算力基座,可以实现通用算力、智能算力、基础算力的硬件协同融合,使得智算中心不仅能够应对复杂多样的任务,还能够为日益挑战性的AI应用需求提供解决方案。

de9af2712df7f4948798e4163598181f.jpeg

曹辉也提到了“Iaas on DPU”,即在DPU中融合各种基础设施层的加速,包括计算加速、存储加速、网络加速、安全加速、云原生加速等等,公司也据此形成了丰富的产品矩阵布局,不仅仅能够助力AI算力底座的整体性能提升,也为用户提供了更高效更完整的基础设施解决方案。

中科驭数将继续秉持着技术创新和开放合作的理念,欢迎服务器厂商、CPU/GPU厂商、操作系统厂商等上下游合作伙伴加入驭数DPU生态,共同推动AI算力底座的发展,为AI产业繁荣做出积极贡献。

猜你喜欢

转载自blog.csdn.net/yusur/article/details/132621933