服务器方案与DPU市场

服务器方案与DPU市场
服务器概念、组成、分类和架构之争
服务器是构建云计算的最核心基础设备，在“新基建”加快推进、公有云持续放量的背景下，服务器行业正迎来景气拐点。
本文围绕4个核心问题，由浅入深对服务器进行深入剖析：
1、服务器是什么？
2、服务器的构成？
3、服务器的分类？
4、X86/ARM之争？
一、服务器是什么？
服务器的英文名称为“ Server”，是指在网络上提供各种服务的高性能计算机。作为网络的节点，存储、处理网络上80％的数据、信息，因此也被称为网络的灵魂。
服务器和普通计算机的功能是类似的。只是相对于普通计算机，服务器在稳定性、安全性、性能等方面都要求更高，因此CPU、芯片组、内存、磁盘系统、网络等硬件和普通计算机有所不同。
具体来说，服务器与普通计算机的主要区别包括：
1）通信方式为一对多：PC、平板、手机等固定或移动的网络终端，上网、获取资讯、与外界沟通、娱乐等，必然要经过服务器，服务器通过“一对多”来组织和领导这些设备。
2）资源通过网络共享：服务器通过侦听网络上其它终端（Client）提交的服务请求，在网络操作系统的控制下，将与相连的硬盘、打印机、Modem及各种专用通讯设备提供给网络上的客户站点共享，能为网络用户提供集中计算、信息发表及数据管理等服务。
3）硬件性能更加强大：服务器的高性能主要体现在高速度的运算能力、长时间的可靠运行、强大的外部数据吞吐能力等方面。
服务器厂商会根据不同的应用场景，对服务器进行差异化设计，目前主要的应用场景包括文件交互、数据存储和查询、应用程序应答与运行等。
本文主要参考文献
参考链接
https://mp.weixin.qq.com/s/O08VMhTHucaPx-KidLNqvw
https://mp.weixin.qq.com/s/nDNo0dOquia2p54ip7sxqA

二、 服务器的构成？

2.1 服务器的逻辑架构

服务器的逻辑架构和普通计算机类似。但是由于需要提供高性能计算，因此在处理能力、稳定性、可靠性、安全性、可扩展性、可管理性等方面要求较高。服务器的逻辑架构中，最重要的部分是CPU和内存。CPU对数据进行逻辑运算，内存进行数据存储管理。

2.2 服务器的硬件
服务器硬件主要包括：处理器、内存、芯片组、I/O（RAID卡、网卡、HBA卡）、硬盘、机箱（电源、风扇）。
在硬件的成本构成上，CPU及芯片组、内存、外部存储是大头。以一台普通的服务器生产成本为例，CPU及芯片组大致占比50% 左右，内存大致占比 15% 左右，外部存储大致占比10%左右，其他硬件占比25%左右。

2.3 服务器的固件和OS
服务器的固件主要包括BIOS或UEFI、BMC、CMOS，OS包括32位和64位。
1）BIOS
（Basic input/ Output System）
即基本输入输出系统，是服务器启动后最先运行的软件。包括基本输入输出控制程序、上电自检程序、系统启动自举程序、系统设置信息。BIOS是服务器硬件和OS之间的抽象层，用来设置硬件，为OS运行做准备。BIOS设置程序是储存在BIOS芯片中的。BIOS的进化版本是UEFI（Unified Extensible FirmwareInterface），即统一的可扩展固定接口。这种接口用于操作系统自动从预启动的操作环境，加载到一种操作系统上，使开机程序化繁为简，节省时间。
2）BMC
（Baseboard Management Montroller）
即基板管理控制器，主要是对服务器进行监控和管理。BMC可以在服务器未开机的状态下，对机器进行固件升级、查看机器设备等。
3）CMOS
（Complementary metal-oxide-semiconductor）
是电脑主机板上一块特殊的RAM芯片，是系统参数存放的地方。CMOS存储器用来存储BIOS设定后的相关参数。
4）OS
（Operating system）
即操作系统，对服务器软硬件及数据资源进行管理调度。OS主要分为32位和64位，OS的位数版本决定了计算机处理器在RAM（随机存取储存器）处理信息的效率，64位版本比32位的可以处理更多的内存和应用程序。
三、服务器的分类？
服务器的分类标准是多元化的，目前主要可按产品形态、指令集架构、处理器数量、应用类型等对市场上的服务器进行分类。

3.1 按产品形态
服务器按产品形态，可以分为：塔式服务器、机架服务器、刀片服务器、机柜服务器等。

1）塔式服务器（ Tower Server）
既常见的立式和卧式机箱结构的服务器，可放置在普通的办公环境，机箱结构较大，有较大的内部硬盘、冗余电源、冗余风扇的扩容空间，并具备较好的散热功能。塔式服务器密度低，多为单处理器系统（有少部分为双处理器系统）。系统电源和风扇一般是单配，非冗余可靠性较低。主要应用在企业官网、多媒体大流量APP、医疗成像、虚拟桌面基础架构（VD）等场景。

2）机架式服务器（Rack Server）
机架结构是传统电信机房的设备结构标准，宽度为19英寸，高度以单位“U”计算，每“U”为1.75英寸（可换算成4.445cm）。通常有1U、2U、4U和8U之分，其中以1U和2U为主，其次是4U和8U。近期市场也有3U和6U等高度的机架产品出现。机架服务器是一种外观按照统一标准设计的服务器，配合机柜使用。可以认为机架式是一种优化结构的塔式服务器，设计宗旨主要是为了尽可能减少服务器空间的占用，减少空间的直接好处就是在机房托管的时候价格会便宜很多。主要应用在云计算、软件定义存储、超融合架构、CDN缓存、超算中心等场景。

3）刀片式服务器（Blade Server）
通常在一个机箱里可以插入数量不等的“刀片”，其中每一块“刀片”实际上就是一块服务器主板。刀片服务器通常只需要比机架服务器更少的机架空间，通过优化空间来提供更强的计算能力，是一种更高密度的服务器平台。一般包括刀片服务器、刀片机框（含背板）及后插板三大部分。不同厂商有不同高度的机框。各厂商机框皆为19英寸宽，可安装在42U的标准机柜上。主要应用在超算中心、异构计算、云计算平台、实时业务处理、商业智能分析及数据挖掘等场景。

4）机柜式服务器（Cabinet Server）
是未来数据中心基础架构的核心形态和发展趋势。集成计算、网络、存储于一体，以及面向不同应用时，可以部署不同的软件，提供一个整体的解决方案。机柜式服务器一般由一组冗余电源集中供电，散热方面由机柜背部风扇墙集中散热，功能模块和支撑模块相分离，通过供电、散热的整合，相比普通机架式服务器，运行功耗低、且可靠高效。机柜式服务器无需繁琐拆装，维护便捷，能够轻松实现统一集中管理和业务的自动部署。主要应用在虚拟化、大数据分析、分布式存储、超算中心等快速一体化部署场景。

3.2 按指令集架构
服务器按照指令集架构分类，主要分为如下：
CISC服务器：
（Complexinstruction Set Computing）
即复杂指令集计算
RISC服务器：
（ReducedInstruction Set Computing）
即精简指令集计算
EPIC服务器：
（Explicitlyparallel Instruction Computing）
即显式并行指令计算

1）CISC服务器
也被称为X86服务器，采用Intel、AMD或其它兼容X86指令集的处理器芯片以及Windows操作系统的服务器，是目前主流的服务器架构。
2）RISC服务器
RISC服务器基于RISC处理器，目前主要包括IBM的Power和Power PC处理器，SUN和富士通合作研发的SPARC处理器，华为基于ARM架构级授权研发的鲲鹏920处理器。
3）EPIC服务器
EPIC服务器基于EPIC处理器，目前主要是Intel研发的安腾处理器等。
使用RISC或EPIC架构的服务器又称非X86服务器。包括：大型机、小型机和UNIX服务器，主要采用UNIX和其它专用操作系统。

3.3 按处理器数量
按照处理器的数量可将服务器分为：单路服务器、双路服务器、四路服务器、八路服务器等。“路”是指一台服务器内部的CPU个数，比如单路服务器内部CPU数量为1颗，双路服务器为2颗，以此类推。目前主流的服务器是双路服务器。
多路服务器用到了对称多处理技术（SymmetricalMulti-Processing，简称SMP），在一台服务器上，多颗CPU共享内存子系统以及总线结构。在服务器运行时，多颗CPU同时运行操作系统的单一复本，系统将任务队列对称地分布于每颗CPU之上，所有的CPU都可以平等地访问内存、I/O和外部中断，极大地提高了整个系统的数据处理能力。

3.4 按应用类型
在不同的应用场景，对服务器的功能要求会有所侧重，按照其应用类型，可以分为文件服务器、数据库服务器、应用程序服务器。
1）文件服务器
在计算机局域网中，以文件数据共享为目标，将供多台计算机使用的文件存储在一台服务器中，这台主机就被称为文件服务器。文件服务器相当于一个信息系统的大仓库，保证用户和服务器磁盘子系统之间快速数据传递。在该类型服务器的各个子系统中，对系统性能影响大小依次排列为网络系统、磁盘系统、内存容量、处理器性能。
2）数据库服务器
用于频繁的读取和索引数据的服务器，比如企业的财务系统、人事系统及各种管理系统均有类似需求。不同类型的企业对数据库服务器的要求不同，对于较大的企业，会涉及到分布式并发数据查询等问题，这对网络系统以及I/O的数据传输能力有比较高的要求；对于较小的企业，并发用户相对较少，分布式查询需求不高，磁盘系统更为重要。
3）应用程序服务器
类似于文件服务器为很多用户提供文件一样，应用程序服务器让多个用户可以同时使用应用程序。在该类型服务器的各个子系统中，对处理器性能的要求会更高。
四、 X86/ARM之争？
正如前文所述，按照指令集类型，服务器可以分为CISC服务器、RISC服务器、EPIC服务器。其中CISC服务器又被称为X86服务器，RISC和EPIC服务器又被统称为非X86服务器（也即Non-X86服务器）。从服务器的产业趋势来看，目前正形成双强的局面，其中X86服务器以Intel/AMD处理器为主导，而非X86服务器以ARM架构处理器为主导。双方各有优劣势，将长期共存。

4.1 X86服务器：市占率高
X86服务器是目前市场的主流选择。2009年以来，X86服务器逐步成为服务器市场的主流选择，收入方面的优势相较于Non-X86服务器不断扩大。根据Gartner的数据，2019年，全球X86服务器出货量和厂商销售额分别为1249.7万台和693.6亿美元，远超Non-X86服务器。X86服务器是云计算基础设施的主要构成元素，随着云计算产业的持续发展， X86服务器的市场规模有望进一步扩大。

中国X86服务器市场需求有望拐点向上。在中国“新基建”政策的推动下，未来5年，中国X86服务器市场景气度有望提升。根据IDC的预测，2020-2024年，中国X86服务器的出货量复合增长率为9.1%。
英特尔10nm新一代芯片即将面世，X86服务器有望迎来新一轮产品迭代。处理器是服务器的核心，而X86服务器芯片的霸主为英特尔，英特尔的产品迭代对X86服务器的产业周期有重要影响。早在1978年，英特尔即推出第一代X86架构处理器—8086，用于PC。此后，英特尔进军服务器领域，历经奔腾、至强产品线。根据英特尔公布的路线图，公司将于2020年四季度推出10nm服务器处理器Ice Lake-SP系列，进一步升级微内核，预计最多为38核76线程，支持64条PCIe 4.0通道，同时降低功耗。英特尔加快处理器迭代步伐，有望为X86服务器的发展带来强力催化。

目前，作为市场份额最高的服务器架构，X86服务器的核心优势在于：
1）性能领先。X86架构处理器设计的初衷在于性能，以2U服务器系统为例，可提供多达48 核的超强计算性能，灵活的存储扩展以及高速网络接入能力，非常适用于具有多重业务负载的复杂基础设施环境，包括企业级部署、云环境部署、大数据应用环境等。
2）生态完善。X86指令集是一个相对开放的指令集，在发展之初英特尔等供应商对独立软件开发商即进行指令集开放，对桌面软件兼容，发展至今，越来越多的玩家进入X86生态圈，形成了广阔、完善的护城河。
4.2 ARM服务器：潜力很大
ARM服务器迎来万物互联发展良机。ARM处理器的应用始于低功耗、计算量小的移动场景，并专注于嵌入式电子、消费电子、汽车电子等领域发展。因此，ARM在移动端、IOT侧占据压倒性的市场及技术优势。叠加其适配500万ARM原生应用，未来，ARM架构与X86架构的竞争值得关注。
5G和物联网推动边缘计算、端侧AI发展，能效、灵活性将成为用户重点考量因素。ARM服务器的有点包括：
• ARM服务器的能耗低。X86架构采用效率相对较低的体系架构，功耗较高，ARM采用精简指令集的设计理念，具有天生的计算高效能优势。
• 单位面积内核数更多、算力更强。一个ARM核的面积仅为X86核的七分之一，同样尺寸下，ARM 核数是X86的4倍以上。由于芯片尺寸限制，ARM的众核横向扩展更符合分布式业务需求。
以鲲鹏920为例，其采用7nm工艺，可以支持32/48/64内核。Ampere发布的Altra芯片具有80个内核，Marvell将推出的Thunder X3具有96个内核，相较于Intel至强白金系列的24-56个内核，具有单位面积内更强性能的优势。

未来，随着数据中心软件生态逐步支持ARM架构，以及其天生的低成本和低功耗特性，在华为、AWS等ICT巨头的带领下，ARM架构CPU的价格和性能有望改善，将可为用户提供更低成本的云计算服务，实现出货量的进一步成长。
AMD 收购DPU初创公司Pensando
近日，AMD 宣布以 19亿美元收购云计算初创公司Pensando。通过这次收购案，除了象征 AMD 正式进军 DPU 领域，更是补上了AMD 数据中心蓝图的最后一块拼图。

AMD现在已完整涵盖 CPU、GPU、FPGA、DPU，整个云端的布局更为完整。
此前AMD 的两大竞争对手英伟达与英特尔都已经进入 DPU 领域，强化了数据中心布局。2020 年，英伟达大手笔以 69 亿美金收购 Mellanox，剑指 DPU; 英特尔的 IPU 则是和 DPU 概念一样，实际上都是 SmartNIC，在云端为 CPU 减轻负担。
AMD为什么要收购Pensando？
Pensando成立于2017年，由四位前思科工程师创所创立，专注于针对面向数据流的工作负载进行优化的芯片技术和软件，可用于包括智能交换机在内的广泛应用，主要客户有微软Azure、IBM云、Oracle 云等云厂商、惠普Aruba Networks Business 等供应商以及高盛等大型企业。
自 2017 年以来，这家初创公司共融资 3.13 亿美元，其中包括去年的 3500 万美元 C 轮融资。Pensando拥有约 330 名员工，其中 200 多名在印度。
Pensando的产品为“分布式服务卡” (Distributed Services Card，DSC)，类似 SmartNIC 但具有计算核心，最新一代的分布式服务卡 Elba 采用 Arm CPU 核架构，由台积电 7nm 制程技术操刀。

Pensando DSC DPU
AMD 收购 Pensando的交易将会于今年第二季完成。Pensando的现任 CEO Prem Jain和整个团队将加入AMD的数据中心解决方案部门。
惠普是 Pensando最大的合作伙伴和投资者之一，2019年曾帮助 Pensando 完成 1.45 亿美元的融资。当时惠普的首席技术官兼实验室总监Mark Potter也加入了Pensando董事会。惠普旗下的 Aruba Neworks 与 Pensando合作开发了首个解决分布式服务的交换机系列。Aruba CX 1000分布式服务交换机将Aruba的数据中心交换专业知识与Pensando的Elba相结合，应用于网络服务器。
为什么不选择Fungible？
对于 AMD 来说，目前市场上有价值的DPU 初创公司基本上只剩下两家：Pensando 是其中之一，另一个就是Fungible。
Pensando 是通过 P4 和 Arm 构建类似 “AWS Nitro”的产品，Fungible 则更多侧重于存储加速。在这两者之间，Pensando 无疑是更好的选择。
截至 2021 年第 4 季度，AMD 在全球服务器 CPU 市场的市场份额为 10.7%，整个2021 财年CPU市场收入为 41亿美元，这主要就是归功于EPYC（霄龙）服务器处理器和 Instinct 数据中心 GPU。
对于AMD前不久刚刚收购的Xilinx，更多的适用于数据中心和嵌入式市场。AMD 需要 AI 加速硬件，因为在这方面落后于英伟达和英特尔。同时需要一个 DPU 来支持网络，英特尔和英伟达都在积极推动这条线。原本Xilinx收购最终完成可能会有所助力，但由于这笔交易战线拉得太长，已经耗费了大量时间，再去集成 Xilinx/SolarFlare 可能不再是最合适的选择，直接收购独立 DPU 制造商 Pensando 风险更低，显然更为合适。
AMD 的 Pensando 计划：启用“下一代”数据中心
随着 Pensando 的加入，AMD将有能力在芯片、软件和平台层面进行创新，并为云和企业客户提供有价值的优化解决方案。
Pensando 分布式服务平台旨在将当前的企业基础设施转换为云环境，无缝和安全地扩展到公有云。
AMD 的 CPU、GPU、FPGA 和自适应计算引擎产品组合，与 Pensando 的DPU和软件技术相结合，将使AMD能够提供更广泛的计算引擎组合，提供跨数据中心优化工作负载所需的性能和能力。
Pensando 为 AMD 带来了大量的硬件和软件功能，包括一个分布式解决方案平台，具有可编程数据包引擎和完整的软件堆栈，可加速云、企业和边缘应用程序的网络、安全、存储和其他服务。
DPU市场升温
此次收购将 DPU 市场推向了新的高潮。在过去的一年里，Marvell、Xilinx、Fungible、英特尔和英伟达都推出了新的 DPU（有的也称为 SmartNIC 或 IPU )。
根据头豹研究院预测,在未来3年内，中国DPU市场规模从2022年超10亿美元增长到2025年近40亿美元(约人民币240亿元),复合年增速CAGR达112%。

2027年全球数据中心加速器市场价值可达530亿美元(CAGR近44%),DPU增速有望高于行业。此外,来自于智能网卡方案的成熟、全球服务器出货量增长以及智能驾驶、边缘计算等下游应用的初步落地,全球DPU行业市场规模还会逐步攀升。

参考链接
https://mp.weixin.qq.com/s/O08VMhTHucaPx-KidLNqvw
https://mp.weixin.qq.com/s/nDNo0dOquia2p54ip7sxqA