NVIDIA GTC 2023简单解读,硬件部分更新了什么,服务器有哪些新配置,新增的5款配置和显卡

首先就是首发H100 NVL显卡,相比H100 PCIe显卡,显存提升至96GB HBM3e,由两个H100 PCIe组成,通过三个NVLink 4互连,也就是H100 NVL具有188GB显存,显存位宽6144位,显存速率7.8TB/s,使用两个PCIe 5.0 x16接口连接,也就是四槽位,功耗700W

H100 NVL的性能比两个H100 SXM是要高的,而且是满血的GH100核心,但是问题是,H100 NVL是两张卡组成的,每张卡96GB显存,但两张卡加到一起就只有188GB显存,而不是192GB显存

尽管是两张卡,但功耗却不变,和单块H100 PCIe一样是700W,这种情况下,H100 NVL的频率要比H100 PCIe高,所以功耗低的情况下性能依旧有提升


然后就是更新了4种规格的服务器配置

首先就是L4 - 120X配置,由8块L4显卡组成,性能大概相当于RX 6800,双槽CPU,单个L4是24GB显存,72W功耗,带宽300GB/s,配备双槽CPU,其他参数暂时未知

然后就是L40配置,搭配8块L40显卡,单块性能比RTX 4090高10%左右,同时配备了Connect-X7网卡,其他配置未知

然后就是H100 NVL配置,搭配4块H100 NVL(8块显卡),单块性能比RTX 4090高11%左右,同时配备了Connect-X7网卡,其他配置未知,这个应该是目前最好的配置了

然后就是Grace Hopper - 10X配置,搭载两个BlueField-3 DPU和两个Grace Hopper(H100+Garce CPU),其他配置未知

然后就是新的NVIDIA OVX配置,搭载4块L40显卡和1个BlueField-3 DPU,配备双槽CPU,其他未知

其他内容就是在GTC 2023上重新介绍了DGX H100,Grace SuperChip(两个Grace CPU),Grace Hopper(Grace CPU+H100),还有BlueField-3 DPU

然后就是H800显卡,是H100显存带宽砍半的产品,互连速率限制在300 GBps,H800显卡为专供国内版

关于软件或者其他部分,这篇文章没有提及,大家想知道可以看这个:Nvidia GTC 2023 Keynote Live Blog

猜你喜欢

转载自blog.csdn.net/LingLing1301/article/details/129700906
今日推荐