亚马逊云科技re:Invent:专用芯片成为主流

在2022年亚马逊云科技re:Invent全球大会中,亚马逊CTO Werner Vogels为大家带来2023年及未来五大技术趋势预测。其中2023年,专用芯片的使用将迅速增加。因此,随着工作负载将利用硬件优化来最大限度地提高性能,同时降低能耗和成本,创新的步伐将会进一步加快。

专用芯片成为主流

定制化的专用芯片和专用硬件在消费技术行业迅速获得了发展。随着定制化专用芯片的制造和采用,从我们的笔记本电脑到我们的手机,再到我们的可穿戴设备,它们都在性能上有了显著的提升。虽然消费者领域的采用速度很快,但商业应用程序和系统的情况却并非如此,在这些领域,软件和硬件的更新周期通常较长。然而,随着定制化专用芯片的普及和采用,这种情况将在未来几年迅速发生改变。

在亚马逊云科技,平均每天有1亿个EC2实例被启动(截至撰写本文时)。这在很大程度上是由于多年来亚马逊云科技与客户之间的密切合作,了解他们正在运行的工作负载类型,进而确定我们接下来应该构建什么。与消费类设备一样,这使得亚马逊云科技近年来在芯片设计上投入大量资金。这是因为亚马逊云科技知道,公司在云科技中运行的工作负载在定制芯片上运行,具有更好的性能以及更高的成本效益。这些芯片是为特定情况而专门构建的。

以机器学习工作负载为例。传统上,软件工程师一直依赖昂贵、耗电的GPU来完成从模型构建到推理的全部工作。然而,这种一刀切的方法并不高效——大多数GPU都没有针对这些任务进行优化。在未来几年,越来越多的工程师将会看到将工作负载转移到专为模型训练(Amazon Trainium)推理(Amazon Inferentia)。随着这种情况的发生,新一轮的创新将开始。通过使用基于Trainium的实例实现约50%的培训成本节约,或者使用基于Inferentia2的实例实现了50%的每瓦特性能,工程师和企业都会注意我们将开始看到工作负载的大规模迁移。即使是一般的应用也是如此,在这些应用中,迁移到定制化的专用芯片上仍有好处,比如基于Graviton3的实例,在相同的性能下,它比同类EC2实例的能耗低60%。

成本节约和性能优势将带来更多的实验、创新以及采用,并最终为其他特定工作负载提供更多的定制芯片,这是一个良性循环。艾伦·凯曾经说过,“真正对软件认真的人,应该制造自己的硬件。”在未来一年里,真正认真对待软件的人将真正开始利用定制芯片所提供的一切优势。

猜你喜欢

转载自blog.csdn.net/Discovering_/article/details/128171873