独家解析英伟达最新GPU-A100对AI行业带来的影响

最近英伟达发布了最新GPU-A100,当我们先后经历了K系列、M系列、P系列、V系列之后,这一次的A系列发布又会带来哪些影响,未来行业的走势如何,新入行的同学究竟选择哪个领域入门比较合适。今天我将从3个方向为大家一一剖析,

  • 计算力变强了,会给行业带来什么影响

  • 计算力变便宜了,会给行业带来什么影响

  • 英伟达的野心在哪里,对行业有什么影响

1 计算力变强的影响

这次新的GPU在算力方面变强的幅度是比较夸张的,根据官方数据显示,在Bert模型的场景下,训练和预测都有大幅度的提升。

同时新的机器搭载了三星的40G的超大HBM2显存。这些信号意味着什么呢?意味着计算框架的算力层面价值在弱化。过去提到TensorFlow、PyTorch,大家比的是哪种框架在分布式场景下更快,因为当模型的训练量大到单机很难在短时间内收敛,因为当模型大小大到单机内存没法承载之后,只能依赖分布式的方案去解决问题。

今天,A100即使在单机情况下也提供了可能过去可能2到5台机器的分布式能力。也就是说,今天单机的能力变强了。在计算框架层面,未来更多地需要从计算力优化的角度转向如何提升用户体验,提供更简单的开发接口。

所以,未来深度学习的开发会变得更简单,得益于框架的向用户体验转型。另外,框架级别的优化工作以及各种模型量化工作,将只在部分超大规模的应用场景下有意义。

如果把AI拆分成三层,最下方是计算力为代表的芯片GPU,中层是计算框架,最上层的是CV、ASR、推荐、NLP等业务算法。对于新入行的同学,更多地关注最上层的业务会比较保险,因为框架层的价值会随着计算力的增强而弱化(在巨头公司不会有这样的情况,这里泛指整个行业)。

2 计算力变便宜的影响

GPU发布会提到了一个观点,就是计算力的发展跟不上目前计算量的发展需求。这句话其实要延伸一下,并不是说之前V100卡不够快,一定要更快的卡才能满足用户的业务,而是V100太贵了,很多客户买不起。

英伟达应该也是意识到了这个问题,所以来了一个Slogan:“The more you buy, the more you save.”「现在,你只需要十分之一的硬件成本,二十分之一电力消耗就能做同样的事。The more you buy, the more you save !」黄仁勋说道。

计算力变便宜了,后续会对行业有什么影响呢?我们看到,虽然总体A100计算力增强了,但是单机8卡的GPU机器貌似比以前贵了,搭载8卡的DGX要卖到19.9万美元,极高的价格。这个价格会让很多腰部以下的互联网厂商放弃自建IDC GPU集群,从而选择上云,因为买几台机器就要小1千万。一家300人左右的互联网公司每年的IT成本也就1千万。所以对于云厂商来讲,关键是如何能让昂贵的单点计算机器的资源更弹性。怎么能满足客户弹性的需求,是云厂商后续要重点关注的,基于K8S的实现如何做到资源的最大限度利用,是关键。

3 英伟达的野心对行业影响

虽然GPU已经在AI的计算力方面几乎形成了垄断,但是2020财年,英伟达的利润总体出现下滑。这就意味着,单纯最底层的芯片级别的技术演进,很难形成高增长,缺少软件附加值。另外,新的A100技术架构,只有50倍左右的算力提升空间。当计算力的提升到了瓶颈,英伟达又将怎么发展。

英伟达最新的举措可以看一些端倪,在框架层面开始做很多文章,比如推出了语音交互框架Jarvis。后续英伟达一定会向上层的应用拓展业务,这样就触碰到了PyTorch、TensorFlow的领地,跟FaceBook和Google展开直接竞争。Google现在也在自己研制TPU芯片用来制衡GPU。后续的竞争可能不再是框架或者计算力的单点竞争,而是生态的竞争。

所以,今天只会TensorFlow或PyTorch都是不保险的,未来可能有新的框架进来。亘古不变的是上层的业务实现方式,了解CV的流程、ASR的流程、推荐的业务流程,这些业务的流程短时间内不会有大的变化,而且会兼容各种引擎和框架的发展,学好这些是安身立命的根本。

PS:本文只是作者自己YY,周末阅读新闻的感想,权当消遣。

猜你喜欢

转载自blog.csdn.net/gshengod/article/details/106162469
今日推荐