深度学习选择GPU的12条建议!

1、避免在矿潮期间购置价格高昂的显卡。同样,在矿难后避免买到翻新矿卡

2、尽量避免使用笔记本进行深度学习训练,同种显卡型号下台式机和笔记本会有明显差距

3、总体最好的 GPU:RTX 4090 和 RTX 6000 Ada。

4、对于个人用户而言避免使用的 GPU: 任何 Tesla 卡;任何专业绘图显卡(如Quadro 卡);任何 Founders Edition 卡;Titan RTX、Titan V、Titan XP,除此之外无Tensor Core(rtx20系显卡之前)的二手消费级显卡需要斟酌。

5、颇具成本效益而价格高昂:RTX6000 Ada

6、颇具成本效益而价格较便宜:RTX 4090

7、计算机视觉(CV)、预训练或机器翻译研究人员:4路RTX4090(推荐涡轮显卡)。注意配备相应的大功率电源以及扇热设备

8、自然语言处理(NLP) 研究人员: 如果不从事机器翻译、语言建模或任何类型的预训练工作,那么 RTX 4080 就足够了而且颇具性价比。

10、相关专业学生/从业者: 从一块 RTX 4070 开始。进一步学习,卖掉你的 RTX 4070,并购买多路RTX 4090。根据下一步选择的领域(初创公司、Kaggle、研究、深度学习应用),卖掉你的 GPU,三年后再买更合适的(下一代 RTX GPU)。

11、用于模型并行化的、少于 128 个 GPU 的 GPU 集群: 如果你可以为你的集群购买 RTX GPU:66% 的 8路RTX 4080 和 33% 的 8路RTX 4090(要确保能有效地冷却)。如果解决不了 RTX 4090 的冷却问题,那么可以购买 33% 的 RTX 6000 GPU 或 8路Tesla A100。如果不能购买 RTX GPU,那么可能会选择 8路A100 Supermicro 节点或 8路RTX 6000 节点。

12、用于模型并行化的、128 个 GPU 的 GPU 集群: 考虑下 8路Tesla A100 设置。如果你使用超过 512 个 GPU,那么你应该考虑配置一个 DGX A100 SuperPOD 系统,以匹配你的规模。

来源:CSDN博主「Redflashing」的原创文章

猜你喜欢

转载自blog.csdn.net/Ai17316391579/article/details/130880205
今日推荐