[源码分析] Facebook如何训练超大模型 --- (2)
FSDP是Facebook 深度借鉴微软ZeRO之后提出的PyTorch DDP升级版本,可以认为是对标微软 ZeRO,目标是训练超大规模模型。前文我们介绍了 FSDP 如何使用,本文从源码角度来介绍
如何用Serverless搭建Mock Server?
Serverless是一种云原生开发模型,可使开发人员专注构建和运行应用,而无需管理服务器。云函数则是腾讯云提供的无服务器执行环境,可以在无需购买和管理服务器的情况下运行代码。
今日推荐
周排行