ChatGPT中文网是一个面向中国用户的聊天机器人网站，旨在为国内用户提供一个自然的环境、有趣、实用的聊天体验。它使用最新的自然语言处理技术来帮助用户更好地理解他们的聊天对话，还可以帮助用户解决日常生活中的问题，提供有趣的谈话内容以及实时信息服务。
任何 transformer 变体、任何数据集都通用。
在一块消费级 GPU 上只用一天时间训练，可以得到什么样的 BERT 模型？
最近一段时间，语言模型再次带火了 AI 领域。预训练语言模型的无监督训练属性使其可以在海量样本基础上进行训练，并获得大量语义语法知识，不论分类还是问答，似乎没有 AI 解决不了的问题。
然而，大模型既带来了技术突破，也对算力提出了无穷无尽的需求。
最近，来自马里兰大学的 Jonas Geiping、Tom Goldstein 讨论了所有关于扩大计算规模的研究，深入探讨了缩小计算规模的改进方向。他们的研究引发了机器学习社区的关注。
在新研究中，作者对于单块消费级 GPU（RTX 2080Ti）能训练出什么样的语言模型进行了讨论，并获得了令人兴奋的结果。让我们看看它是如何实现的：
模型规模的扩展
在自然语言处理（NLP）领域，基于 Transformer 架构的预训练模型已经成为主流，并带来诸多突破性进展。很大程度上，这些模型性能强大的原因是它们的规模很大。随着模型参数量和数据量的增长，模型的性能会不断提高。因此，NLP 领域内掀起了一场增大模型规模的竞赛。
然而，很少有研究人员或从业者认为他们有能力训练大型语言模型（LLM），通常只有行业内的科技巨头拥有训练 LLM 的资源。
为了扭转这一趋势，来自马里兰大学的研究者进行了一番探索。
论文《Cramming: Training a Language Model on a Single GPU in One Day》：
论文链接：https://arxiv.org/abs/2212.14034
这个问题对于大多数研究人员和从业者来说具有重要意义，因为这将成为模型训练成本的参考，并有望打破 LLM 训练成本超高的瓶颈。该研究的论文迅速在推特上引发关注和讨论。
IBM 的 NLP 研究专家 Leshem Choshen 在推特上评价道：「这篇论文总结了所有你能想到的大模型训练 trick。」
马里兰大学的研究者认为：如果按比例缩小的模型预训练是大型预训练的可行模拟，那么这将开启一系列目前难以实现的大规模模型的进一步学术研究。
此外，该研究尝试对过去几年 NLP 领域的整体进展进行基准测试，而不仅仅局限于模型规模的影响。
该研究创建了一项称为「Cramming」的挑战 —— 在测试前一天学习整个语言模型。研究者首先分析了训练 pipeline 的方方面面，以了解哪些修改可以实际提高小规模模拟模型的性能。并且，该研究表明，即使在这种受限环境中，模型性能也严格遵循在大型计算环境中观察到的扩展定律。
虽然较小的模型架构可以加快梯度计算，但随着时间的推移，模型改进的总体速度几乎保持不变。该研究尝试利用扩展定律在不影响模型大小的情况下通过提高梯度计算的有效率获得性能提升。最后，该研究成功训练出性能可观的模型 —— 在 GLUE 任务上接近甚至超过 BERT—— 而且训练成本很低。