openai chatgpt 相关_个人渣记录仅为自己搜索用的博客-CSDN博客
如今大模型都在使用的 transformer 的编码器和解码器，里面都有源自 ResNet 的残差链接。
「在 ResNet 之后就可以有效地训练超过百层的深度神经网络，把网络打得非常深，」在 2023 世界人工智能大会的演讲中，汤晓鸥对何恺明的学术贡献不吝赞美：「何恺明把神经网络做深了，谷歌把神经网络的入口拉大了，又深又大，才成为今天的大模型。」
2021 年 11 月，何恺明以一作身份发表论文《Masked Autoencoders Are Scalable Vision Learners》，提出了一种泛化性能良好的计算机视觉识别模型，同样是刚刚发表就成为了计算机视觉圈的热门话题。
一个初入 AI 领域的新人，在探索的过程中看到很多重要研究主要作者都是何恺明，经常会不由得感到惊讶。何恺明虽然长期身处业界，但科研态度一直被视为标杆 —— 他每年只产出少量一作文章，但一定会是重量级的，几乎没有例外。
我们也经常赞叹于何恺明工作的风格：即使是具有开创性的论文，其内容经常也是简明易读的，他会使用最直观的方式解释自己「简单」的想法，不使用 trick，也没有不必要的证明，有的只是美丽的直觉。
如今回归学界，期待恺明能带来更多惊艳之作。