El gran dios regresa al mundo académico: He Yuming anuncia su incorporación al MIT
El codificador y decodificador de transformador que se utilizan hoy en día en modelos grandes tienen enlaces residuales derivados de ResNet.
"Después de ResNet, se puede entrenar eficazmente una red neuronal profunda con más de 100 capas y hacer que la red sea muy profunda". En su discurso en la Conferencia Mundial de Inteligencia Artificial de 2023, Tang Xiaoou elogió la contribución académica de He Yuming: "He Yuming hizo el Red neuronal Más profundamente, Google ha ampliado la entrada de la red neuronal, que es profunda y grande, y se ha convertido en el modelo grande que es hoy”.
En noviembre de 2021, He Yuming publicó el artículo "Los codificadores automáticos enmascarados son aprendices de visión escalables" como primer autor y propuso un modelo de reconocimiento de visión por computadora con buen rendimiento de generalización, que también se convirtió en un tema candente en el círculo de la visión por computadora justo después de su publicación. .
Un recién llegado al campo de la IA a menudo se sorprende al ver que el autor principal de muchos estudios importantes es He Yuming durante el proceso de exploración. Aunque He Yuming ha estado en la industria durante mucho tiempo, su actitud de investigación científica siempre se ha considerado un punto de referencia: solo produce una pequeña cantidad de artículos cada año, pero definitivamente serán de gran peso, casi sin excepciones.
También admiramos a menudo el estilo de trabajo de He Yuming: incluso en los artículos innovadores, el contenido suele ser conciso y fácil de leer. Utiliza la forma más intuitiva para explicar sus ideas "simples", sin trucos ni innecesarios. Algunas de las pruebas son sencillamente hermosas. intuición.
Ahora que regreso al mundo académico, espero con ansias más trabajos sorprendentes de Kaiming.