CVPR 2022 | ¡Tesis de pregrado de Tianda seleccionada! Clasificación de cola larga de aprendizaje profundo nueva SOTA

Haga clic en la tarjeta a continuación para seguir la cuenta pública " CVer "

Productos secos pesados ​​AI/CV, entregados lo antes posible

Fengse es del templo cóncavo y
se reproduce de: qubit (QbitAI)

¿Qué pueden hacer los estudiantes de pregrado en investigación científica ?

El último artículo incluido en CVPR 2022 proporciona una nueva idea para resolver el problema de clasificación de los datos de distribución de cola larga en el aprendizaje profundo y finalmente realiza el nuevo SOTA.

9ed2df891593ba1874af92d56f53b4eb.png

Papel: https://arxiv.org/abs/2111.09030

El artículo tiene un total de 5 autores, incluidos estudiantes de doctorado e investigadores senior de A*STAR en Singapur...

Y en primer lugar está un estudiante de pregrado de la Universidad de Tianjin , Li .

Lo sorprendente es que este no es el primer trabajo de este "becerro recién nacido" en una conferencia superior, antes de eso, también ganó una conferencia superior en el campo de la minería de datos (WWW 2022), que también es un trabajo.

74bfc14ed10ba0260e5266dcd117b67d.png

Estudiantes universitarios dedicados a la investigación científica, ¿el impulso ya ha sido tan fuerte?

Si ingresa al laboratorio en su tercer año, tendrá 2 conferencias principales en su último año.

Li es del Departamento de Inteligencia y Computación de la Universidad de Tianjin y está en su último año este año .

Este artículo de CVPR utiliza principalmente una nueva estrategia de aprendizaje de conjuntos para resolver el problema de la clasificación de cola larga.

90d8c390c63d1b91a68bde4133959318.png

Todos sabemos que la distribución de cola larga es una aplicación muy común del aprendizaje profundo para la clasificación de estos datos.

Su dificultad es principalmente que el tamaño de la muestra está extremadamente desequilibrado , especialmente si el tamaño de la muestra de la cola es demasiado pequeño , es difícil obtener resultados de entrenamiento efectivos.

Actualmente, los métodos basados ​​en el aprendizaje conjunto muestran un gran potencial, logrando el desempeño de SOTA.

Pero este enfoque tiene dos limitaciones:

Una es que las predicciones en aplicaciones sensibles a fallas generalmente no son confiables, lo que tiene un gran impacto en los datos finales, que son muy propensos a errores;

La segunda es que asigna un número uniforme de recursos (expertos) a todas las muestras, lo que resulta en costos computacionales redundantes y altos para muestras simples.

Por lo tanto, Li et al., propusieron realizar la percepción automática de las muestras de categoría de cola introduciendo un conjunto de incertidumbre.

Sobre esta base, se propone asignar dinámicamente más recursos de modelo (expertos) para muestras de categoría de cola que muestras de cabeza para tener en cuenta tanto el rendimiento como la eficiencia.

3945e8af6282ea1ca7ef63b596603d0e.png

△ En  la fase de prueba, se utiliza la teoría DS propuesta por Harvard para formar la incertidumbre conjunta

Finalmente, el modelo obtenido realiza detección automática y ajuste de entrenamiento de muestras de categoría de cola, y se convierte en un modelo general para resolver problemas de clasificación de cola larga.

Experimentos integrales en una serie de tareas como clasificación, detección de colas, detección de valores atípicos y predicción de fallas demuestran que el rendimiento del modelo supera con éxito a los métodos SOTA existentes .

c493f0344254f444901266e67be7c522.png

En junio de este año, Li está a punto de graduarse con un título universitario e ingresará directamente a la Universidad de Purdue como estudiante de doctorado bajo la tutela del profesor Zhang.

La profesora Zhang acaba de graduarse de la Universidad de Cornell con un doctorado en estadística y es profesora asistente en la Universidad de Purdue.Sus intereses de investigación son el aprendizaje automático y la construcción de modelos probabilísticos en ciencia de datos.

66b78da9c29d0fdab8ccc8fa09db314b.png

Cuando era junior, ingresó al laboratorio de aprendizaje automático y minería de datos de la facultad con su excelente desempeño académico .

b9bfa97d7f08ec8e532805a0bb191cama.png

Bajo el liderazgo de Zhang Changqing (supervisor de doctorado de la Universidad de Tianjin), Li ganó la licitación para dos trabajos destacados después de solo un año y medio de estudio .

Se puede decir que el más allá es aterrador.

Cada vez más estudiantes universitarios están comenzando a enviar los mejores clubes

Sin embargo, cuando se trata de estudiantes universitarios que se dedican a la investigación científica, de hecho, todos deberían prestar atención. Muchas escuelas se están volviendo cada vez más abiertas y le dan importancia a este asunto:

En el tercer año o menos , se abrirán algunos lugares para que los estudiantes potenciales ingresen al laboratorio y participen en investigaciones científicas con estudiantes graduados y estudiantes de doctorado.

Por ejemplo, la "Clase Spark" de Tsinghua recluta a estudiantes de segundo año, la Universidad de Pekín también alienta a los estudiantes a iniciar proyectos de investigación científica desde su segundo año, y escuelas como la Universidad China de Ciencia y Tecnología también otorgarán becas especiales a estudiantes universitarios que hayan logrado los logros correspondientes .

En tales circunstancias, ya hay muchos estudiantes como Li que han publicado la mejor conferencia durante sus años de pregrado, lo que se puede decir que está lleno de halo.

Por ejemplo , Gao Tianyu, ganador del Premio Especial Tsinghua y estudiante universitario de 2016 con quien estamos familiarizados , tiene cuatro conferencias principales en sus cuatro años de universidad: dos AAAI, dos EMNLP y una transmisión en vivo dedicada a impartir su propia experiencia de investigación científica. . .

6589f9905802603173d35aa86d7f7856.png

Por ejemplo , Mao Xiao, un estudiante de pregrado del MIT , ganó la candidatura para FOCS 2021, la principal conferencia de teoría de la computación en su último año, y ganó el Premio al Mejor Trabajo Estudiantil.

Otro ejemplo es Liu Hong, estudiante de pregrado del Departamento de Electrónica de la Universidad de Tsinghua, quien tiene 3 artículos y una conferencia superior; Wu Kewen, estudiante de pregrado de la Universidad de Pekín, no solo presentó la conferencia superior (ACM Annual Conference of Computing Theory STOC), pero también ganó el premio al mejor artículo; y Wang Tan, estudiante de pregrado de la Universidad de Ciencia y Tecnología Electrónica de China, también tiene 1 ensayo, 1 ensayo, CVPR 2020, estudiantes de pregrado de la Universidad de Zhejiang, 1 ensayo, 1 ensayo , ICML 2019...

Hay muchos ejemplos similares.

Se puede decir que los estudiantes universitarios son cada vez más poderosos en la investigación científica, ¿qué opinas?

28f9ce0fb43c4382f8c360fb588b6c07.png

Enlace de referencia:
http://cic.tju.edu.cn/info/1040/3704.htm

ICCV和CVPR 2021论文和代码下载

后台回复:CVPR2021,即可下载CVPR 2021论文和代码开源的论文合集

后台回复:ICCV2021,即可下载ICCV 2021论文和代码开源的论文合集

后台回复:Transformer综述,即可下载最新的3篇Transformer综述PDF
CVer-Transformer交流群成立
扫描下方二维码,或者添加微信:CVer6666,即可添加CVer小助手微信,便可申请加入CVer-Transformer 微信交流群。另外其他垂直方向已涵盖:目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer等。
一定要备注:研究方向+地点+学校/公司+昵称(如Transformer+上海+上交+卡卡),根据格式备注,可更快被通过且邀请进群

▲扫码或加微信: CVer6666,进交流群
CVer学术交流群(知识星球)来了!想要了解最新最快最好的CV/DL/ML论文速递、优质开源项目、学习教程和实战训练等资料,欢迎扫描下方二维码,加入CVer学术交流群,已汇集数千人!

▲扫码进群
▲点击上方卡片,关注CVer公众号

整理不易,请点赞和在看

Supongo que te gusta

Origin blog.csdn.net/amusi1994/article/details/123749220
Recomendado
Clasificación