cvpr2021
Zhendong Yang*1,2 Zhe Li2 Xiaohu Jiang1 Yu uan Gong1
Zehuan Yuan2 Danpei Zhao3 Chun Yuan†1
1Tsinghua Shenzhen International Graduate School 2ByteDance Inc
3BeiHang University
0. 요약
저자는 표적 탐지 분야에서 지식 증류의 효과가 상대적으로 낮다고 생각하는데, 그 이유는 교사와 학생의 특성이 배경과 전경에서 멀리 떨어져 있기 때문이다. 증류 온도가 동일하면 소음을 많이 흡수하는 부정적인 효과가 있습니다.
저자는 글로벌(Global)과 로컬(Local) 증류를 제안했는데, 로컬 증류는 학생들이 교사의 본질에 집중할 수 있도록 배경과 배경(의미론적 분할?)을 분리하는 것이다. 글로벌 증류는 서로 다른 픽셀 간의 연결을 재구성하고 글로벌 정보를 채웁니다.
1.모델 구조
1.1 국지 증류
매우 간단합니다. r은 gt_box이고 이 블록만 1입니다.
전면 및 후면 장면의 불균형으로 인해 마스크가 개선되었습니다.
그런 다음 공간 및 채널 주의가 추가되었습니다.
손실에는 기능 손실
과 주의 손실의 두 부분이 포함됩니다.
1.2 글로벌 증류
