Função de perda de aprendizado de máquina

Existem várias funções de perda comumente usadas no aprendizado profundo, e a escolha específica depende do tipo de tarefa e da natureza do problema. A seguir estão algumas tarefas comuns de aprendizado profundo e funções de perda comumente usadas correspondentes:

  1. Tarefas de classificação :

    • Perda de entropia cruzada : usada para tarefas de classificação binária e multicategoria, incluindo entropia cruzada binária (entropia cruzada binária) e entropia cruzada multivariada (entropia cruzada categórica).

    • Função de perda de log (perda de log) : semelhante à função de perda de entropia cruzada, geralmente é usada para problemas de classificação binária.

    • Perda ponderada de entropia cruzada : Adequado para tarefas de classificação de categorias desequilibradas, que podem atribuir pesos diferentes a amostras de categorias diferentes.

    • Perda Focal : Usada para lidar com problemas de desequilíbrio de categoria, pode ajustar a atenção para amostras fáceis de classificar e amostras difíceis de classificar.

  2. Missão de retorno :

    • Função de perda de erro quadrático médio (Mean Squared Error, MSE) : usada em problemas de regressão, para medir a diferença entre o valor previsto do modelo e o valor real.

    • Função de perda do Erro Médio Absoluto (MAE) : Também usada em problemas de regressão, medindo a diferença absoluta entre o valor previsto do modelo e o valor real.

    • Função de perda de Huber : um compromisso entre o erro quadrático médio e o erro médio absoluto, insensível a outliers.

    • Função de perda Log-Cosh : um compromisso entre o erro quadrático médio e o erro absoluto médio, insensível a outliers e suave.

  3. Tarefa de detecção de objetos :

    • Função de perda YOLO : usada em algoritmos de detecção de objetos de estágio único (como a série YOLO), incluindo perda de posição, perda de categoria e perda de confiança.

    • Função de perda R-CNN mais rápida : usada para algoritmos de detecção de objetos de dois estágios (como Faster R-CNN), incluindo perda de classificação e perda de regressão da rede de proposta de região (RPN) e perda de classificação e perda de regressão da rede de detecção de alvo (Fast R-CNN) Perda de retorno.

  4. Tarefa de segmentação semântica :

    • Função de perda de entropia cruzada : Normalmente usada em tarefas de classificação em nível de pixel, cada pixel é classificado em uma categoria diferente.

    • Função de perda de dados : utilizada para segmentação semântica, mais adequada para o caso de categorias desequilibradas.

  5. Tarefa de Rede Adversarial Generativa (GAN) :

    • Função de perda do gerador : geralmente é usada a perda de probabilidade de log (perda de probabilidade de log) ou perda de erro quadrático médio (perda de MSE).

    • Função de perda discriminadora : Geralmente é usada perda de entropia cruzada binária.

おすすめ

転載: blog.csdn.net/qq_42244167/article/details/132474536