aprendizaje automático explicable
aprendizaje automático explicable
Curso abierto de aprendizaje automático explicable
1. Introducción
Respecto a los tanques : al identificar tanques reales y falsos en imágenes, la IA utilizó por error información meteorológica como criterio para identificar los tanques.
en conclusión:
- El conjunto de entrenamiento y el conjunto de prueba deben provenir de una distribución.
- Red neuronal -> "Caja negra"
El aprendizaje automático es principalmente aprendizaje estadístico, es decir, ajuste a los datos .
En dimensión baja, la clasificación consiste en utilizar una curva para separar las muestras y la regresión consiste en utilizar una curva para ajustar la distribución de los datos de la muestra. En dimensiones elevadas, todo el proceso es una "caja negra".
2. ¿Por qué estudiar el aprendizaje automático explicable?
3. Algoritmos de aprendizaje automático con buena interpretabilidad.
- knn
- Regresión logística
- regresión lineal
- árbol de decisión
- Bayes ingenuo
Análisis de interpretabilidad de algoritmos tradicionales de aprendizaje automático
- Visualización que viene con el algoritmo.
- Los pesos de las características que vienen con el algoritmo.
- Importancia de la permutación Importancia de la permutación (la característica de juicio se interrumpe para juzgar si la característica es importante)
- Diagrama PDP, diagrama ICE
- Shapley
- Cal
4. El aprendizaje profundo es poco interpretable
Análisis de interpretabilidad de redes neuronales convolucionales
- Visualice el núcleo de convolución y el mapa de características
- Oclusión, escalamiento, traslación, rotación.
- Encuentre el píxel de la imagen original o la imagen pequeña que puede activar una neurona
- Visualización basada en mapa de calor de activación de clases (CAM)
- Visualización de reducción de dimensionalidad de codificación semántica
- La imagen original ingresada mediante codificación semántica al revés.
- Generar imágenes que cumplan ciertos requisitos (una categoría con mayor probabilidad de predicción)
5. Resumen
Algunas referencias:
Análisis interpretable, análisis de importancia, práctica de código, documento de resumen
de Pytorch-cnn-visualizations
