La interpretabilidad del modelo es un tema de investigación importante en el campo del aprendizaje automático. Se centra principalmente en dos direcciones. Una es mejorar la interpretabilidad del modelo en sí, como la introducción del mecanismo de atención, el aprendizaje de representación desacoplante y otras tecnologías; la otra es el modelo de caja negra Después del hecho, como tecnología de máscara de características, tecnología de visualización, etc. La estructura del gráfico proporciona información topológica adicional y presenta requisitos más altos en tecnología interpretable.
El primer trabajo es "XGNN: Hacia explicaciones a nivel de modelo de redes neuronales gráficas" de Research Track, que se centra en la interpretación ex post del modelo de caja negra y propone un método de interpretación ex post basado en optimización de entrada de redes neuronales gráficas.
El segundo trabajo es "Clasificación explicable de redes cerebrales a través de subgrafos de contraste" de Applied Data Science Track, que se centra en mejorar la interpretabilidad del modelo en sí, y propone un método de clasificación de redes cerebrales interpretable basado en subgrafos de contraste.
papel