Notas de estudio "Derivación de fórmulas de aprendizaje automático e implementación de código", registre su propio proceso de aprendizaje, compre el libro del autor para obtener contenido detallado.
Este blog es para registrar el modelo y el código de "Derivación de fórmulas de aprendizaje automático e implementación de código" mientras aprende. En algunos lugares, se han realizado algunos cambios en el código del autor original según mi propio pensamiento. Estos blogs son principalmente para implementar algún modelo , siente los problemas que puede resolver cada modelo de aprendizaje automático y el efecto después de la convergencia, por lo que no profundizo demasiado en las teorías relacionadas.
1. Modelo de aprendizaje supervisado
regresión de probabilidad logarítmica del capítulo 3
Algoritmo logístico (regresión de probabilidad logarítmica) implementación numpy
capítulo 4-Regresión LASSO y regresión Ridge
Numpy implementa regresión de lazo y regresión de cresta
capítulo5-Análisis Discriminante Lineal LDA
Análisis Discriminante Lineal Derivación LDA e Implementación Manual
algoritmo del vecino más cercano del capítulo 6-k
Implementación numpy del algoritmo del vecino más cercano K
árbol de decisiones del capítulo 7
Derivación e implementación de fórmulas de árbol de decisiones de aprendizaje automático: ID3, CART
2. Modelo de conjunto de aprendizaje supervisado
Implementación del algoritmo de impulso de aprendizaje integrado AdaBoost basado en numpy y sklearn
Implementar manualmente el árbol de clasificación GBDT y el árbol de regresión GBRT
Implementación numpy del árbol de clasificación XGBoost
LightGBM Introducción y ejemplos
Una breve introducción a CatBoost y ejemplos del uso de bibliotecas nativas
Implementación numpy de bosque aleatorio
capítulo 16: comparación de aprendizaje integrado y ajuste de parámetros
Comparación y ajuste de parámetros de los tres modelos de aprendizaje integrado XGBoost, LightGBM y CatBoost
3. Modelo de aprendizaje no supervisado
ksignifica implementado manualmente
capítulo 18-Análisis de componentes principales PCA
implementación numpy del análisis de componentes principales PCA
capítulo 19-Descomposición en valores singulares SVD
implementación numpy de descomposición de valor singular svd y compresión de imagen
4. Modelo de probabilidad
capítulo 21-Modelo de probabilidad bayesiano
Derivación e implementación de redes bayesianas y bayesianas ingenuas
Introducción al algoritmo EM, algoritmo EM de programación numpy para realizar el problema de las tres monedas
¡Continuará! El aprendizaje automático es amplio y profundo, ¡y todos son bienvenidos a discutirlo juntos!