Modelo de árbol de algoritmos de clasificación del sistema de recomendación
Incluye principalmente árbol de decisión, bosque aleatorio (RF), GBDT, GBDT + LR y bosque profundo.
La ventaja del modelo de árbol es que puede cruzar y seleccionar características automáticamente de una manera supervisada, y también es un método o componente común en el aprendizaje por conjuntos. Los métodos comúnmente utilizados del modelo de árbol en la industria incluyen GBDT + LR y Xgboost .
1. Árbol de decisiones
1.1 Algoritmo de árbol de decisión
El árbol de decisiones es la base de los modelos de aprendizaje por conjuntos, como el bosque aleatorio y GBDT.
1.1.1 Modelo de árbol de decisión
El árbol de decisión se compone de nodos y bordes dirigidos. Los nodos se dividen en nodos internos y nodos de hoja. Los nodos internos representan una característica o atributo, y los nodos de hoja representan una clase. El proceso de usar un árbol de decisión para tomar una decisión es comenzar desde el nodo raíz, probar los atributos de característica correspondientes en los elementos que se van a clasificar y seleccionar la rama de salida de acuerdo con su valor hasta que alcance el nodo hoja, y usar el categoría almacenada en el nodo hoja como resultado de la decisión.
La siguiente figura es un árbol de decisiones sobre si un usuario compra una computadora. La edad, el estudiante y la reputación indican características y si indica una categoría.
La esencia del aprendizaje del árbol de decisiones es resumir un conjunto de reglas de clasificación del conjunto de datos de entrenamiento, generalmente utilizando métodos heurísticos, es decir, optimización local. El método específico es que cada vez que se selecciona una característica, la característica óptima actual se selecciona como la regla de división, es decir, la característica local óptima. El aprendizaje del árbol de decisiones generalmente se divide en 3 pasos: selección de características, generación del árbol de decisiones y poda del árbol de decisiones.