El optimizador es un tipo de algoritmo utilizado para optimizar modelos de redes neuronales en aprendizaje profundo. Su función principal es ajustar los parámetros del modelo de acuerdo con la función de pérdida del modelo, para que el modelo pueda adaptarse mejor a los datos de entrenamiento y mejorar la Rendimiento y generalización del modelo. El optimizador actualiza continuamente los parámetros del modelo durante el proceso de entrenamiento para acercar gradualmente el modelo a la solución óptima.
En concreto, las funciones del optimizador incluyen:
-
Actualización de parámetros: el optimizador actualiza los parámetros del modelo en función de la información de gradiente calculada por la función de pérdida, de modo que el modelo se puede ajustar en la dirección de disminuir la función de pérdida, minimizando así la función de pérdida.
-
Aceleración de convergencia: al introducir técnicas como el impulso, el optimizador puede acelerar el proceso de convergencia del modelo, encontrando así una mejor combinación de parámetros más rápidamente.
-
Evite gradientes que desaparezcan o exploten: en las redes neuronales profundas, la derivación de cadenas multicapa puede provocar problemas de desaparición o explosión de gradientes. El optimizador puede aliviar estos problemas y garantizar un entrenamiento estable del modelo mediante un ajuste adecuado de la tasa de aprendizaje y técnicas de recorte de gradiente.
-
Ajuste adaptativo de la tasa de aprendizaje: algunos optimizadores como Adagrad, RMSprop y Adam tienen características de tasa de aprendizaje adaptativa y pueden ajustar dinámicamente la tasa de aprendizaje en función de la información histórica de los gradientes de parámetros para adaptarse a la velocidad de aprendizaje de diferentes parámetros.
-
Evite el sobreajuste: al actualizar los parámetros durante el proceso de entrenamiento, el optimizador puede evitar que el modelo se sobreajuste en los datos de entrenamiento hasta cierto punto y mejorar la capacidad de generalización del modelo.
PD:
A menudo se puede utilizar el mismo optimizador para diferentes tipos de tareas, como clasificación y regresión. La función del optimizador es minimizar la función de pérdida actualizando los parámetros del modelo, y la elección de la función de pérdida depende del tipo de tarea específica.
En el aprendizaje profundo, la elección del optimizador es generalmente independiente de la elección de la función de pérdida. El objetivo del optimizador es minimizar la función de pérdida, y diferentes tipos de funciones de pérdida corresponden a diferentes tareas.
Ya sea una tarea de clasificación o regresión, podemos usar el mismo optimizador para minimizar la función de pérdida correspondiente. La elección del optimizador no depende del tipo de tarea, sino que se selecciona en función de factores como el efecto de optimización y la velocidad de convergencia. El mismo optimizador se puede usar para diferentes tipos de tareas, como clasificación y regresión, pero al usarlo, debe prestar atención a elegir una función de pérdida adecuada que coincida con diferentes tipos de tareas.
Optimizadores comunes
-
Descenso de gradiente estocástico (SGD):
- SGD es uno de los algoritmos de optimización más básicos. Cada iteración selecciona aleatoriamente una muestra de los datos de entrenamiento para calcular el gradiente y actualiza los parámetros del modelo.
- Ventajas: Cálculo rápido, fácil de implementar y comprender.
- Desventajas: puede caer en el punto óptimo local y la actualización del gradiente es inestable.
-
Impulso:
- El optimizador de impulso agrega un término de impulso al SGD para acelerar la convergencia y reducir la oscilación.
- El impulso puede entenderse como la velocidad a la que el objeto simulado rueda en la dirección del gradiente, lo que ayuda a moverse más rápido en superficies con pérdidas pronunciadas.
- Ventajas: acelera la convergencia y reduce la oscilación.
- Desventajas: Puede caer en óptimos locales en áreas planas.
-
Optimizador de tasa de aprendizaje adaptativo:
- Adagrad: Adagrad ajusta la tasa de aprendizaje en función de la información histórica del gradiente de los parámetros y es adecuado para datos escasos.
- RMSprop: RMSprop es una versión mejorada de Adagrad que evita que la tasa de aprendizaje disminuya demasiado rápido mediante la introducción de un coeficiente de caída.
- Adam: Adam es un optimizador que combina impulso y RMSprop, se usa comúnmente en aprendizaje profundo y tiene buen rendimiento y solidez.
- Ventajas: ajuste adaptativamente la tasa de aprendizaje, utilice diferentes tasas de aprendizaje para diferentes parámetros y tenga una velocidad de convergencia más rápida.
- Desventajas: requiere un ajuste de hiperparámetros adicional, lo que puede aumentar la sobrecarga computacional.
-
Gradiente acelerado de Nesterov (NAG):
- NAG es una versión mejorada del optimizador de impulso. Utiliza valores actualizados de los parámetros del modelo al calcular los gradientes, lo que ayuda a mejorar la eficiencia de la optimización.
- Al considerar el término de impulso de antemano, las actualizaciones de parámetros se pueden estimar con mayor precisión, lo que mejora la precisión y la estabilidad de las actualizaciones de parámetros.
-
AdaDelta:
- AdaDelta es una versión mejorada de Adagrad, que evita el problema de que la tasa de aprendizaje decaiga demasiado rápido ajustando dinámicamente la información de gradiente histórico.
- No es necesario configurar manualmente la tasa de aprendizaje global y las actualizaciones de parámetros son más estables.
-
AdamW (Adán con pérdida de peso):
- AdamW es una versión mejorada de Adam. Maneja la caída de peso con mayor precisión al actualizar los parámetros, lo que puede mejorar el rendimiento de generalización del modelo.
Cada optimizador tiene sus propias características y escenarios aplicables. Al seleccionar un optimizador, se deben considerar factores como el tamaño del conjunto de datos, la complejidad del modelo, el tiempo de entrenamiento y las limitaciones de los recursos informáticos, y se debe comparar el rendimiento de diferentes optimizadores mediante experimentos para seleccionar el algoritmo de optimización que sea más adecuado para la tarea actual.
Características y escenarios de aplicación.
El siguiente es un breve resumen de las características y escenarios de aplicación de varios optimizadores, presentados en forma de tabla:
| optimizador | Características | Escenarios de aplicación |
|---|---|---|
| SGD | El optimizador más básico tiene una tasa de aprendizaje fija globalmente, que tiende a caer en la optimización local y tiene una convergencia lenta. | Problema simple, pequeño conjunto de datos. |
| Impulso | La introducción del término de impulso acelera la convergencia y reduce la oscilación, pero puede caer en la optimización local en el área plana. | Conjuntos de datos a gran escala, modelos complejos. |
| Dosificación | La tasa de aprendizaje adaptativo, que ajusta la tasa de aprendizaje en función de la información histórica del gradiente de los parámetros, es adecuada para datos escasos. | conjunto de datos escaso, características escasas |
| enchufe RMS | Las mejoras en Adagrad introducen un coeficiente de caída para evitar que la tasa de aprendizaje disminuya demasiado rápido. | Conjuntos de datos no estacionarios, modelos complejos. |
| Adadelta | Las mejoras en Adagrad ajustan dinámicamente la tasa de aprendizaje y evitan configuraciones de tasa de aprendizaje global. | Conjuntos de datos a gran escala, modelos complejos. |
| Adán | Combina impulso y RMSprop, ajusta de forma adaptativa la tasa de aprendizaje, converge rápidamente y se usa ampliamente en aprendizaje profundo. | Adecuado para la mayoría de los casos, modelos complejos. |
| AdamW | Agregue atenuación de peso sobre la base de Adam para mejorar el rendimiento de generalización del modelo. | Conjuntos de datos a gran escala, modelos complejos. |
| Eso espero | Sobre la base de Adam, se agrega el gradiente acelerado de Nesterov para ajustar dinámicamente la tasa de aprendizaje y converger más rápido. | Conjuntos de datos a gran escala, modelos complejos. |
| L-BFGS | Método de optimización cuadrática, basado en el método cuasi-Newton, adecuado para conjuntos de datos pequeños y modelos a pequeña escala. | Pequeños conjuntos de datos, modelos a pequeña escala. |
Optimizadores comunes en antorcha
- SGD (descenso de gradiente estocástico) :
import torch.optim as optim
optimizer = optim.SGD(model.parameters(), lr=learning_rate)
- Adam (estimación del momento adaptativo) :
import torch.optim as optim
optimizer = optim.Adam(model.parameters(), lr=learning_rate)
- RMSprop (propagación cuadrática media) :
import torch.optim as optim
optimizer = optim.RMSprop(model.parameters(), lr=learning_rate)
- Adagrad (método de tasa de aprendizaje adaptativo) :
import torch.optim as optim
optimizer = optim.Adagrad(model.parameters(), lr=learning_rate)
- Adadelta :
import torch.optim as optim
optimizer = optim.Adadelta(model.parameters(), lr=learning_rate)
- AdamW (Adán con pérdida de peso) :
import torch.optim as optim
optimizer = optim.AdamW(model.parameters(), lr=learning_rate)
En el ejemplo anterior, model.parameters()el parámetro del modelo utilizado para la optimización lres la tasa de aprendizaje, que es un hiperparámetro importante del optimizador. Se pueden seleccionar optimizadores e hiperparámetros apropiados en función de tareas y datos específicos para el entrenamiento y la optimización del modelo.
Ejemplo de red neuronal simple
Proceso general de red neuronal:
-
Propagación hacia adelante : Los datos de entrada pasan a través de una serie de capas de la red y se someten a una transformación lineal y un procesamiento de función de activación capa por capa para obtener el resultado final.
-
Función de pérdida : la pérdida se calcula en función de la salida del modelo y la etiqueta verdadera, y se utiliza para medir la diferencia entre las predicciones del modelo y el valor real.
-
Propagación hacia atrás : al calcular el gradiente de la función de pérdida en los parámetros del modelo, el gradiente se propaga desde la capa de salida a la capa de entrada para actualizar los parámetros de la red.
-
Optimizador : el optimizador utiliza un determinado algoritmo de optimización para actualizar los parámetros de la red neuronal en función de la información de gradiente obtenida mediante retropropagación, minimizando así la función de pérdida.
-
Actualización de parámetros : actualice los pesos y sesgos de la red neuronal en función del gradiente de parámetros calculado por el optimizador, de modo que el modelo converja gradualmente a un estado más óptimo.
-
Entrenamiento iterativo : a través de múltiples iteraciones de propagación hacia adelante, propagación hacia atrás y actualizaciones de parámetros, la red neuronal ajusta gradualmente los parámetros en el conjunto de entrenamiento para mejorar el rendimiento del modelo.
Centrémonos en el optimizador:
-
Optimizador : El optimizador es una parte importante del entrenamiento de redes neuronales: determina cómo se actualizan los parámetros de acuerdo con el gradiente de la función de pérdida, optimizando así gradualmente el modelo.
-
Descenso de gradiente : El descenso de gradiente es la idea más básica del optimizador, que actualiza los parámetros de acuerdo con la dirección del gradiente de la función de pérdida. Entre ellos, SGD (descenso de gradiente estocástico) es el método de descenso de gradiente más simple, pero puede sufrir oscilaciones y convergencia lenta durante el proceso de entrenamiento.
-
Algoritmo de optimización : para resolver el problema del descenso de gradiente, han surgido varios algoritmos de optimización. Los optimizadores comunes incluyen: Momentum, Adagrad, RMSprop, Adam, etc. Estos algoritmos de optimización introducen mecanismos como el impulso y el ajuste de la tasa de aprendizaje sobre la base del descenso de gradiente para acelerar la convergencia y mejorar los efectos de optimización.
-
Ajuste de hiperparámetros : el optimizador tiene algunos hiperparámetros importantes, como la tasa de aprendizaje, el impulso, etc. La selección razonable de estos hiperparámetros tiene un gran impacto en el rendimiento del modelo. A menudo es necesario realizar un ajuste de hiperparámetros para encontrar la combinación óptima de parámetros.
-
Estabilidad y generalización : la elección del optimizador y la configuración de hiperparámetros tienen un gran impacto en la estabilidad y el rendimiento de generalización de la red neuronal. Diferentes combinaciones de optimizador e hiperparámetro pueden hacer que el modelo caiga en óptimos locales o se sobreajuste.
-
Tasa de aprendizaje adaptativo : en los últimos años, los algoritmos de optimización de la tasa de aprendizaje adaptativo se han vuelto populares, como Adagrad, RMSprop y Adam. Estos algoritmos pueden ajustar de forma adaptativa la tasa de aprendizaje en función de la información histórica del gradiente de los parámetros, lo que permite actualizaciones de parámetros más eficientes.
-
Convergencia : la elección del optimizador también afectará si la red neuronal puede lograr una buena convergencia, es decir, dentro de un número razonable de iteraciones, el modelo puede tender a un estado estable evitando el sobreajuste. Por lo tanto, al elegir un optimizador, es necesario considerar la estructura de la red, el tamaño del conjunto de datos y la estrategia de entrenamiento.
Los pasos clave para construir una red neuronal y seleccionar un optimizador en PyTorch son los siguientes:
- Defina el modelo de red neuronal : primero, debe definir la estructura del modelo de red neuronal. Puede utilizarlo
torch.nn.Modulepara crear una clase de red neuronal personalizada y__init__definir las capas y parámetros en su constructor.
import torch
import torch.nn as nn
class MyModel(nn.Module):
def __init__(self):
super(MyModel, self).__init__()
self.fc1 = nn.Linear(in_features, hidden_size)
self.fc2 = nn.Linear(hidden_size, out_features)
# 定义其他层...
def forward(self, x):
x = self.fc1(x)
x = torch.relu(x)
x = self.fc2(x)
return x
- Crear una instancia del modelo y la función de pérdida : antes de usar el modelo, debe crear una instancia del modelo y elegir una función de pérdida adecuada. Al mismo tiempo, es necesario definir hiperparámetros, como la tasa de aprendizaje (lr), la caída de peso, etc.
# 实例化模型
model = MyModel()
# 定义损失函数
criterion = nn.CrossEntropyLoss()
# 定义优化器（标注重点）
optimizer = torch.optim.SGD(model.parameters(), lr=learning_rate, weight_decay=weight_decay)
- Bucle de formación : durante el proceso de formación, la atención se centra en el uso de optimizadores. En cada iteración, primero se debe borrar el gradiente, luego se calcula la salida y la pérdida del modelo, luego se calcula el gradiente mediante retropropagación y, finalmente, los parámetros del modelo se actualizan mediante el optimizador.
# 训练循环
for epoch in range(num_epochs):
for inputs, labels in dataloader:
# 将梯度清零
optimizer.zero_grad()
# 前向传播
outputs = model(inputs)
loss = criterion(outputs, labels)
# 反向传播
loss.backward()
# 更新模型参数（优化器的重点操作）
optimizer.step()
- Validación o prueba : después del entrenamiento, el modelo se puede validar o probar. Durante las fases de validación o prueba, los cálculos de gradiente generalmente no son necesarios, por lo que se
torch.no_grad()puede utilizar un administrador de contexto para desactivar los cálculos de gradiente, ahorrando memoria y recursos informáticos.
# 验证或测试循环
with torch.no_grad():
for inputs, labels in val_dataloader:
# 前向传播（无需计算梯度）
outputs = model(inputs)
# 其他验证或测试操作...
Los anteriores son los pasos principales para construir una red neuronal y un optimizador de anotaciones en PyTorch. Elegir el optimizador adecuado y establecer hiperparámetros razonables son clave para entrenar redes neuronales. Dependiendo de la complejidad de la tarea y la cantidad de datos, puede que sea necesario probar diferentes optimizadores y ajustar los hiperparámetros.