El modelo de red neuronal se ha aplicado en muchos campos, simulando la estructura neuronal de los organismos, es un modelo neuronal simplificado y puede realizar modelos matemáticos de procesamiento de información distribuida.
fondo
La red neuronal se divide en el mundo neuronal En la década de 1980, los científicos dirigidos por Rumelhart y McCelland establecieron un grupo de procesamiento paralelo y propusieron el famoso algoritmo de red neuronal.
Las redes neuronales incluyen redes neuronales biológicas y redes neuronales artificiales. En la estructura de neuronas BP, las neuronas imitan la estructura de neuronas del organismo, como se muestra en la figura a continuación, que es la estructura de neuronas del organismo (la figura proviene de la red):
estructura basica
La red neuronal BP es una red neuronal multicapa con tres o más capas, y cada capa está compuesta por varias neuronas. Suponiendo que el número de capas de entrada es 3 y el número de capas de salida es 2, el diagrama esquemático básico se muestra en la siguiente figura:
Supongamos que el número de capas de salida es l, el número de capas ocultas es my el número de capas de salida es n, que es la salida de la h-ésima neurona en la capa oculta.
es el peso de conexión entre la j-ésima neurona de la capa de entrada y la h-ésima neurona de la capa oculta, entonces la fórmula de entrada de la j-ésima neurona es:
función de activación de neuronas
La red neuronal BP generalmente usa una función lineal como función de transferencia o una función de tipo S como función de transferencia. La función S se puede dividir en una función log-sigmoidea y una función Tan-sigmoidea. Función de activación de neuronas
(1) función sigmoidea
Sigmoid y sus derivados son continuos, porque la función Sigmoid se puede dividir en curvas unipolares en forma de S, y la fórmula de función de las curvas unipolares en forma de S es la siguiente:
El uso de MATLAB para simular la imagen de f(x) es el siguiente:
La fórmula funcional para bipolar tipo S es la siguiente:
Una imagen de la fórmula anterior se ve así:
En comparación con el signo Tan, la función sigmoidea tiene una mejor tolerancia al error y una mayor precisión lineal que la función lineal.
Marco general del algoritmo de red neuronal de BP
El marco general de la red de neuronas BP y las funciones de sus respectivas partes son:
| propagación hacia adelante | obtener el resultado previsto |
| retropropagación | transferencia inversa para w y b |
| modelo de prueba | Precisión de cálculo |
El algoritmo de red neuronal BP utiliza el algoritmo de propagación hacia atrás para el aprendizaje. Los datos se transmiten capa por capa hacia atrás. Desde la perspectiva de la capa de entrada, todo el proceso se lleva a cabo en la dirección de reducción de errores. Durante el proceso de operación, los pesos de conexión de la red se corrigen continuamente hacia adelante y, finalmente, el error se reduce a lo mínimo.