Aprendizaje automático --- modelo neuronal

1. Implicaciones biológicas

Las neuronas están compuestas estructuralmente por cuatro partes: cuerpo celular, dendritas, axones y sinapsis.

       El cuerpo celular es el cuerpo principal de una neurona y consta de tres partes: el núcleo, el citoplasma y la membrana celular. El exterior del cuerpo celular es la membrana celular, que

Se separa el líquido celular dentro y fuera de la membrana. Dado que la membrana celular tiene diferente permeabilidad a diferentes iones en el líquido celular, hay iones dentro y fuera de la membrana.

Hay una diferencia en la subconcentración, lo que resulta en un potencial de reposo de interior negativo y exterior positivo. Esta diferencia de potencial se llama potencial de membrana.

        Dendritas, fibras nerviosas con muchas proyecciones que se extienden hacia afuera desde el cuerpo celular. Responsable de recibir señales de entrada de otras neuronas.

Actúa como extremo de entrada del cuerpo celular.

        Axón, el proceso más largo que se extiende desde el cuerpo celular se llama axón. Los axones son más largos y delgados que las dendritas. Los axones también se llaman fibras nerviosas.

Hay muchas ramas delgadas en el extremo llamadas terminaciones nerviosas. Cada terminación nerviosa puede enviar señales en todas direcciones, lo que equivale al cuerpo celular.

terminal de salida.

        Sinapsis, el vínculo de comunicación entre el axón de una neurona y el cuerpo celular o las dendritas de otra neurona.

Esta conexión equivale a la interfaz de entrada/salida (I/0) entre neuronas y se denomina sinapsis.

        Las sinapsis provocan cambios en el potencial de membrana de las células nerviosas y los cambios potenciales pueden acumularse. Una sola neurona puede interactuar con tantas como

Las terminales axónicas de miles de otras neuronas forman conexiones sinápticas que reciben impulsos de cada axón.

       Estas entradas pueden llegar a diferentes partes de la neurona y diferentes partes de entrada tienen diferentes pesos en la neurona.

       En diferentes sitios de entrada, el potencial de membrana de la célula nerviosa es la suma de los potenciales generados por todas sus sinapsis. Cuando el potencial de membrana de la célula nerviosa aumenta

Cuando es lo suficientemente alto como para superar un umbral, se genera un pulso, de modo que el potencial de membrana sumado afecta directamente al pulso excitador de la célula nerviosa.

número.

       La información de las neuronas es un tren de pulsos con el mismo ancho y amplitud. Si una célula nerviosa se excita, la frecuencia del tren de pulsos emitido por su axón será

La frecuencia es alta; si una determinada célula nerviosa está inhibida, la frecuencia del tren de impulsos emitido por su axón será baja, o incluso no habrá salida de impulsos.

       Por lo tanto, las sinapsis se pueden dividir en dos tipos: excitadoras e inhibidoras. Las sinapsis excitadoras pueden provocar la excitación de la siguiente célula nerviosa y las sinapsis inhibidoras.

Las sinapsis sexuales inhiben la siguiente célula nerviosa. La transmisión de impulsos se realiza en dirección directa y no se permite la propagación inversa. Además, la transmisión sináptica de información requiere

Tiene que haber un cierto retraso.

En resumen, podemos resumir las características asumidas de las redes neuronales biológicas:

        Cada neurona es una unidad de procesamiento de información con múltiples entradas y una única salida;

        La entrada de neuronas se divide en dos tipos: entrada excitadora y entrada inhibidora;

        Las neuronas tienen propiedades de integración espacial y propiedades de umbral;

        Existe un desfase de tiempo fijo entre la entrada y la salida de las neuronas, que depende principalmente del retraso sináptico.

modelo 2.MP

       En 1943, el psicólogo W. McCulloch y el matemático W. Pitts propusieron conjuntamente el modelo MP.

El nombre de ambos (McCulloch-Pitts).

        Para simplificar el modelado y facilitar la expresión formal, ignoramos factores complejos como el efecto de integración temporal y el período refractario.

elementos, y tratar el retraso sináptico y la fuerza de las neuronas como constantes. El siguiente es un diagrama esquemático de un modelo MP.

        Combinado con el diagrama esquemático del modelo MP, para una determinada neurona j (tenga cuidado de no confundirla con una variable, j aquí solo sirve como estándar

(Reconocer la función de una determinada neurona), puede recibir muchas señales de entrada al mismo tiempo, representadas por xi. Como se mencionó anteriormente, debido a la neurona biológica

Las neuronas tienen diferentes propiedades sinápticas y fortalezas sinápticas, por lo que tienen diferentes efectos sobre las neuronas. Usamos el peso wij para representar su valor positivo.

El negativo simula la excitación e inhibición de protuberancias en neuronas biológicas, y su tamaño representa las diferentes fuerzas de conexión de las protuberancias. Debido a la aditividad, yo

Acumulan e integran todas las señales de entrada, lo que equivale al potencial de membrana de las neuronas biológicas.

       El hecho de que una neurona se active o no depende de un cierto nivel de umbral, es decir, la neurona se activa sólo cuando la suma de sus entradas excede el umbral thea.

La neurona debe estar viva para disparar impulsos; de lo contrario, no producirá una señal de salida. Todo el proceso se puede representar mediante la siguiente función:

A partir de esto, podemos resumir las seis características del modelo MP:

       Cada neurona es una unidad de procesamiento de información con múltiples entradas y una única salida. Las entradas de las neuronas se dividen en dos tipos: entradas excitadoras y entradas inhibidoras.

tipo;

        Las neuronas tienen propiedades de integración espacial y propiedades de umbral;

        Existe un desfase de tiempo fijo entre la entrada y la salida de las neuronas, que depende principalmente del retraso sináptico;

        Se ignoran los efectos de integración temporal y los períodos refractarios;

        La neurona en sí es invariante en el tiempo, es decir, su retraso sináptico y su fuerza sináptica son constantes.

3. modelo de neurona 

Las figuras, fórmulas numéricas y el texto explicativo de las figuras y fórmulas numéricas utilizarán los siguientes símbolos:

Escalar: letras minúsculas y cursivas.

Vector: letras minúsculas en negrita, como a, b, c.

Matriz: letras monolíticas negras mayúsculas, como A, B, C.

Modelo de neurona de entrada única:

Las neuronas se calculan de la siguiente manera: 

Por ejemplo. Si w=3, p=2, b=1.5, entonces

Función de transferencia:

Función de transferencia de límite estricto:

Función de transferencia lineal:

Función de transferencia logarítmica:

Características de la función sigmiod:

       Rango de valores a∈(0,1); no lineal, monótono; infinitamente diferenciable; la función lineal se puede aproximar cuando |n| es pequeña; la función lineal se puede aproximar cuando |n| es grande

función umbral.

Múltiples neuronas de entrada:

       Matriz de pesos: normalmente, una neurona tiene más de una entrada. En la siguiente figura se muestra una neurona con entradas R. su entrada

P1, P2, ....., PR corresponden respectivamente a los elementos W1,1, W1,2, ...., W1,R de la matriz de pesos w.

La neurona tiene un valor de sesgo b que se suma con la suma ponderada de todas las entradas para formar la entrada neta n:

La expresión se puede escribir en forma matricial: 

La salida de la neurona se puede escribir como:

Subíndice de peso: el primer subíndice del subíndice del elemento de la matriz de peso representa el peso; el número de neurona objetivo especificado por la conexión correspondiente, el segundo

El subíndice indica el número de neurona de origen de la conexión correspondiente del peso. 

Notación simplificada:

       En este caso, la salida de la neurona a es un escalar, y si la red tiene múltiples neuronas, la salida de la red es un

vector.

Múltiples neuronas operando en paralelo:

Cada elemento del vector de entrada p está conectado a cada neurona a través de una matriz de pesos w.

 

Capas de neuronas:

Si la salida de una determinada capa es la salida de la red, entonces la capa se denomina capa de salida y las otras capas se denominan capas ocultas.

Retrasos e integradores:

 

Red neuronal recurrente:

Una red recurrente es una red con retroalimentación en la que parte de su salida está conectada a su entrada, un tipo de red recurrente en tiempo discreto.

¿Cómo elegir una estructura de red?La descripción del problema de la aplicación es muy útil para definir la estructura de la red a partir de los siguientes aspectos:

El número de entradas a la red = el número de entradas al problema de la aplicación;

El número de neuronas de la capa de salida = el número de salidas del problema de la aplicación:

La elección de la función de transferencia para la capa de salida depende, al menos en parte, de la descripción de salida del problema de la aplicación. 

 

 

 

 

 

 

 

Supongo que te gusta

Origin blog.csdn.net/weixin_43961909/article/details/133236259
Recomendado
Clasificación