1. Implications biologiques
Les neurones sont structurellement composés de quatre parties : le corps cellulaire, les dendrites, les axones et les synapses.
Le corps cellulaire est le corps principal d’un neurone et se compose de trois parties : le noyau, le cytoplasme et la membrane cellulaire. L'extérieur du corps cellulaire est la membrane cellulaire, qui
Le liquide cellulaire à l’intérieur et à l’extérieur de la membrane est séparé. Étant donné que la membrane cellulaire a une perméabilité différente aux différents ions présents dans le liquide cellulaire, il existe des ions à l’intérieur et à l’extérieur de la membrane.
Il existe une différence de sous-concentration, ce qui entraîne un potentiel de repos négatif à l'intérieur et positif à l'extérieur. Cette différence de potentiel est appelée potentiel de membrane.
Dendrites, fibres nerveuses comportant de nombreuses projections s'étendant vers l'extérieur du corps cellulaire. Responsable de la réception des signaux d’entrée d’autres neurones.
Agit comme l’extrémité d’entrée du corps cellulaire.
Axone, le processus le plus long s'étendant du corps cellulaire est appelé axone. Les axones sont plus longs et plus fins que les dendrites. Les axones sont également appelés fibres nerveuses.
Il y a de nombreuses branches fines à l'extrémité appelées terminaisons nerveuses. Chaque terminaison nerveuse peut envoyer des signaux dans toutes les directions, ce qui équivaut au corps cellulaire.
borne de sortie.
Synapse, lien de communication entre l'axone d'un neurone et le corps cellulaire ou les dendrites d'un autre neurone.
Cette connexion équivaut à l’interface entrée/sortie (I/0) entre les neurones et s’appelle une synapse.
Les synapses provoquent des modifications du potentiel membranaire des cellules nerveuses, et des modifications potentielles peuvent s'accumuler. Un seul neurone peut interagir avec autant de neurones que de cellules nerveuses.
Les terminaisons axonales de milliers d’autres neurones forment des connexions synaptiques qui reçoivent des impulsions de chaque axone.
Ces entrées peuvent atteindre différentes parties du neurone. Différentes parties d’entrée ont des poids différents sur le neurone.
Différents sites d'entrée, le potentiel membranaire de la cellule nerveuse est la somme des potentiels générés par toutes ses synapses. Lorsque le potentiel membranaire de la cellule nerveuse augmente
Lorsqu'il est suffisamment élevé pour dépasser un seuil, une impulsion sera générée, de sorte que le potentiel membranaire total affecte directement l'impulsion excitatrice de la cellule nerveuse.
nombre.
L'information des neurones est un train d'impulsions de même largeur et amplitude. Si une cellule nerveuse est excitée, la fréquence du train d'impulsions émis par son axone sera
Le rythme est élevé ; si une certaine cellule nerveuse est inhibée, la fréquence du train d'impulsions émis par son axone sera faible, voire il n'y aura pas d'émission d'impulsions.
Par conséquent, les synapses peuvent être divisées en deux types : excitatrices et inhibitrices. Les synapses excitatrices peuvent provoquer l'excitation de la cellule nerveuse suivante, et les synapses inhibitrices peuvent provoquer une excitation de la cellule nerveuse suivante.
Les synapses sexuelles inhibent la cellule nerveuse suivante. La transmission des impulsions s'effectue dans le sens direct et la propagation inverse n'est pas autorisée. De plus, la transmission synaptique des informations nécessite
Il faut un certain délai.
En résumé, nous pouvons résumer les caractéristiques supposées des réseaux de neurones biologiques :
Chaque neurone est une unité de traitement de l'information avec plusieurs entrées et une seule sortie ;
L'entrée neuronale est divisée en deux types : l'entrée excitatrice et l'entrée inhibitrice ;
Les neurones ont des propriétés d'intégration spatiale et des propriétés de seuil ;
Il existe un décalage de temps fixe entre l’entrée et la sortie des neurones, qui dépend principalement du retard synaptique.
Modèle 2.MP
En 1943, le psychologue W. McCulloch et le mathématicien W. Pitts proposent conjointement le modèle MP.
Nommé d'après eux deux (McCulloch-Pitts).
Afin de simplifier la modélisation et de faciliter l'expression formelle, nous ignorons les facteurs complexes tels que l'effet d'intégration temporelle et la période réfractaire.
éléments et traitent le retard synaptique et la force des neurones comme des constantes. Ce qui suit est un diagramme schématique d’un modèle MP.
Combiné avec le schéma de principe du modèle MP, pour un certain neurone j (attention à ne pas le confondre avec une variable, j ne sert ici que de standard
(reconnaître la fonction d'un certain neurone), il peut recevoir plusieurs signaux d'entrée en même temps, représentés par xi. Comme mentionné précédemment, en raison du neurone biologique
Les neurones ont des propriétés et des forces synaptiques différentes, ils ont donc des effets différents sur les neurones. Nous utilisons le poids wij pour représenter son poids positif.
Le négatif simule l’excitation et l’inhibition des protubérances dans les neurones biologiques, et sa taille représente les différentes forces de connexion des protubérances. En raison de l'additivité, je
Ils accumulent et intègrent tous les signaux d’entrée, ce qui équivaut au potentiel membranaire des neurones biologiques.
Le fait qu'un neurone soit activé ou non dépend d'un certain seuil, c'est-à-dire que le neurone n'est activé que lorsque la somme de ses entrées dépasse le seuil thea.
Le neurone doit être vivant pour émettre des impulsions, sinon il ne produira pas de signal de sortie. L'ensemble du processus peut être représenté par la fonction suivante :
De là, nous pouvons résumer les six caractéristiques du modèle MP :
Chaque neurone est une unité de traitement de l'information avec plusieurs entrées et une seule sortie. Les entrées des neurones sont divisées en deux types : l'entrée excitatrice et l'entrée inhibitrice.
taper;
Les neurones ont des propriétés d'intégration spatiale et des propriétés de seuil ;
Il existe un décalage de temps fixe entre l'entrée et la sortie des neurones, qui dépend principalement du retard synaptique ;
Les effets d'intégration temporelle et les périodes réfractaires sont ignorés ;
Le neurone lui-même est invariant dans le temps, c'est-à-dire que son retard synaptique et sa force synaptique sont constants.
3. Modèle de neurone
Les figures, les formules numériques et le texte expliquant les figures et les formules numériques utiliseront les symboles suivants :
Scalaire : lettres minuscules italiques.
Vecteur : lettres minuscules en gras, telles que a, b, c.
Matrice : lettres monolithiques noires majuscules, telles que A, B, C.
Modèle de neurone à entrée unique :
Les neurones sont calculés comme suit : 
Par exemple. Si w=3, p=2, b=1,5, alors
Fonction de transfert:
Fonction de transfert de limite stricte :
Fonction de transfert linéaire :
Fonction de transfert logarithmique :
Caractéristiques de la fonction sigmiode :
Plage de valeurs a∈(0,1) ; non linéaire, monotone ; infiniment différentiable ; la fonction linéaire peut être approchée lorsque |n| est petit ; la fonction linéaire peut être approchée lorsque |n| est grand
fonction de seuil.
Neurones à entrées multiples :
Matrice de poids : généralement, un neurone a plus d’une entrée. Un neurone avec des entrées R est illustré dans la figure ci-dessous. son entrée
P1, P2, ....., PR correspondent respectivement aux éléments W1,1, W1,2, ...., W1,R de la matrice de poids w.
Le neurone a une valeur de biais b qui est additionnée à la somme pondérée de toutes les entrées pour former l'entrée nette n :
L’expression peut s’écrire sous forme matricielle :
La sortie du neurone peut s’écrire :
Indice de poids : le premier indice de l'indice d'élément de matrice de poids représente le poids ; le numéro de neurone cible spécifié par la connexion correspondante, le deuxième
L'indice indique le numéro du neurone source de la connexion correspondante du poids.
Notation simplifiée :
Dans ce cas, la sortie a du neurone est un scalaire, et si le réseau possède plusieurs neurones, la sortie du réseau est un
vecteur.
Plusieurs neurones fonctionnant en parallèle :
Chaque élément du vecteur d'entrée p est connecté à chaque neurone via une matrice de poids w.
Couches de neurones :
Si la sortie d'une certaine couche est la sortie du réseau, alors la couche est appelée couche de sortie et les autres couches sont appelées couches cachées.
Retards et intégrateurs :
Réseau neuronal récurrent :
Un réseau récurrent est un réseau avec rétroaction dans lequel une partie de sa sortie est connectée à son entrée, un type de réseau récurrent à temps discret.
Comment choisir une structure de réseau ?La description du problème d'application est très utile pour définir la structure du réseau sous les aspects suivants :
Le nombre d'entrées au réseau = le nombre d'entrées au problème d'application ;
Le nombre de neurones de la couche de sortie = le nombre de sorties du problème d'application :
Le choix de la fonction de transfert pour la couche de sortie dépend au moins en partie de la description de sortie du problème d'application.