Perceptron multicouche

Les poids sont représentés dans les matrices ${\displaystyle \operatorname {W} }$ et ${\displaystyle \operatorname {B} }$, puis propagés à la couche suivante tel que :

$${\displaystyle W={\begin{pmatrix}w_{11}&\cdots &w_{1n}\\\vdots &\ddots &\vdots \\w_{m1}&\cdots &w_{mn}\end{pmatrix}}{\text{ et }}B={\begin{pmatrix}b_{1}\\\vdots \\b_{m}\end{pmatrix}}}$$

$${\displaystyle y=\sigma (Wx+B)}$$

En connaissant la valeur attendue ${\textstyle e_{i}}$ à la sortie d'un perceptron pour des entrées données, on peut calculer l'écart avec la prédiction grâce à une fonction objectif ${\displaystyle \operatorname {C} }$[2], le plus souvent l'erreur quadratique moyenne (abrégée ${\displaystyle \operatorname {MSE} }$)[3], telle que :

${\displaystyle \operatorname {MSE} (e_{i},y_{i})={\frac {1}{n}}\sum _{i=0}^{n}\left(y_{i}-e_{i}\right)^{2}}$ ;

Cette fonction n'est pas linéaire, et sa dérivée est plus grande si la prédiction est éloignée de la valeur attendue, permettant ainsi un apprentissage plus rapide[4]. Au contraire, l'erreur moyenne absolue (${\displaystyle \operatorname {MAE} }$) a une dérivée constante, et donc un taux d'apprentissage qui ne varie pas[5] :

${\displaystyle \operatorname {MAE} (e_{i},y_{i})={\frac {1}{n}}\sum _{i=0}^{n}\left|y_{i}-e_{i}\right|}$ ;

En minimisant ces fonctions objectif, les prédictions gagnent en précision[6].

Durant la phase d'apprentissage, après avoir calculé les erreurs du réseau de neurones, il est nécessaire de les corriger afin d'améliorer ses performances. Pour minimiser ces erreurs – et donc la fonction objectif –, l'algorithme du gradient est le plus souvent utilisé[7]. Le gradient ${\displaystyle \nabla }$ est calculé afin de connaître la variation de la fonction objectif par rapport aux paramètres ${\displaystyle \theta }$[8]. Il permet ensuite de modifier ces paramètres proportionnellement à leur impact sur la précision de la prédiction, dans le but d'atteindre après plusieurs itérations le minimum global de la fonction objectif.

La modification des paramètres ${\displaystyle \theta }$ à un instant ${\displaystyle t}$ se fait tel que :

$${\displaystyle \theta _{t+1}=\theta _{t}-\alpha \nabla C,}$$

avec ${\textstyle \alpha }$ un scalaire, le taux d'apprentissage, et ${\textstyle \nabla C}$ le gradient de la fonction objectif[9]. L'algorithme du gradient permet donc de trouver les paramètres ${\displaystyle \theta }$ du réseau tel que la somme des erreurs faites par les prédictions sur des données d'entrainement ${\displaystyle X}$ soit la plus faible possible, c'est-à-dire que :

$${\displaystyle C_{X}(\theta )=\min _{\theta }C_{X}(\theta ).}$$

Le gradient se calcule avec la dérivée partielle de la fonction objectif par rapport à chacun des paramètres[10]. Lorsqu'il y a plusieurs paramètres à optimiser, il est exprimé comme un vecteur, parfois noté ${\textstyle {\vec {\nabla }}}$, puis ajouté au vecteur ${\textstyle \theta }$ des paramètres, après avoir été multiplié par le taux d'apprentissage. Le gradient indique la direction vers le maximum de la fonction objectif, et son opposé mène donc vers le minimum[11]^,[12]. Son expression est donc :

$${\displaystyle \nabla C_{X}(\theta )={\begin{pmatrix}{\dfrac {\partial C}{\partial \theta _{1}}}&{\dfrac {\partial C}{\partial \theta _{2}}}&{\dfrac {\partial C}{\partial \theta _{3}}}&\cdots \end{pmatrix}}^{T}}$$

Soit ${\textstyle \nabla _{i}}$ le gradient sur un perceptron de la couche ${\textstyle k}$, alors l'ensemble des gradients de cette couche peuvent être stockés et manipulés dans une matrice jacobienne ${\textstyle J_{k}}$[13], c'est-à-dire une matrice contenant les dérivées partielles de la fonction objectif vectorielle sur toute la couche [14], avec :

$${\displaystyle J_{k}={\begin{pmatrix}\nabla _{1}\\\nabla _{2}\\\nabla _{3}\\\vdots \\\nabla _{m}\end{pmatrix}}={\begin{pmatrix}{\dfrac {\partial C}{\partial \theta _{1,1}}}&\cdots &{\dfrac {\partial C}{\partial \theta _{1,n}}}\\\vdots &\ddots &\vdots \\{\dfrac {\partial C}{\partial \theta _{m,1}}}&\cdots &{\dfrac {\partial C}{\partial \theta _{m,n}}}\end{pmatrix}}}$$

${\displaystyle \nabla C={\frac {\partial C}{\partial \theta _{ij}}}}$ ;

En utilisant le théorème de dérivation des fonctions composées, la variation de la fonction objectif par rapport à l'un des poids est[15] :

${\displaystyle \nabla C={\frac {\partial C}{\partial w}}={\frac {\partial o}{\partial w}}{\frac {\partial y}{\partial o}}{\frac {\partial C}{\partial y}}}$ ;

Avec ${\displaystyle \partial y/\partial o}$ la dérivée partielle de la fonction d'activation, et ${\displaystyle \partial C/\partial y}$ la dérivée partielle de la fonction objectif par rapport à la prédiction finale ${\displaystyle y}$. En développant et en utilisant la règle de dérivation des sommes ${\displaystyle {\frac {d}{dx}}\sum _{i}x_{i}=\sum _{i}{\frac {d}{dx}}x_{i}}$ :

${\displaystyle {\frac {\partial C}{\partial y_{i}}}={\frac {\partial }{\partial y_{i}}}\left({\frac {1}{n}}\sum _{i=0}^{n}(y_{i}-e_{i})^{2}\right)=2(y_{i}-e_{i})}$ ;

${\displaystyle {\frac {\partial y}{\partial o}}=y(1-y)}$, si la fonction sigmoïde sert d'activation, ou ${\displaystyle {\frac {\partial y}{\partial o}}=1-y^{2}}$ pour la tangente hyperbolique ;

${\displaystyle {\frac {\partial o}{\partial w}}=y_{i-1}}$ ;

L'apprentissage s'arrête lorsque les paramètres convergent vers des valeurs, et que la dérivée de la fonction objectif vaut 0.

1. Présentation d'un motif d'entraînement au réseau.
2. Comparaison de la sortie du réseau avec la sortie ciblée.
3. Calcul de l'erreur en sortie de chacun des neurones du réseau.
4. Calcul, pour chacun des neurones, de la valeur de sortie qui aurait été correcte.
5. Définition de l'augmentation ou de la diminution nécessaire pour obtenir cette valeur (erreur locale).
6. Ajustement du poids de chaque connexion vers l'erreur locale la plus faible.
7. Attribution d'un blâme à tous les neurones précédents.
8. Recommencer à partir de l'étape 4, sur les neurones précédents en utilisant le blâme comme erreur.