Rétropropagation

Un réseau de neurones est une composition profondément imbriquée de fonctions : chaque couche prend la sortie de la précédente, applique une transformation linéaire et une non-linéarité, et transmet le résultat. Pour l’entraîner par descente de gradient, il faut la dérivée partielle de la perte finale par rapport à chaque poids individuel, y compris ceux enfouis plusieurs couches plus loin. La rétropropagation est la procédure qui les calcule.

Le mécanisme est la règle de dérivation en chaîne, appliquée systématiquement. Une passe avant fait circuler l’entrée dans le réseau et enregistre les valeurs intermédiaires de chaque couche. La passe arrière part ensuite de la perte et remonte vers l’entrée : à chaque couche elle reçoit la dérivée de la perte par rapport à la sortie de cette couche, et s’en sert pour calculer deux choses, la dérivée par rapport aux poids de la couche (ce dont l’optimiseur a besoin) et la dérivée par rapport à son entrée (transmise à la couche précédente).

L’efficacité est toute la raison d’être de l’algorithme. Estimer séparément chacune d’un million de dérivées partielles, en perturbant un poids à la fois et en réexécutant le réseau, demanderait un million de passes avant. La rétropropagation réutilise les quantités intermédiaires partagées et obtient chaque gradient en un seul balayage arrière dont le coût est comparable à la passe avant. Sans cette réduction, entraîner des réseaux de taille moderne serait arithmétiquement impossible.

L’attribution est réellement stratifiée. Le travail de 1986 de Rumelhart, Hinton et Williams est ce qui a porté la méthode à l’attention du domaine et déclenché le renouveau connexionniste, mais la technique sous-jacente, la différentiation automatique en mode inverse appliquée à des réseaux en couches, avait été dérivée indépendamment par plusieurs auteurs antérieurs. Il est plus juste de décrire 1986 comme le moment où la rétropropagation est devenue largement connue que comme celui de son invention.

Considérez une chaîne triviale à deux couches où la perte dépend de b, b dépend de a, et a dépend du poids w. La règle de dérivation en chaîne donne ∂L/∂w = (∂L/∂b)(∂b/∂a)(∂a/∂w) : le gradient est un produit de dérivées locales le long du chemin.

La rétropropagation calcule cela de droite à gauche. Elle évalue d’abord ∂L/∂b à la sortie, puis multiplie par ∂b/∂a pour obtenir ∂L/∂a, puis par ∂a/∂w pour obtenir le gradient de w. Chaque résultat intermédiaire est réutilisé plutôt que recalculé, et dans un vrai réseau où plusieurs chemins convergent vers un nœud, les contributions arrivant de tous les chemins en aval sont sommées.

Cet ordonnancement est aussi la source du problème de disparition du gradient. Comme le gradient est un produit de nombreuses dérivées locales, si ces facteurs sont systématiquement inférieurs à un, le produit décroît exponentiellement avec la profondeur et les premières couches ne reçoivent presque aucun signal. Des activations comme la ReLU, et des dispositifs architecturaux comme les connexions résiduelles, existent en grande partie pour garder ce produit bien conditionné.