Artem Kirsanov, doctorant en neurosciences à Harvard, explique la rétropropagation du gradient, l’algorithme qui fait tourner tout l’apprentissage automatique, et la redémontre à partir des premiers principes.

Au programme : un peu d’histoire, le problème de l’ajustement de courbe, ajustements aléatoires ou guidés, les dérivées, la descente de gradient, les dimensions supérieures, l’intuition de la règle de dérivation en chaîne, le graphe de calcul et la différentiation automatique (en anglais).

Voir aussi : regarder un réseau de neurones apprendre, ce que les réseaux de neurones apprennent vraiment.

Vidéo d’Artem Kirsanov.