Les réseaux de neurones sont de plus en plus impressionnants, mais il y a un hic : on ne sait pas vraiment ce qu’ils font. On leur donne des données et un retour, et ils apprennent toutes sortes de tâches. Comprendre ce qu’ils ont appris serait précieux, notamment pour la sécurité.

C’est l’ambition de l’interprétabilité mécaniste : rétro-concevoir précisément les algorithmes encodés dans leurs paramètres. En guise d’introduction, la vidéo montre comment des chercheurs ont en partie compris la façon dont InceptionV1, un réseau convolutif, reconnaît les images (en anglais).

Voir aussi : interpréter un réseau de neurones (Alexandre TL), la rétropropagation.

Vidéo de Rational Animations.