Ivan Nourdin
Université du Luxembourg
Luxembourg
Cours
6h

Comportement asymptotique des réseaux neuronaux de grande taille à l’aide de la méthode de Malliavin-Stein
Ce mini-cours de six heures vous plongera dans l’univers captivant des réseaux neuronaux, explorant leur fonctionnement de base, leurs applications diverses et leur comportement asymptotique lorsque leur taille tend vers l’infini, grâce à l’introduction et à l’utilisation de la méthode de Malliavin-Stein.Nous débuterons par une introduction aux réseaux neuronaux, dévoilant leur mécanisme interne et passant en revue les différentes étapes qui leur permettent de traiter les données de manière évoquant le fonctionnement du cerveau humain. Ensuite, nous aborderons la méthode de Malliavin-Stein. Initiée par l’auteur en collaboration avec Giovanni Peccati en 2009, cette méthode est devenue en quelques années un outil indispensable pour montrer des théorèmes limites dans des contextes où les techniques plus classiques (martingales) atteignent leurs limites, notamment en géométrie stochastique, pour les fonctionnelles non linéaires de processus gaussiens, pour les U-statistiques, pour les zéros de polynômes aléatoires, pour les ensembles nodaux, et bien d’autres. Enfin, nous explorerons l’application spécifique de la méthode de Malliavin-Stein à l’étude des fluctuations dans les réseaux neuronaux, lorsque la taille des couches cachées tend vers l’infini. Ce mini-cours ne requiert aucun prérequis spécifique, si ce n’est une familiarité avec la théorie des probabilités enseignée au niveau de la licence.