↓Skip to main content
  1. Blog posts/

Introduction au deep learning

·1 min

Le cours R5.A.12 - Modélisation mathématique de 2024-2025 de l’IUT d’Informatique de Lens s’intéresse à l’apprentissage. L’objectif est d’introduire les outils mathématiques nécessaires à la bonne compréhension des bases de ces méthodes, à travers trois composantes :

  1. Représentation : Un modèle qui peut être implémenté (l’architecture, le nombre de paramètres…) ;
  2. Évaluation : Une loss, une fonction objectif ou de score ;
  3. Optimisation : Une manière efficace d’ajuster les paramètres.

On ne considère que l’apprentissage supervisé, ce qui permet de se concentrer sur les parties 1 et 3. On commence par une représentation simple d’approximation affine et régression linéaire pour se concentrer sur l’optimisation. Une fois le pipeline d’optimisation en PyTorch est assimilé sur cet exemple, on introduit les perceptrons multi-couches, puis les transformeurs.

Les aspects théoriques sont illustrés par des TPs, disponibles dans la liste suivante, fréquemment mise à jour.

Projet 1 : Focus sur la partie Optimisation

  • TP1.1 - Régression linéaire ipynb
  • TP1.2 - Descente de gradient ipynb
  • TP1.3 - Optimisation en PyTorch ipynb
  • TP1.4 - Apprentissage par lots ipynb py

Projet 2 : Perceptrons multi-couche utils.py

  • TP2.1 -Régression sans a priori ipynb
  • TP2.2 - Classification sur MNIST ipynb

Les vidéos inaccessibles sur le réseau de l’IUT :

↑