Aller au contenu
Data science

Programme

Le cours suit la démarche d’un projet de data science : comprendre les données, les préparer, choisir, évaluer et régler un modèle (chaque famille de modèles avec ses propres métriques), puis aborder l’apprentissage profond et ses grands domaines (images, texte, son). Les chapitres disponibles sont des liens ; les autres sont en cours de rédaction.

  1. Qu’est-ce que la data science ?
  2. Les données et leur description
  3. Probabilités et échantillonnage
  4. Corrélation et visualisation
  1. Nettoyer les données
  2. Encoder et mettre à l’échelle
  3. Créer des variables et éviter les fuites

Régression : prédire une valeur

  1. La régression linéaire et la descente de gradient
  2. Mesurer une régression
  3. Sous-apprentissage et surapprentissage
  4. Validation croisée et réglage des hyperparamètres
  5. Les modèles non linéaires en régression

Classification : prédire une catégorie

  1. La classification et la régression logistique
  2. Mesurer une classification
  3. Seuil, courbes ROC et précision-rappel
  4. Plusieurs classes et classes déséquilibrées
  5. Les arbres de décision
  6. Les méthodes d’ensemble : forêts et boosting
  7. Les k plus proches voisins
  8. Le Bayes naïf
  9. Les SVM et les noyaux

Synthèse

  1. Choisir un modèle : la démarche complète
  1. Le clustering : k-means, DBSCAN, hiérarchique
  2. La réduction de dimension : ACP, t-SNE, UMAP
  3. La détection d’anomalies
  1. Du neurone au réseau
  2. La rétropropagation
  3. Entraîner un réseau : optimiseurs, régularisation, courbes d’apprentissage
  1. Les images et la convolution
  2. Les réseaux convolutifs (CNN)
  3. Augmentation, transfert et au-delà de la classification
  1. Les séries temporelles et la prévision ; MASE, validation glissante
  2. Les réseaux récurrents (RNN, LSTM)
  1. Représenter du texte : tokenisation, sac de mots, TF-IDF
  2. Les plongements de mots (word2vec)
  3. Classifier des textes ; F1 macro et analyse des erreurs
  1. Le mécanisme d’attention
  2. Générer du texte : GPT, température, échantillonnage ; perplexité
  3. Utiliser les LLM : prompts, RAG, ajustement fin ; évaluer un LLM
  1. Le signal et la transformée de Fourier
  2. Spectrogrammes et classification de sons
  1. Biais et équité ; métriques d’équité
  2. Interpréter un modèle
  3. Mettre un modèle en production et le surveiller ; dérive des données