Aller au contenu
Data science

Qu'est-ce que la data science ?

⏱ 45 min
À la fin de ce chapitre, vous saurez :
  • expliquer ce que signifie « apprendre à partir de données » ;
  • utiliser le vocabulaire de base (exemple, variable, cible, modèle, paramètre, hyperparamètre) ;
  • distinguer les grandes familles de problèmes : classification, régression, apprentissage non supervisé ;
  • décrire les étapes d'un projet de data science.

Pour filtrer les spams, on peut écrire des règles : « si le message contient gagnant et cliquez ici, c’est un spam ». Très vite, les règles se multiplient, se contredisent, et les spammeurs les contournent.

L’apprentissage automatique (machine learning) prend le problème à l’envers : on fournit des milliers de messages déjà étiquetés « spam » ou « normal », et un algorithme trouve lui-même les règles qui séparent le mieux les deux. C’est ce qu’on appelle apprendre à partir de données.

La data science englobe toute la chaîne autour de cet apprentissage : collecter et comprendre les données, les nettoyer, les visualiser, construire des modèles, les évaluer honnêtement, puis les mettre en service et les surveiller. C’est à la fois des statistiques, de l’informatique et de la connaissance du domaine (médecine, finance, industrie…).

Prenons un exemple minuscule. On mesure la longueur du pétale de 100 iris de deux espèces, versicolor et virginica. On cherche une règle de la forme :

si la longueur du pétale dépasse un seuil, c’est une virginica ; sinon, une versicolor.

Le modèle n’a qu’un seul paramètre : le seuil. Essayez d’abord de le régler vous-même, puis laissez la machine chercher.

La machine fait exactement ce que vous feriez avec de la patience : elle essaie tous les seuils, compte les erreurs, et garde le meilleur. Tous les algorithmes d’apprentissage suivent cette idée :

  1. on choisit une famille de modèles (ici : « un seuil sur une variable ») ;
  2. on mesure l’erreur de chaque modèle de la famille sur les données ;
  3. on cherche le modèle qui minimise cette erreur.

Les différences entre algorithmes viennent de la famille de modèles (des droites, des arbres, des réseaux de neurones…), de la mesure d’erreur, et de la méthode de recherche. Avec des millions de paramètres, on ne peut plus tout essayer : on utilise des méthodes plus astucieuses, comme la descente de gradient.

Remarquez qu’aucun seuil n’atteint 0 erreur : les deux espèces se chevauchent. Une seule variable ne suffit pas ; il en faudrait d’autres (largeur du pétale, du sépale…). C’est ce que font les modèles du simulateur.

🎓 Pour aller plus loin : la minimisation du risque empirique

On dispose de nn exemples (xi,yi)(x_i, y_i). On choisit une famille de fonctions F\mathcal{F} et une fonction de perte L(y,y^)L(y, \hat y) qui mesure le coût d’une erreur, par exemple L=1[y≠y^]L = \mathbb{1}[y \neq \hat y] (perte 0-1) en classification ou L=(y−y^)2L = (y - \hat y)^2 en régression. L’apprentissage cherche

f^=arg⁡min⁡f∈F  1n∑i=1nL(yi,f(xi))⏟risque empirique.\hat f = \arg\min_{f \in \mathcal{F}} \; \underbrace{\frac{1}{n} \sum_{i=1}^{n} L\big(y_i, f(x_i)\big)}_{\text{risque empirique}} .

Ce qui nous intéresse vraiment est le risque sur de nouvelles données, R(f)=E(x,y)[L(y,f(x))]R(f) = \mathbb{E}_{(x,y)}\big[L(y, f(x))\big], qu’on ne peut pas calculer : on ne connaît pas la loi des données. Le risque empirique en est une estimation, d’autant meilleure que nn est grand et que F\mathcal{F} est « petite ». Quand F\mathcal{F} est trop riche, f^\hat f colle aux exemples sans généraliser : c’est le surapprentissage, étudié dans la partie 4.

Dans le widget, F={x↦1[x>s], s∈R}\mathcal{F} = \{x \mapsto \mathbb{1}[x > s],\ s \in \mathbb{R}\} et la recherche est exhaustive. Pour la perte 0-1, le minimum est souvent atteint sur tout un intervalle de seuils : la machine prend le premier.

Les données se présentent presque toujours sous la forme d’un tableau : une ligne par individu, une colonne par caractéristique.

Terme Synonymes Dans l’exemple des iris
exemple observation, individu, ligne, sample une fleur
variable caractéristique, attribut, colonne, feature la longueur du pétale
cible étiquette, label, variable à prédire, target l’espèce
modèle prédicteur, estimator la règle « si longueur supérieure au seuil… »
paramètres poids, weights le seuil, appris à partir des données
hyperparamètres réglages les choix faits avant l’apprentissage : profondeur d’un arbre, nombre de voisins…
entraînement apprentissage, fit la recherche du meilleur seuil
prédiction inférence, predict appliquer la règle à une nouvelle fleur

Dans scikit-learn, on note X le tableau des variables (une matrice de nn lignes et pp colonnes) et y la cible. Tous les modèles s’utilisent de la même façon :

from sklearn.tree import DecisionTreeClassifier
modele = DecisionTreeClassifier(max_depth=1) # hyperparamètre : un seul seuil
modele.fit(X_train, y_train) # apprentissage des paramètres
y_pred = modele.predict(X_nouveaux) # prédiction

Apprentissage supervisé : on connaît la bonne réponse (la cible) pour les exemples d’entraînement.

  • Classification : la cible est une catégorie. Spam ou non, espèce d’iris, chiffre manuscrit de 0 à 9, tumeur maligne ou bénigne.
  • Régression : la cible est un nombre. Prix d’un appartement, température de demain, durée d’un trajet.

Apprentissage non supervisé : pas de cible ; on cherche une structure dans les données.

  • Regroupement (clustering) : trouver des groupes de clients qui se ressemblent.
  • Réduction de dimension : résumer 100 variables en 2 ou 3, pour visualiser ou simplifier.
  • Détection d’anomalies : repérer les transactions bancaires inhabituelles.

Deux autres familles complètent le tableau : l’apprentissage par renforcement (un agent apprend par essais et erreurs, en recevant des récompenses : jeux, robotique) et l’apprentissage auto-supervisé (la cible est fabriquée à partir des données elles-mêmes, par exemple « deviner le mot suivant » : c’est ainsi que sont entraînés les grands modèles de langage).

🔬Classification : les iris, avec 2 variables

Une forêt aléatoire sépare les trois espèces avec la longueur et la largeur du pétale. Comparez avec notre seuil unique.

→
🔬Régression : prédire la progression du diabète

La cible est un nombre ; le modèle dessine une courbe au lieu d’une frontière.

→

Un projet de data science suit des étapes qu’on parcourt souvent plusieurs fois :

  1. Comprendre le problème : quelle décision le modèle va-t-il aider à prendre ? Quel type d’erreur coûte le plus cher ? Quelle performance serait utile ?
  2. Collecter les données : d’où viennent-elles, sont-elles représentatives, a-t-on le droit de les utiliser ?
  3. Explorer : statistiques descriptives, graphiques, corrélations (chapitres suivants).
  4. Préparer : nettoyer, traiter les valeurs manquantes, encoder, normaliser (partie 2).
  5. Modéliser : choisir des modèles, les entraîner (partie 3).
  6. Évaluer : honnêtement, sur des données jamais vues (partie 4).
  7. Déployer et surveiller : mettre le modèle en service, vérifier qu’il reste bon dans le temps (partie 12).

En pratique, la préparation des données prend souvent la majorité du temps, et un modèle simple sur des données bien préparées bat souvent un modèle sophistiqué sur des données négligées.

✅ Vérifiez vos acquis

1. On veut prédire le prix de vente d'une maison à partir de sa surface et de sa localisation. C'est un problème de…
2. On veut regrouper les clients d'un magasin selon leurs habitudes d'achat, sans catégories définies à l'avance. C'est…
3. Dans un arbre de décision, la profondeur maximale est…
4. Dans le widget des iris, pourquoi la machine ne trouve-t-elle aucun seuil sans erreur ?
5. Quelle étape prend souvent le plus de temps dans un projet de data science ?