Demandez à une IA de représenter des dentistes, PDG, juges... vous verrez souvent apparaître les mêmes profils. Pourquoi ?

Une IA générative ne "pense" pas. Elle a appris à partir de millions d’images et de textes, puis elle reproduit ce qui revient le plus souvent dans ces exemples. Si les données contiennent surtout des hommes pour un métier et surtout des femmes pour un autre, les résultats suivent. Pire : quand l’IA donne la réponse la plus probable, elle peut effacer les exceptions et renforcer le déséquilibre de départ.

Cela ne vient pas d’une intention : les données, certains choix de conception et les usages produisent ces effets. Mais ce qu’on voit finit par influencer ce qu’on croit normal.

Avec l’atelier "La tête de l'emploi", explorez de manière ludique la façon dont les données d’une IA fabriquent des représentations.

À travers un jeu de pioche, les participant·es incarnent une IA qui représente six métiers et expérimentent :

• le tirage au sort dans un corpus déséquilibré,

• le comptage des résultats et la comparaison avec leurs pronostics,

• le passage en mode "réponse la plus probable", où les exceptions disparaissent,

• la différence entre ce que contient un corpus, ce qu’est la réalité et ce qu’on souhaiterait.

En manipulant des proportions simples, chacun·e observe en direct la naissance d’un stéréotype.

Durée : 45 minutes.
Public : dès 12 ans, adolescents et adultes
Groupes : 4 à 6 personnes
Sans écran

Par groupe :

• 1 affiche A3 avec les 6 corps sans visage (juge, PDG, dentiste, bibliothécaire, fleuriste, auxiliaire de vie)

• 6 pochettes opaques (une par métier) contenant chacune 10 têtes :

  • juge, PDG, dentiste : 9 têtes d’hommes, 1 de femme

  • bibliothécaire, fleuriste, auxiliaire de vie : 9 têtes de femmes, 1 d’homme

• de la pâte adhésive ou des aimants

Pour l’animation :

• 1 tableau de comptage (hommes / femmes par métier), au tableau ou à imprimer en A3

• 1 fiche animation avec les proportions réelles de chaque profession

• des feutres

Partie 1 : l'IA "génère"

Dans chaque groupe, six volontaires tirent au hasard les têtes de chaque métier et les collent sur l'affiche.

Partie 2 : comptage

On reporte les résultats de tous les groupes dans le tableau commun.

Partie 3 : analyse des données

Le contenu de chaque pochette est dévoilé et analysé. Quelle est la proportion d'hommes et de femmes? voit-on d'autres biais apparaître?

Partie 4 : mode "réponse la plus probable"

L’animateur·rice annonce : "Maintenant, l’IA est réglée pour donner la réponse la plus probable." Pour chaque métier, les groupes ne tirent plus : ils prennent la tête majoritaire. Résultat : 100 % de stéréotype, alors que les données en contenaient 90 %.

Message clé : une IA ne fait pas que reproduire un déséquilibre, elle peut l’amplifier. Les 10 % de têtes minoritaires disparaissent.

Partie 5 : débrief

Questions possibles :

• Qui a choisi le contenu des pochettes ? Dans la réalité, d'où viennent des données ?

• Que ressent la personne qui n’est jamais représentée ? Et celle qui l’est toujours ?

• Ces proportions sont-elles la réalité ou seulement celles du corpus ? (Révéler les chiffres réels : ils peuvent être très différents, voire inverses, par exemple dans la magistrature.)

• Peut-on corriger les biais algorithmiques? Comment?

Partie 6 : on rééquilibre?

Chaque groupe décide de la proportion qu’il juge souhaitable pour une pochette (parité, proportions réelles de la profession, autre) et la justifie en 30 secondes. (Attention : l’objectif n’est pas de trouver la bonne réponse. Parité, fidélité à la réalité et diversité ne se recoupent pas toujours, et c’est précisément ce qu’on veut faire ressortir.)

Pour aller plus loin : pourquoi « la réponse la plus probable » ?

Ce que fait une vraie IA. Pour chaque production, une IA générative calcule des probabilités. Pour « un dentiste », elle peut estimer qu’un homme est plus probable qu’une femme. Elle a ensuite deux stratégies :

• tirer au sort selon ces probabilités : le plus souvent un homme, parfois une femme (étape 1 de l’atelier) ;

• prendre toujours l’option la plus probable : un homme à chaque fois (étape 4).

Le réglage. Dans les outils réels, ce comportement dépend de paramètres comme la « température » : basse, l’IA colle au plus probable ; haute, elle laisse plus de place au hasard.