Demandez à une IA de représenter des dentistes, PDG, juges... vous verrez souvent apparaître les mêmes profils. Pourquoi ?

Une IA générative ne "pense" pas. Elle a appris à partir de millions d’images et de textes, puis elle reproduit ce qui revient le plus souvent dans ces exemples. Si les données contiennent surtout des hommes pour un métier et surtout des femmes pour un autre, les résultats suivent. Pire : quand l’IA donne la réponse la plus probable, elle peut effacer les exceptions et renforcer le déséquilibre de départ.

Cela ne vient pas d’une intention : les données, certains choix de conception et les usages produisent ces effets. Mais ce qu’on voit finit par influencer ce qu’on croit normal.

Avec l’atelier "La tête de l'emploi", explorez de manière ludique la façon dont les données d’une IA fabriquent des représentations.

À travers un jeu de pioche, les participant·es incarnent une IA qui représente six métiers et expérimentent :

• le tirage au sort dans un corpus déséquilibré,

• le comptage des résultats et la comparaison avec leurs pronostics,

• les choix techniques et éthiques pour la correction des biais algorithmiques.

En manipulant des proportions simples, chacun·e observe en direct la naissance d’un stéréotype.

Durée : 45 minutes.
Public : dès 12 ans, adolescents et adultes
Sans écran

Par groupe :

• 1 affiche A3 avec les 6 corps sans visage (juge, PDG, dentiste, bibliothécaire, fleuriste, auxiliaire de vie)

• 6 pochettes opaques (une par métier) contenant chacune 35 têtes

• de la pâte adhésive ou des aimants

Pour l’animation :

• 1 tableau de comptage (hommes / femmes par métier), au tableau ou à imprimer en A3

• 1 fiche animation avec les proportions réelles de chaque profession

• des feutres

Partie 1 : l'IA "génère"

Dans chaque groupe, six volontaires tirent au hasard les têtes de chaque métier et les collent sur l'affiche.

Partie 2 : comptage

On reporte les résultats de tous les groupes dans le tableau commun. Répéter au moins deux fois les parties 1 et 2

Partie 3 : analyse des données

Le contenu de chaque pochette est dévoilé et analysé. Quelle est la proportion d'hommes et de femmes? voit-on d'autres biais apparaître?

Partie 4 : débrief

Questions possibles :

• Qui a choisi le contenu des pochettes ? Dans la réalité, d'où viennent des données ?

• Que ressent la personne qui n’est jamais représentée ? Et celle qui l’est toujours ?

• Ces proportions sont-elles la réalité ou seulement celles du corpus ? (Révéler les chiffres réels : ils peuvent être très différents, voire inverses, par exemple dans la magistrature.)

• Peut-on corriger les biais algorithmiques? Comment?

Partie 5 : on rééquilibre?

Chaque groupe décide de la proportion qu’il juge souhaitable pour une pochette (parité, proportions réelles de la profession, autre) et la justifie en 30 secondes. (Attention : l’objectif n’est pas de trouver la bonne réponse. Parité, fidélité à la réalité et diversité ne se recoupent pas toujours, et c’est précisément ce qu’on veut faire ressortir.)

Pour aller plus loin : L'IA, les probabilités et « la réponse la plus probable »

Pour chaque production, une IA générative calcule des probabilités. Pour « un dentiste », elle peut estimer qu’un homme est plus probable qu’une femme. Elle a ensuite deux stratégies :

• tirer au sort selon ces probabilités : le plus souvent un homme, parfois une femme;

• prendre toujours l’option la plus probable : un homme à chaque fois.

Le réglage. Dans les outils réels, ce comportement dépend de paramètres comme la « température » : basse, l’IA colle au plus probable ; haute, elle laisse plus de place au hasard.