La Boîte noire est un objet de médiation qui aborde la question de la protection des données sensibles et, plus largement, la manière dont fonctionnent les intelligences artificielles.

L’objet s’inspire du principe de la poupée russe. Il propose une métaphore simple pour comprendre les différentes couches de traitement des données par l’IA, des couches que l’on ne voit généralement pas en tant qu’utilisateur.

En ouvrant les différents niveaux, on découvre progressivement :

•⁠ ⁠Les données que l'on donne à l'IA,

•⁠ ⁠la manière dont ces données sont interprétées,

•⁠ ⁠et ce qui est induit et produit par l'IA.

L'objet s'accompagne d'un cartel en éventail avec : une activité, des conseils pratiques et des ressources pour agir.

Ce dispositif s’appuie notamment sur l’article de Hubert Guillaud : « Les systèmes d’IA sont-ils compatibles avec la protection des données ? ».

L’outil est accessible à partir du collège (environ 11 ans).

Il peut être utilisé avec :

•⁠ ⁠des collégiens et lycéens,

•⁠ ⁠des étudiant·es,

•⁠ ⁠ou plus largement avec le grand public.

Fonctionnement général : L’objet prend la forme de plusieurs cubes imbriqués les uns dans les autres. Chaque cube correspond à une étape dans le traitement des données :

1.⁠ ⁠les données que l’on donne soi-même,

2.⁠ ⁠la manière dont elle nous classe ou nous associe à des profils,

3.⁠ ⁠ce que l’IA en déduit.

Au centre, un dernier élément propose une question qui sert de point de départ à la discussion.

Après ouverture de tous les éléments de la boîte noire, passée l'étape de la discussion, vient l'étape du cartel qui est un outils d'aide et de ressources pour agir et entreprendre certaines démarches.

Déroulé de l’atelier (15 à 20 minutes)

1.⁠ ⁠Introduction

L’animateur·rice présente rapidement le sujet et les enjeux.

2.⁠ ⁠Prise en main

L’animateur·rice explique le fonctionnement de l’objet.

3.⁠ ⁠Exploration

Les participant·es ouvrent les cubes un par un :

•⁠ ⁠premier niveau : lecture et échanges

•⁠ ⁠deuxième niveau : découverte et discussion

•⁠ ⁠troisième niveau : approfondissement

4.⁠ ⁠Conclusion

L’animateur·rice lance la question ouverte au centre de l'objet, pour échanger avec le groupe, puis partage des conseils pour mieux protéger ses données, à l'aide du cartel.

Rôle et compétences de l’animateur·rice

L’animation ne demande pas d’expertise technique poussée, mais nécessite :

•⁠ ⁠une aisance dans la gestion de groupe,

•⁠ ⁠une bonne compréhension des enjeux liés aux données personnelles,

•⁠ ⁠et une prise en main préalable de l’objet.

Matériaux

•⁠ ⁠3 planches de carton cannelé (60 x 45 cm)

•⁠ ⁠3 planches de papier Canson Bristol A3

•⁠ ⁠24 languettes prédécoupées

Étapes de fabrication

La boîte noire

1.⁠ ⁠Découper les patrons des cubes et des couvercles

2.⁠ ⁠Marquer les plis à l’aide d’une règle pour un rendu plus propre et plier les cubes et couvercles

3.⁠ ⁠Assembler et coller les différentes partie

4.⁠ ⁠Ajouter les languettes pour maintenir les contenus en collant uniquement les bords des languettes pour permettre au contenue de s’y glisser

5.⁠ ⁠Rentrer les impressions des cartes dans les languettes des les faces intérieures. Chaque couleur et taille correspond à un des niveaux de le boîte

Le Cartel

1. Découper les patrons des cartes du cartel

2. Les superposer dans le bon ordre : la couverture, la description du projet, des deux fiches transparentes, le texte "Les données sensibles", les "Tips", les QRs codes et la dernière fiche qui est à coller sur un carton de la même taille

3. Faire un trou en bas de chaque carte et les relier avec une attache parisienne

Coût estimé

Environ 20 €

Ce jeu a été conçu par Eléonore Cau, Jeanne Robin et Mohamed Aziz BARKIA étudiant-es en design à Université Bordeaux Montaigne, ainsi que Aubin Mespoulet et Léo Bouldoires étudiants à DNMADE OBJET Bordeaux Magendie dans le cadre du workshop « Ouvrir la boîte noire : Médiations physiques de l’IA », encadré par Anthony Ferretti avec la participation de Hubert Guillaud et de l’association Café IA.

Licence Creative Commons BY NC SA.