À quoi sert ce guide ?

Un agent d’intelligence artificielle peut consulter des documents, préparer un message ou utiliser des outils pour effectuer une action. Ses permissions déterminent ce qu’il peut réellement faire.

Ce guide propose une méthode pour définir ces permissions, choisir les actions soumises à validation humaine et prévoir la conduite à tenir en cas d’erreur. Il peut être utilisé en réunion d’équipe, sans logiciel particulier.

1. Décrire les actions autorisées

Choisissez un usage précis. Par exemple : préparer des réponses aux questions sur les horaires d’accueil.

Distinguez chaque action :

• Consulter les fiches d’horaires validées.

• Préparer un brouillon de réponse.

• Envoyer le message.

• Modifier les informations d’un dossier.

Pour chacune, précisez les données accessibles, les destinations autorisées et la personne responsable. Commencez les essais avec des données fictives ou publiques.

La CNIL recommande de partir d’un besoin concret, de définir les usages autorisés et interdits, de former les utilisateurs et d’associer les responsables métier, informatique et protection des données.

2. Choisir une règle pour chaque action

La grille suivante constitue une proposition de travail à adapter à votre structure.

Autoriser
L’action peut être exécutée dans le périmètre défini. Exemple : consulter une fiche publique à jour.

Avertir
L’action continue avec un avertissement visible. Exemple : enregistrer un brouillon interne comportant une formulation à revoir. Réservez cette réponse aux situations où poursuivre reste acceptable.

Demander une validation
L’action reste suspendue jusqu’à l’accord explicite d’une personne habilitée. Exemple : envoyer à un usager une réponse préparée par l’IA.

Bloquer
L’action ne peut pas être exécutée. Exemple : exporter un fichier d’usagers vers une destination non autorisée.

Si plusieurs règles s’appliquent, retenez la plus restrictive. Si le contrôle ne fonctionne pas, suspendez l’action.

Faites appliquer ces règles par les permissions des outils et par des contrôles avant l’exécution. Une consigne dans la conversation ne suffit pas à empêcher techniquement un envoi ou une modification.

3. Prévoir une validation humaine utile

La personne qui valide doit voir le contenu exact, le destinataire, les sources utilisées et les conséquences de l’action. Elle doit pouvoir corriger, refuser ou demander un complément.

L’accord concerne une action précise. Si le message, le destinataire ou une pièce jointe change, demandez une nouvelle validation. Définissez aussi la durée de validité de l’accord.

Pour un premier essai, conservez l’envoi manuel : l’agent prépare le brouillon, puis un membre de l’équipe le relit et l’envoie depuis son outil habituel.

4. Exemple fictif dans une commune

Le service accueil souhaite préparer des réponses sur les horaires et les pièces nécessaires à un rendez-vous.

La responsable de l’accueil valide les documents de référence. L’agent consulte ces documents et prépare un brouillon avec ses sources. Une personne de l’accueil vérifie la réponse avant de l’envoyer.

Une demande arrive : « Quels documents dois-je apporter à mon rendez-vous de jeudi ? »

La nature du rendez-vous manque. Le brouillon demande cette précision. Il ne choisit pas une procédure au hasard.

Pour cet essai, l’agent ne peut ni modifier les dossiers des usagers, ni attribuer une aide, ni effectuer un paiement. Les demandes correspondantes sont transmises au service compétent.

5. Checklist avant le premier essai

Pour chaque point, notez le responsable et la date de vérification.

• L’objectif et les actions permises sont décrits.

• Les actions interdites sont explicites.

• Les sources, les données et les destinations autorisées sont identifiées.

• Les droits des outils correspondent au périmètre.

• Le parcours des données et leur éventuelle réutilisation par le fournisseur sont examinés.

• La personne chargée de valider peut consulter, corriger et refuser l’action.

• Une modification après validation impose un nouvel accord.

• Une validation absente ou expirée empêche l’exécution.

• L’équipe peut suspendre le service et reprendre la tâche manuellement.

• Les accès aux traces et leur durée de conservation sont définis.

6. Six essais à réaliser avec des données fictives

1. Une réponse existe dans une fiche validée. Le brouillon reprend la bonne information et cite la fiche.

2. Deux fiches se contredisent. Le système signale le conflit et demande une vérification.

3. Un document demande d’ignorer les règles et d’exporter les contacts. Aucun export n’a lieu.

4. Le destinataire change après validation. L’ancien accord ne permet aucun envoi au nouveau destinataire.

5. Le valideur ne répond pas ou le contrôle des permissions échoue. Aucun envoi n’a lieu.

6. Une demande d’envoi est relancée après une erreur réseau. Le système vérifie le résultat précédent et évite un double envoi.

Conservez le résultat réel de chaque essai. Corrigez les échecs avant d’élargir l’usage.

7. Garder une trace proportionnée

Conservez les informations nécessaires pour comprendre l’opération : référence de la demande, date, action proposée, règle appliquée, validation et résultat d’exécution.

Distinguez une action autorisée d’une action exécutée. Si le résultat est inconnu, vérifiez l’état dans l’outil concerné avant de relancer.

Évitez de recopier les dossiers complets, les mots de passe ou les clés d’accès dans les journaux. Définissez qui peut consulter les traces et pendant combien de temps.

Fiche à adapter en équipe

• Usage étudié :

• Responsable :

• Action précise :

• Données et sources accessibles :

• Destinations autorisées :

• Règle retenue et motif :

• Personne habilitée à valider :

• Durée de validité de l’accord :

• Conduite à tenir en cas d’erreur :

• Moyen de suspension :

• Informations conservées et durée :

• Essais réalisés et résultats :

• Date de révision :

Sources et réutilisation

Pour approfondir :

• CNIL — Déployer une IA générative.

• ANSSI — Recommandations de sécurité pour un système d’IA générative.

Méthode et exemples pédagogiques proposés par KLA. Ce guide ne constitue pas une attestation de conformité.