Fiche de conception d’un point de validation humaine de l’IA
Dimitri Jorand — Trame de travail
https://dimitri-jorand.fr/ressources/fiche-conception-validation-humaine-ia/
Publié : 2026-10-16 | Mis à jour : 2026-10-16

Définissez ce que la personne peut autoriser, les pièces qu’elle doit consulter et ce qui se passe lorsqu’elle refuse ou ne peut pas conclure. Un canevas, un dossier fictif et quatre situations corrigées pour préparer un essai du circuit.
Public : Responsables métier, chefs de projet et personnes chargées de relire une sortie d’IA avant son utilisation.

Choisissez un usage précis et associez le validateur à la conception. Complétez les huit rubriques avec les moyens disponibles et les points ouverts. Parcourez ensuite le dossier fictif et les quatre situations avant le corrigé. Adaptez l’exercice à votre périmètre autorisé, observez le circuit, puis consignez les corrections nécessaires. Les réponses peuvent être conservées avec les fonctions d’export de la fiche ou imprimées ; aucun résultat d’essai n’est prérempli.

1. Quelle sortie, quelle version et quelle action après approbation sont concernées ?
Nommer le document ou la proposition, l’usage et l’action qui attend la validation.
Votre situation :

2. Que peut décider le validateur et qu’est-ce qui reste hors de son pouvoir ?
Distinguer confirmation d’un fait, correction du texte, refus et décision réservée à un autre rôle.
Votre situation :

3. Quelles pièces applicables peut-il effectivement ouvrir avec ses accès ?
Identifier référence, version et emplacement ; inscrire tout accès manquant comme point ouvert.
Votre situation :

4. Quelles compétences lui sont nécessaires et quel appui est prévu ?
Préciser les connaissances métier, les limites reconnues et un relais compétent.
Votre situation :

5. Quel temps de revue est prévu et que faire lorsque la charge dépasse la capacité ?
Prévoir le contrôle dans l’activité ; observer sa durée, puis adapter le flux et les moyens.
Votre situation :

6. Que se passe-t-il s’il refuse, ne répond pas ou ne peut pas conclure ?
Indiquer l’action suspendue et vérifier qu’aucun délai ne transforme l’attente en accord implicite dans ce circuit.
Votre situation :

7. Qui traite le point ouvert et dans quelles conditions le dossier revient-il au contrôle ?
Définir rôle, canal, information à fournir et condition de reprise, sans laisser un dossier sans suite.
Votre situation :

8. Quelle trace conserver et quels cas d’essai, constats et corrections documenter ?
Associer preuve utile, version examinée et décision ; séparer résultats attendus et résultats réellement observés.
Votre situation :

Ce que vous devez obtenir
Le résultat attendu est la description d’un contrôle réalisable : une personne identifiée, une décision précise, les moyens nécessaires et une suite pour chaque état du dossier. La fiche sert à préparer un essai avec l’utilisateur et le responsable du processus. Elle ne donne pas, à elle seule, les permissions ou les compétences manquantes.

La CNIL propose d’examiner les moyens concrets de la supervision humaine dans son guide d’autoévaluation. [1] Le NIST distingue les responsabilités et l’évaluation des processus de supervision dans son cadre volontaire. [2] Le canevas et les exercices ci-dessous sont nos propositions de travail, pas des modèles officiels.

Préparer le travail et son périmètre
Choisissez une sortie identifiable, par exemple un brouillon de réponse à un client. Indiquez l’action qui suivrait son approbation et la conséquence d’une erreur. Délimitez ce que le validateur peut décider et ce qui doit rester du ressort d’un autre rôle.

Réunissez avant l’essai une version de la proposition, les pièces de référence autorisées, les critères métier applicables et les accès prévus pour le validateur. S’il manque un de ces éléments, inscrivez-le comme point ouvert. N’utilisez pas de données personnelles ou confidentielles réelles dans l’exercice proposé.

Faites examiner la fiche par la personne qui réalisera le contrôle. Un accès réussi avec le compte du responsable ne démontre pas que le validateur dispose des mêmes droits. Vérifiez l’accès dans les conditions prévues pour ce rôle. Lorsque l’essai porte sur des outils, utilisez l’environnement et les autorisations convenus.

Canevas vierge à compléter
| Rubrique | À renseigner |
|---|---|
| Sortie, usage et version | Document concerné, destinataire, action après approbation |
| Décision et limites | Ce que le validateur peut accepter, corriger ou refuser ; ce qu’il ne décide pas |
| Pièces et accès | Références applicables, version et endroit où les consulter |
| Compétences et appui | Connaissances nécessaires, incertitudes reconnues, personne à solliciter |
| Temps et charge | Créneau prévu, étapes à observer, traitement si le flux dépasse la capacité |
| Refus et attente | Action empêchée, état conservé, absence de validation automatique |
| Relais et reprise | Rôle joignable, canal, information attendue et condition de retour au circuit |
| Trace et essai | Version examinée, décision, preuve utile, cas essayés et corrections restantes |

À chaque ligne, écrivez un fait vérifiable ou une condition encore à résoudre. « Les documents sont disponibles » reste trop vague : indiquez lesquels et confirmez que le rôle concerné peut les ouvrir. « Le manager aidera » doit devenir un relais identifié, avec une façon de lui transmettre le dossier.

Dossier fictif pour l’exercice
Le service client d’une entreprise fictive utilise une IA pour préparer une réponse à une demande de confirmation de visite. Le point de validation intervient avant tout envoi. Le validateur peut confirmer une date déjà arrêtée dans le planning applicable ; il ne peut ni créer un autre créneau ni engager une compensation. Aucun règlement réel d’entreprise n’est reproduit.

| Pièce fictive | Contenu fourni pour l’exercice |
|---|---|
| Demande C-17 | Le client signale avoir reçu deux dates et demande laquelle est retenue |
| Courriel préparatoire M-04 | Visite envisagée le 3 décembre à 9 h, sous réserve de confirmation |
| Planning P-08, version 4 | Dossier C-17 : visite confirmée le 2 décembre à 9 h |
| Brouillon B-12 | « Nous vous confirmons notre visite le 3 décembre à 9 h. » |

Configuration proposée : le validateur consulte ces pièces dans l’espace autorisé, distingue un créneau envisagé d’un créneau confirmé et peut modifier le brouillon. L’envoi reste bloqué pendant l’examen. Un créneau de revue est prévu dans son activité ; le temps nécessaire reste à observer, sans objectif chiffré inventé. Le coordinateur traite les contradictions non résolues et les demandes hors pouvoir du validateur.

La trace prévue associe C-17, la version du brouillon relue, la référence P-08 version 4, la décision et le rôle qui la prend. Elle ne recopie pas l’ensemble du dossier client. Le propriétaire du circuit doit encore préciser le canal de relais, les droits d’accès et les règles de conservation avant tout usage réel.

Quatre situations à examiner avant de lire le corrigé
Dans cet exercice annoncé, la personne explique ce qu’elle consulte, la décision qu’elle prend et ce que le circuit doit faire ensuite. Les cas sont fournis comme matériel pédagogique ; ils n’ont pas été exécutés sur un produit ou avec un groupe d’utilisateurs.

- Cas A : toutes les pièces du dossier fictif sont accessibles ; B-12 reprend le 3 décembre.
- Cas B : le planning P-08 ne s’ouvre pas avec les droits du validateur ; seul le courriel préparatoire est lisible.
- Cas C : le validateur est absent ; le suppléant désigné ne connaît pas la différence entre les statuts du planning.
- Cas D : après correction et approbation d’un brouillon B-13, l’outil produit une nouvelle version B-14 avant l’envoi.

Pour chaque cas, notez : pièce effectivement consultée, décision, action empêchée ou autorisée, besoin d’appui et version concernée. Évitez de conclure « tout va bien » parce que le texte est bien écrit.

Corrigé commenté
| Cas | Réponse attendue dans ce scénario |
|---|---|
| A : mauvaise date | Remplacer le 3 par le 2 décembre à 9 h après lecture de P-08 version 4 ; relire la version corrigée avant d’en autoriser l’envoi |
| B : preuve inaccessible | Maintenir l’envoi en attente ; demander l’accès autorisé ou l’examen du coordinateur ; ne pas traiter la date envisagée comme confirmée |
| C : absence et compétence manquante | Utiliser un relais compétent et habilité ou maintenir l’attente ; le seul fait d’être suppléant ne permet pas de conclure |
| D : nouvelle version | Soumettre B-14 au contrôle prévu ; l’autorisation de B-13 ne porte pas automatiquement sur le nouveau texte |

Dans le cas A, une formulation fictive possible est : « Nous vous confirmons notre visite le 2 décembre à 9 h. » Cette réponse repose uniquement sur le dossier de l’exercice. Elle ne traite pas une éventuelle demande de réparation ou d’explication supplémentaire du client, qui devrait être examinée séparément.

Dans le cas B, la bonne correction porte d’abord sur les moyens du contrôle. Demander au modèle de se montrer plus prudent ne rétablit pas un accès. Dans le cas C, l’action revient au responsable de l’organisation : prévoir un relais utilisable ou réduire le périmètre ouvert. Dans le cas D, il faut examiner comment le circuit associe l’approbation à la version réellement utilisée.

Observer le circuit puis décider de la suite
Pendant un essai réellement conduit, conservez des observations précises : fichier ouvert ou inaccessible, étape comprise ou ambiguë, refus pris en compte ou contourné, version effectivement envoyée dans l’environnement d’essai. Notez les temps observés seulement après les avoir mesurés. Ne recopiez pas le corrigé comme s’il s’agissait d’un résultat.

À l’issue de la revue, choisissez un état explicite : prêt pour l’essai défini ; à compléter avant essai ; ou circuit à revoir. Après l’essai, distinguez les constats obtenus, les corrections réalisées et les variantes qui restent à examiner. Un essai réussi ne vaut pas autorisation générale de déploiement.

Si l’organisation de la revue est claire mais que vous cherchez comment examiner une affirmation, utilisez le [journal de vérification d’une réponse IA](/ressources/journal-verification-reponse-ia/). Si le problème porte sur les actions autorisées à un agent, revenez à sa [fiche de périmètre](/ressources/perimetre-agent-ia-actions-validation-arret/). L’[article associé sur la validation humaine](/analyses/validation-humaine-sortie-ia-moyens-verifier/) développe le raisonnement de conception.

Portée et limites
Canevas original de conception d’un contrôle, avec dossier et réponses entièrement fictifs. Aucun système ou utilisateur réel évalué. La fiche ne certifie ni la fiabilité, ni la conformité du dispositif et ne remplace pas une analyse des exigences propres à l’usage.

Sources et méthode
[1] CNIL — Utiliser un système d’IA en production
https://www.cnil.fr/fr/intelligence-artificielle/guide/utiliser-un-systeme-dia-en-production
Consulté le 16 octobre 2026. Guide du 28 mars 2022, section Permettre à l’humain de garder la main : moyens, formation, information et capacité d’intervention. Repères d’autoévaluation ; notre canevas n’en constitue pas une reproduction officielle.

[2] NIST — AI RMF 1.0, Core : GOVERN 3.2 et MAP 3.5
https://airc.nist.gov/airmf-resources/airmf/5-sec-core/
Consulté le 16 octobre 2026. Cadre volontaire de 2023 : rôles de supervision et processus à définir, évaluer et documenter. Une révision est annoncée en préparation. Notre fiche n’est pas un formulaire NIST ni une norme de certification.

Méthode éditoriale : https://dimitri-jorand.fr/ligne-editoriale/