Fiche de conception d’un point de validation humaine de l’IA

Ce que vous devez obtenir

Le résultat attendu est la description d’un contrôle réalisable : une personne identifiée, une décision précise, les moyens nécessaires et une suite pour chaque état du dossier. La fiche sert à préparer un essai avec l’utilisateur et le responsable du processus. Elle ne donne pas, à elle seule, les permissions ou les compétences manquantes.

La CNIL propose d’examiner les moyens concrets de la supervision humaine dans son guide d’autoévaluation. ^[1] Le NIST distingue les responsabilités et l’évaluation des processus de supervision dans son cadre volontaire. ^[2] Le canevas et les exercices ci-dessous sont nos propositions de travail, pas des modèles officiels.

Préparer le travail et son périmètre

Choisissez une sortie identifiable, par exemple un brouillon de réponse à un client. Indiquez l’action qui suivrait son approbation et la conséquence d’une erreur. Délimitez ce que le validateur peut décider et ce qui doit rester du ressort d’un autre rôle.

Réunissez avant l’essai une version de la proposition, les pièces de référence autorisées, les critères métier applicables et les accès prévus pour le validateur. S’il manque un de ces éléments, inscrivez-le comme point ouvert. N’utilisez pas de données personnelles ou confidentielles réelles dans l’exercice proposé.

Faites examiner la fiche par la personne qui réalisera le contrôle. Un accès réussi avec le compte du responsable ne démontre pas que le validateur dispose des mêmes droits. Vérifiez l’accès dans les conditions prévues pour ce rôle. Lorsque l’essai porte sur des outils, utilisez l’environnement et les autorisations convenus.

Canevas vierge à compléter

À chaque ligne, écrivez un fait vérifiable ou une condition encore à résoudre. « Les documents sont disponibles » reste trop vague : indiquez lesquels et confirmez que le rôle concerné peut les ouvrir. « Le manager aidera » doit devenir un relais identifié, avec une façon de lui transmettre le dossier.

Dossier fictif pour l’exercice

Le service client d’une entreprise fictive utilise une IA pour préparer une réponse à une demande de confirmation de visite. Le point de validation intervient avant tout envoi. Le validateur peut confirmer une date déjà arrêtée dans le planning applicable ; il ne peut ni créer un autre créneau ni engager une compensation. Aucun règlement réel d’entreprise n’est reproduit.

Configuration proposée : le validateur consulte ces pièces dans l’espace autorisé, distingue un créneau envisagé d’un créneau confirmé et peut modifier le brouillon. L’envoi reste bloqué pendant l’examen. Un créneau de revue est prévu dans son activité ; le temps nécessaire reste à observer, sans objectif chiffré inventé. Le coordinateur traite les contradictions non résolues et les demandes hors pouvoir du validateur.

La trace prévue associe C-17, la version du brouillon relue, la référence P-08 version 4, la décision et le rôle qui la prend. Elle ne recopie pas l’ensemble du dossier client. Le propriétaire du circuit doit encore préciser le canal de relais, les droits d’accès et les règles de conservation avant tout usage réel.

Quatre situations à examiner avant de lire le corrigé

Dans cet exercice annoncé, la personne explique ce qu’elle consulte, la décision qu’elle prend et ce que le circuit doit faire ensuite. Les cas sont fournis comme matériel pédagogique ; ils n’ont pas été exécutés sur un produit ou avec un groupe d’utilisateurs.

• Cas A : toutes les pièces du dossier fictif sont accessibles ; B-12 reprend le 3 décembre.
• Cas B : le planning P-08 ne s’ouvre pas avec les droits du validateur ; seul le courriel préparatoire est lisible.
• Cas C : le validateur est absent ; le suppléant désigné ne connaît pas la différence entre les statuts du planning.
• Cas D : après correction et approbation d’un brouillon B-13, l’outil produit une nouvelle version B-14 avant l’envoi.

Pour chaque cas, notez : pièce effectivement consultée, décision, action empêchée ou autorisée, besoin d’appui et version concernée. Évitez de conclure « tout va bien » parce que le texte est bien écrit.

Corrigé commenté

Dans le cas A, une formulation fictive possible est : « Nous vous confirmons notre visite le 2 décembre à 9 h. » Cette réponse repose uniquement sur le dossier de l’exercice. Elle ne traite pas une éventuelle demande de réparation ou d’explication supplémentaire du client, qui devrait être examinée séparément.

Dans le cas B, la bonne correction porte d’abord sur les moyens du contrôle. Demander au modèle de se montrer plus prudent ne rétablit pas un accès. Dans le cas C, l’action revient au responsable de l’organisation : prévoir un relais utilisable ou réduire le périmètre ouvert. Dans le cas D, il faut examiner comment le circuit associe l’approbation à la version réellement utilisée.

Observer le circuit puis décider de la suite

Pendant un essai réellement conduit, conservez des observations précises : fichier ouvert ou inaccessible, étape comprise ou ambiguë, refus pris en compte ou contourné, version effectivement envoyée dans l’environnement d’essai. Notez les temps observés seulement après les avoir mesurés. Ne recopiez pas le corrigé comme s’il s’agissait d’un résultat.

À l’issue de la revue, choisissez un état explicite : prêt pour l’essai défini ; à compléter avant essai ; ou circuit à revoir. Après l’essai, distinguez les constats obtenus, les corrections réalisées et les variantes qui restent à examiner. Un essai réussi ne vaut pas autorisation générale de déploiement.

Si l’organisation de la revue est claire mais que vous cherchez comment examiner une affirmation, utilisez le journal de vérification d’une réponse IA. Si le problème porte sur les actions autorisées à un agent, revenez à sa fiche de périmètre. L’article associé sur la validation humaine développe le raisonnement de conception.