Tech & AI
Think Tank

Ajouter un humain dans la boucle ne suffit pas

La validation humaine est souvent présentée comme une garantie de sécurité. Dans les déploiements d'agents, elle devient parfois un tampon: le processus se poursuit, mais l'examen réel n'a pas eu lieu. Le contrôle ne dépend pas du nombre de clics, il dépend des conditions dans lesquelles l'humain peut comprendre et refuser.

Par Charles Bonneau · · mis à jour le 16 novembre 2026

Illustration : Ajouter un humain dans la boucle ne suffit pas

La pièce précédente demandait des preuves avant qu'une sortie d'agent devienne une décision. Celle-ci pose une autre question: qu'est-ce que l'humain chargé de superviser doit pouvoir comprendre et contester ? Un tampon n'est pas un jugement.

Supposons que, dans le cas fournisseur de la pièce précédente, on ait ajouté une validation humaine. L'agent présente sa recommandation, ses sources et le résultat de ses checks. Le responsable approuve. Est-ce qu'on a vraiment réduit le risque, ou est-ce qu'on a juste ajouté un tampon [1] ?

La confusion entre filiale et maison mère aurait toujours pu passer. Pas parce que les éléments manquaient. Parce que rien n'obligeait le responsable à regarder la prémisse qui portait toute la conclusion. Avoir le droit d'approuver et avoir les moyens d'examiner, ce n'est pas la même chose.

Dans la pièce précédente, je demandais d'arrêter de traiter le modèle comme une autorité. Il faut maintenant éviter que le validateur humain ne serve qu'à faire passer la décision.

1. Déléguer le travail sans lâcher le jugement

Addy Osmani distingue deux choses qu'on mélange souvent. Déléguer, c'est confier le « comment » tout en restant propriétaire du résultat: on juge encore si ça tient, et on intervient si ça ne tient pas. La reddition cognitive, c'est quand la sortie de l'agent devient silencieusement la nôtre, parce qu'on n'a plus de vue indépendante à laquelle la comparer. [articles](articles/Piece 1.md)

Ce n'est pas limité aux pull requests. Osmani parle aussi des documents, des analyses, des choix de design et des passages d'un agent à l'autre. Une sortie bien rédigée, et souvent correcte, rend la frontière difficile à voir. Le travail se déplace: moins de production directe, plus de cadrage et de vérification. Mais le débit — tickets clos, documents validés, recommandations approuvées — ne dit pas si la décision a été comprise ou seulement ratifiée.

Osmani parle d'abord du rapport individuel aux agents. Il propose aussi des boucles de vérification, des critères de sortie fondés sur des preuves, et des frictions volontaires. En entreprise, la même question devient organisationnelle. Est-ce qu'on a conçu un rôle de supervision, ou est-ce qu'on a juste désigné quelqu'un pour cliquer sur Approuver ?

2. Une preuve disponible n'est pas une preuve examinée

La pièce précédente demandait déjà la provenance, les contrôles et les logs. Elle précisait aussi qu'un vérificateur ne garantit que ce qu'il a réellement vérifié. Il reste à regarder ce qui se passe entre la production de ces éléments et leur acceptation.

Ce que le process peut afficherCe que le superviseur doit encore trancher
Des sources sont citéesEst-ce qu'elles soutiennent les prémisses qui comptent ?
Les tests passentQu'est-ce qu'ils ont vérifié, et qu'est-ce qu'ils ont laissé de côté ?
Un second agent a contrôléEst-ce qu'il a utilisé une méthode ou des données assez indépendantes ?
Une approbation est enregistréeSur quels éléments, et pour quelle action ?

Une preuve peut exister, être à côté du sujet, ou n'avoir jamais été lue. Ce sont trois choses différentes. Un log peut être complet et rester non lu. Un test peut être vert sans rien dire de la prémisse qui compte. Un second agent peut confirmer une erreur s'il partage les mêmes sources et les mêmes hypothèses que le premier.

Dans le cas fournisseur, les clauses, le risque pays et le coût total pouvaient tous être correctement présentés. La question qui comptait était plus étroite: est-ce que l'entité analysée était bien celle que le contrat engageait ? Sans cette question, le dossier rassurait. Il ne permettait pas de refuser.

3. Du résumé rassurant au dossier de décision

Blake Crosley, qui écrit en praticien, propose de changer le livrable. L'agent ne remet pas seulement une conclusion. Il remet un dossier structuré — il appelle ça un review packet — qui sépare le récit des éléments qui permettent de le vérifier: changements, traces, checks, approbations, et ce qui n'a pas été contrôlé. Ce n'est pas une étude qui prouve que ça marche. C'est une proposition de design. [articles](articles/piece 3.md)

Pour une décision d'entreprise, je ramène ce dossier à cinq questions:

  1. Que recommande l'agent ?
  2. Quelles prémisses déterminent cette recommandation ?
  3. Qu'est-ce qu'on a vraiment vérifié ?
  4. Qu'est-ce qui reste incertain ou non contrôlé ?
  5. Quelle action l'approbation va-t-elle autoriser ?

Crosley distingue aussi l'approbation ponctuelle d'une autorisation clairement bornée. Un prompt du type « autoriser cette action ? » demande de faire confiance sur le moment. Une autorisation devrait nommer l'action, la ressource, le risque, les éléments qui la justifient, sa durée, et comment la révoquer. Ça devient important dès qu'un agent peut avoir un effet dehors: notifier, bloquer, payer, publier, résilier. articles

Le bon dossier n'est pas celui qui contient toute l'exécution. C'est celui qui permet de comprendre pourquoi la décision serait acceptable — et dans quelles conditions elle ne le serait plus.

4. Garder l'humain pour le jugement, pas pour le tampon

Je formule ici une exigence, pas un résultat mesuré. Pour que la supervision soit un vrai contrôle, elle devrait réunir quatre conditions.

  • Compréhension. Le superviseur peut expliquer les prémisses qui comptent et les limites des checks, sans devoir reconstruire toute l'exécution.
  • Capacité. Le temps et le volume permettent un examen réel. Une file trop longue transforme la revue en formalité.
  • Pouvoir. Il peut demander une preuve en plus, suspendre ou refuser. Le refus est un résultat normal du process, pas une exception.
  • Périmètre. Il sait précisément quelle action il autorise, et quelles conséquences ça a.

Ces conditions évitent deux impasses: demander à l'humain de tout revérifier, ou prendre son tampon pour une garantie. Elles ne promettent pas de supprimer les erreurs. Elles définissent une supervision plus exigeante. Son efficacité reste à mesurer.

La frontière n'est donc pas « humain ou automatisation ». C'est: quelles propriétés peut-on checker automatiquement, et quels arbitrages demandent encore un jugement ? Crosley dit quelque chose de proche à propos de la code review. Automatiser la chasse aux défauts ne règle pas, à elle seule, la question de savoir si le résultat fait ce qu'on voulait. Un groupe d'agents peut vérifier un diff mieux qu'un humain fatigué. Il ne peut pas décider, à la place de l'organisation, si le changement est acceptable.[4]

5. Rendre la contestation possible

Un humain dans la boucle n'est pas une garantie. C'est une fonction à concevoir. Elle ne vaut quelque chose que si la personne peut comprendre ce qu'on lui soumet, voir ce qui manque, et bloquer l'action.

La pièce précédente définissait les preuves à exiger. Celle-ci définit les conditions d'un examen humain réel. Reste à le traduire dans le système: comment présenter les preuves, borner les autorisations, déclencher une escalade, et empêcher qu'un contrôle requis soit contourné.


Sources

  1. Youtu, consulté le 5 novembre 2026. youtu.be/3TNpOD6bov8?si=jMyLW5Mu1HLCZaUA
  2. Anas R., « Où placer la validation humaine dans une automatisation », Tensoria, 21 août 2026. tensoria.fr/blog/ou-placer-validation-humaine-automatisation
  3. nairbenrokiasirine, « Automatiser une décision par l’IA : gagner en efficacité ou fuir la responsabilité humaine ? », Digital @ HEC Montréal, 21 août 2026. digital.hec.ca/blog/automatiser-une-decision-par-lia-gagner-en-efficacite-ou-fuir-la-responsabilite-humaine
  4. « Human in the loop qu'y fait-on, au juste, dans cette boucle », reflexions, 5 juin 2026. reflexions.florianernotte.be/post/humanintheloop
  5. Dualité (Florian Ernotte), « Human in the loop. Qu'y fait-on, au juste, dans cette boucle ? », Substack, 5 juin 2026. dualite.substack.com/p/human-in-the-loop-quy-fait-on-au
  6. « La validation humaine est le goulot d’étranglement de l’IA », Renaud JOLY, 10 octobre 2026. renaud-joly.fr/la-validation-humaine-est-le-goulot-detranglement-de-lia
  7. Charles Bonneau, « On n’a pas fiabilisé la science en ajoutant de la puissance cognitive, mais en imposant la réfutabilité de Karl Popper (entre autre) », The Readiness Project, 2 octobre 2026. thereadinessproject.com/articles/on-n-a-pas-fiabilise-la-science-en-ajoutant-de-la-puissance-cognitive-mais-en-im
  8. Addyosmani, consulté le 8 novembre 2026. addyosmani.com/blog/cognitive-surrender
  9. Blakecrosley, consulté le 6 novembre 2026. blakecrosley.com/blog/review-packets-are-the-new-final-answer

À lire aussi

Commentaires

Aucun commentaire pour l'instant.

Écrire un commentaire

Votre commentaire n'est pas publié à l'envoi : il attend votre confirmation, puis une relecture.