L’IA produit. Vous vérifiez.

Vous avez confié un travail à un agent IA. Il prépare un dossier, rédige une note, monte un devis. Le circuit de validation, lui, n’a pas bougé : la même personne relit, avec les mêmes réflexes qu’avant. C’est là que les erreurs passent, sans que personne s’en aperçoive.

Un contrôle qualité est un filtre, souvent affiné pendant des années, contre un mode d’erreur précis : celui d’une personne fatiguée, pressée ou interrompue. Il cherche la case vide, le chiffre transposé, la pièce oubliée. Les erreurs d’un agent ne ressemblent à rien de tout cela. Revoyez donc le contrôle au moment où vous concevez l’agent, sans attendre le premier incident.

L’erreur a changé de forme

Une erreur humaine abîme le document. Elle laisse une trace : une rupture de ton, un blanc au milieu d’un tableau, une phrase qui s’arrête, un total qui ne tombe pas. Votre relecteur ne cherche pas vraiment l’erreur, il cherche ces traces. C’est beaucoup plus rapide, et cela fonctionne depuis toujours.

Une erreur de modèle n’abîme rien. Elle a la bonne longueur, le bon ton, la bonne structure. La phrase fausse est aussi bien écrite que les quinze phrases justes qui l’entourent, parce qu’elle sort du même mécanisme. Vous relisez un document qui a l’air juste de bout en bout, et il l’est presque partout.

Le cas le plus difficile est l’information vraie devenue fausse, plus encore que l’invention : un texte réel mais modifié depuis, un tarif réel mais de l’exercice précédent, une procédure réelle mais remplacée. Un modèle restitue ce qu’il a appris, et ce qu’il a appris porte une date. Rien dans la forme ne signale que la référence a vieilli. Le relecteur reconnaît une référence qu’il connaît, et passe à la suite sans voir qu’elle a changé.

Une aide fausse fait pire que pas d’aide

Une équipe de chercheurs menée par Chenglei Si l’a mesuré. Elle a demandé à 80 personnes de vérifier des affirmations courtes, dans plusieurs conditions. Sans aucune aide, elles tranchent juste dans 49 % des cas. Avec une explication d’IA correcte, elles montent à 87 %. Avec une explication d’IA fausse mais formulée avec assurance, elles tombent à 35 %.

Comparez le premier et le dernier chiffre : 35 % avec une aide fausse, contre 49 % sans aide. L’aide fausse ne se contente pas d’être inutile. Elle fait descendre le jugement en dessous de son niveau sans assistance. Le relecteur ne se trompe pas parce qu’il est distrait, il se trompe parce qu’un raisonnement propre et sûr de lui l’emmène vers une mauvaise conclusion, et qu’il le suit.

L’expérience porte sur des affirmations courtes, pas sur un rapport de 40 pages. Elle dit pourtant ce qui vous concerne directement : votre dispositif de validation n’est pas neutre devant une production d’IA. Une explication fausse mais assurée l’entraîne vers l’erreur.

Un contrôle qualité repère ce qu’il a appris à chercher. Une production d’IA fausse et bien rédigée ne ressemble à aucune des erreurs contre lesquelles il a été construit.

La règle existait, écrite

En octobre 2025, KPMG publie un rapport sur l’IA agentique. L’entreprise GPTZero en examine les 45 références 8 mois plus tard : 5 sont exactes. UBS qualifie d’incorrectes les informations la concernant, les Chemins de fer fédéraux suisses répondent que la description n’est pas exacte, et le rapport est retiré. En le retirant, KPMG rappelle sa propre consigne : une supervision humaine devait valider le contenu et vérifier les sources de façon indépendante.

La règle existait donc, écrite, dans une maison dont la vérification est le métier. Elle n’a rien empêché, et pas par manque de sérieux. Une consigne de vérification ne produit pas une vérification.

Entre la consigne et le résultat, il manque un dispositif : quoi contrôler, dans quel ordre, avec quel outil, et à quel moment s’arrêter. Sans lui, vous demandez à une lecture attentive d’attraper ce qu’une lecture attentive ne peut pas voir. Vous pouvez répéter la consigne aussi souvent que vous voulez, elle ne fabriquera pas ce dispositif.

Ce qui se déplace dans un contrôle

Revoir un contrôle ne veut pas dire relire davantage. Un second relecteur cherche au même endroit que le premier, et vous payez deux fois pour le même angle mort. Ce qui change, c’est ce que vous contrôlez, et qui s’en charge : une personne ou un outil.

Les éléments factuels

Un document bien tourné ne prouve rien sur son contenu. Vérifiez les endroits où une invention se loge : les sources, les montants, les dates, les références et les noms propres.

Ce qui se vérifie sans jugement

Une citation existe ou n’existe pas. Une facture est dans le système ou elle n’y est pas. Un texte est en vigueur ou il a été remplacé. Ce contrôle s’automatise : une requête dans le bon système suffit. Confié à un humain en fin de journée, il devient aléatoire.

Ce qui reste humain

Est-ce que ce dossier répond à la question posée ? Est-ce qu’il tient devant le client qui va le lire ? Est-ce qu’il manque une chose que personne n’a jamais écrite nulle part ? Aucun outil ne répond à cela, et c’est précisément là que votre relecteur vaut son temps.

Quand je conçois un agent, la question du contrôle arrive au même moment que ses accès. Ce qu’il a le droit de lire, ce qu’il a le droit d’écrire, ce qui doit être vérifié avant qu’il aille plus loin : ces trois réglages se décident ensemble.

Le contrôle fait partie de l’agent

À son installation, un agent IA reçoit un objectif, des accès, des règles et des points d’arrêt. Le contrôle appartient à cette liste. Le traiter plus tard revient à le traiter dans l’urgence, quand un dossier faux est déjà parti chez un client.

Il ne se décide pas non plus dans un coin. Les gens qui savent ce qui doit être vrai dans un livrable sont ceux qui le produisent depuis 10 ans, pas ceux qui le relisent en bout de chaîne. Eux seuls peuvent dire quelle erreur coûte cher et laquelle se rattrape en une heure.

C’est ce que nous faisons chez pocca en installant un agent : avec vos équipes, nous écrivons ce que le livrable doit contenir de vérifiable, et nous plaçons chaque contrôle là où il repère réellement des erreurs. Cela appartient à notre méthode de déploiement, au même titre que le choix des premiers agents.

Décidez ce que vous vérifiez avant qu’un agent se mette à produire : c’est ce qui vous dispense d’avoir à lui faire confiance.