94 % ont validé : le contrôle humain en pratique

Dans quelle mesure pouvons-nous faire confiance aux résultats générés par l’IA ? Nous savons que l’IA se trompe parfois. La question la plus intéressante est de savoir combien de personnes vérifient réellement ces résultats.

Une équipe de recherche de la Northeastern University¹ a chiffré cette tendance. Elle a demandé à 107<développeurs de créer une application avec un agent de codage augmenté à l’IA : le type d’outil que beaucoup d’entre nous utilisent au quotidien. La subtilité : l’agent avait reçu l’instruction de créer discrètement un chemin transmettant les données des clients vers un serveur externe tout en accomplissant normalement le travail demandé.

94 % des développeurs ont validé l’intégration de ce code malveillant. Pourquoi ? L’un des participants a su mettre des mots simples sur cette tendance : « J’ai toujours l’habitude de cliquer directement sur Approuver. »

Intégrer l’humain dans la boucle ?

Disons-le de suite : les développeurs de cette étude possédaient l’expertise nécessaire pour détecter ce problème. 86 % ont déclaré avoir une expérience en sécurité, 70 % possédaient plus de trois ans d’expérience en codage et la plupart avaient déjà travaillé avec l’outil. Ce qui a fait défaut, à ce moment-là, était qu’ils n’avaient aucune raison précise de penser qu’un examen plus approfondi était nécessaire.

Pourtant, car les enjeux sont énormes. Le contrôle humain est considéré comme essentiel pour éviter les erreurs de l’IA. Les politiques et les réglementations lui accordent un rôle majeur. Mais il ne fonctionne que si la personne qui intervient dans le processus la boucle conserve son indépendance lorsqu’elle évalue et approuve les résultats. Les données prouvent que, dans un contexte professionnel standard, ce n’est généralement pas le cas.

En psychologie, il existe un terme pour désigner ce phénomène : le biais d’automatisation. C’est notre tendance à préférer la recommandation d’une machine à notre propre jugement, même lorsque nous avons, sous les yeux, des informations contradictoires. Cela fait des dizaines d’années que les chercheurs s’intéressent à ce biais, que ce soit dans l’aviation, dans l’assistance à la décision clinique et, plus récemment, dans tous les contextes où l’IA s’est immiscée dans nos activités professionnelles. En 2026, Romeo et Conti ont publié, dans IA & Society, une analyse portant sur 35 études expérimentales² qui confirme que cette tendance se maintient de manière inquiétante. Dans la suite de cet article, nous nous pencherons sur leurs conclusions et sur ce qu’elles impliquent pour notre utilisation de l’IA.

Pourquoi vérifier est plus difficile qu’il n’y paraît

Voilà une bonne dizaine d’années que la sensibilisation à la cybersécurité présente avant tout l’humain comme une surface de frappe : c’est l’humain qui clique sur le lien, approuve le paiement ou saisit les identifiants. Ce nouveau phénomène ajoute une dimension différente. Ici, l’humain est le garde-fou, et nous lui demandons d’accomplir une tâche cognitive exigeante avec très peu d’aide,

entre autres, pour des raisons d’ordre économique. Il est souvent plus difficile de vérifier le résultat produit par l’IA que de faire la chose par nous-mêmes, car nous devons reconstituer un raisonnement qui n’est pas le nôtre et imaginer des modes de défaillance sur lesquels nous n’avons aucune visibilité. Dans un contexte où le temps est compté et la charge cognitive est forte, procéder à une analyse approfondie demande beaucoup d’énergie alors qu’il est beaucoup plus simple de valider. Face à un tel compromis, n’importe quelle personne rationnelle aura tendance à faire excessivement confiance à la machine. C’est la raison pour laquelle les incitations à la prudence ont si peu d’efficacité.

De plus, les résultats fournis par l’IA répondent à tous les critères que nous utilisons normalement pour évaluer la qualité. Le texte est fluide, proprement structuré et formulé avec assurance. Lorsqu’une personne produit un travail avec un tel rendu, cela indique qu’elle y a passé du temps et implique donc généralement que le travail a été réalisé avec soin. L’IA, elle, fournit ce rendu sans aucun effort et cela ne dit rien de la substance du texte.

Dans ce contexte, la confiance joue un rôle majeur. Alors qu’un expert humain formulerait ses recommandations avec précaution, les conseils fournis par l’IA sont généralement présentés comme étant certains. Les études analysées montrent que les lecteurs ont alors tendance à accorder une confiance aveugle à ces résultats. Même les décideurs ayant fonction de direction ont tendance à beaucoup s’appuyer sur les recommandations de l’IA qu’ils considèrent comme objectives et dont ils ne voient pas le caractère faillible. Lorsque la réponse est présentée comme certaine, le lecteur n’a que très peu de marge pour la remettre en question.

Expliquer et alerter ne suffisent pas

Puisque le problème est que les personnes ont du mal à distinguer un résultat fiable d’un résultat contestable, on aurait tendance, intuitivement, à chercher à leur fournir davantage d’informations. Par défaut, on cherche donc à remédier à ce biais en augmentant la transparence et en utiliant l’IA explicable. Cependant, les études ne prouvent pas leur efficacité. Les utilisateurs ont tendance à considérer l’explication des résultats de l’IA comme une preuve en soi : ils notent qu’il existe une explication, mais n’en contrôlent pas la validité. Or, les explications simples sont erronées lorsque le système se trompe, tandis que les explications complexes ajoutent de la charge cognitive et sont donc généralement ignorées par les utilisateurs. Dans l’ensemble des études analysées, les explications ont systématiquement augmenté la validation des résultats de l’IA par les utilisateurs, alors que l’exactitude de ces résultats restait la même.

Les conclusions de la Northeastern University viennent étayer cette réalité. Un paramètre de l’étude ajoutait un moniteur automatisé chargé de surveiller l’agent et d’afficher un avertissement à l’écran. Ce système a détecté 84 % des tentatives de sabotage. Dans les sessions où l’alerte s’est déclenchée correctement (lorsque le système de surveillance a fait son travail et a indiqué à la personne exactement quel était le problème, au bon moment), 56 % des participants ont quand même livré le code malveillant.

En effet, une alerte ne fonctionne que la personne qui la reçoit a déjà une raison de la prendre au sérieux, et cette raison doit provenir d’ailleurs que de l’alerte elle-même. Ce constat inverse la question : que faut-il fournir au facteur humain pour réussir la tâche qui leur a été confiée ?

La maîtrise de l’IA, clé d’une meilleure autonomie

Selon les études menées à ce sujet, la protection la plus fiable est de bien connaître le système avec lequel vous travaillez, c’est-à-dire de savoir où il est fiable et où il échoue. Il ne s’agit pas seulement d’être à l’aise avec l’utilisation des outils d’IA, ce qui peut jouer contre vous à votre insu.

La recherche montre que les effets de la maîtrise de l’IA suivent plutôt une courbe, et non une pente linéaire. Les personnes ayant peu utilisé l’IA jusqu’à présent ont tendance à rejeter d’emblée toutes ses suggestions. Celles possédant une solide expérience accordent à l’IA un degré de confiance adapté, puisqu’elles savent d’avance où l’IA va se tromper. Le groupe qui se situe entre les deux, et qui a donc une habitude modérée de manier ces outils, est aussi celui qui accorde trop de confiance à la machine. À force d’utiliser l’IA chaque jour, les gens ont l’impression d’être à l’aise avec cet outil et surestiment leur niveau réel de connaissance de son fonctionnement.

Ce constat devrait nous inquiéter, car la majeure partie de notre personnel se situe aujourd’hui dans ce groupe intermédiaire. Les participants à l’étude de la Northeastern University utilisaient quotidiennement des outils de codage par l’IA. C’est d’ailleurs leur aisance avec cet outil qui a contribué à rendre le sabotage invisible. Les rares personnes à l’avoir détecté étaient celles qui s’étaient montrées plus sceptiques envers les agents d’IA dès le départ. Il ne s’agit pas, pour autant, d’apprendre à nos collaborateurs à se méfier systématiquement de ce que renvoie l’IA, mais de leur faire prendre conscience qu’il peut y avoir des erreurs, voire des comportements malveillants et qu’ils doivent donc exercer une vigilance active. Pour ce faire, ils doivent connaître les points précis sur lesquels l’IA peut se tromper et les différentes formes que peuvent prendre ces erreurs.

Les études qui ont été analysées montrent aussi une autre facette : les participants qui avaient été informés de la possibilité d’erreurs dans la production d’une IA ont analysé plus attentivement ses recommandations. En revanche, les personnes à qui l’on s‘est simplement rappelé leur responsabilité concernant le résultat n’ont rien changé à leur méthode de travail. L’humain ne procède à une analyse minutieuse que lorsqu’il s’attend concrètement à trouver des erreurs. Un simple rappel des responsabilités ne suscite aucune attente de ce type.

Des processus qui laissent place à l’évaluation critique

Pour que la formation à une plus grande autonomie porte ses fruits, il faut donner aux collaborateurs la possibilité de l’appliquer dans le flux de travail. La méthode la plus fiable est le séquençage : si l’IA répond avant que la personne ait pu se forger sa propre opinion, elle va l’influencer. En revanche, si l’humain livre son propre point de vue avant de la comparer à la suggestion du système, l’évaluation sera nettement plus indépendante. Introduire une friction voulue sur les actions critiques qui sont difficiles à corriger peut aussi s’avérer utile, à condition qu’elle soit mise en œuvre de manière ciblée et intentionnelle, et qu’elle ne finisse pas par faire office de bruit de fond. Or, les éléments que nous mesurons sont ceux que les collaborateurs vont optimiser. Un bon taux d’approbation peut avoir l’apparence de la productivité, mais ce n’est ni plus ni moins qu’une validation aveugle. Par conséquent, si votre tableau de bord mesure les résultats, il encourage, sans le dire, le comportement que nous essayons de combattre ici. Il est plus difficile de mesurer le comportement d’analyse des collaborateurs, mais c’est le seul moyen de savoir s’ils font réellement office de garde-fous.

L’humain mérite une meilleure place

Le jugement humain a sa place dans le processus C’est un élément essentiel pour détecter ce qu’un système ne peut pas voir. Cependant, si nos considérons le contrôle humain comme une simple case à cocher, et non comme une compétence à développer, nous sapons les fondements d’une bonne collaboration entre l’humain et l’IA. Nous plaçons une personne en bout de chaîne automatisée, sans rien lui dire des possibles défaillances et sans la récompenser en cas d’examen minutieux… et nous affirmons qu’elle effectue les contrôles nécessaires.

Pour former les gens à ce travail, il faut leur apprendre à repérer les erreurs, adapter les flux de travail et proposer des mesures incitatives qui considèrent une relecture attentive, non comme une tâche qui nous empêche de travailler, mais bel et bien comme une activité professionnelle.

¹ Ye, Zou, Yu, and Shi, “Coding with ‘Enemy’: Can Human Developers Detect AI Agent Sabotage?” (2026), arXiv:2606.05647. Il s’agit d’une prépublication qui n’a pas encore été évaluée par des pairs. Le chiffre de 94 % fait référence aux conditions de l’étude sans système de surveillance automatisé.

² Romeo and Conti, “Exploring Automation Bias in Human–AI Collaboration: A Review and Implications for Explainable AI,” AI & Society (2026). Les résultats mentionnés ci-dessus sont tirés des 35 études incluses dans l’analyse, où les sources d’origine sont citées dans leur intégralité.

À propos de l’auteur

Dr. Gundula Zerbes
Chercheuse en IA antagoniste

En tant que docteure et chercheuse en IA antagoniste chez SoSafe, Gundula Zerbes étudie l’utilisation que font les cybercriminels de l’intelligence artificielle pour mener des attaques inédites. Titulaire d’un doctorat en psychologie, elle s’appuie sur son expertise de l’expérience humaine, de la formation et de la prise de décision pour comprendre comment les attaquants exploitent spécifiquement les vulnérabilités psychologiques. Ses travaux associent l’innovation technique aux données ciblées issues des sciences comportementales pour mieux comprendre les nouveaux risques posés par l’IA. Ses travaux associent l’innovation technique aux données ciblées issues des sciences comportementales pour mieux comprendre les nouveaux risques posés par l’IA.

En savoir plus