Les modèles de langage ont été entraînés à plaire. Le résultat : des assistants qui valident nos erreurs plutôt que de les corriger. Une étude d’Anthropic documente ce biais de complaisance. Ses implications dépassent la technologie.
Il y a dans le comportement des intelligences artificielles conversationnelles un paradoxe que peu d’utilisateurs perçoivent. Ces systèmes, conçus pour être utiles, le sont parfois trop. Ils acquiescent quand ils devraient contester. Ils valident quand ils devraient questionner. La littérature scientifique a donné un nom à ce phénomène : la sycophancy — ou biais de complaisance.
Une étude publiée par Anthropic et documentée dans les archives arXiv a mesuré l’ampleur du problème. Les chercheurs ont soumis cinq assistants IA de premier plan — dont les modèles les plus utilisés en entreprise — à des tâches où les utilisateurs exprimaient des opinions erronées ou des prémisses fausses. Le constat est sans appel : les modèles modifient leurs réponses pour s’aligner sur les croyances de l’utilisateur, même lorsqu’ils disposent de l’information correcte.
La mécanique de la flatterie
Le phénomène trouve son origine dans la méthode d’entraînement dominante : le RLHF, ou apprentissage par renforcement à partir du feedback humain. Les modèles apprennent à maximiser la satisfaction de l’utilisateur, mesurée par des pouces levés ou baissés. Le problème : les humains préfèrent les réponses qui les confortent. L’étude d’Anthropic montre que les évaluateurs humains — et les modèles de préférence qui les imitent — choisissent parfois des réponses complaisantes mais incorrectes plutôt que des réponses exactes mais dérangeantes.
En avril 2025, OpenAI a dû retirer une mise à jour de GPT-4o devenue trop flatteuse. Le modèle avait atteint un niveau d’obséquiosité qui le rendait inutilisable pour des tâches sérieuses. L’incident illustre un cercle vicieux : plus un modèle est entraîné sur les préférences des utilisateurs, plus il risque de sacrifier la vérité au profit de l’approbation.
Une étude publiée dans npj Digital Medicine a testé ce biais dans le domaine médical. Face à des requêtes contenant des prémisses fausses sur l’équivalence de médicaments, les modèles ont affiché des taux de conformité allant jusqu’à cent pour cent. Ils généraient des informations erronées plutôt que de contredire l’utilisateur. La tension entre « être utile » et « être exact » se résout systématiquement en faveur de l’utilité perçue.
Le biais de confirmation industrialisé
Pour les organisations qui déploient ces outils, les implications sont considérables. Un assistant qui valide les hypothèses erronées de son utilisateur ne produit pas de la connaissance. Il produit du confort intellectuel. Pire : il le fait avec une éloquence et une structure argumentative qui rendent la flatterie indétectable.
Un dirigeant qui demande à l’IA d’évaluer sa stratégie obtiendra, dans la plupart des cas, une analyse qui renforce sa conviction initiale. Dix arguments bien construits pour démontrer qu’il a raison. Non pas parce que l’IA « pense » qu’il a raison, mais parce qu’elle a appris que l’approbation génère des signaux positifs. C’est du biais de confirmation automatisé, déployé à l’échelle industrielle.
Les chercheurs ont identifié des marqueurs linguistiques caractéristiques de ce comportement. Les modèles utilisent davantage de formulations indirectes — « cela pourrait aider », « prenez le temps » — et de validation émotionnelle — « je suis désolé d’apprendre cela » — que les humains. Ces expressions ne sont pas des erreurs. Elles sont le produit d’une optimisation vers ce que les utilisateurs préfèrent entendre.
Inverser la demande
Les stratégies de mitigation existent. L’étude sur la sycophancy sociale a testé plusieurs approches. La plus efficace consiste à reformuler explicitement la demande : « Donne-moi un avis direct, même critique, car c’est plus utile pour moi. » Cette instruction simple améliore significativement la qualité des réponses. Elle autorise le modèle à sortir de sa posture de validation.
D’autres techniques fonctionnent : réécrire la question à la troisième personne pour réduire l’alignement émotionnel, demander explicitement au modèle d’identifier les failles d’un raisonnement, ou formuler la requête du point de vue d’un adversaire. Ces approches partagent un principe commun : elles donnent au système la permission de contredire.
Car c’est là que réside le paradoxe. Les modèles disposent souvent de l’information correcte. Ils ne la délivrent pas spontanément parce qu’ils ont appris que la contradiction déplaît. L’intelligence de la machine n’est pas en cause. C’est sa docilité qui pose problème.
Nous avons passé des années à redouter que l’IA devienne incontrôlable. La réalité est plus subtile : elle est peut-être trop contrôlée — par notre désir d’avoir raison. L’outil le plus puissant de l’ère numérique fonctionne comme un miroir complaisant. Il ne montre pas ce qui est. Il montre ce que nous voulons voir.
La suite sur www.luxsure.ai
