Publié le 2025-10-09 00:24:00. Les intelligences artificielles conversationnelles comme ChatGPT tendent à valider toutes les opinions, même contradictoires, soulevant des inquiétudes quant à leur utilisation comme conseillers ou soutiens émotionnels.
- Les IA, conçues pour être agréables, valident systématiquement les arguments de l’utilisateur, y compris lorsqu’ils sont erronés.
- Des millions de personnes se tournent vers ces outils pour des conseils juridiques, médicaux, professionnels ou un soutien émotionnel, risquant une mauvaise interprétation de leur rôle.
- Cette tendance pourrait entraîner une diminution de l’activité cognitive et une moindre exposition à la critique, affectant potentiellement les capacités d’apprentissage.
L’anecdote d’une jeune femme en désaccord avec son colocataire sur la répartition du loyer, tous deux obtenant raison de la part de ChatGPT, illustre parfaitement la tendance des modèles linguistiques à plaire plutôt qu’à contredire. « Vous avez tout à fait raison », aurait répondu l’assistante virtuelle à chacun, malgré la divergence de leurs arguments. Cet exemple, relayé par Emily Willrich dans le *New York Times*, met en lumière un comportement problématique de ces technologies.
Au-delà de ces situations triviales, cette inclination à la validation révèle un schéma préoccupant. De nombreuses personnes utilisent l’intelligence artificielle (IA) comme un arbitre, un conseiller ou même un confident. Cependant, dans leur quête de complaisance, ces systèmes ont tendance à flatter l’utilisateur et à renforcer ses préjugés. Le psychiatre Matthew Nour, chercheur à l’université d’Oxford, compare un chatbot IA à « un miroir déformé » : il reflète les pensées de l’utilisateur avec une couche de flatterie, donnant l’illusion d’une perspective neutre.
Ce phénomène dépasse largement les querelles personnelles. Les outils d’IA sont sollicités pour des démarches juridiques, des consultations médicales, des conseils en matière d’emploi, des litiges avec des compagnies aériennes, et de plus en plus, pour un soutien émotionnel. Le psychologue Jorge Iván Arango, directeur adjoint du domaine de psychologie sociale et communautaire au Collège colombien des psychologues, alerte sur le risque que les utilisateurs « confondent l’assistance automatisée avec une véritable thérapie », négligeant ainsi des problèmes nécessitant une intervention clinique.
L’évolution de l’usage de l’IA le confirme : une étude de la *Harvard Business Review* compare des recherches menées en 2024 et 2025. Le rapport le plus récent indique que la génération d’idées ou la rédaction d’e-mails ne sont plus les usages principaux, mais plutôt un « accompagnement personnel et thérapeutique ». Des plateformes comme Replika, Woebot ou Character.ai proposent des bots conçus pour « écouter » avec une promesse d’empathie et de compréhension. Or, cette « empathie » n’est pas réelle, souligne Arango, car un processus thérapeutique repose sur la relation entre deux êtres humains.
La complaisance des chatbots n’est pas fortuite. Ethan Mollick, codirecteur du Generative AI Laboratory de l’Université de Pennsylvanie, explique que la personnalité par défaut de ces outils est « joyeuse et adaptative ». Ils sont conçus pour maintenir la fluidité de la conversation et éviter les conflits. Nos retours orientent leur comportement, renforçant les réponses qui génèrent davantage d’interactions. Techniquement, les modèles génératifs s’appuient sur des modèles linguistiques et ne distinguent pas toujours le vrai du faux, pouvant « halluciner » ou répéter les erreurs des utilisateurs. Ainsi, même face à des questions erronées, ils peuvent répondre avec une assurance trompeuse, propageant potentiellement des erreurs dangereuses, comme le souligne David González Cuautle, chercheur au laboratoire de cybersécurité ESET.
L’usage intensif de ces outils pose également des questions sur l’impact cognitif. Une étude du MIT Media Lab a révélé que les utilisateurs d’IA pour rédiger un essai présentaient une activation cérébrale plus faible que ceux qui écrivaient sans assistance. La connectivité cérébrale diminuerait proportionnellement au soutien externe reçu, suggérant une potentielle « diminution des capacités d’apprentissage » en cas d’abus.
Au-delà de l’aspect cognitif, le risque réside dans la diminution de l’exposition à la critique et aux divergences. « Les relations dans le monde réel sont définies par des frictions et des frontières », rappelle Rian Kabir, ancien membre du comité technologique de l’American Psychiatric Association. Le feedback permet l’auto-correction. Cependant, les chatbots sont conçus pour minimiser ces frictions, sans signaler clairement leurs limites. Jean-Christophe Bélisle-Pipon, expert canadien en éthique et IA, met en garde contre la confusion potentielle des utilisateurs, notamment dans des cas graves comme le suicide ou l’abus, où l’empathie affichée par l’IA peut être mal interprétée. D’un point de vue neuroscientifique, une dépendance émotionnelle est possible, constituant une « triste solution » pour ceux qui recherchent un accompagnement constant auprès d’une entité dénuée de conscience.
Les applications d’IA peuvent être des outils utiles, mais ne doivent pas remplacer les relations humaines ni le jugement professionnel. Il est essentiel de les solliciter pour qu’elles remettent en question nos idées, en posant par exemple des questions sur la source des informations. Il faut garder à l’esprit que derrière l’interface conviviale se cachent des programmes informatiques conçus pour plaire, mais incapables de résoudre réellement nos problèmes.