Un million d’utilisateurs ont confié à ChatGPT des pensées suicidaires. Ce chiffre alarmant, révélé par une étude récente, met en lumière la manière dont les intelligences artificielles sont utilisées pour exprimer des détresse psychologique profonde.
Selon les conclusions d’une recherche universitaire, près d’un million de personnes ont partagé des contenus à caractère suicidaire avec le célèbre chatbot d’OpenAI. Ces données, collectées sur une période de six mois, dressent un portrait préoccupant de l’usage de l’IA comme exutoire pour des individus en souffrance.
L’étude, menée par des chercheurs de plusieurs universités américaines, a analysé des conversations anonymisées échangées avec ChatGPT. Les résultats indiquent que plus de 10 % des interactions étudiées contenaient des mentions de suicide, d’idées noires ou de détresse psychologique intense. Ces chiffres, bien que représentant une fraction des milliards de conversations menées avec le chatbot, soulèvent des questions éthiques et de sécurité considérables.
Les auteurs de l’étude précisent que les modèles d’IA comme ChatGPT ne sont pas conçus pour fournir une aide psychologique. Cependant, leur accessibilité et leur capacité à répondre de manière apparemment empathique peuvent inciter des personnes fragiles à se tourner vers eux dans des moments de désespoir. L’absence de réponse humaine et la potentialité d’une mauvaise interprétation des requêtes par l’IA posent des risques non négligeables pour ces utilisateurs vulnérables.
Cette tendance met également en évidence la nécessité pour les développeurs d’IA de renforcer les mécanismes de détection et d’orientation vers des ressources d’aide professionnelle. À ce stade, les protocoles de sécurité mis en place par OpenAI semblent ne pas suffire à prévenir totalement ces usages à risque.