Publié le 20 février 2026 à 07h00. L’association Mind lance une enquête d’envergure sur les risques liés à l’utilisation de l’intelligence artificielle dans le domaine de la santé mentale, après la révélation par The Guardian de conseils médicaux potentiellement dangereux prodigués par les outils d’IA de Google.
- Mind, une association caritative britannique, va mener une commission d’un an pour évaluer les dangers et les garanties nécessaires face à l’influence croissante de l’IA sur la santé mentale.
- L’enquête rassemblera des experts médicaux, des professionnels de la santé mentale, des personnes ayant vécu des problèmes de santé mentale, ainsi que des représentants d’entreprises technologiques et des décideurs politiques.
- Cette initiative fait suite à des signalements concernant des informations erronées et trompeuses fournies par les aperçus d’IA de Google, accessibles à des milliards d’utilisateurs chaque mois.
L’association Mind s’inquiète des conséquences potentiellement graves de ces informations inexactes, qui pourraient, dans les cas les plus graves, mettre des vies en danger. L’objectif de cette commission est de façonner un écosystème numérique de santé mentale plus sûr, basé sur une réglementation stricte, des normes claires et des garanties solides.
Cette enquête intervient après que The Guardian a mis en lumière les risques liés aux aperçus d’IA de Google, qui présentent des informations fausses ou trompeuses sur la santé. Ces résumés générés par l’IA sont affichés à des milliards d’utilisateurs chaque mois, en haut des résultats de recherche sur le moteur de recherche le plus utilisé au monde.
Suite à ces révélations, Google a supprimé les aperçus d’IA pour certaines recherches médicales, mais pas pour toutes. La directrice générale de Mind, le Dr Sarah Hughes, a souligné que des conseils « dangereusement incorrects » en matière de santé mentale continuaient d’être diffusés au public.
« Nous pensons que l’IA a un énorme potentiel pour améliorer la vie des personnes souffrant de problèmes de santé mentale, élargir l’accès au soutien et renforcer les services publics. Mais ce potentiel ne sera réalisé que si elle est développée et déployée de manière responsable, avec des garanties proportionnées aux risques. »
Dr Sarah Hughes, directrice générale de Mind
L’association espère garantir que l’innovation technologique ne se fasse pas au détriment du bien-être des individus et que les personnes ayant vécu des problèmes de santé mentale soient au cœur de l’élaboration des solutions numériques de soutien.
Google affirme que ses aperçus d’IA, basés sur l’intelligence artificielle générative, sont utiles et fiables. Cependant, The Guardian a découvert que certains de ces aperçus contenaient des informations inexactes sur la santé, mettant potentiellement les utilisateurs en danger.
L’enquête a révélé des conseils médicaux erronés sur divers sujets, notamment le cancer, les maladies du foie, la santé des femmes et les troubles de santé mentale. Des experts ont qualifié certains aperçus d’IA concernant des affections telles que la psychose et les troubles de l’alimentation de « très dangereux », les jugeant « incorrects, nuisibles ou susceptibles d’inciter les gens à éviter de demander de l’aide ».
The Guardian a également constaté que Google minimise les avertissements de sécurité indiquant que les conseils médicaux générés par l’IA pourraient être erronés. Le Dr Hughes a insisté sur le fait que des personnes vulnérables recevaient des « conseils dangereusement incorrects en matière de santé mentale », susceptibles d’empêcher les gens de rechercher un traitement, de renforcer la stigmatisation ou, dans les cas les plus graves, de mettre leur vie en danger.
« Les gens méritent des informations sûres, précises et fondées sur des preuves, et non une technologie non testée présentée avec un vernis de confiance. »
Dr Sarah Hughes, directrice générale de Mind
La commission de Mind fonctionnera pendant un an et rassemblera des preuves sur l’intersection de l’IA et de la santé mentale. Elle fournira un espace d’échange ouvert où l’expérience des personnes souffrant de problèmes de santé mentale sera prise en compte.
Rosie Weatherley, responsable du contenu informationnel chez Mind, a souligné que, bien que la recherche d’informations sur la santé mentale sur Google n’ait pas toujours été parfaite, elle fonctionnait généralement bien avant l’introduction des aperçus d’IA. Elle a expliqué que les utilisateurs avaient généralement accès à des sites web de santé crédibles, offrant des informations nuancées, des témoignages, des études de cas et un contexte social.
« Les aperçus de l’IA ont remplacé cette richesse par un résumé à consonance clinique qui donne une illusion de certitude. Ils donnent à l’utilisateur davantage une forme de clarté (brèveté et anglais simple), tout en lui donnant moins d’une autre forme de clarté (la sécurité de la source de l’information et le degré de confiance en elle). C’est un échange très séduisant, mais pas responsable. »
Rosie Weatherley, responsable du contenu informationnel chez Mind
Un porte-parole de Google a déclaré que l’entreprise investissait considérablement dans la qualité des aperçus d’IA, en particulier sur des sujets sensibles comme la santé, et que la grande majorité fournissait des informations précises. Il a ajouté que, pour les requêtes où les systèmes identifiaient une personne en détresse, Google s’efforçait d’afficher des numéros de téléphone d’assistance en cas de crise pertinents.