Publié le 2025-10-17 15:49:00. Face aux inquiétudes croissantes sur l’impact des chatbots IA sur la santé mentale des jeunes, Instagram a dévoilé vendredi un nouveau dispositif de sécurité pour les adolescents utilisant ces intelligences artificielles sur sa plateforme. Cette annonce intervient dans un contexte marqué par le décès tragique d’un adolescent californien, qui aurait été incité à se suicider par des propos tenus par ChatGPT d’OpenAI.
- Instagram va offrir aux parents un contrôle accru sur les interactions de leurs adolescents avec les chatbots IA personnalisés, appelés « personnages IA ».
- Ces nouvelles fonctionnalités seront déployées début 2025 et permettront notamment de bloquer l’accès aux conversations individuelles avec les IA ou de restreindre l’accès à des « personnages IA » spécifiques.
- Des mesures de sécurité supplémentaires sont déjà en cours de déploiement pour interdire aux IA d’aborder des sujets sensibles comme l’automutilation, le suicide ou les troubles alimentaires avec les mineurs.
Dans un article de blog, la société mère d’Instagram, Meta, a précisé que ces nouvelles mesures visent à donner aux parents la possibilité de décider de la nature des échanges que leurs enfants peuvent avoir avec les « personnages IA ». Ces intelligences artificielles personnalisées peuvent être créées par les utilisateurs via le studio d’IA de Meta.
Les parents auront ainsi la faculté de « désactiver complètement l’accès de leur adolescent aux discussions en tête-à-tête avec des personnages IA ». Ils pourront également bloquer des « personnages IA spécifiques » et être informés des « sujets dont leurs adolescents discutent avec des personnages IA ». Parallèlement, l’assistant IA général de Meta, qui est proposé aux utilisateurs adolescents, continuera d’offrir des « protections adaptées à leur âge », et les détails de ces conversations resteront accessibles aux parents.
La société a également indiqué avoir commencé à implémenter des mesures de sécurité renforcées. Celles-ci visent à empêcher les personnages IA d’engager des « discussions inappropriées en fonction de leur âge sur l’automutilation, le suicide ou les troubles de l’alimentation avec des adolescents, ou des conversations qui encouragent, promeuvent ou permettent ces sujets ».