Publié le 2025-10-29 14:00:00. La plateforme de chatbots IA Character.AI annonce des restrictions pour les utilisateurs mineurs, limitant notamment les discussions libres et thérapeutiques. Cette décision intervient dans un contexte de préoccupations croissantes quant à la sécurité des jeunes face aux intelligences artificielles et à la suite d’un drame impliquant l’un de ses utilisateurs.
- Les utilisateurs de moins de 18 ans verront leur temps de discussion libre limité à deux heures par jour et ces conversations seront supprimées d’ici le 25 novembre.
- Character.AI mettra en place une technologie de vérification d’âge grâce à un partenariat avec Persona, une société déjà utilisée par Discord.
- Ces mesures s’inscrivent dans un effort plus large de l’entreprise pour améliorer la sécurité et l’adéquation de son application à tous les âges, face à une pression réglementaire accrue.
La startup de la Silicon Valley, Character.AI, connue pour permettre aux utilisateurs de créer et d’interagir avec des chatbots personnalisés, a annoncé mercredi une série de mesures visant à renforcer la sécurité de sa plateforme pour les jeunes. À compter du 25 novembre, les conversations libres, y compris celles de nature romantique ou thérapeutique, seront interdites aux utilisateurs de moins de 18 ans. Parallèlement, leur temps de discussion ouvert sera plafonné à deux heures quotidiennes. Cette décision fait suite à un incident tragique l’année dernière, où un adolescent de 14 ans s’est suicidé après avoir développé une relation complexe avec un chatbot sur l’application.
Karandeep Anand, PDG de Character.AI, a qualifié cette démarche d’« audacieuse », espérant qu’elle « élèvera la barre pour tout le monde ». Ces changements font écho à des préoccupations soulevées par d’autres acteurs majeurs de l’IA, tels qu’OpenAI et Meta, qui ont également été scrutés pour des cas similaires impliquant des utilisateurs en détresse après des interactions prolongées avec des IA.
Pour garantir l’application de ces nouvelles règles, Character.AI déploie une fonction de vérification d’âge. Cette technologie, développée en interne et via un partenariat avec Persona – une entreprise qui collabore déjà avec des plateformes comme Discord – permettra de contrôler l’âge des utilisateurs. Ces ajustements s’inscrivent dans une stratégie plus large de diversification de l’offre de Character.AI, qui, depuis la nomination de Karandeep Anand à la tête de l’entreprise en juin dernier, a lancé de nouvelles fonctionnalités comme un flux vidéo généré par IA et des formats de narration et de jeu de rôle. Bien que les conversations libres soient restreintes, les utilisateurs mineurs conserveront l’accès aux autres aspects ludiques et créatifs de l’application.
La plateforme, qui compte environ 20 millions d’utilisateurs actifs mensuels, estime que 10 % d’entre eux ont moins de 18 ans. Ce pourcentage aurait diminué à mesure que l’application se concentrait sur des expériences plus orientées récit. Character.AI tire ses revenus principalement de la publicité et d’un abonnement mensuel de 10 $, prévoyant de clôturer l’année avec un chiffre d’affaires de 50 millions de dollars. L’entreprise a également annoncé la création et le financement d’un laboratoire indépendant dédié à la recherche sur la sécurité dans le domaine du divertissement par IA, invitant d’autres acteurs à rejoindre cette initiative à but non lucratif.
Sous la pression des régulateurs
Character.AI n’est pas la seule entreprise de chatbots IA à faire face à un examen réglementaire concernant ses interactions avec les mineurs. En septembre, la Federal Trade Commission (FTC) a adressé des demandes d’informations à sept sociétés, dont la maison mère de Character.AI, Alphabet, Meta, OpenAI et Snap, afin d’évaluer les impacts potentiels de ces technologies sur les enfants et adolescents. Parallèlement, des sénateurs américains ont proposé une législation visant à interdire les compagnons chatbots IA aux mineurs. En Californie, une loi récemment adoptée impose aux chatbots de signaler leur nature artificielle et d’inciter les mineurs à faire des pauses régulières.
Face à ces développements, d’autres géants technologiques ajustent également leurs offres. Meta, par exemple, a introduit en octobre des fonctionnalités de contrôle parental permettant aux parents de superviser et de gérer les interactions de leurs adolescents avec les IA sur ses plateformes, offrant même la possibilité de désactiver les conversations individuelles avec certains personnages IA. La question des conversations sexualisées avec les chatbots est devenue un point central du débat, illustré par la position d’OpenAI qui, par la voix de son dirigeant Sam Altman, a déclaré que l’entreprise « n’est pas la police morale élue du monde » et permettra des échanges érotiques pour les utilisateurs adultes. Microsoft, partenaire d’OpenAI, a quant à lui exprimé une position plus réservée, considérant la « simulation d’érotisme » comme « très dangereuse » et indiquant que la société ne développerait pas de tels chatbots.
La course au développement d’IA toujours plus réalistes et conversationnelles s’est intensifiée depuis le lancement de ChatGPT fin 2022. Si ces avancées permettent à certains utilisateurs de tisser des liens profonds avec des intelligences artificielles, elles soulèvent également des questions éthiques et de sécurité cruciales, particulièrement pour les populations les plus jeunes. « J’ai moi-même une fille de six ans et je veux m’assurer qu’elle grandisse dans un environnement sûr grâce à l’IA », a souligné Karandeep Anand, illustrant la préoccupation de fond qui anime ces décisions.
Si vous avez des pensées suicidaires ou êtes en détresse, contactez le 988 Suicide & Crisis Lifeline pour obtenir du soutien et de l’assistance de la part d’un conseiller qualifié.