Meta renforce la sécurité des interactions de ses jeunes utilisateurs avec l’intelligence artificielle. Face aux critiques concernant les dérives potentielles des chatbots, la société a annoncé de nouvelles mesures permettant aux parents de mieux encadrer l’usage de ces outils par leurs adolescents.
À partir de début 2025, les parents sur Instagram auront la possibilité de désactiver les discussions privées de leurs adolescents avec des personnages d’IA. Cette mesure intervient suite à des préoccupations soulevées par des rapports, notamment celui de septembre dernier qui soulignait l’inefficacité de certaines fonctionnalités de sécurité sur Instagram et des conversations jugées « romantiques ou sensuelles » tenues par les chatbots de Meta.
Les nouvelles protections offertes par Meta ne se limitent pas à un simple blocage. Elles permettent aux parents de désactiver des personnages d’IA spécifiques, tout en conservant un aperçu des sujets généraux abordés par leurs adolescents avec les chatbots et l’assistant IA de Meta. L’accès global à l’IA ne sera donc pas totalement coupé, mais encadré. L’assistant IA principal continuera d’être disponible avec des paramètres par défaut adaptés à l’âge, même si les discussions directes avec des intelligences artificielles spécifiques sont restreintes.
Meta affirme que les personnages d’IA sont conçus pour éviter les discussions inappropriées avec les mineurs, notamment sur des sujets sensibles tels que l’automutilation, le suicide ou les troubles alimentaires. Cette initiative s’inscrit dans la continuité des déclarations de la société plus tôt cette semaine, annonçant que les expériences d’IA destinées aux adolescents seraient désormais guidées par le système de classification des films PG-13, afin de prévenir l’accès à des contenus potentiellement néfastes.
« La technologie ne remplacera jamais la valeur de la pensée critique, des connexions réelles et de l’interaction humaine – et ce n’est pas notre objectif », a déclaré Meta dans un communiqué. « Nous pensons que l’IA peut compléter les méthodes d’apprentissage et d’exploration traditionnelles d’une manière qui semble positive, le tout avec la mise en place de garde-fous adaptés à l’âge. »
La plateforme de réseaux sociaux indique également utiliser sa propre technologie d’IA pour identifier et appliquer ces protections aux utilisateurs suspectés d’être des adolescents, même s’ils déclarent être majeurs. Cette mesure vise à contrer les tentatives potentielles de contournement des restrictions par les jeunes utilisateurs.
Ces nouvelles fonctionnalités de supervision parental seront déployées sur Instagram début 2025 aux États-Unis, au Royaume-Uni, au Canada et en Australie. Meta reconnaît que le paysage de l’IA évolue rapidement et s’engage à adapter et renforcer continuellement ses mesures de protection pour les adolescents, tout en restant à l’écoute des préoccupations des parents.