Personnes dénudées par l’IA sur Hugging Face : la haut-commissaire à l’enfance, Sarah El Haïry, saisit la Commission européenne

La plateforme Hugging Face est au cœur d'une controverse majeure concernant la présence de modèles d'intelligence artificielle permettant de générer des images de personnes dénudées. Cette situation place la sécurité numérique des utilisateurs, notamment des mineurs, en première ligne face à une technologie capable de produire des contenus détournés de nature sexuelle. Face à l'ampleur de ces hypertrucages, Sarah El Haïry, Haute-commissaire à l'enfance, a officiellement saisi la Commission européenne.

Cette démarche intervient alors que les signalements sur la prolifération de ces contenus se multiplient. Les autorités cherchent désormais à établir la responsabilité des plateformes hébergeant de tels outils, considérés comme une menace directe pour l'intégrité des individus. La question de la régulation des outils d'IA générative devient centrale pour prévenir les dérives liées à l'imagerie deepfake.

Les conséquences de cette saisine européenne restent à déterminer, tout comme les mesures techniques que la plateforme pourrait adopter pour restreindre l'accès à ces outils. Les habitudes numériques des adolescents évoluent déjà en réponse à cette menace, ces derniers modifiant leurs pratiques sur les réseaux sociaux. Le débat porte désormais sur la capacité des régulateurs à encadrer le développement technologique pour garantir une protection effective sur internet.