12
Une coalition de plus de 500 scientifiques de la cryptographie et des chercheurs a exprimé de sérieuses préoccupations concernant la législation proposée par l’Union européenne pour analyser les chats des utilisateurs pour un matériel d’abus sexuel d’enfants (CSAM), appelé «contrôle de chat». Les experts avertissent le dernier projet, bien que révisé, ne parvient toujours pas à résoudre adéquatement les problèmes fondamentaux entourant le cryptage, la surveillance de masse et le potentiel de détection inexacte. Le projet de loi pourrait être promulgué dès octobre 2025.
La proposition, débattue depuis 2022, obligerait les services de messagerie opérant en Europe pour scanner les communications des utilisateurs – même celles protégées par le cryptage de bout en bout – pour le CSAM. Les critiques soutiennent que cela représente un exagéré périlleux avec des conséquences potentiellement dévastatrices pour la confidentialité numérique.
«Je pense que beaucoup de changements qui se sont produits ne sont que de la fumée et des miroirs», a déclaré Bart Benel, un cryptographe belge et professeur à l’Université de Louvain qui a dirigé la lettre ouverte. Les objections de base se concentrent sur le conflit inhérent entre le maintien d’un cryptage fort et la mise en œuvre d’une analyse de contenu efficace.
Cryptage à risque: un conflit fondamental
La principale préoccupation concerne le potentiel de la législation sur le contrôle du chat afin de rompre efficacement le chiffrement. Cryptage est la pierre angulaire de la communication numérique sécurisée, brouillant des données pour empêcher un accès non autorisé. Des applications de messagerie populaires comme WhatsApp, Signal et ProtonMail, ainsi que les réseaux privés virtuels (VPN), comptent sur Encryption de bout en bout (E2E) pour protéger la confidentialité des utilisateurs.
S’il est adopté, la version danoise du projet de loi de contrôle de chat nécessiterait une numérisation obligatoire de tous les fichiers et URL multimédias partagés via ces plateformes pour CSAM. Bien que les experts soutiennent que l’obtenir sans compromettre les protections E2E n’est pas pratique. Toute technologie de détection, selon eux, «introduit inévitablement un seul point d’échec» en communications autrement sécurisées.
En outre, les experts se sont exprimés de s’inquiéter du «fluage des fonctions», le potentiel de l’élargissement de la technologie au-delà de son objectif déclaré. « La nouvelle proposition ne répond pas à nos préoccupations concernant le potentiel de fluage des fonctions de détection sur les appareils », ont-ils écrit dans leur lettre ouverte.
Le problème de précision: faux positifs et limitations de l’IA
Au-delà des problèmes de cryptage, la précision de la technologie de détection CSAM reste un obstacle notable. faux positifs – signalant à tort un contenu innocent comme abusif – et faux négatifs – Ne pas identifier le CSAM réel.
« Les recherches existantes confirment que les détecteurs de pointe produiraient des taux de faux positifs et de faux négatifs inacceptablement élevés, ce qui les rend inadaptés aux campagnes de détection à grande échelle à l’échelle de centaines de millions d’utilisateurs, selon le règlement proposé », indique la lettre ouverte.
La dépendance à l’intelligence artificielle (IA) pour améliorer la précision de la détection est également considérée avec le scepticisme. Les experts soulignent «l’énorme surface d’attaque» des systèmes d’IA, ce qui suggère qu’ils sont vulnérables à la manipulation et pourraient s’avérer «très inefficaces» dans l’identification du CSAM.
Les divisions de l’UE et la voie à suivre
Vendredi 12 septembre, les membres de l’UE partageront leurs postes sur la proposition lors d’une réunion du conseil. Une source familière avec les délibérations a indiqué que l’Allemagne, une nation clé dont le soutien ou l’opposition pourrait considérablement influencer le sort du projet de loi, envisage de s’abstenir d’un vote. Aux côtés de l’Allemagne, de l’Estonie, de la Grèce, du Luxembourg, de la Roumanie et de la Slovénie restent indécis.
Malgré une opposition croissante, le soutien au contrôle du chat reste substantiel, 15 pays soutenant actuellement la proposition, six opposés et six toujours indécis, selon les dernières données. On ne sait pas encore si les préoccupations soulevées par les plus de 500 signataires influenceront les membres indécis.
Cependant, Preenel met en garde que le contrôle du chat n’est qu’un élément d’une tendance plus large vers l’érodation des communications cryptées. « Il y a une pression énorme pour accéder aux données cryptées: ce n’est pas seulement le cas du CSAM, il y a aussi le document de protection. C’est le véritable débat, et je pense que le CSAM est utilisé comme excuse pour ouvrir la porte. »
Preenel pense que les organismes d’application de la loi devraient être habilités à mener des enquêtes ciblées, y compris les infiltrations, lorsqu’il y a des soupçons raisonnables d’activité criminelle. »Ce que je pense n’est pas acceptable, cependant, c’est le cryptage pour tout le monde.»