Publié le 21 février 2024 20:42:00. Une nouvelle mode sur les réseaux sociaux consiste à utiliser l’intelligence artificielle pour générer des illustrations personnalisées, mais cette pratique, bien que ludique, expose les utilisateurs à des risques accrus de fraude et de violation de la vie privée.
- L’utilisation de l’IA pour créer des caricatures à partir de données personnelles peut révéler des informations sensibles.
- Les cybercriminels peuvent exploiter ces données pour concevoir des attaques d’ingénierie sociale plus crédibles et personnalisées.
- Les experts de la cybersécurité recommandent la prudence et des mesures de protection pour limiter les risques.
La tendance actuelle à solliciter l’intelligence artificielle pour créer des images fantaisistes, basées sur ce que l’IA sait de nous, rappelle une dynamique observée il y a quelques années avec l’application FaceApp. Cette dernière, devenue virale en 2019 grâce à son filtre de vieillissement, avait ensuite proposé d’autres transformations amusantes, comme changer de sexe ou de couleur de cheveux. Si ces applications peuvent sembler inoffensives, elles soulèvent des questions importantes concernant la protection des données personnelles.
FaceApp, développée par la société russe Wireless Lab, est capable de générer des visages réalistes à partir de photographies. Cette facilité d’utilisation a conduit à une adoption massive, mais aussi à des inquiétudes quant au traitement des données des utilisateurs. La nouvelle vague d’intérêt pour la création d’illustrations personnalisées par l’IA, bien que présentée comme un divertissement, présente des risques similaires.
Selon les experts de Kaspersky, une requête du type « crée une caricature de moi et de mon travail en fonction de tout ce que tu sais » ne se limite pas à une simple modification visuelle. Pour obtenir des résultats précis, l’IA a besoin d’accéder à un maximum d’informations sur le profil de l’utilisateur, sans restriction. Cela inclut non seulement la photo de référence, mais aussi le nom de l’entreprise, son logo, le poste occupé, la ville de résidence, les habitudes quotidiennes, les loisirs et même des détails sur la vie familiale. L’ensemble de ces données permet de dresser un portrait numérique détaillé, qui peut être exploité à des fins malveillantes.
La combinaison de l’image, du texte et du contexte révèle des habitudes, des relations, des lieux fréquentés et des responsabilités professionnelles. Ces informations constituent des éléments précieux pour les cybercriminels, qui peuvent les utiliser pour concevoir des arnaques plus sophistiquées et plus crédibles. Une tentative de fraude mentionnant l’entreprise, le poste ou un membre de la famille de la victime a beaucoup plus de chances de réussir, surtout si l’on considère que, selon l’étude Kaspersky Digital Language, près d’un utilisateur sur quatre en Amérique latine ne sait pas reconnaître un faux e-mail ou un faux message.
Cette naïveté n’est pas un cas isolé. La même étude révèle que 27% des utilisateurs de la région ne vérifient pas les autorisations demandées par une application avant de l’installer, soit par manque d’attention, soit parce que les informations sont trop complexes. De plus, lors de l’utilisation de ces plateformes, non seulement l’image finale est partagée, mais également, en fonction des politiques de confidentialité du service, la photo originale, les instructions de l’utilisateur, l’historique d’utilisation et des données techniques telles que l’adresse IP ou le type d’appareil peuvent être stockés. Ces informations peuvent être conservées pour améliorer le service ou entraîner des modèles d’intelligence artificielle, ce qui signifie qu’elles peuvent rester accessibles plus longtemps que prévu.
« Le plus grand risque ne réside pas dans l’illustration créée, mais dans tout ce que les gens révèlent pour l’obtenir. Lorsqu’une personne partage des détails sur son travail, sa famille ou sa routine, elle fournit involontairement des informations qui peuvent être utilisées pour une fraude très ciblée ou un vol d’identité. »
Leandro Cuozzo, analyste de sécurité, équipe mondiale de recherche et d’analyse pour l’Amérique latine chez Kaspersky
Dans ce contexte, l’accumulation de données personnelles peut ouvrir la voie à des attaques d’ingénierie sociale, des vols d’identité ou des escroqueries personnalisées. Les experts recommandent donc d’adopter une approche prudente lors de l’utilisation de ces outils. Pour réduire les risques, Kaspersky conseille d’éviter de mentionner des informations identifiables telles que le nom complet, le poste, l’entreprise, la ville, l’adresse, les horaires ou les routines dans les requêtes, même si cela peut sembler anodin. Il est également déconseillé de télécharger des photos contenant des logos, des documents, des plaques d’immatriculation ou tout autre élément permettant de localiser l’utilisateur ou de l’associer à une organisation. Enfin, il est crucial de ne pas partager d’informations ou d’images concernant des mineurs, et de ne pas révéler de données familiales qui pourraient être utilisées pour usurper l’identité de proches ou concevoir des arnaques émotionnelles.
Avant d’utiliser une plateforme, il est important de consulter sa politique de confidentialité et de vérifier les autorisations demandées, notamment en ce qui concerne la conservation du contenu et l’utilisation des données à des fins de formation ou d’amélioration des services. Enfin, une protection numérique active, telle que les solutions proposées par Kaspersky Premium, peut contribuer à réduire les risques liés aux liens malveillants, aux téléchargements dangereux et aux techniques de phishing associées à ces tendances, tout en renforçant la sécurité des appareils.