Publié le 2024-10-27 14:00:00. L’intelligence artificielle, en pleine expansion, représente une nouvelle frontière pour la criminalité, le FBI alertant sur les risques liés à sa gratuité et à son manque de régulation. Une affaire récente à Saint-Pétersbourg met en lumière la capacité croissante des forces de l’ordre à déjouer ces nouvelles formes de fraude.
- Une femme de Saint-Pétersbourg a été accusée d’avoir intenté une fausse action en justice, en fabriquant un rapport de cambriolage et d’agression sexuelle à l’aide d’une image générée par IA.
- Les experts soulignent que la sophistication croissante de l’IA pose des défis sans précédent aux enquêteurs.
- Il est conseillé de se familiariser avec des outils comme ChatGPT pour comprendre leurs capacités et leurs limites.
Le 7 octobre, les services de police de Saint-Pétersbourg ont été contactés par Brooke Schinault, qui dénonçait une effraction à son domicile ainsi qu’une agression physique. L’informatrice a fourni des images comme preuves. « Nous avons recueilli toutes les informations possibles à ce moment-là, elle nous a fourni des images comme preuve, puis plus rien. Nous avons poursuivi notre enquête », a précisé Ashley Limardo, spécialiste de l’information publique au sein du département de police de Saint-Pétersbourg.
Plus tard dans la journée, Mme Schinault a rappelé les autorités, ajoutant une précision troublante à son récit initial. « En disant ça, eh bien, en fait, elle a oublié de nous faire savoir qu’elle avait également été victime d’une agression sexuelle par cette personne », a relaté Mme Limardo. Cette seconde déposition a conduit les agents à se rendre une nouvelle fois sur les lieux.
Ce sont les investigations de la détective en charge de l’affaire qui ont rapidement éveillé les soupçons. En examinant les preuves fournies, notamment la photographie de l’agresseur présumé, celle-ci a décelé des incohérences. « Elle a reçu des informations sur cette affaire et examinait immédiatement les preuves lorsqu’elle a vu cette photo », a expliqué Mme Limardo. « Elle a pu reconnaître que cela faisait partie de la tendance, et c’est ensuite ce qui a complètement changé le cours de l’enquête. »
Selon les documents judiciaires, les enquêteurs ont découvert des preuves numériques démontrant que la photo avait été générée par ChatGPT quelques jours avant les faits allégués. La police a souligné que Mme Schinault avait apparemment tenté de tirer parti d’une tendance récente sur TikTok, où des utilisateurs insèrent des images de leur domicile dans ChatGPT pour y ajouter des personnes fictives, souvent à des fins humoristiques. Cependant, cette situation, selon les autorités, n’avait rien de drôle.
La police de Saint-Pétersbourg a indiqué n’avoir jamais rencontré un cas similaire. « Cela peut être très dangereux », a averti Mme Limardo. « Surtout dans le sens où si cette personne correspondait à la description de quelqu’un dans notre ville ou si elle essayait de prétendre qu’il s’agissait de quelqu’un, maintenant nous nous en prenons à cette personne. »
Brooke Schinault a été arrêtée et mise en examen pour deux chefs d’accusation de fausse déclaration sur un crime. Elle a été libérée sous caution, s’élevant à 1 000 dollars (environ 930 euros).
Le professeur John Licato, qui enseigne au Billeni College of AI, Cybersecurity and Computing de l’Université de Floride du Sud, a souligné que l’Internet a toujours été le théâtre d’activités malveillantes. « Quand j’entends cette histoire particulière, ma pensée immédiate est : ‘Quelle est la motivation ? Pourquoi quelqu’un ferait-il réellement cela ?’ », a déclaré M. Licato. Il insiste sur la nécessité d’une meilleure sensibilisation du public aux capacités des technologies d’IA, notamment en matière de génération d’images réalistes. « Nous devons accroître les connaissances du grand public en matière d’IA pour des raisons exactement comme celle-ci », a-t-il ajouté. « Les policiers ont vu les mèmes, ils ont vu la tendance TikTok et, dans un sens, c’était une forme de culture de l’IA. Parce que maintenant ils réalisent que c’est possible, donc ils savent qu’ils le rechercheront à l’avenir. »
M. Licato recommande aux individus de tester eux-mêmes ces outils pour mieux en saisir le potentiel. Il estime que sans une telle prise de conscience, les forces de l’ordre auraient pu passer à côté de la ruse utilisée par Mme Schinault.
Dans le comté de Hillsborough, les autorités ont récemment interpellé Sammarth Gautam, âgé de 19 ans. Il avait utilisé l’IA pour transformer des photos de jeunes femmes, qu’il connaissait, en images à caractère pornographique. Huit de ces clichés avaient été diffusés en ligne. L’accusation a retenu 16 chefs d’inculpation pour promotion de représentations sexuelles modifiées sans consentement. Suite à un accord de plaider coupable, M. Gautam a été condamné à 12 jours de prison.
« Nous devons faire attention et nous assurer que nous mettons en place des garanties appropriées pour aider à protéger les personnes », a préconisé M. Licato. Bien que les technologies permettant de réaliser ce type de manipulation ne soient pas nouvelles, leur perfectionnement est constant. Il est crucial, selon lui, que la société définisse clairement ce qui constitue une utilisation acceptable et quelles réglementations doivent être mises en place, citant en exemple l’équilibre trouvé entre restrictions et directives pour les véhicules.
Sammarth Gautam a par la suite été pris en charge par les services d’immigration américains et se trouve actuellement dans un centre de rétention en attente d’une mesure d’expulsion.