Publié le 21 février 2024 à 03:58:00. Quelques mois avant la tragédie qui a frappé l’école secondaire de Tumbler Ridge, en Colombie-Britannique, les propos inquiétants d’un adolescent sur la violence armée, échangés avec un chatbot d’intelligence artificielle, avaient été signalés à OpenAI, la société à l’origine de ChatGPT. L’entreprise a finalement contacté la GRC après la fusillade, mais n’avait pas jugé les messages suffisamment alarmants pour alerter les autorités plus tôt.
- OpenAI a été alertée par ses propres systèmes de détection de contenu violent concernant les échanges d’un adolescent avec ChatGPT.
- L’entreprise a initialement estimé que les propos ne constituaient pas une menace immédiate et crédible, et n’a pas prévenu la police.
- Après la fusillade meurtrière, OpenAI a contacté la GRC et coopère à l’enquête.
La fusillade de Tumbler Ridge, survenue le 10 février, a coûté la vie à cinq élèves et à un accompagnateur scolaire. Le tireur, âgé de 18 ans, est décédé des suites de blessures auto-infligées. La police a également découvert les corps de sa mère et de son demi-frère à leur domicile. L’enquête se poursuit pour déterminer les circonstances exactes de la tragédie et l’origine des armes utilisées.
Selon le Wall Street Journal, des employés de ChatGPT avaient souhaité alerter les forces de l’ordre dès juin dernier, après avoir pris connaissance des messages du jeune homme. Leurs préoccupations auraient été écartées par la direction d’OpenAI, selon des sources anonymes.
Dans un communiqué, OpenAI a exprimé ses condoléances aux familles et aux proches des victimes.
« Nos pensées vont à toutes les personnes touchées par la tragédie de Tumbler Ridge »,
OpenAI
a déclaré l’entreprise. OpenAI a ajouté avoir contacté de manière proactive la Gendarmerie royale du Canada (GRC) et s’engage à collaborer pleinement à l’enquête.
OpenAI précise que son protocole exige que les messages signalés présentent un « risque imminent et crédible de préjudice physique grave pour autrui » afin de justifier une intervention des forces de l’ordre. En juin, l’entreprise n’a pas identifié de « planification crédible ou imminente » dans les échanges du tireur.
L’entreprise justifie également sa prudence par la crainte de causer une « détresse » à un jeune et à sa famille en cas de fausse alerte, ainsi que par des considérations de confidentialité. OpenAI estime qu’un nombre excessif de signalements pourrait également « entraîner des dommages involontaires ».
ChatGPT est conçu pour dissuader les utilisateurs d’exprimer des intentions nuisibles et pour éviter de fournir des conseils susceptibles de provoquer des blessures. OpenAI affirme réviser régulièrement ses politiques en matière d’alerte des forces de l’ordre, sans toutefois préciser si l’incident de Tumbler Ridge entraînera un changement de procédure.
La GRC a confirmé qu’OpenAI l’avait contactée après la fusillade. Le sergent-chef Kris Clark a indiqué qu’un « examen approfondi du contenu des appareils électroniques, des réseaux sociaux et des activités en ligne » du tireur était en cours.
« Les preuves numériques et physiques sont collectées, hiérarchisées et traitées méthodiquement »,
Sergent-chef Kris Clark, GRC
a-t-il précisé.
Dwayne McDonald, sous-commissaire de la GRC, a révélé la semaine dernière que l’origine de l’une des armes à feu utilisées à l’école reste inconnue, car elle n’avait jamais été signalée aux autorités. L’enquête se concentre sur la manière dont le tireur s’est procuré cette arme.
Chris McBryan, un ancien membre de la GRC spécialisé dans les armes à feu, estime que la police cherchera à déterminer si d’autres personnes ont pu être impliquées dans la planification de la fusillade, même si le tireur est décédé.
Avec des informations de Joe Castaldo et de La Presse canadienne