Publié le 21 février 2024 18:22:00. L’auteur de la fusillade de Tumbler Ridge, en Colombie-Britannique, avait alerté les systèmes de sécurité d’OpenAI des mois auparavant en simulant des scénarios de violence armée avec ChatGPT. La direction de l’entreprise avait pourtant choisi de ne pas signaler ces propos aux autorités.
- Jesse Van Rootselaar, le suspect de la fusillade de Tumbler Ridge, a suscité des inquiétudes chez les employés d’OpenAI en juin dernier.
- Les dirigeants d’OpenAI ont estimé que les messages de Rootselaar ne représentaient pas une menace « crédible et immédiate ».
- La fusillade, survenue le 10 février, a fait neuf morts et 27 blessés, dont l’auteur, retrouvé décédé sur les lieux.
Des conversations inquiétantes tenues par Jesse Van Rootselaar avec le chatbot ChatGPT, plusieurs mois avant la tragédie, ont été révélées par le Wall Street Journal. En juin dernier, l’individu avait engagé des échanges avec l’intelligence artificielle simulant des actes de violence armée, activant les protocoles d’alerte du système. Plusieurs employés d’OpenAI, préoccupés par la nature de ces échanges, ont alors recommandé à la direction de contacter les forces de l’ordre, craignant qu’ils ne soient le signe avant-coureur d’actes réels.
Cependant, la direction d’OpenAI a pris une décision contraire. Selon le Wall Street Journal, elle a jugé que les messages de Rootselaar ne constituaient pas un « risque crédible et immédiat de préjudice physique grave pour autrui ». Le compte de l’utilisateur a été suspendu, mais aucune autre mesure n’a été prise. Interrogée, OpenAI n’a pas encore précisé qui a pris cette décision et sur quelles bases.
Cette décision apparaît aujourd’hui comme une erreur tragique. Le 10 février, Jesse Van Rootselaar a ouvert le feu à l’école secondaire de Tumbler Ridge, en Colombie-Britannique, tuant neuf personnes et en blessant 27 autres. L’auteur de la fusillade, également blessé, a été retrouvé mort sur les lieux, apparemment d’une blessure par balle auto-infligée. Il s’agit de la fusillade la plus meurtrière au Canada depuis 2020.