Une alerte fausse alerte déclenchée par un système d’intelligence artificielle dans un lycée du Maryland a mené à une intervention policière musclée sur un adolescent de 16 ans, dont le seul « délit » était de transporter un sac de chips vide. L’incident, survenu le 20 octobre 2025 au lycée Kenwood d’Essex, a semé la confusion et l’indignation parmi les élèves et les responsables.
Taki Allen, le lycéen impliqué, attendait son transport scolaire lorsqu’il a glissé dans sa poche un emballage vide de chips. Quelques instants plus tard, il s’est retrouvé encerclé par des policiers, sommé de se jeter au sol et menotté. Les images des caméras corporelles des agents ont révélé que le système de sécurité basé sur l’IA de l’école avait confondu le sac de chips avec une arme à feu, déclenchant ainsi une réponse armée.
« La police est arrivée, genre huit voitures de police, puis elles sont toutes sorties avec des armes braquées sur moi en me criant de me coucher », a témoigné Allen auprès de WMAR-2. « Je levais les mains en disant : ‘Qu’est-ce qui se passe ?’ »
L’intervention policière a conduit à l’arrestation de plusieurs étudiants présents sur les lieux. Après avoir passé en revue les images de surveillance, les forces de l’ordre ont retracé l’objet incriminé jusqu’à une poubelle, confirmant qu’il ne s’agissait que d’un simple sac de croustilles. « J’imagine que la façon dont tu mangeais tes chips… lui a servi d’arme », aurait dit l’un des policiers aux étudiants, ajoutant que « l’IA n’est pas la meilleure. »
Cet événement a soulevé de sérieuses questions quant à la responsabilité en cas d’erreur de ces systèmes automatisés. La surintendante des écoles publiques du comté de Baltimore (BCPS), Dr Myriam Rogers, a expliqué que l’alerte initiale avait été annulée par l’équipe de sécurité du district. Cependant, le directeur de l’école, n’ayant pas été informé de cette annulation, avait déjà contacté les agents de ressources scolaires, initiant ainsi la réponse policière.
« L’alerte a été annulée par l’équipe de sécurité du BCPS. Le directeur, qui n’a pas vu l’annulation, a contacté notre agent des ressources scolaires », a précisé un porte-parole du comté de Baltimore à Fox News Digital, se référant à une déclaration du BCPS.
Malgré cette confusion, la surintendante Rogers a soutenu que le système avait fonctionné comme prévu : « Le programme s’appuie sur une vérification humaine, et dans ce cas, le programme a fait ce qu’il était censé faire, c’est-à-dire signaler une alerte et demander à des humains d’y jeter un coup d’œil pour savoir s’il y avait des raisons de s’inquiéter à ce moment-là », a-t-elle déclaré à WMAR-2.
La société Omnilert, fournisseur du système, a confirmé que sa technologie combine l’intelligence artificielle avec une vérification humaine avant toute escalade. « Notre système a fonctionné comme prévu : identifier une menace potentielle, la soumettre à un examen humain et s’appuyer sur le personnel de sécurité autorisé pour la détermination finale », a indiqué l’entreprise à Fox News Digital. Elle a précisé que l’objet avait été confirmé comme n’étant pas une arme à feu et que l’alerte avait été résolue, ajoutant qu’Omnilert n’avait pas été impliqué dans les actions ou décisions ultérieures.
Taki Allen, encore sous le choc de cette expérience, a exprimé son sentiment d’insécurité. « Je ne pense pas qu’un sac de chips devrait être confondu avec une arme à feu », a-t-il confié à WMAR-2. « Je ne me sens plus en sécurité pour sortir, surtout pour manger un sac de chips ou boire quelque chose. Je reste à l’intérieur jusqu’à ce que mon transport arrive. »