Publié le 12 février 2026 à 10h39. Un rapport accablant de l’Inspection de la Justice et de la Sécurité révèle de graves erreurs dans l’algorithme utilisé par les services de probation néerlandais pour évaluer le risque de récidive, mettant en péril la fiabilité des décisions judiciaires.
- L’algorithme présente des erreurs significatives dans près d’un quart des cas, sous-estimant souvent le risque de récidive.
- L’Inspection exige que les services de probation cessent d’utiliser ce système ou le modifient rapidement.
- Des données obsolètes et des biais potentiels, notamment liés à l’origine et au revenu, sont pointés du doigt.
L’algorithme, utilisé plus de 40 000 fois par an entre 2023 et 2024, est censé aider les services de probation à conseiller les juges sur les mesures à prendre. Selon l’Inspection, les employés accordent une importance excessive aux résultats de l’algorithme, sans en comprendre pleinement le fonctionnement.
Dans près d’un quart des cas, le calcul du risque de récidive est incorrect, soit trop élevé, soit trop faible. Le plus souvent, l’algorithme sous-estime le risque qu’une personne commette à nouveau un crime. Une évaluation des risques trop faible pourrait compromettre la sécurité publique, tandis qu’une surestimation pourrait avoir des conséquences négatives pour les individus concernés.
« Le service de probation conseille entre autres choses le juge, et il se pourrait donc que le juge ait pris de mauvaises décisions sur la base du service de probation »,
Arjen Schmidt, Inspection de la Justice et de la Sécurité
Jessica Westerik, des services néerlandais de probation, a déclaré que l’utilisation du système avait été « suspendue » et qualifié le rapport d’inspection de « conflictuel et précieux ». Elle a annoncé une étude prochaine pour déterminer comment le système pourrait être « réutilisé de manière responsable ».
Le rapport souligne également des problèmes liés à la qualité des données utilisées par l’algorithme. Des catégories de condamnés et de suspects ont été mal saisies, ce qui conduit à une évaluation erronée du risque pour certains profils. Le risque de récidive pour les usagers de drogues est également sous-estimé dans la formule.
De plus, des variables importantes, telles que l’origine ethnique ou les problèmes de santé mentale, ont été omises du système. Bien que l’Inspection reconnaisse qu’il peut y avoir des raisons légitimes de ne pas utiliser ce type de données sensibles, elle estime que le modèle n’est pas adapté à cette situation. Les données utilisées sont également souvent obsolètes, provenant d’études suédoises et américaines qui ne sont pas régulièrement mises à jour.
L’Inspection s’inquiète également du risque de discrimination inhérent au système. L’utilisation du code postal et du revenu comme facteurs d’évaluation pourrait indirectement discriminer certaines populations. Selon l’Institut néerlandais des droits de l’homme, une telle utilisation nécessite une justification claire et des mesures pour éviter toute discrimination.
« Nous ne voulons pas faire de discrimination et faire une distinction seulement si cela est manifestement important pour identifier les risques de comportement criminel »,
Jessica Westerik, services néerlandais de probation
Cette enquête sur les services de probation s’inscrit dans le cadre d’une étude plus large sur l’utilisation des algorithmes au sein de l’administration publique, lancée suite à des problèmes similaires rencontrés dans l’affaire des allocations familiales et chez DUO.