La police de Chicago abandonne son système de précrime

Après 8 ans de mauvais mais loyaux services, le système TRAP utilisé par la police de Chicago va prendre sa retraite. Il cherchait à réduire la criminalité en identifiant à l’avance les personnes les plus susceptibles de commettre des infractions.

200130022731379040.jpg

En 2002 sortait un film qui allait faire beaucoup parler de lui : Minority Report. Adaptation du roman du célèbre auteur de science-fiction Philip K. Dick, le film de Spielberg allait populariser auprès de toute une génération la notion de "précrime." Une méthode de maintien de l'ordre bien particulière qui consiste à arrêter un criminel avant que le crime ne soit commis.
   

10 ans plus tard en 2012, la police de Chicago adoptait un système qui se rapprochait dangereusement du futur dystopique imaginé par Philip K. Dick avant de l'abandonner il y a quelques jours comme l'explique BoingBoing. Le système appelé "TRAP" (pour Targeted Repeat-Offender Apprehension Program ou "programme ciblé d'appréhension des récidivistes" en bon français) assignait un "score de dangerosité" à tous les Chicagolais ou Chicagolaises qui avaient déjà eu des problèmes avec la police. L'idée était d'essayer de ficher les personnes les plus à même de commettre d'autres crimes après une première interpellation.

Article recommandé : La “vidéoprotection intelligente” à Marseille attaquée par deux associations

Petit problème, comme l'a souligné un rapport cinglant de l'inspecteur général de Chicago, ce système était truffé d'erreurs et ne réduisait en rien le nombre de crimes dans la ville. Le système encourageait le profilage racial puisqu'il se reposait sur des algorithmes biaisés comme la plupart des programmes de ce type. Même Google et IBM l'ont reconnu, les algorithmes reproduisent et amplifient les discriminations ayant lieu dans le monde réel.


Un cercle vicieux

Pire encore, même lorsque les tribunaux classaient l'affaire sans suite, le score TRAP augmentait quand même. Les biais policiers venaient donc nourrir un système qui ensuite s'acharnait sur les individus concernés puisqu’une interpellation avait plus de chance de se finir en arrestation lorsque le score de "dangerosité" était haut. Et comme une arrestation faisait augmenter le score, le cercle vicieux était lancé.


A lire également :
La Quadrature du Net s'attaque à la Technopolice, “outil ultime de surveillance de la population” Depuis presque dix ans, les grands centres urbains se métamorphosent avec l’aide des nouvelles technologies. Vidéosurveillance, reconnaissance faciale et big data sont autant d’outils qui témoignent d’une dérive
sécuritaire selon la Quadrature du Net.

Source :  lesnumeriques.