Reconnaissance faciale - Detroit taux d'erreur de 96 %

La police de Detroit croule sous les critiques pour une arrestation par erreur en usant de cette technologie

La police de Detroit a utilisé une technologie de reconnaissance faciale très peu fiable, selon les propres statistiques du département de police de Detroit. L'utilisation de cette technologie a attiré l'attention nationale la semaine dernière après que l'union américaine des libertés civiles (UCLA) et le New York Times aient mis en lumière le cas de Robert Julian-Borchak Williams, un homme qui a été arrêté à tort à cause de cette technologie.

Lors d'une réunion publique la semaine dernière, le chef de la police de Detroit, James Craig, a admis que la technologie, développée par une société appelée DataWorks Plus, ne permettait presque jamais de retrouver une correspondance directe et identifiait presque toujours mal les personnes. « Si nous utilisions le logiciel uniquement pour identifier les sujets, nous ne pourrions pas résoudre les affaires dans 95 à 97 % des cas. Si nous utilisions la technologie seule, pour identifier quelqu'un, je dirais que dans 96 % des cas, il y aurait une erreur d'identification », a-t-il déclaré.

Todd Pastorini, directeur général de DataWorks Plus, a déclaré que l’entreprise ne tient pas de statistiques sur la précision du logiciel dans le monde réel, et qu'elle ne donne pas d'instructions spécifiques aux forces de l'ordre sur la manière d'utiliser le logiciel. « Il n'y a pas de statistiques pour cela. La question est la qualité des sondes utilisées. Je suis très réticent par rapport au dernier article du New York Times qui a été mal cité ou légèrement déformé en fonction du contexte utilisé. Vous savez peut-être comment fonctionne une pelle : vous la plantez dans le sol pour ramasser de la terre et vous l'utilisez peut-être comme une arme. La reconnaissance faciale a été utilisée comme une arme par les médias dans une certaine mesure. Je comprends le commentaire du chef de la police, mais malheureusement, beaucoup de gens ne le comprennent pas ». Pastorini a comparé le logiciel de DataWorks Plus à des systèmes automatisés d'identification d'empreintes digitales, où des dizaines ou des centaines de correspondances potentielles sont renvoyées.

Le résultat est que les policiers prennent finalement la décision d'interroger et d'enquêter sur les gens en se basant sur le retour du logiciel et sur le jugement d'un inspecteur. Cela signifie que des personnes qui n'ont peut-être rien à voir avec un crime sont finalement interrogées et font l'objet d'une enquête par la police. À Detroit, cela signifie, presque exclusivement, des personnes noires.

Des recherches ont montré que la précision des logiciels de reconnaissance faciale varie en fonction de la race du sujet, les suspects noirs étant moins souvent identifiés que les blancs. Les propres statistiques du département de la police de Detroit montrent que la technologie est utilisée presque exclusivement sur des suspects noirs.
Selon les données de la police, 68 des 70 recherches de reconnaissance faciale ont été effectuées sur des suspects noirs, tandis que deux d'entre eux avaient un code racial "U" - probablement l'abréviation de " unknown ". Ces photos ont été tirées en grande partie des médias sociaux (31 cas sur 70) ou d'une caméra de sécurité (18 cas sur 70).

Plusieurs villes ont interdit à la police d'utiliser un logiciel de reconnaissance faciale, qui présente des problèmes bien connus et de nombreux faux positifs également. Detroit, cependant, a un débat très public en 2019 sur l'utilisation de la reconnaissance faciale, et a plutôt décidé de réglementer son utilisation plutôt que de l'interdire complètement. À la fin de l'année dernière, la ville a adopté une politique qui interdit l'utilisation de la reconnaissance faciale pour surveiller la population à l'aide d'une caméra ou d'un appareil vidéo, interdit son utilisation sur les vidéos en direct et enregistrées, et restreint, mais n'interdit pas son utilisation lors des manifestations. Selon cette politique, le logiciel doit être utilisé uniquement sur une image fixe d'un individu et ne peut être utilisé que dans le cadre d'une enquête criminelle en cours. Le logiciel vérifie les images dans une base de données de photos de l'État, qui comprend des images de photos d'identité judiciaire. Dans le cadre de cette réglementation, le service de police est tenu de publier des rapports hebdomadaires sur l'utilisation de cette technologie.

Julian-Borchak Williams a été arrêté avant que la réglementation n'entre en vigueur. Craig a déclaré lors de la réunion que les données transmises par le système de reconnaissance faciale de DataWorks étaient « une vidéo de qualité horrible. Elle était granuleuse... Elle n'aurait jamais pu être diffusée dans le cadre de la nouvelle politique... Si nous ne pouvons pas obtenir une bonne image, nous ne la transmettrons pas aux inspecteurs ».

Craig et son collègue, le capitaine Ariq Tosqui, ont déclaré qu'ils veulent continuer à utiliser la reconnaissance faciale parce qu'ils disent qu'elle peut être un outil pour aider les enquêteurs même si elle ne conduit pas souvent à une arrestation. Mais même lorsqu'une personne n'est pas arrêtée à tort, son identification erronée par reconnaissance faciale peut souvent conduire un enquêteur à l'interroger, ce qui est au mieux un inconvénient et au pire une situation potentiellement mortelle. Selon Tosqui, cette technologie a été utilisée dans 185 affaires au total au fil des ans. Dans la majorité des cas, l'inspecteur a déclaré que le logiciel n'était pas utile.

L'ACLU a demandé au département de police de Detroit et à d'autres services de police de cesser d'utiliser la technologie de reconnaissance faciale pour les enquêtes, compte tenu de son taux d'erreur élevé et de son impact sur la disparité raciale. Ces derniers mois, un nouveau mouvement a été lancé par les membres du conseil municipal de Detroit pour interdire l'utilisation de cette technologie. Le conseil municipal de Boston a voté la semaine dernière l'interdiction de l'utilisation de la technologie de reconnaissance faciale.

Sources : https://intelligence-artificielle.developpez.com, Rapport DPD, Rapport de recherche Face Recognition Vendor Test, Rapport de réunion conseil municipal de Detroit