Reconnaissance faciale ou raciale ?

La police et le FBI utilisent régulièrement les logiciels de reconnaissance faciale. Mais ces logiciels intègrent un biais de race. Ce n’est pas fait exprès, mais c’est une conséquence de la manière dont ces programmes sont conçus et entrainés. Mais cela devient problématique, car les forces de l’ordre utilisent de plus en plus ces logiciels avec le risque de condamner des innocents.

Les agences ne fournissent pas de détails sur l’utilisation de la reconnaissance faciale, mais en juin 2016, le Government Accountability Office a publié un rapport qui suggère que le FBI n’a pas testé correctement son système de reconnaissance faciale. La reconnaissance faciale se base sur 2 aspects. La première est la reconnaissance à partir de photos de condamnés qui ont pris la pose. Dans ces conditions, la reconnaissance est précise à 95 %. Le problème est qu’on utilise cette reconnaissance faciale pour examiner des photos prises au hasard dans les endroits publics. La base de données fédérale possède des photos qui ont le même angle, la même luminosité et la même position de l’individu. Et si ces circonstances ne sont pas reproduites, alors la reconnaissance faciale peut mener à des erreurs.

De plus, la reconnaissance faciale est principalement un algorithme de machine learning. Le machine learning doit avoir des données pour créer un modèle de prédiction. Si des personnes d’une ethnie particulière sont sous-représentées dans ces algorithmes, alors le résultat sera toujours biaisé. En 2012, Anil Jain, responsable en biométrie à l’université du Michigan, a testé des logiciels de reconnaissance faciale du bureau du shérif de Pinellas County ainsi que de leur fournisseur. Les résultats montrent que la reconnaissance faciale (PDF) est systématiquement moins précise sur les noirs, les jeunes et les femmes. Le logiciel n’a pas eu suffisamment de données sur ces 3 groupes pour être performant.

Si l’entrainement de votre logiciel préfère une certaine race, alors il sera plus performant envers cette race et le logiciel négligera les autres selon Jain. De plus, les logiciels de reconnaissance faciale développés dans les pays occidentaux sont plus performants envers les Caucasiens et les programmes développés en Asie sont favorables aux Asiatiques. Ces études de comparaison datent de plusieurs années et on peut espérer que les logiciels commerciaux se sont améliorés. On a également la reconnaissance faciale développée par Google et Facebook et ils peuvent provoquer les mêmes biais raciaux si les données sont incorrectes. Et en fait, c’est déjà arrivé. Le service Photos de Google avait confondu des noirs avec des gorilles. Ce n’est même plus du biais de race, mais le logiciel s’est carrément trompé d’espèce !

Jonathon Phillips, un ingénieur électronique au National Institute of Standards and Technology, mène des tests de performance sur les logiciels commerciaux de reconnaissance faciale. Il a déclaré qu’il est possible de créer un test qui détermine si un logiciel a un biais racial. Et les experts en vie privée estiment que ce test doit être obligatoire. Le FBI et MorphoTrust n’ont pas répondu aux questions sur la fiabilité de leur logiciel. MorphoTrust est l’éditeur qui développe la reconnaissance faciale pour le FBI. Toutefois, Pete Langenfeld, responsable de l’identification numérique pour la police du Michigan, a déclaré que le département ne teste pas le biais racial. Et il ignore si l’éditeur, qui leur fournit le logiciel, teste ce biais et de toute façon, la police ne peut pas analyser le logiciel puisque le code est propriétaire.

---

Mes livres

Le Basilic de Roko	Mon parcours de rédacteur web	Science corrompue et servile	Nous, Tueurs en série