L’intelligence artificielle, la phrénologie et la reconnaissance des criminels

Un papier sur arXiv prétend qu’un algorithme peut détecter des criminels selon les caractéristiques faciales. Oui, ils ont utilisé la phrénologie qui est une pseudoscience dans une intelligence artificielle.


Un papier sur arXiv prétend qu'un algorithme peut détecter des criminels selon les caractéristiques faciales. Oui, ils ont utilisé la phrénologie qui est une pseudoscience dans une intelligence artificielle.

Xiaolin Wu et Xi Zhang de la Shanghai Jiao Tong University ont publié un papier sur un algorithme qui peut détecter des criminels selon leurs caractéristiques faciales.1 Leur taille d’échantillon est de 1856 personnes dont la moitié étaient des criminels. Ils ont utilisé cet échantillon pour créer des classifications selon des caractéristiques faciales par rapport aux criminels. Les chercheurs nous disent que les 4 classificateurs (régression logistique, KNN, SVM, CNN) ont été performants pour prouver la validité de la reconnaissance des criminels selon les caractéristiques des visages en dépit d’une controverse historique entourant le sujet. La dernière partie de la phrase est délicieuse, car oui, il y a déjà eu des tentatives pour détecter des caractéristiques criminelles selon des critères purement physiques et on la connait comme la qui est considérée comme une depuis plusieurs décennies.2

La phrénologie est du même niveau que le darwinisme social dans la mesure où il tente de créer des catégories d’individus sur des bases purement arbitraires et non scientifiques. Et en fait, la phrénologie a été utilisée au Rwanda pendant l’occupation belge. En 2009, le Pacific Standard estime que dans les années 1920 et 1920, les Belges, occupants coloniaux, avaient créé un programme national pour identifier l’ethnie des individus selon la phrénologie.3 La phrénologie aurait permis de créer une échelle ethnique sur des caractéristiques physiques telles que la hauteur, la largeur et la dimension du nez, etc. L’objectif était de pouvoir identifier chaque personne sans avoir besoin de carte d’identité.

Et on connait l’impact sanglant de cet héritage colonial en 1994. Et aujourd’hui, vous avez des chercheurs qui utilisent le prétexte de l’ pour proposer la même méthode. Selon eux, voici des visages de criminels et d’innocents :

Un papier sur arXiv prétend qu'un algorithme peut détecter des criminels selon les caractéristiques faciales. Oui, ils ont utilisé la phrénologie qui est une pseudoscience dans une intelligence artificielle

En haut, des visages de « criminels » et en haut, des visages « d’innocents ».

Et pour justifier cette débilité monstrueuse, les chercheurs nous disent qu’une machine n’est pas raciste. Que l’algorithme n’est pas confronté aux mêmes biais que les humains :

Contrairement à un juge humain, un algorithme n’a aucun biais subjectif, il n’a pas d’émotions et il n’a pas de biais sur la race, la religion ou la doctrine politique. Il n’a pas de fatigue mentale. Cette reconnaissance automatique supprime la variable de la méta-précision (c’est le nom qu’ils donnent aux jugements humains). En plus de l’avantage de l’objectivité, le peut détecter des nuances très subtiles dans les caractéristiques faciales.

Et l’algorithme ? Qui va le créer ? Un Dieu informatique ? Ce sont des humains qui développent cet algorithme et les classifications de départ se basent sur la phrénologie. Donc, c’est foutu d’avance. Mais on peut juste imaginer les dégâts que cela peut provoquer si on décidait de lancer cet algorithme sur la population. On pourrait croire que la communauté scientifique va jeter rapidement ce papier à la poubelle, mais ce n’est pas la question. Ces chercheurs proviennent d’une université chinoise et cela sous-entend que leur hiérarchie ou leurs collègues ont sans doute lu ce papier et ils ont été d’accord. Quand vous avez un gouvernement qui veut contrôler sa population par tous les moyens, alors il va utiliser des méthodes pseudoscientifiques enrobées par la technologie juste parce que cela sert ses intérêts. On sait que la Chine a lancé un programme de Crédit Score où chaque citoyen est évalué, récompensé et sanctionné selon sa loyauté envers le gouvernement et sa délation des opposants.

Sources

1.
Xiaolin W, Xi Z. Automated Inference on Criminality using Face Images. arXiv. https://arxiv.org/abs/1611.04135. Published 13 novembre 2016. Consulté le novembre 20, 2016.
2.
Phrénologie . Dictionnaire Sceptique. http://www.sceptiques.qc.ca/dictionnaire/phren.html. Consulté le novembre 20, 2016.
3.
Standard P. What Really Happened in Rwanda? Pacific Standard. https://psmag.com/what-really-happened-in-rwanda-72814bc7aca7#.6rbuvzjmi. Published 7 octobre 2009. Consulté le novembre 20, 2016.
N'oubliez pas de voter pour cet article !
1 étoile2 étoiles3 étoiles4 étoiles5 étoiles (No Ratings Yet)
Loading...
mm

Jacqueline Charpentier

Ayant fait une formation en chimie, il est normal que je me sois retrouvée dans une entreprise d'emballage. Désormais, je publie sur des médias, des blogs et des magazines pour vulgariser l'actualité scientifique et celle de la santé.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *