Le sombre passé des algorithmes associant apparence et criminalité
Français
Il y a quelques années, un papier sur un algorithme, prétendant détecter des criminels sur des caractéristiques faciales, a jeté le feu au poudre et ramené la phrénologie des limbes de la pseudoscience. Mais il faut expliquer pourquoi cette pseudoscience ne devrait jamais plus réétudiée plutôt que de la bannir directement.
Suivez-nous sur notre page Facebook et notre canal Telegram
La phrénologie nous semble un reste perdu dans le temps. On dirait qu’elle appartient à un livre d’histoire, classé quelque part entre la saignée et les vélocipèdes. Nous aimerions penser que juger la valeur des gens en fonction de la taille et de la forme de leur crâne est une pratique qui est bien derrière nous. Cependant, la phrénologie remonte une fois de plus sa tête grumeleuse.
Sommaire
- 1 Machine Learning et phrénologie
- 2 Francis Galton, eugénisme et phrénologie
- 3 Des critiques anciennes et nouvelles sur la phrénologie
- 4 Des données très biaisées
- 5 La criminalité comme une caractéristique innée
- 6 Rien ne justifie un nouvel attrait pour la phrénologie, même pour la “curiosité scientifique”,
Machine Learning et phrénologie
Ces dernières années, les algorithmes d’apprentissage automatique ont promis aux gouvernements et aux entreprises privées le pouvoir de glaner toutes sortes d’informations sur l’apparence des gens. Plusieurs startups affirment désormais pouvoir utiliser l’intelligence artificielle (IA) pour aider les employeurs à détecter les traits de personnalité des candidats à un emploi en fonction de leurs expressions faciales.
En Chine, le gouvernement a ouvert la voie à l’utilisation de caméras de surveillance qui identifient et suivent les minorités ethniques. Pendant ce temps, des rapports ont fait état d’écoles installant des systèmes de caméras qui sanctionnent automatiquement les enfants pour ne pas faire attention, sur la base des mouvements du visage et des micro-expressions telles que les contractions des sourcils.
Il est peut-être plus notoire, il y a quelques années, que les chercheurs en IA, Xiaolin Wu et Xi Zhang, ont affirmé avoir formé un algorithme pour identifier les criminels en fonction de la forme de leur visage, avec une précision de 89,5 %. Ils ne sont pas allés jusqu’à approuver certaines des idées sur la physionomie et le caractère qui ont circulé au 19e siècle, notamment à partir des travaux du criminologue italien Cesare Lombroso: que les criminels sont des bêtes sous-humaines sous-développées, non évoluées, reconnaissables à leurs fronts inclinés et nez de faucon.
Francis Galton, eugénisme et phrénologie
Cependant, la tentative apparemment de haute technologie de la récente étude de sélectionner les traits du visage associés à la criminalité emprunte directement à la “méthode composite photographique” développée par le victorien Francis Galton, considéré comme un touche-à-tout (imaginez une version ancienne de Laurent Alexandre…), qui impliquait de superposer les visages de plusieurs personnes dans une certaine catégorie pour trouver les caractéristiques indicatives de qualités comme la santé, la maladie, la beauté et la criminalité.
Les commentateurs technologiques ont qualifié ces technologies de reconnaissance faciale de “phrénologie littérale”; ils l’ont également lié à l’eugénisme qui est la pseudoscience d’améliorer la race humaine en encourageant les personnes jugées les plus aptes à se reproduire. (Galton lui-même a inventé le terme “eugénisme”, le décrivant en 1883 comme “toutes les influences qui tendent, à différents degrés, à donner aux races ou lignées les plus appropriées une meilleure chance de l’emporter rapidement sur les races et lignées moins appropriées“.)
Dans certains cas, l’objectif explicite de ces technologies est de refuser des opportunités aux personnes jugées inaptes; dans d’autres, ce n’est peut-être pas l’objectif, mais c’est un résultat prévisible. Pourtant, lorsque nous rejetons les algorithmes en les étiquetant comme phrénologie, quel est exactement le problème que nous essayons de signaler ? Sommes-nous en train de dire que ces méthodes sont scientifiquement erronées et qu’elles ne fonctionnent pas vraiment, ou disons-nous qu’il est moralement mal de les utiliser malgré tout ?
Des critiques anciennes et nouvelles sur la phrénologie
Il y a une longue histoire enchevêtrée dans la façon dont la “phrénologie” a été utilisée comme une insulte flétrissante. Les critiques philosophiques et scientifiques de l’entreprise ont toujours été étroitement liées, bien que leur enchevêtrement ait changé au fil du temps. Au XIXe siècle, les détracteurs de la phrénologie se sont opposés au fait que la phrénologie a tenté de localiser les différentes fonctions mentales dans différentes parties du cerveau, un mouvement considéré comme hérétique, car il remettait en question les idées chrétiennes sur l’unité de l’âme.
De Wu and Zhang (2016)
Fait intéressant, cependant, essayer de découvrir le caractère et l’intellect d’une personne en fonction de la taille et de la forme de sa tête n’était pas perçu comme un grave problème moral. Aujourd’hui, en revanche, l’idée de localiser les fonctions mentales est assez peu controversée. Les scientifiques pourraient ne plus penser que la destructivité se situe au-dessus de l’oreille droite, mais la notion selon laquelle les fonctions cognitives peuvent être localisées dans des circuits cérébraux particuliers est une hypothèse standard dans les neurosciences traditionnelles.
La phrénologie a également eu sa part de critique empirique au XIXe siècle. Les débats faisaient rage sur les fonctions résidant où et sur la mesure fiable du crâne pour déterminer ce qui se passait dans le cerveau. La critique empirique la plus influente de la phrénologie ancienne, cependant, provenait des études du médecin français Jean Pierre Flourens basées sur l’endommagement du cerveau des lapins et des pigeons dont il a conclu que les fonctions mentales sont distribuées plutôt que localisées. (Ces résultats ont ensuite été discrédités). Le fait que la phrénologie a été rejetée pour des raisons que la plupart des observateurs contemporains n’accepteraient plus, rend plus difficile le fait de comprendre ce que nous visons lorsque nous utilisons la “phrénologie” comme une insulte aujourd’hui.
Des données très biaisées
La phrénologie “ancienne” et “nouvelle” a été critiquée pour ses méthodes bâclées. Dans la récente étude de l’IA sur la criminalité, les données proviennent de deux sources très différentes: des photos de condamnés et des photos de sites Web de travail pour des non-condamnés. Ce seul fait pourrait expliquer la capacité de l’algorithme à détecter une différence entre les groupes. Dans une nouvelle préface au papier, les chercheurs ont également admis que la condamnation des tribunaux comme synonyme de criminalité était une “grave négligence”.
Pourtant, assimiler les condamnations à la criminalité semble s’inscrire auprès des auteurs principalement comme une faille empirique: l’utilisation de photos de criminels condamnés, mais pas de ceux qui se sont enfuis, introduit un biais statistique. Ils ont dit qu’ils étaient “profondément déconcertés” par l’indignation du public en réaction à un document destiné “à de purs débats universitaires”.
Notamment, les chercheurs ne commentent pas le fait que la condamnation elle-même dépend des impressions que la police, les juges et les jurys forment du suspect, faisant de l’apparence “criminelle” d’une personne une variable confondante. Ils omettent également de mentionner comment l’intense action policière de certaines communautés et l’inégalité d’accès à la représentation juridique faussent l’ensemble de données. Dans leur réponse aux critiques, les auteurs ne reculent pas sur l’hypothèse selon laquelle “être un criminel nécessite une multitude de traits personnels anormaux (aberrants)“.
La criminalité comme une caractéristique innée
En effet, leur cadrage suggère que la criminalité est une caractéristique innée, plutôt qu’une réponse à des conditions sociales telles que la pauvreté ou la maltraitance. Une partie de ce qui rend leur ensemble de données discutable sur des bases empiriques est que celui qui est qualifié de “criminel” n’est guère neutre en termes de valeur.
L’une des objections morales les plus fortes à l’utilisation de la reconnaissance faciale pour détecter la criminalité est qu’elle stigmatise les personnes qui sont déjà trop surveillées. Les auteurs disent que leur outil ne devrait pas être utilisé dans l’application des lois, mais ne citent que des arguments statistiques sur les raisons pour lesquelles il ne devrait pas être déployé. Ils notent que le taux de faux positifs (50 %) serait très élevé, mais ne tiennent pas compte de ce que cela signifie en termes humains.
Ces faux positifs seraient des individus dont le visage ressemble à des personnes qui ont été condamnées dans le passé. Compte tenu des préjugés raciaux et autres qui existent dans le système de justice pénale, de tels algorithmes finiraient par surestimer la criminalité parmi les communautés marginalisées.
Rien ne justifie un nouvel attrait pour la phrénologie, même pour la “curiosité scientifique”,
La question la plus controversée semble être de savoir si réinventer la physionomie est un jeu équitable aux fins de la “pure discussion académique”. On pourrait objecter sur des bases empiriques: les eugénistes du passé tels que Galton et Lombroso n’ont finalement pas trouvé de traits faciaux prédisposant une personne à la criminalité. C’est parce qu’il n’y a pas de telles connexions à trouver. De même, les psychologues étudiant l’héritabilité de l’intelligence, tels que Cyril Burt et Philippe Rushton, ont dû tricher vite et avec leurs données pour établir des corrélations entre la taille du crâne, la race et le QI. S’il y avait quelque chose à découvrir, on peut supposer que les nombreuses personnes qui ont essayé au fil des ans auraient trouvé quelque chose.
Le problème de la réinvention de la physionomie n’est pas simplement qu’elle a été essayée sans succès auparavant. Les chercheurs qui persistent à rechercher la fusion à froid après que le consensus scientifique a évolué sont également critiqués pour avoir chassé les licornes, mais la désapprobation de la fusion à froid est loin de l’opprobre. Au pire, ils sont considérés comme une perte de temps. La différence est que les dommages potentiels de la recherche sur la fusion froide sont beaucoup plus limités.
En revanche, certains commentateurs soutiennent que la reconnaissance faciale devrait être réglementée aussi strictement que le plutonium, car il a si peu d’utilisations non nocives. Lorsque le projet sans issue que vous souhaitez ressusciter a été inventé dans le but de soutenir les structures coloniales et de classe et quand la seule chose qu’il est capable de mesurer est le racisme inhérent à ces structures, il est difficile de justifier de l’essayer une fois de plus, juste pour la curiosité.
Cependant, appeler la recherche sur la reconnaissance faciale “phrénologie” sans expliquer ce qui est en jeu n’est probablement pas la stratégie la plus efficace pour communiquer la force de la plainte. Pour que les scientifiques prennent leurs responsabilités morales au sérieux, ils doivent être conscients des dommages qui pourraient résulter de leurs recherches. Énoncer plus clairement ce qui ne va pas avec le travail intitulé “phrénologie” aura, espérons-le, plus d’impact que de simplement lancer le nom comme une insulte.
Traduction d’un article sur Aeon par Catherine Stinson, boursière postdoctoral en philosophie et éthique de l’intelligence artificielle au Center for Science and Thought de l’Université de Bonn en Allemagne et au Leverhulme Center for the Future of Intelligence de l’Université de Cambridge.
