Non, Google Photos, les noirs ne sont pas des gorilles

Google Photos a marqué un Afro-américain comme un gorille. Efficacité de la reconnaissance faciale ? Quelle efficacité ?

On nous promet tellement de choses avec la reconnaissance faciale qu’on oublie parfois que ce sont de bêtes machines qui reflètent le talent de leurs programmeurs. Et Google n’échappe pas à la règle. Google Photos a été lancé en grande pompe et son principal argument de vente est qu’il peut marquer automatiquement les photos selon leur genre et leur catégorie. Par exemple, si vous publiez une photo de pizza, alors la photo sera marquée comme nourriture. Oui, mais, quelle est l’explication quand un Afro-Américain publie sa photo et qu’il est classé comme un gorille ?

Un homme afro-américain nommé Jacky Alciné avait publié ses images sur Google Photos et il avait découvert que le service l’avait marqué comme un gorille. Non seulement le marquage était automatique, mais l’algorithme avait crée une catégorie spéciale avec la mention gorille. Jacky Alciné a immédiatement publié la capture d’écran sur Twitter montrant cette merde et un développeur de Google s’est excusé de cette erreur en estimant que l’algorithme n’est pas parfait à 100 %. Le développeur de Google, Yonatan Zunger, a demandé un accès plus complet au compte d’Alciné et le problème a été corrigé. Mais quand un algorithme confond un humain avec un gorille, alors on se demande que ça va donner sur des sujets qui nécessitent une identification plus précise. Zunger a confirmé par la suite que l’étiquette Gorille a été supprimée de la base de données, mais qu’ils devraient améliorer l’algorithme pour éviter ce type d’erreur. Ce n’est pas la première fois que Google Photos se plante dans un mur. Dans le passé, le service marquait toutes les personnes comme des chiens.

---

Mes livres

Le Basilic de Roko	Mon parcours de rédacteur web	Science corrompue et servile	Nous, Tueurs en série