Les gens suivront un robot en cas d'urgence même s'il a tort

Un étudiant se trouve avec un robot dans un petit bureau. Ils terminent une étude académique. Soudain, une alarme sonne et de la fumée apparait à l’extérieur de la pièce. L’étudiant doit faire rapidement un choix : S’échapper vers une direction qui est marquée clairement comme la sortie ou suivre le robot dans la direction opposée alors que ce chemin mène vers une porte obscure sans aucun signe.

C’était un choix qu’on a posé à 30 sujets dans une expérience récente à la Georgia Institute of Technology situé à Atlanta. Et les résultats ont surpris les chercheurs : Quasiment toutes les personnes ont suivi le robot même si ce dernier les éloignait de la vraie sortie. On était surpris selon Paul Robinette, l’étudiant diplômé qui a mené l’étude. On pensait qu’il n’y avait pas suffisamment de confiance et que nous devions prouver que le robot est digne de confiance. Et ces résultats illustrent une énigme que les spécialistes des robots tentent de résoudre. Si les gens ne font pas confiance aux robots, alors les robots ne les aideront pas à s’échapper de catastrophes naturelles ou à se diriger dans le monde réel. Mais on veut aussi éviter que les gens suivent les instructions d’un robot malveillant ou qui est buggé. La nature de la relation entre le robot et l’humain est insaisissable.

Dans l’étude sur l’urgence, l’équipe de Robinette a utilisé un Pioneer P3-AT modifié, un robot qui ressemble à une poubelle avec des roues et des bras pour montrer la direction. Chaque participant devait suivre le robot jusqu’à ce que ce dernier pointe vers la direction d’une chambre. Ensuite, les étudiants devaient noter la capacité de navigation du robot et lire un article de magazine. L’urgence a été simulée par de la fumée artificielle et un détecteur de première alerte. Parmi les participants, 26 sur 30 ont suivi le robot pendant l’urgence. Sur les 4 restants, 2 ont été écartés pour différentes raisons et 2 n’ont jamais quitté la pièce.

Une confiance mal placée ?

Les résultats suggèrent que si on dit aux gens que le robot est conçu pour une tâche précise, alors les personnes lui obéiront sans se poser de questions. Après l’étude, les personnes ont expliqué leur choix par le fait que le robot portait un signe qui indiquait qu’il était un robot spécialisé dans les urgences. Ces travaux seront présentés en mars au ACM/IEEE International Conference on Human-Robot Interaction à Christchurch en Nouvelle-Zélande.

Robinette compare cette relation à la manière dont les conducteurs obéissent à un appareil GPS dans leur voiture. Tant que le robot peut communiquer sur ses intentions, les gens le croiront dans la plupart des situations. Il est étonnant que tout le monde ait suivi le robot selon Holly, qui étudie l’interaction humaine-machine à l’université du Massachusetts Lowell. Elle se demande si l’urgence n’a pas changé la perception et la confiance des gens. Ils pensaient peut-être que le robot avait plus d’informations sur la situation en cours.

Mais jusqu’à quel point les gens font-ils confiance à un robot ? Dans une série d’expériences, Robinette et ses collègues ont utilisé des petits groupes de personnes pour la même expérience. Parfois, le robot s’arrêtait et il ne bougeait plus. Le chercheur arrivait et il s’excusait pour le problème technique. Mais même dans ce cas, les gens suivaient le robot. Dans un autre test, le robot pointait vers une chambre obscure, mais le chemin était obstrué. 2 des 6 participants ont tenté d’enlever les obstacles alors que la direction opposée était parfaitement dégagée.

Une confiance trop grande sur un robot est un grave problème selon Kerstin Dautenhahn de l’université de Hertfordshire. Tous les logiciels ont des erreurs. Et il est très important que les concepteurs des robots comprennent ces limitations pour que les gens comprennent que les robots ne sont pas parfaits.

---

Mes livres

Le Basilic de Roko	Mon parcours de rédacteur web	Science corrompue et servile	Nous, Tueurs en série