L’influence de l’IA sur la confiance dans l’interaction humaine —

Dans un scénario, un escroc potentiel, croyant appeler un homme âgé, est plutôt connecté à un système informatique qui communique via des boucles préenregistrées. L’escroc passe un temps considérable à tenter la fraude, écoutant patiemment les histoires quelque peu déroutantes et répétitives de “l’homme”. Oskar Lindwall, professeur de communication à l’Université de Göteborg, observe qu’il faut souvent beaucoup de temps pour que les gens réalisent qu’ils interagissent avec un système technique.

Il a, en collaboration avec le professeur d’informatique Jonas Ivarsson, écrit un article intitulé Esprits suspects : le problème de la confiance et des agents conversationnels, explorant comment les individus interprètent et se rapportent à des situations où l’une des parties pourrait être un agent d’IA. L’article met en évidence les conséquences négatives de la suspicion envers les autres, telles que les dommages qu’elle peut causer aux relations.

Ivarsson fournit un exemple de relation amoureuse où des problèmes de confiance surviennent, conduisant à la jalousie et à une tendance accrue à rechercher des preuves de tromperie. Les auteurs soutiennent que l’incapacité de faire entièrement confiance aux intentions et à l’identité d’un partenaire de conversation peut entraîner une suspicion excessive même lorsqu’il n’y a aucune raison à cela.

Leur étude a découvert que lors d’interactions entre deux humains, certains comportements étaient interprétés comme des signes que l’un d’eux était en fait un robot.

Les chercheurs suggèrent qu’une perspective de conception omniprésente est à l’origine du développement de l’IA avec des fonctionnalités de plus en plus humaines. Bien que cela puisse être attrayant dans certains contextes, cela peut également être problématique, en particulier lorsque vous ne savez pas avec qui vous communiquez. Ivarsson se demande si l’IA devrait avoir de telles voix humaines, car elles créent un sentiment d’intimité et amènent les gens à former des impressions basées uniquement sur la voix.

Dans le cas du fraudeur potentiel appelant “l’homme plus âgé”, l’arnaque n’est révélée qu’après un long moment, ce que Lindwall et Ivarsson attribuent à la crédibilité de la voix humaine et à l’hypothèse que le comportement confus est dû à l’âge. Une fois qu’une IA a une voix, nous déduisons des attributs tels que le sexe, l’âge et le milieu socio-économique, ce qui rend plus difficile l’identification que nous interagissons avec un ordinateur.

Les chercheurs proposent de créer une IA avec des voix fonctionnelles et éloquentes qui sont encore clairement synthétiques, augmentant la transparence.

La communication avec les autres implique non seulement la tromperie, mais aussi l’établissement de relations et la recherche conjointe de sens. L’incertitude quant à savoir si l’on parle à un humain ou à un ordinateur affecte cet aspect de la communication. Bien que cela puisse ne pas avoir d’importance dans certaines situations, comme la thérapie cognitivo-comportementale, d’autres formes de thérapie qui nécessitent plus de connexion humaine peuvent être affectées négativement.

Jonas Ivarsson et Oskar Lindwall ont analysé les données mises à disposition sur YouTube. Ils ont étudié trois types de conversations et de réactions et commentaires du public. Dans le premier type, un robot appelle une personne pour prendre rendez-vous chez le coiffeur, à l’insu de la personne à l’autre bout. Dans le second type, une personne appelle une autre personne dans le même but. Dans le troisième type, les télévendeurs sont transférés vers un système informatique avec un discours préenregistré.