Conséquences sociales de l’utilisation de l’IA dans les conversations

L’étude, publiée dans Rapports scientifiquesont examiné l’impact de l’utilisation de l’IA dans les conversations sur la façon dont les gens s’expriment et se voient.

“Les entreprises technologiques ont tendance à mettre l’accent sur l’utilité des outils d’IA pour accomplir des tâches plus rapidement et mieux, mais elles ignorent la dimension sociale”, a déclaré Malte Jung, professeur agrégé de sciences de l’information. “Nous ne vivons pas et ne travaillons pas isolés, et les systèmes que nous utilisons ont un impact sur nos interactions avec les autres.”

Cependant, en plus d’une efficacité et d’une positivité accrues, le groupe a constaté que lorsque les participants pensent que leur partenaire utilise davantage de réponses suggérées par l’IA, ils perçoivent ce partenaire comme moins coopératif et se sentent moins affiliés à eux.

“J’ai été surpris de constater que les gens ont tendance à vous évaluer plus négativement simplement parce qu’ils soupçonnent que vous utilisez l’IA pour vous aider à composer du texte, que vous le soyez ou non”, a déclaré Jess Hohenstein, auteur principal et chercheur postdoctoral. “Cela illustre la suspicion globale persistante que les gens semblent avoir autour de l’IA.”

Pour leur première expérience, les chercheurs ont développé une plate-forme de réponse intelligente que le groupe a appelée « Moshi » (en japonais pour « bonjour »), sur le modèle de l’ancien Google « Allo » (en français pour « bonjour »), la première plate-forme de réponse intelligente , dévoilé en 2016. Des réponses intelligentes sont générées à partir de LLM (grands modèles de langage) pour prédire les prochaines réponses plausibles dans les interactions basées sur le chat.

Les participants ont été invités à parler d’un problème politique et assignés à l’une des trois conditions suivantes : les deux participants peuvent utiliser des réponses intelligentes ; un seul participant peut utiliser les réponses intelligentes ; ou aucun des participants ne peut utiliser les réponses intelligentes.

Les chercheurs ont découvert que l’utilisation de réponses intelligentes augmentait l’efficacité de la communication, un langage émotionnel positif et des évaluations positives par les partenaires de communication. En moyenne, les réponses intelligentes représentaient 14,3 % des messages envoyés (1 sur 7).

Mais les participants que leurs partenaires soupçonnaient de répondre avec des réponses intelligentes ont été évalués plus négativement que ceux dont on pensait qu’ils avaient tapé leurs propres réponses, conformément aux hypothèses courantes sur les implications négatives de l’IA.

“Bien que l’IA puisse vous aider à écrire”, a déclaré Hohenstein, “elle modifie votre langage d’une manière à laquelle vous ne vous attendriez pas, en particulier en vous faisant paraître plus positif. Cela suggère qu’en utilisant l’IA génératrice de texte, vous sacrifiez certains de votre voix personnelle.”

Dit Jung : “Ce que nous observons dans cette étude, c’est l’impact de l’IA sur la dynamique sociale et certaines des conséquences imprévues qui pourraient résulter de l’intégration de l’IA dans des contextes sociaux. Cela suggère que quiconque contrôle l’algorithme peut avoir une influence sur les gens. les interactions, le langage et les perceptions les uns des autres.”

Ce travail a été soutenu par la National Science Foundation.