Est-ce que je veux un assistant intelligent qui m’écoute tout le temps ?

Le marché des appareils intelligents explose.¹ Les kits de maison intelligente pour la rénovation de “maisons non intelligentes” sont devenus moins chers.² Au début de 2018, Apple a sorti le haut-parleur HomePod, la réponse de l’entreprise aux dispositifs intelligents dominants de Google Home et Amazon Echo.³ Amazon, aussi, élargit sa gamme. Récemment, il a lancé l’Amazon Echo Look, promettant de rendre les utilisateurs plus performants.⁴

Tous ces appareils intelligents sont équipés d’un assistant virtuel artificiellement intelligent, qui permet aux utilisateurs d’interagir avec leurs appareils en mode mains libres. Ces dispositifs, qui promettent de vous faciliter la vie, ont un autre point commun. Ils ont souvent des microphones, actifs tout le temps, pour écouter vos demandes.⁵

En tant que spécialiste de la rhétorique et de la technologie, j’étudie comment les gens comprennent les nouvelles innovations technologiques. Ma recherche souligne plusieurs raisons pour lesquelles les gens pourraient trouver de l’intérêt, mais également de l’inquiétude pour ces appareils intelligents équipés d’un microphone constamment actif.⁶

Le confort avant tout

En premier lieu, les appareils intelligents offrent un confort exceptionnel à un coût sans précédent. Amazon, Apple, Microsoft et Google présentent tous leurs produits comme des moyens d’augmenter l’efficacité des utilisateurs en externalisant des tâches. Ce n’est pas nouveau. Les gens les plus riches ont longtemps compté sur le travail des autres pour gérer leurs ménages et leurs lieux de travail. Les technologies de la maison intelligente promettent des effets similaires. Ils peuvent automatiser les corvées, y compris passer l’aspirateur, faire l’épicerie et même cuisiner.^7 8

L’intelligence artificielle, les algorithmes et l’automatisation exécutent désormais des tâches pour ceux qui peuvent se payer des appareils intelligents. En conséquence, des personnes plus nombreuses et différentes peuvent tirer parti d’un assistant numérique plutôt que d’utiliser ou de se payer un assistant humain.

Une autonomie croissante

Par exemple, les technologies mains libres peuvent accroître l’autonomie des personnes âgées et des personnes handicapées. Les chercheurs étudient comment les dispositifs intelligents peuvent soutenir la conception universelle, une manière de rendre les espaces et les activités accessibles et pratiques pour les personnes de toutes capacités.⁹ Les systèmes de maison intelligente peuvent aider les personnes ayant des déficiences physiques ou cognitives en automatisant des activités et des services cruciaux tels que l’ouverture et la fermeture de portes ou en contactant des professionnels de la santé.

De tels systèmes peuvent offrir aux personnes une plus grande autonomie dans leurs maisons. Par exemple, à Boulder au Colorado, Imagine! Smart Homes sont équipées de systèmes intelligents pour que les personnes ayant une déficience cognitive puissent rester dans des milieux plus indépendants et naturels.¹⁰ Les entrevues avec les utilisateurs âgés suggèrent que les technologies qui surveillent la santé et les mouvements de la personne peuvent aider les personnes âgées.^11 12

Une surveillance omniprésente et des problèmes de sécurité

Alors que les technologies de la maison intelligente peuvent offrir des sensations de confort et de sécurité à certains utilisateurs, il existe également des risques de sécurité associés à un microphone toujours actif. Les systèmes domestiques intelligents font partie d’une suite plus vaste d’appareils, d’applications, de sites Web et d’espaces qui recueillent, regroupent et analysent des données personnelles sur les utilisateurs. Les spécialistes la surnomment comme la surveillance omniprésente, ce qui signifie qu’il devient de plus en plus difficile d’échapper à la collecte, au stockage et au tri des données.¹³

Les appareils intelligents ont besoin de données, les vôtres et celle des autres, pour bien vous servir. Pour obtenir tous les avantages des systèmes de maison intelligente, les utilisateurs doivent partager leurs emplacements, leurs routines, leurs goûts musicaux, l’historique de leurs achats et ainsi de suite. D’une part, un appareil bien connecté peut très bien gérer votre vie numérique.

D’un autre côté, le fait de fournir autant d’informations personnelles profite à des entreprises comme Amazon.¹⁴ À mesure qu’ils accèdent aux informations personnelles des utilisateurs, ils peuvent les monétiser sous forme de publicités ciblées ou collecter et vendre vos données personnelles même si elles sont séparées de votre nom ou de votre adresse.^15 16 Le magazine Wired a clamé : Le prochain grand projet d’Amazon est de vous vendre.¹⁷ Toutes les entreprises n’ont pas les mêmes politiques de confidentialité. Apple a déclaré qu’il ne vendra pas les informations personnelles de ses utilisateurs à d’autres. Pourtant, les utilisateurs potentiels devraient décider la part de leur vie intime qu’ils sont prêts à partager.

Une écoute des conversations intimes

Les maisons intelligentes ont des problèmes de sécurité plus généraux. Les appareils non sécurisés connectés à l’Internet des objets peuvent être des cibles pour les pirates informatiques. L’accès à des appareils intelligents pourrait fournir aux pirates une source de données utiles, y compris des informations sur le moment où les utilisateurs sont chez eux ou non.¹⁸ De plus, des objets intelligents peuvent être déployés subrepticement à des fins malveillantes. En 2016, le botnet Mirai a ciblé les appareils IoT des utilisateurs sans méfiance pour les utiliser lors d’une attaque par déni de service distribuée.¹⁹

Il y a un autre risque, peut-être moins apparent : Les appareils, avec des microphones toujours actifs, ne peuvent pas toujours identifier la personne qui parle. Récemment, les utilisateurs d’Alexa ont rapporté que leurs enfants ont commandé des articles non désirés d’Amazon.²⁰ D’autres ont noté que les sons de fond, comme la télévision, ont provoqué des achats non autorisés.²¹ Ces déclencheurs vocaux, appelés faux positifs lorsqu’ils incitent les dispositifs à faire quelque chose d’inattendu ou d’indésirable, ont conduit les utilisateurs à partager, sans le savoir, des conversations privées avec d’autres.²²

Au début de 2018, les utilisateurs d’Amazon Echo ont été contraints de faire face à ces risques de sécurité quand Alexa a commencé à rire de façon inattendue. Bien qu’Amazon ait déclaré plus tard que le rire était une réponse fausse et positive malheureuse à des conversations à proximité, le rire a incité certains utilisateurs à reconsidérer le fait de laisser Alexa entrer dans leurs espaces les plus intimes.

Des objets qui imitent des personnes

Mis à part les problèmes potentiels de surveillance et de sécurité, les utilisateurs doivent tenir compte des conséquences des assistants virtuels de type humain dans les appareils intelligents. Ce n’est pas une coïncidence si Siri, Alexa, Cortana et maintenant Erica, l’assistante numérique de Bank of America, sont féminines et cela ne concerne pas uniquement leur voix.²³ Historiquement, les femmes étaient affectées à des tâches liées à leur rôle de mère ou d’épouse. Quand les femmes ont rejoint le marché du travail, elles ont continué à jouer ces rôles dans des emplois de cols roses.²⁴

Siri et Alexa effectuent des tâches similaires, en prenant soin des utilisateurs tout en offrant un soutien administratif.²⁵ Certains considèrent même Alexa comme un co-parent.²⁶ Ma recherche montre que les assistants virtuels de genre invitent les utilisateurs à interagir avec des appareils intelligents, car ils sont familiers et confortables.⁶ Certains utilisateurs peuvent être disposés à partager des détails plus intimes sur eux-mêmes malgré les risques de sécurité ou de surveillance. En fin de compte, les utilisateurs peuvent devenir dépendants des périphériques, ce qui responsabilise ceux qui possèdent les données collectées à partir de périphériques toujours actifs dans la maison.²⁷

Les utilisateurs d’appareils intelligents doivent peser les avantages importants d’un appareil doté d’un microphone permanent par rapport aux problèmes potentiels. Certaines de ces préoccupations, sécurité et surveillance, sont pragmatiques. D’autres, à savoir si les appareils devraient avoir un genre, sont plus philosophiques. La ligne de fond est la suivante : Quand les gens demandent aux appareils d’agir pour eux, ils doivent être prêts à vivre avec ce qui est de l’autre côté.

Traduction d’un article de The Conversation par Heather Woods, professeure adjointe de rhétorique et de technologie à la Kansas State University.

---

Mes livres

Le Basilic de Roko	Mon parcours de rédacteur web	Science corrompue et servile	Nous, Tueurs en série