Est-ce que je veux un assistant intelligent qui m’écoute tout le temps ?

Les assistants intelligents comme Alexa ou Siri ont le vent en poupe. Un confort optimal, mais on a également des risques de surveillance et de sécurité. Et des problèmes de genre avec ces appareils intelligents.


Les assistants intelligents comme Alexa ou Siri ont le vent en poupe. Un confort optimal, mais on a également des risques de surveillance et de sécurité. Et des problèmes de genre avec ces appareils intelligents.
Crédit : Daisy Daisy/Shutterstock.com

Le marché des appareils intelligents explose.1 Les kits de pour la rénovation de “maisons non intelligentes” sont devenus moins chers.2 Au début de 2018, Apple a sorti le haut-parleur HomePod, la réponse de l’entreprise aux dispositifs intelligents dominants de et .3 Amazon, aussi, élargit sa gamme. Récemment, il a lancé l’Amazon Echo Look, promettant de rendre les utilisateurs plus performants.4

Tous ces appareils intelligents sont équipés d’un assistant virtuel artificiellement intelligent, qui permet aux utilisateurs d’interagir avec leurs appareils en mode mains libres. Ces dispositifs, qui promettent de vous faciliter la vie, ont un autre point commun. Ils ont souvent des microphones, actifs tout le temps, pour écouter vos demandes.5

En tant que spécialiste de la rhétorique et de la , j’étudie comment les gens comprennent les nouvelles innovations technologiques. Ma recherche souligne plusieurs raisons pour lesquelles les gens pourraient trouver de l’intérêt, mais également de l’inquiétude pour ces appareils intelligents équipés d’un microphone constamment actif.6

Le confort avant tout

En premier lieu, les appareils intelligents offrent un confort exceptionnel à un coût sans précédent. Amazon, Apple, Microsoft et Google présentent tous leurs produits comme des moyens d’augmenter l’efficacité des utilisateurs en externalisant des tâches. Ce n’est pas nouveau. Les gens les plus riches ont longtemps compté sur le travail des autres pour gérer leurs ménages et leurs lieux de travail. Les technologies de la maison intelligente promettent des effets similaires. Ils peuvent automatiser les corvées, y compris passer l’aspirateur, faire l’épicerie et même cuisiner.7 8

L’, les algorithmes et l’automatisation exécutent désormais des tâches pour ceux qui peuvent se payer des appareils intelligents. En conséquence, des personnes plus nombreuses et différentes peuvent tirer parti d’un assistant numérique plutôt que d’utiliser ou de se payer un assistant humain.

Une autonomie croissante

Par exemple, les technologies mains libres peuvent accroître l’autonomie des personnes âgées et des personnes handicapées. Les chercheurs étudient comment les dispositifs intelligents peuvent soutenir la , une manière de rendre les espaces et les activités accessibles et pratiques pour les personnes de toutes capacités.9 Les systèmes de maison intelligente peuvent aider les personnes ayant des déficiences physiques ou cognitives en automatisant des activités et des services cruciaux tels que l’ouverture et la fermeture de portes ou en contactant des professionnels de la santé.

De tels systèmes peuvent offrir aux personnes une plus grande autonomie dans leurs maisons. Par exemple, à Boulder au Colorado, Imagine! Smart Homes sont équipées de systèmes intelligents pour que les personnes ayant une déficience cognitive puissent rester dans des milieux plus indépendants et naturels.10 Les entrevues avec les utilisateurs âgés suggèrent que les technologies qui surveillent la santé et les mouvements de la personne peuvent aider les personnes âgées.11 12

Une surveillance omniprésente et des problèmes de sécurité

Alors que les technologies de la maison intelligente peuvent offrir des sensations de confort et de sécurité à certains utilisateurs, il existe également des risques de sécurité associés à un microphone toujours actif. Les systèmes domestiques intelligents font partie d’une suite plus vaste d’appareils, d’applications, de sites Web et d’espaces qui recueillent, regroupent et analysent des données personnelles sur les utilisateurs. Les spécialistes la surnomment comme la surveillance omniprésente, ce qui signifie qu’il devient de plus en plus difficile d’échapper à la collecte, au stockage et au tri des données.13

Les appareils intelligents ont besoin de données, les vôtres et celle des autres, pour bien vous servir. Pour obtenir tous les avantages des systèmes de maison intelligente, les utilisateurs doivent partager leurs emplacements, leurs routines, leurs goûts musicaux, l’historique de leurs achats et ainsi de suite. D’une part, un appareil bien connecté peut très bien gérer votre vie numérique.

D’un autre côté, le fait de fournir autant d’informations personnelles profite à des entreprises comme Amazon.14 À mesure qu’ils accèdent aux informations personnelles des utilisateurs, ils peuvent les monétiser sous forme de publicités ciblées ou collecter et vendre vos données personnelles même si elles sont séparées de votre nom ou de votre adresse.15 16 Le magazine Wired a clamé : Le prochain grand projet d’Amazon est de vous vendre.17 Toutes les entreprises n’ont pas les mêmes politiques de confidentialité. Apple a déclaré qu’il ne vendra pas les informations personnelles de ses utilisateurs à d’autres. Pourtant, les utilisateurs potentiels devraient décider la part de leur vie intime qu’ils sont prêts à partager.

Une écoute des conversations intimes

Les maisons intelligentes ont des problèmes de sécurité plus généraux. Les appareils non sécurisés connectés à l’Internet des objets peuvent être des cibles pour les pirates informatiques. L’accès à des appareils intelligents pourrait fournir aux pirates une source de données utiles, y compris des informations sur le moment où les utilisateurs sont chez eux ou non.18 De plus, des objets intelligents peuvent être déployés subrepticement à des fins malveillantes. En 2016, le botnet Mirai a ciblé les appareils IoT des utilisateurs sans méfiance pour les utiliser lors d’une attaque par déni de service distribuée.19

Il y a un autre risque, peut-être moins apparent : Les appareils, avec des microphones toujours actifs, ne peuvent pas toujours identifier la personne qui parle. Récemment, les utilisateurs d’Alexa ont rapporté que leurs enfants ont commandé des articles non désirés d’Amazon.20 D’autres ont noté que les sons de fond, comme la télévision, ont provoqué des achats non autorisés.21 Ces déclencheurs vocaux, appelés faux positifs lorsqu’ils incitent les dispositifs à faire quelque chose d’inattendu ou d’indésirable, ont conduit les utilisateurs à partager, sans le savoir, des conversations privées avec d’autres.22

Au début de 2018, les utilisateurs d’Amazon Echo ont été contraints de faire face à ces risques de sécurité quand Alexa a commencé à rire de façon inattendue. Bien qu’Amazon ait déclaré plus tard que le rire était une réponse fausse et positive malheureuse à des conversations à proximité, le rire a incité certains utilisateurs à reconsidérer le fait de laisser Alexa entrer dans leurs espaces les plus intimes.

Des objets qui imitent des personnes

Mis à part les problèmes potentiels de surveillance et de sécurité, les utilisateurs doivent tenir compte des conséquences des assistants virtuels de type humain dans les appareils intelligents. Ce n’est pas une coïncidence si Siri, Alexa, Cortana et maintenant Erica, l’assistante numérique de Bank of America, sont féminines et cela ne concerne pas uniquement leur voix.23 Historiquement, les femmes étaient affectées à des tâches liées à leur rôle de mère ou d’épouse. Quand les femmes ont rejoint le marché du travail, elles ont continué à jouer ces rôles dans des emplois de cols roses.24

Siri et Alexa effectuent des tâches similaires, en prenant soin des utilisateurs tout en offrant un soutien administratif.25 Certains considèrent même Alexa comme un co-parent.26 Ma recherche montre que les assistants virtuels de genre invitent les utilisateurs à interagir avec des appareils intelligents, car ils sont familiers et confortables.6 Certains utilisateurs peuvent être disposés à partager des détails plus intimes sur eux-mêmes malgré les risques de sécurité ou de surveillance. En fin de compte, les utilisateurs peuvent devenir dépendants des périphériques, ce qui responsabilise ceux qui possèdent les données collectées à partir de périphériques toujours actifs dans la maison.27

Les utilisateurs d’appareils intelligents doivent peser les avantages importants d’un appareil doté d’un microphone permanent par rapport aux problèmes potentiels. Certaines de ces préoccupations, sécurité et surveillance, sont pragmatiques. D’autres, à savoir si les appareils devraient avoir un genre, sont plus philosophiques. La ligne de fond est la suivante : Quand les gens demandent aux appareils d’agir pour eux, ils doivent être prêts à vivre avec ce qui est de l’autre côté.

Traduction d’un article de The Conversation par Heather Woods, professeure adjointe de rhétorique et de technologie à la Kansas State University.

Sources

1.
Parks Associates: U.S. Broadband Households Will Buy Almost 55 Million Smart Home Devices in 2020. prnewswire.com. https://www.prnewswire.com/news-releases/parks-associates-us-broadband-households-will-buy-almost-55-million-smart-home-devices-in-2020-300556479.html. Published July 16, 2018. Accessed July 16, 2018.
2.
Our 15 favorite smart home devices — each for less than $100. latimes.com. http://www.latimes.com/home/la-hm-smart-home-devices-home-automation-budget-guide-20171127-story.html. Published July 16, 2018. Accessed July 16, 2018.
3.
HomePod. Apple. https://www.apple.com/homepod/. Published July 16, 2018. Accessed July 16, 2018.
4.
Echo Look. amazon.com. https://www.amazon.com/dp/B0186JAEWK/. Published July 16, 2018. Accessed July 16, 2018.
5.
Mims C. All Ears: Always-On Listening Devices Could Soon Be Everywhere. WSJ. https://www.wsj.com/articles/all-ears-always-on-listening-devices-could-soon-be-everywhere-1531411250. Published July 12, 2018. Accessed July 16, 2018.
6.
Woods HS. Asking more of Siri and Alexa: feminine persona in service of surveillance capitalism. C. July 2018:1-16. doi:10.1080/15295036.2018.1488082
7.
Meet the Roomba® family of vacuuming robots Your partners for a cleaner home. irobot.com. https://www.irobot.com/For-the-Home/Vacuuming/Roomba.aspx. Published July 16, 2018. Accessed July 16, 2018.
8.
Nomiku Meals: Restaurant worthy meals with a wave of your hand. nomiku.com. https://www.nomiku.com/products/wifi-nomiku. Published July 16, 2018. Accessed July 16, 2018.
9.
Designing acceptable “smart” home technology to support people in the home. content.iospress.com. https://content.iospress.com/articles/technology-and-disability/tad00132. Published July 16, 2018. Accessed July 16, 2018.
10.
Imagine! Smart Homes. imaginecolorado.org. https://imaginecolorado.org/services/imagine-smarthomes. Published July 16, 2018. Accessed July 16, 2018.
11.
van Hoof J, Kort HSM, Rutten PGS, Duijnstee MSH. Ageing-in-place with the use of ambient intelligence technology: Perspectives of older users. I. 2011;80(5):310-331. doi:10.1016/j.ijmedinf.2011.02.010
12.
Technology that can foster aging in place. Washington Post. https://www.washingtonpost.com/news/where-we-live/wp/2018/02/26/technology-that-can-foster-aging-in-place/. Published July 16, 2018. Accessed July 16, 2018.
14.
Castillo M. Amazon is planning a push into digital advertising in 2018, challenging Google and Facebook. CNBC. https://www.cnbc.com/2017/12/26/amazon-digital-advertising-push-in-2018.html. Published December 26, 2017. Accessed July 16, 2018.
15.
The Intersect 98 personal data points that Facebook uses to target ads to you. Washington Post. https://www.washingtonpost.com/news/the-intersect/wp/2016/08/19/98-personal-data-points-that-facebook-uses-to-target-ads-to-you. Published July 16, 2018. Accessed July 16, 2018.
16.
Amazon.com Help . amazon.com. https://www.amazon.com/gp/help/customer/display.html?nodeId=202075050. Published July 16, 2018. Accessed July 16, 2018.
17.
Wohlsen M. Amazon’s Next Big Business Is Selling You. WIRED. https://www.wired.com/2012/10/amazon-next-advertising-giant/. Published July 16, 2018. Accessed July 16, 2018.
18.
Maras M-H. 4 ways “internet of things” toys endanger children. The Conversation. https://theconversation.com/4-ways-internet-of-things-toys-endanger-children-94092. Published May 10, 2018. Accessed July 16, 2018.
19.
Hay Newman L. The Botnet That Broke the Internet Isn’t Going Away. WIRED. https://www.wired.com/2016/12/botnet-broke-internet-isnt-going-away. Published July 16, 2018. Accessed July 16, 2018.
20.
How to keep your kid from ordering four pounds of cookies with Amazon’s Alexa. popsci.com. https://www.popsci.com/how-to-stop-amazon-alexa-buying-things-you-dont-want. Published July 16, 2018. Accessed July 16, 2018.
21.
Amazon’s Alexa started ordering people dollhouses after hearing its name on TV. theverge.com. https://www.theverge.com/2017/1/7/14200210/amazon-alexa-tech-news-anchor-order-dollhouse. Published July 16, 2018. Accessed July 16, 2018.
22.
Amazon confirms that Echo device secretly shared user’s private audio [Updated]. Ars Technica. https://arstechnica.com/gadgets/2018/05/amazon-confirms-that-echo-device-secretly-shared-users-private-audio/. Published July 16, 2018. Accessed July 16, 2018.
23.
Taylor H. Bank of America launches AI chatbot Erica — here’s what it does. CNBC. https://www.cnbc.com/2016/10/24/bank-of-america-launches-ai-chatbot-erica–heres-what-it-does.html. Published August 4, 2016. Accessed July 16, 2018.
24.
Elkins K. 20 “pink-collar” jobs dominated by women. Business Insider Australia. https://www.businessinsider.com.au/pink-collar-jobs-dominated-by-women-2015-2. Published February 17, 2015. Accessed July 16, 2018.
25.
Pierce D. I spent a week yelling at Siri in macOS Sierra. WIRED. https://www.wired.com/2016/06/spent-week-yelling-siri-macos-sierra/. Published July 16, 2018. Accessed July 16, 2018.
26.
Opinion | Co-Parenting With Alexa. nytimes.com. https://www.nytimes.com/2017/10/07/opinion/sunday/children-alexa-echo-robots.html. Published October 7, 2017. Accessed July 16, 2018.
27.
Wilson C, Hargreaves T, Hauxwell-Baldwin R. Benefits and risks of smart home technologies. E. 2017;103:72-83. doi:10.1016/j.enpol.2016.12.047
N'oubliez pas de voter pour cet article !
1 étoile2 étoiles3 étoiles4 étoiles5 étoiles (1 votes, moyenne : 4,00 sur 5)
Loading...
mm

Jacqueline Charpentier

Ayant fait une formation en chimie, il est normal que je me sois retrouvée dans une entreprise d'emballage. Désormais, je publie sur des médias, des blogs et des magazines pour vulgariser l'actualité scientifique et celle de la santé.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *