Qui est responsable des robots semi-autonomes ?
Français
Les implants contrôlés par le cerveau se multiplient de plus en plus. Et des chercheurs avertissent sur les dangers potentiels de ces interfaces cerveau-machine.
Suivez-nous sur notre page Facebook et notre canal Telegram
À mesure que les robots et les prothèses contrôlées par le cerveau entrent dans notre vie quotidienne, un papier dans la revue Science estime qu’il est temps de prendre des mesures et de mettre en place des directives qui garantissent une utilisation sûre et bénéfique sur les machines qui utilisent l’interaction directe entre le cerveau et la machine. La responsabilisation, la vie privée et la sécurité sont essentielles quand on considère les dimensions éthiques de ce nouveau domaine.
Si un robot semi-autonome ne dispose pas d’un mécanisme de contrôle ou de neutralisation fiable, une personne pourrait être considérée comme négligente si elle utilisait ce robot pour prendre un bébé et qu’il le laissait tomber. Dans ce cas, la responsabilité est directe, mais la frontière est floue pour des activités moins risquées. Les auteurs proposent que tout système semi-autonome doive inclure une forme de veto, un arrêt d’urgence, pour aider à surmonter certaines des faiblesses inhérentes sur l’interaction directe entre le cerveau et la machine.
Le professeur John Donoghue, directeur du Wyss Center for Bio and Neuroengineering à Genève a déclaré : Même si nous ne comprenons pas encore bien le fonctionnement du cerveau, nous nous rapprochons du décodage de certains signaux cérébraux. Nous ne devons pas être négligents sur ce que cela signifie pour la société. Nous devons examiner attentivement les conséquences pour notre vie quotidienne avec des machines semi-intelligentes contrôlées par le cerveau et nous devrions envisager des mécanismes pour leur utilisation sûre et éthique.
Crédit : Wyss Center www.wysscenter.ch
Nous ne voulons pas exagérer les risques, ni susciter de faux espoirs pour ceux qui pourraient bénéficier de la neurotechnologie. Notre objectif est de veiller à ce que la législation appropriée suive le rythme rapide de ce domaine. La protection des données biologiques enregistrées par les interfaces cerveau-machine (IMC) est un autre sujet de préoccupation. Les solutions de sécurité devraient inclure le chiffrement des données, l’anonymisation des informations et la sécurité du réseau. Des directives existent déjà pour la protection des données des patients pour les études cliniques, mais ces normes diffèrent d’un pays à l’autre et elles ne s’appliquent pas à des recherches en laboratoire purement humaines.
Le professeur Niels Birbaumer, chercheur principal au Centre Wyss à Genève a déclaré : La protection des données neuronales de personnes atteintes d’une paralysie complète, qui utilisent un IMC comme leur seul moyen de communication, est particulièrement importante. Le réglage de leur IMC dépend des réponses du cerveau aux questions personnelles fournies par la famille. Une protection stricte des données doit être appliquée à toutes les personnes concernées incluant la protection des informations personnelles demandées dans des questionnaires ainsi que la protection des données neuronales pour s’assurer que l’appareil fonctionne correctement.
La possibilité de “brainjacking”, la manipulation malveillante des implants cérébraux, est un autre problème selon les auteurs. Même si les systèmes d’IMC, qui restaurent le mouvement ou la communication aux personnes paralysées, ne semblent pas être une cible attrayante, cela pourrait dépendre du statut de l’utilisateur. Par exemple, un politicien paralysé pourrait être exposé à un risque accru d’une attaque malveillante sur ses implants.
Source : Science (http://science.sciencemag.org/cgi/doi/10.1126/science.aam7731)
