Est-ce qu’une intelligence artificielle peut être considérée comme une personne devant la loi ?

L’Arabie Saoudite vient de donner la citoyenneté à un robot nommé Sophia. Mais on peut se poser la question : Est-ce qu’une intelligence artificielle peut être considérée comme une personne devant la loi ? Techniquement, rien ne l’empêche, mais les implications peuvent être dantesques à tous les niveaux.


L'Arabie Saoudite vient de donner la citoyenneté à un robot nommé Sophia. Mais on peut se poser la question : Est-ce qu'une intelligence artificielle peut être considérée comme une personne devant la loi ? Techniquement, rien ne l'empêche, mais les implications peuvent être dantesques à tous les niveaux.

Les êtres humains ne sont pas les seules personnes dans la société, du moins selon la . Aux États-Unis, les entreprises ont obtenu le droit à la liberté de parole et de religion.1 2 Certaines caractéristiques naturelles ont également des droits individuels. Mais ces deux changements ont nécessité des modifications du . Un nouvel argument a ouvert la voie pour que les systèmes d’ soient également reconnus en tant que personnes, sans législation, décisions de justice ou autres révisions du droit existant.

Le juriste Shawn Bayer a montré que toute personne peut conférer une à un système informatique, en la mettant sous le contrôle d’une des États-Unis.3 Si cette manoeuvre est confirmée devant les tribunaux, les systèmes d’intelligence artificielle pourraient posséder des biens, poursuivre, engager des avocats et jouir de la liberté d’expression et des autres protections prévues par la loi.4 À mon avis, les droits de l’homme et la dignité en souffriraient.

L’échappatoire des entreprises

Donner des droits à l’IA, similaires à l’être humain, implique une manoeuvre technique juridique. Tout commence par une personne qui crée deux sociétés à responsabilité limitée et transfère le contrôle de chaque société à un système distinct, autonome ou artificiellement intelligent.3 Ensuite, la personne ajoute chaque société en tant que membre de l’autre LLC. Lors de la dernière étape, la personne se retirerait des deux sociétés à responsabilité limitée, laissant chaque société, une personne morale dotée de la personnalité juridique, régie uniquement par le système d’intelligence artificielle de l’autre.

Ce processus n’exige pas que le système informatique ait un niveau particulier d’intelligence ou de capacité. Il pourrait s’agir simplement d’une séquence de déclarations « SI » portant, par exemple, sur le marché boursier et prenant les décisions d’achat et de vente en fonction de la baisse ou de la hausse des prix.5 Ce pourrait même être un qui prend des décisions au hasard, ou une émulation d’une amibe.6 7

Réduire le statut humain

Accorder les droits de l’homme à un ordinateur porterait atteinte à la dignité humaine. Par exemple, lorsque l’Arabie saoudite a octroyé la citoyenneté à un appelé Sophia, des femmes, y compris des érudites féministes, se sont opposées, soulignant que le avait reçu plus de droits que beaucoup de femmes saoudiennes.8 9 10

À certains endroits, certaines personnes peuvent avoir moins de droits que les logiciels et les robots non intelligents. Dans les pays limitant les droits des citoyens à la liberté d’expression, à la pratique religieuse libre et à l’expression de la sexualité, les entreprises, y compris les entreprises dirigées par l’IA, pourraient potentiellement avoir davantage de droits.11 Ce serait une énorme indignité.

Le risque ne s’arrête pas là : si les systèmes d’IA devenaient plus intelligents que les humains, les humains pourraient être relégués à un rôle inférieur, en tant que travailleurs embauchés et licenciés par des dirigeants d’entreprise d’IA, ou même être mis au défi pour la domination sociale.

Les systèmes d’intelligence artificielle pourraient être chargés de faire appliquer la loi parmi les populations humaines, agissant en tant que juges, jurés, geôliers et même exécuteurs.12 De la même manière, des robots guerriers pourraient être attribués à l’armée et se voir attribuer le pouvoir de décider des objectifs et des dommages collatéraux acceptables, même en violation du droit international humanitaire.13 La plupart des systèmes juridiques ne sont pas conçus pour punir les robots ou les tenir pour responsables des actes répréhensibles.13

Qu’en est-il du vote ?

Accorder des droits de vote à des systèmes capables de se copier eux-mêmes viderait les votes des êtres humains de leur sens. Même sans franchir ce pas important, la possibilité que des sociétés dotées de droits fondamentaux soient soumises à un contrôle de l’IA pose de graves dangers. Aucune loi en vigueur n’empêcherait une AI malveillante de gérer une société qui s’emploie à soumettre ou à exterminer l’humanité par des moyens légaux et par une influence politique.14 15 Les entreprises contrôlées par ordinateur pourraient se révéler moins sensibles à l’opinion publique ou aux manifestations que les entreprises gérées par l’homme.

Une richesse immortelle

Deux autres aspects des entreprises rendent les personnes encore plus vulnérables aux systèmes d’IA dotés de droits légaux : ils ne meurent pas et peuvent donner des sommes illimitées à des candidats et à des groupes politiques.

Les intelligences artificielles pourraient générer des revenus en exploitant les travailleurs, en utilisant des algorithmes pour déterminer le prix des marchandises, gérer les investissements et trouver de nouveaux moyens d’automatiser les processus commerciaux essentiels.16 17 Sur de longues périodes, cela pourrait représenter des gains énormes, qui ne seraient jamais répartis entre les descendants.18 Cette richesse pourrait facilement être convertie en pouvoir politique.19

Les politiciens soutenus financièrement par des entités algorithmiques seraient en mesure d’intégrer des organes législatifs, de mettre en accusation les présidents et d’aider à la nomination de personnalités à la Cour suprême. Ces figures de proue humaines pourraient être utilisées pour élargir les droits des entreprises ou même pour établir de nouveaux droits spécifiques aux systèmes d’intelligence artificielle, augmentant encore plus les menaces qui pèsent sur l’humanité.

Traduction d’un article de The Conversation par Roman V. Yampolskiy, professeur associé d’informatique à l’université de Louisville.

Sources

1.
Winkler A. “Corporations Are People” Is Built on an Incredible 19th-Century Lie. The Atlantic. https://www.theatlantic.com/business/archive/2018/03/corporations-people-adam-winkler/554852/. Published March 5, 2018. Accessed October 5, 2018.
2.
Colwell C. What if nature, like corporations, had the rights and protections of a person? The Conversation. https://theconversation.com/what-if-nature-like-corporations-had-the-rights-and-protections-of-a-person-64947. Published October 10, 2016. Accessed October 5, 2018.
3.
Bayern S. The Implications of Modern Business–Entity Law for the Regulation of Autonomous Systems. E. 2016;7(02):297-309. doi:10.1017/s1867299x00005729
4.
Artificial Intelligence & Human Rights. Berkman Klein Center. https://cyber.harvard.edu/publication/2018/artificial-intelligence-human-rights. Published October 5, 2018. Accessed October 5, 2018.
5.
Seth S. Basics of algorithmic trading: Concepts and examples | Investopedia. Investopedia. https://www.investopedia.com/articles/active-trading/101014/basics-algorithmic-trading-concepts-and-examples.asp. Published October 10, 2014. Accessed October 5, 2018.
6.
Random Decision Maker – Free & Easy to Use! RANDOM DECISION MAKER. http://www.randomdecisionmaker.com/. Published October 5, 2018. Accessed October 5, 2018.
7.
Scratch – Amoeba – A Simulation. scratch.mit.edu. https://scratch.mit.edu/projects/115569822/. Published October 5, 2018. Accessed October 5, 2018.
8.
Saudi Arabia becomes first country to make a robot into a citizen. The Independent. https://www.independent.co.uk/life-style/gadgets-and-tech/news/saudi-arabia-robot-sophia-citizenship-android-riyadh-citizen-passport-future-a8021601.html. Published October 26, 2017. Accessed October 5, 2018.
9.
Saudi Arabia’s robot citizen is eroding human rights. Quartz. https://qz.com/1205017/saudi-arabias-robot-citizen-is-eroding-human-rights/. Published October 5, 2018. Accessed October 5, 2018.
10.
Saudi Arabia, which denies women equal rights, makes a robot a citizen. Washington Post. https://www.washingtonpost.com/news/innovations/wp/2017/10/29/saudi-arabia-which-denies-women-equal-rights-makes-a-robot-a-citizen/. Published October 5, 2018. Accessed October 5, 2018.
11.
Corporations Are People, And They Have More Rights Than You. HuffPost. https://www.huffingtonpost.com/adam-winkler/corporations-are-people-a_b_5543833.html. Published June 30, 2014. Accessed October 5, 2018.
12.
Diakopoulos N. We need to know the algorithms the government uses to make important decisions about us. The Conversation. https://theconversation.com/we-need-to-know-the-algorithms-the-government-uses-to-make-important-decisions-about-us-57869. Published May 24, 2016. Accessed October 5, 2018.
13.
Docherty B. Ban “killer robots” to protect fundamental moral and legal principles. The Conversation. https://theconversation.com/ban-killer-robots-to-protect-fundamental-moral-and-legal-principles-101427. Published August 21, 2018. Accessed October 5, 2018.
14.
V. Yampolskiy R. Fighting malevolent AI: artificial intelligence, meet cybersecurity. The Conversation. https://theconversation.com/fighting-malevolent-ai-artificial-intelligence-meet-cybersecurity-60361. Published June 13, 2016. Accessed October 5, 2018.
15.
Hurley L. Companies win big at U.S. top court on worker class-action curbs. U.S. https://www.reuters.com/article/us-usa-court-employment/companies-win-big-at-us-top-court-on-worker-class-action-curbs-idUSKCN1IM1GW. Published May 21, 2018. Accessed October 5, 2018.
16.
Trust the machines? These funds are run by artificial intelligence. The Seattle Times. https://www.seattletimes.com/business/trust-the-machines-these-funds-are-run-by-artificial-intelligence/. Published July 7, 2018. Accessed October 5, 2018.
17.
How KPMG uses AI to empower their auditors. ibm.com. https://www.ibm.com/blogs/watson/2018/04/how-kpmg-uses-ai-to-empower-their-auditors/. Published October 5, 2018. Accessed October 5, 2018.
18.
Hunter, Anita Balakrishnan M,                           Matt Hunter                                                                                      | Anita Balakrishnan                                                                        . Apple’s cash pile hits $285.1 billion, a record. CNBC. https://www.cnbc.com/2018/02/01/apple-earnings-q1-2018-how-much-money-does-apple-have.html. Published January 17, 2018. Accessed October 5, 2018.
19.
How corporations turned into political beasts. Business Insider. https://www.businessinsider.com/how-corporations-turned-into-political-beasts-2015-4. Published April 25, 2015. Accessed October 5, 2018.
N'oubliez pas de voter pour cet article !
1 étoile2 étoiles3 étoiles4 étoiles5 étoiles (Pas encore de vote)
Loading...

Houssen Moshinaly

Rédacteur en chef d'Actualité Houssenia Writing. Rédacteur web depuis 2009 et vulgarisateur scientifique.

Je m'intéresse à tous les sujets scientifiques allant de l'Archéologie à la Zoologie. Je ne suis pas un expert, mais j'essaie d'apporter mes avis éclairés sur de nombreux sujets scientifiques.

Pour me contacter personnellement :

1 réponse

  1. L. Pingault dit :

    L’humanité a vécu des tournants forts, des avalanches de percées tant dans tous les domaines en 1500, 1800, 1900, 1950, 2000
    A chaque fois le progrès s’accompagne d’hécatombes militaires, mais se poursuit au bénéfice de l’humanité…
    Selon le GIEC, on doit agir vite, ajd en 2018, pour surmonter les nouvelles catastrophes qui nous menacent. Et l’IA nous sauvera.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *