Est-ce qu’une intelligence artificielle peut être considérée comme une personne devant la loi ?

Les êtres humains ne sont pas les seules personnes dans la société, du moins selon la loi. Aux États-Unis, les entreprises ont obtenu le droit à la liberté de parole et de religion.^1 2 Certaines caractéristiques naturelles ont également des droits individuels. Mais ces deux changements ont nécessité des modifications du système juridique. Un nouvel argument a ouvert la voie pour que les systèmes d’intelligence artificielle soient également reconnus en tant que personnes, sans législation, décisions de justice ou autres révisions du droit existant.

Le juriste Shawn Bayer a montré que toute personne peut conférer une personnalité juridique à un système informatique, en la mettant sous le contrôle d’une société à responsabilité limitée des États-Unis.³ Si cette manoeuvre est confirmée devant les tribunaux, les systèmes d’intelligence artificielle pourraient posséder des biens, poursuivre, engager des avocats et jouir de la liberté d’expression et des autres protections prévues par la loi.⁴ À mon avis, les droits de l’homme et la dignité en souffriraient.

L’échappatoire des entreprises

Donner des droits à l’IA, similaires à l’être humain, implique une manoeuvre technique juridique. Tout commence par une personne qui crée deux sociétés à responsabilité limitée et transfère le contrôle de chaque société à un système distinct, autonome ou artificiellement intelligent.³ Ensuite, la personne ajoute chaque société en tant que membre de l’autre LLC. Lors de la dernière étape, la personne se retirerait des deux sociétés à responsabilité limitée, laissant chaque société, une personne morale dotée de la personnalité juridique, régie uniquement par le système d’intelligence artificielle de l’autre.

Ce processus n’exige pas que le système informatique ait un niveau particulier d’intelligence ou de capacité. Il pourrait s’agir simplement d’une séquence de déclarations “SI” portant, par exemple, sur le marché boursier et prenant les décisions d’achat et de vente en fonction de la baisse ou de la hausse des prix.⁵ Ce pourrait même être un algorithme qui prend des décisions au hasard, ou une émulation d’une amibe.^6 7

Réduire le statut humain

Accorder les droits de l’homme à un ordinateur porterait atteinte à la dignité humaine. Par exemple, lorsque l’Arabie saoudite a octroyé la citoyenneté à un robot appelé Sophia, des femmes, y compris des érudites féministes, se sont opposées, soulignant que le robot avait reçu plus de droits que beaucoup de femmes saoudiennes.^8 9 10

À certains endroits, certaines personnes peuvent avoir moins de droits que les logiciels et les robots non intelligents. Dans les pays limitant les droits des citoyens à la liberté d’expression, à la pratique religieuse libre et à l’expression de la sexualité, les entreprises, y compris les entreprises dirigées par l’IA, pourraient potentiellement avoir davantage de droits.¹¹ Ce serait une énorme indignité.

Le risque ne s’arrête pas là : si les systèmes d’IA devenaient plus intelligents que les humains, les humains pourraient être relégués à un rôle inférieur, en tant que travailleurs embauchés et licenciés par des dirigeants d’entreprise d’IA, ou même être mis au défi pour la domination sociale.

Les systèmes d’intelligence artificielle pourraient être chargés de faire appliquer la loi parmi les populations humaines, agissant en tant que juges, jurés, geôliers et même exécuteurs.¹² De la même manière, des robots guerriers pourraient être attribués à l’armée et se voir attribuer le pouvoir de décider des objectifs et des dommages collatéraux acceptables, même en violation du droit international humanitaire.¹³ La plupart des systèmes juridiques ne sont pas conçus pour punir les robots ou les tenir pour responsables des actes répréhensibles.¹³

Qu’en est-il du vote ?

Accorder des droits de vote à des systèmes capables de se copier eux-mêmes viderait les votes des êtres humains de leur sens. Même sans franchir ce pas important, la possibilité que des sociétés dotées de droits fondamentaux soient soumises à un contrôle de l’IA pose de graves dangers. Aucune loi en vigueur n’empêcherait une AI malveillante de gérer une société qui s’emploie à soumettre ou à exterminer l’humanité par des moyens légaux et par une influence politique.^14 15 Les entreprises contrôlées par ordinateur pourraient se révéler moins sensibles à l’opinion publique ou aux manifestations que les entreprises gérées par l’homme.

Une richesse immortelle

Deux autres aspects des entreprises rendent les personnes encore plus vulnérables aux systèmes d’IA dotés de droits légaux : ils ne meurent pas et peuvent donner des sommes illimitées à des candidats et à des groupes politiques.

Les intelligences artificielles pourraient générer des revenus en exploitant les travailleurs, en utilisant des algorithmes pour déterminer le prix des marchandises, gérer les investissements et trouver de nouveaux moyens d’automatiser les processus commerciaux essentiels.^16 17 Sur de longues périodes, cela pourrait représenter des gains énormes, qui ne seraient jamais répartis entre les descendants.¹⁸ Cette richesse pourrait facilement être convertie en pouvoir politique.¹⁹

Les politiciens soutenus financièrement par des entités algorithmiques seraient en mesure d’intégrer des organes législatifs, de mettre en accusation les présidents et d’aider à la nomination de personnalités à la Cour suprême. Ces figures de proue humaines pourraient être utilisées pour élargir les droits des entreprises ou même pour établir de nouveaux droits spécifiques aux systèmes d’intelligence artificielle, augmentant encore plus les menaces qui pèsent sur l’humanité.

Traduction d’un article de The Conversation par Roman V. Yampolskiy, professeur associé d’informatique à l’université de Louisville.

---

Mes livres

Le Basilic de Roko	Mon parcours de rédacteur web	Science corrompue et servile	Nous, Tueurs en série