OpenAI, un milliard de dollars pour créer une gentille intelligence artificielle

OpenAI est une initiative proposé par plusieurs milliardaires de la Silicon Valley tels qu’Elon Musk (Tesla), Peter Thiel (Paypal) ou Reid Hoffman (Linkedin). OpenAI bénéficiera d’un milliard de dollars pour créer une intelligence artificielle qui soit gentille. En gros, c’est pour éviter qu’une intelligence artificielle devienne trop puissante dans le futur et qu’elle ne puisse pas nous détruire sans même le vouloir. Je sens comme une peur à propos d’un certain Basilic de Roko.


OpenAI veut créer une intelligence artificielle amicale

On parle beaucoup des dangers de l’, mais on fait peu d’efforts pour contrer les problèmes réels sur des algorithmes trop puissants et dépassant notre imagination.

Le concept d’intelligence artificielle amicale

Mais cette fois, l’initiative , va se dédier à une intelligence artificielle amicale qui ne va pas laisser les humains sur place et qui va toujours privilégier les bienfaits de l’humanité. L’annonce officielle d’OpenAI :

Notre objectif est d’avancer vers une intelligence artificielle qui bénéficiera à l’humanité tout entière sans être liée par des contraintes financières. Nous pensons que l’intelligence artificielle sera une extension des humains et qu’on doit la créer pour qu’elle profite à tous sans faire courir de risques.

OpenAI est une organisation à but non-lucrative financée par des milliardaires tels qu’Elon Musk, Sam Altman de Y-Combinator, Reid Hoffman de Linkedin ou encore Peter Thiel de Paypal. OpenAI possède des ingénieurs de renom tels que Ilya Sutskever qui a travaillé dans le Deep Learning chez Google. L’annonce d’OpenAI coïncide avec la réunion Neural Information Processing Systems (NIPS) qui est l’une des plus grandes conférences techniques sur l’intelligence artificielle. Et dans cette conférence, les chercheurs commencent à penser aux implications de l’intelligence artificielle sur le long terme. Cette conférence a aussi eu un panel sur l’éthique de l’IA. Nous avons déjà longuement parlé de l’éthique de l’intelligence artificielle dans un dossier dédié.

Et cette annonce d’OpenAI contraste avec le contenu de la conférence qui est très technique. On a parlé des nouvelles approches mathématiques et des méthodes pour améliorer le Machine Learning. Ce n’est pas un endroit pour faire une annonce qui veut protéger l’espèce humaine contre Skynet. Mais ce qui est effrayant avec cette annonce est qu’elle est l’une des plus stupides, car elle s’inspire directement de la communauté Less Wrong qui est à l’origine du mythe du Basilic de Roko.

Les concepts sectaires de Less Wrong avec le Basilic de Roko

C’est sans doute notre plus gros dossier sur le site, mais nous avons déjà abordé le mythe du Basilic de Roko. Le concept d’une intelligence artificielle qui serait aussi puissante que Dieu et qui pourrait punir les humains pendant toute l’éternité s’ils n’avaient pas aidé à sa création. Le Basilic de Roko est l’une des théories les plus débiles sur l’intelligence artificielle et on voit que ses auteurs ne connaissent rien de l’IA. Le problème avec l’annonce d’OpenAI est qu’elle utilise exactement les mêmes arguments que Less Wrong. Les membres de Less Wrong veulent créer une IA friendly, ils veulent éviter qu’une intelligence artificielle devienne trop puissante, ils pensent qu’ils sont les seuls à pouvoir la créer, etc.

Ce sont des concepts sectaires. Car l’éthique de l’intelligence artificielle passe par la connaissance de la réalité de l’IA et de ce qu’elle est capable de faire aujourd’hui. Dans notre dossier de Basilic de Roko, nous disions ceci :

On pourrait dire que Less Wrong est tenu par une bande d’illuminés dont tout le monde s’en fout royalement. Mais c’est légèrement plus compliqué que ça. LessWrong se base sur des donations pour exister. Et parmi les donateurs, on a un certain Peter Thiel qui est le fondateur de Paypal. Dans l’article, Roko fait aussi référence à Elon Musk, le fondateur de Tesla et comment ce dernier est devenu riche en quelques années et que les membres de Less Wrong pourraient faire de même. Quelques mois plus tard en décembre 2014, Elon Musk et Stephen Hawking publiaient une lettre ouverte en estimant qu’une intelligence artificielle supérieure détruirait l’humanité à la minute où elle serait créée. Tout ça pour dire que les idées de Less Wrong et du Basilic de Roko peuvent sembler totalement débiles, mais cela n’empêche pas des personnes hauts placés de les lire et qu’est-ce qui se passerait si certains se mettent à croire dans de telles insanités ?

Oui, Peter Thiel est un donateur de Less Wrong et il est également à l’origine d’OpenAI sans oublier Elon Musk. Donc oui, on doit réfléchir à l’éthique de l’intelligence artificielle, mais cela doit venir de vrais chercheurs. Et non d’illuminés qui croient à des mondes quantiques, des doubles de nous quantiques et d’une intelligence artificielle qui serait Dieu.

 

N'oubliez pas de voter pour cet article !
1 étoile2 étoiles3 étoiles4 étoiles5 étoiles (No Ratings Yet)
Loading...

Houssen Moshinaly

Rédacteur en chef d'Actualité Houssenia Writing. Rédacteur web depuis 2009 et vulgarisateur scientifique.

Je m'intéresse à tous les sujets scientifiques allant de l'Archéologie à la Zoologie. Je ne suis pas un expert, mais j'essaie d'apporter mes avis éclairés sur de nombreux sujets scientifiques.

Pour me contacter personnellement :

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *