LLaMA, le projet d’IA confidentielle de Meta divulgué sur 4chan

En février 2019, OpenAI a dévoilé son grand modèle de langage, GPT-2, et a annoncé qu’il ne serait publié que par étapes en raison du risque élevé d’une utilisation abusive. Selon la société, le modèle serait trop dangereux à mettre entre les mains du “grand public”, qui pourraient l’utiliser pour générer de la désinformation.

OpenAI a peut-être eu raison avec cette thèse en réussissant à gérer le déploiement de sa technologie. Les grands modèles de langage GPT-3 et ChatGPT ne sont accessibles que via une interface de programmation et web. Cela permet à OpenAI de contrôler les applications et, entre autres, de mettre en place des filtres contre les contenus violents ou sexuels. Ceux qui utilisent ChatGPT connaissent les nombreux avertissements s’ils franchissent la ligne rouge.

Le modèle de langage LLaMA de Meta a fuité sur 4Chan

Presque exactement quatre ans après les préoccupations de GPT-2 (!) d’OpenAI, le modèle de langage LLaMA de Meta a été divulgué, qui, selon les références scientifiques, rivalise et dans certains cas surpasse le puissant modèle de langage GPT-3 d’OpenAI, bien qu’il soit plus compact et plus rapide. On dit même que LLaMA est à la hauteur du puissant modèle PaLM de Google, qui n’a pas encore été publié, en partie pour des raisons de sécurité.

La fuite de LLaMA aurait été causée par la plateforme 4chan, connu pour ses opinions alternatives, agressives et c’est sans doute le plus grand nid de trolls sur internet.

Mais la fuite elle-même n’est pas le véritable sujet. Selon de nombreux commentaires sur Reddit, Meta a donné accès à LLaMA sans trop de problèmes. Et bien que pas encore au niveau des modèles d’entreprise, de nombreux efforts sont déployés pour rendre les grands modèles de langage disponibles en open source. Cependant, cela pourrait être une opération déguisée de com par Meta, car ce dernier a misé beaucoup sur l’IA et il est complètement laissé sur le carreau, occulté par la gloire d’OpenAI. Ce serait sa tentative de dire : Ecoutez les mecs, nous aussi, on a une IA super géniale !

À la suite de la fuite de LLaMA, nous allons maintenant découvrir si les craintes d’OpenAI concernant l’utilisation abusive de grands modèles de langage étaient justifiées. La question est de savoir si nous serons en mesure de détecter cette utilisation abusive – ou si nous subirons simplement les conséquences.

Même si on peut craindre une mauvaise utilisation des intelligences artificielles si elles tombent dans le grand public, l’inverse est bien pire. Considérer qu’on peut faire confiance à Google, Facebook, Microsoft pour nous proposer des IA véritablement objectifves est aussi stupide que d’ouvrir un restaurant de bacon au Pakistan sans se prendre quelques rafales dans la gueule.

En fait, on le voit déjà quand on utilise Bing Chat, quand on lui demande de traduire littéralement un article, il ne peut pas s’empêcher de le réécrire avec des sources que lui considère comme étant fiable. Et si on lui dit d’utiliser exclusivement la source qu’on lui a fourni, alors il refuse de le faire, arguant que ce ne serait pas objectif. Mais comme on ignore comment Bing Chat fonctionne en interne et comment il considère la fiabilité des sources, alors on est obligé de lui faire aveuglément confiance.

Le coeur de la guerre des IA est qui en aura le contrôle. Il faut absolument promouvoir massivement les modèles Open Source que chacun pourra faire tourner sur sa machine ou sur des serveurs à faible cout. Car ceux qui contrôleront les IA, contrôleront le monde !

---

Mes livres

Le Basilic de Roko	Mon parcours de rédacteur web	Science corrompue et servile	Nous, Tueurs en série