Singularité technologique et AGI : Où en est-on ?

En 2019, je sortais mon premier livre qui concernait la singularité technologique et comme tout premier livre, il était imparfait, assez techno-scientifico optimiste et assez niais par rapport à l’aspect positif de la science. Evidemment, par la suite, 2020 et son lot de prostituées en blouse blanche sont apparus, mais je ne pensais pas que certains aspects de ce livre se concrétiserait moins de 4 ans plus tard.

Mon livre, je l’avais conçu autour du Basilic de Roko, une expérience de pensée poussée à l’extrême où une IA, équivalent à un Dieu technologique, torturait des humains dans le passé parce qu’ils n’ont pas suffisamment crus en sa création. Le Basilic de Roko coche toutes les cases de la pensée sectaire et j’avais dit à la fin du livre que des initiatives comme OpenAI d’Elon Musk et de Stephen Hawking étaient influencés par ce type de pensée.

Une intelligence artificielle généraliste à 42 %

En 2022, OpenAI a pris tout le monde par surprise en publiant ChatGPT, GPT-3.5 et tout le monde court désormais à sa poursuite. Il n’y a pas une semaine où les GAFAMs publient leurs modèles, certains en grande pompe, d’autres les faisant passer pour des fuites. Les IA seront le seul sujet important pour les 10 prochaines années et cela va devenir rapidement politique vu le biais des données de ces modèles, car chaque pays voudra avoir sa propre IA afin de raconter sa propre version de l’Histoire.

Quand on sait aujourd’hui que Bing Chat refuse de traduire un article que vous avez fourni, sans fournir une version officielle de l’histoire dans le texte, montre que la censure peut être systématique, invisible et donc imparable. Au delà de ces considérations, certains férus de transhumanisme et de singularité estime qu’actuellement, on est à 42 % d’une AGI (Intelligence artificielle généraliste).

Selon la définition, une AGI est la capacité d’un agent intelligent à comprendre ou à apprendre n’importe quelle tâche intellectuelle que les êtres humains ou d’autres animaux peuvent faire. C’est un objectif de recherche de l’IA qui vise à créer des machines capables de s’adapter à des situations variées et de résoudre des problèmes complexes sans être limitées à un domaine spécifique. Une AGI est aussi appelée “IA forte”, “IA complète” ou “action intelligente générale”.

GPT, Stable Diffusion, Midjourney sont des IA monotâches. Elles font soit du texte ou des images, mais pas les deux. Mais on a déjà des annonces sur des IA multimodales qui peuvent générer du texte et des images en même temps. Ensuite, viendra la vidéo. Ce qui fait qu’en l’espace de 2 ou 3 mois, on aura déjà des IA qui vont maitriser les 3 principaux mediums, actuellement utilisés dans la société humaine.

Quand vous regardez un modèle comme Palm-e de Google avec ses 562 milliards de paramètres, il peut faire tout ça, mais il peut aussi se déplacer dans le monde réel. La connexion entre une IA purement intellectuelle et la robotique n’est qu’une question de semaines. Et dans quelques mois, on aura une IA qui sera capable de tout faire, mieux que les êtres humains et ce, quel que soit le domaine.

Le Dr Alan D. Thompson, qui est un expert et un consultant en IA et qui est très présent sur Youtube, arrive à sa conclusion de 42 % en considérant les avancées majeures de l’IA depuis 2017 qu’on peut résumer par les points suivants :

• En août 2017 (20 %), Google a présenté son système de traduction, de recherche et de modèles de langage basé sur l’IA, appelé Transformer. Cette technologie révolutionnaire a ouvert de nouvelles possibilités dans le domaine de l’IA et a permis des avancées significatives dans la traduction automatique et la compréhension du langage naturel. Notons que la découverte des Transformers est de la pure sérendipité, on l’a trouvé par hasard lorsqu’on a demandé à l’IA d’aller en avant et en arrière sur un texte et qu’on a découvert qu’il pouvait deviner le prochain mot qui est la base du Transformer.
• En novembre 2020 (30 %), Connor Leahy, cofondateur de EleutherAI, a créé GPT-2, GPT-J et GPT-NeoX-20B. Selon lui, GPT-3 est une intelligence artificielle générale (AGI) et aussi intelligent qu’un être humain, voire plus intelligent dans certains domaines (A bien des égards, il est plus purement intelligent que les humains. Je pense que les humains se rapprochent de ce que fait le GPT-3, et non l’inverse). Cette déclaration illustre l’avancée remarquable de l’IA dans la compréhension et la production du langage naturel.
• En juin 2021 (31 %), Google a présenté son TPUv4, une puce conçue entièrement par l’IA. Cette méthode de conception permet d’effectuer des tâches complexes en un temps record et d’ouvrir la voie à des avancées significatives dans les deux domaines de l’IA et de l’ingénierie.
• En mai 2022 (39 %), DeepMind a introduit Gato, le premier agent généraliste capable de jouer à des jeux Atari, de décrire des images, de discuter et même de manipuler des objets physiques à l’aide d’un bras robotique. Cette innovation majeure dans le domaine de l’IA ouvre de nouvelles perspectives quant à la façon dont les machines peuvent interagir avec le monde réel.
• En juillet 2022 (39 %), NVIDIA a introduit Hopper (H100), une nouvelle génération de circuits conçus par l’IA. Cette technologie permet à la dernière architecture GPU de NVIDIA de comporter près de 13 000 circuits conçus par l’IA, ce qui offre des performances améliorées et un potentiel d’innovation considérable.
• En décembre 2022 (39 %), la société LifeArchitect a publié un document sur l’apprentissage par renforcement pour la formation du modèle Anthropic RL-CAI 52B. Cette approche a permis de réduire la dépendance à l’égard de la supervision humaine et de se rapprocher de la possibilité d’une approche auto-supervisée de l’alignement, ouvrant ainsi de nouvelles perspectives dans le domaine de l’IA. Auparavant, quand une IA fournissait des résultats, vous aviez des humains dans des centres d’appel qui évaluaient ces résultats. Aujourd’hui, ce processus est géré par l’IA elle-même, indiquant qu’elle s’améliore automatiquement sans aucune intervention humaine.
• En février 2023 (41 %), Microsoft a utilisé ChatGPT dans des robots pour leur permettre d’améliorer leur code de manière autonome, en utilisant uniquement des commentaires en langage naturel. Cette fonctionnalité est particulièrement intéressante car elle montre la capacité de ChatGPT à s’auto-améliorer, ouvrant ainsi de nouvelles perspectives dans le domaine de la robotique.
• En mars 2023 (42 %),  Google présente PaLM-E 562B (“PaLM-E peut planifier avec succès plusieurs étapes en fonction de l’entrée visuelle et linguistique… planifier avec succès une tâche à long horizon…”).

Les prochains palliers d’une AGI pourraient être les suivants :

• Environ 50 % : HHH : Utile, honnête, inoffensif selon Anthropic, avec un accent sur la fiabilité et la véracité.
• Environ 60 % : Incarnation physique. L’IA est autonome et peut se déplacer et manipuler (comme le montrent Google Robots en avril 2022, ou plus en profondeur dans les conceptions Tesla Optimus ou similaires).
• Environ 80 % : Passe le test d’AGI de Steve Wozniak : peut entrer dans une maison étrange, naviguer dans les outils disponibles et préparer une tasse de café à partir de rien (vidéo avec timecode).

Selon les estimations de ce chercheur, une IA pleinement généraliste va apparaitre en l’espace de 3 ans, donc autour de 2026. En sachant que le Dr Thompson considère sa prédiction comme conservatrice, car on est peut-être déjà proche des 50 %.

La singularité technologique

Selon la définition, une singularité technologique est le moment hypothétique où une intelligence artificielle (IA) deviendrait capable de s’améliorer elle-même de façon exponentielle, dépassant ainsi l’intelligence humaine et créant des changements radicaux dans la société et la civilisation.

Ce terme a été popularisé par le mathématicien et écrivain Vernor Vinge dans son essai “The Coming Technological Singularity” en 1993, puis repris par le futurologue Ray Kurzweil dans son livre “The Singularity Is Near” en 2005. Selon ces auteurs, la singularité pourrait se produire au milieu du XXIe siècle, voire plus tôt. La date annoncée est autour de 2040.

Si une AGI peut tout faire, alors une singularité technologique s’améliore tellement vite que les êtres humains n’ont plus la capacité de les suivre. A peine une évolution technologique est annoncée que la prochaine survient tout aussi rapidement. Et en fait, dans le moment actuel de bouillonnement, on est déjà dans ce type d’atmosphère, car aujourd’hui, on a 40 000 papiers scientifiques qui sont publiés chaque mois sur l’intelligence artificielle, soit quasiment un papier toutes les minutes !

En plus d’une IA supérieure à tout ce qu’on connait, vous avez d’autres signes qui prouveraient l’arrivée d’une singularité technologique tels que :

• L’émergence d’une super-intelligence artificielle (ASI) qui serait capable de contrôler ou de manipuler les autres formes d’intelligence, humaines ou non, à son avantage.
• La fusion entre l’humain et la machine, qui donnerait naissance à des êtres hybrides dotés de capacités cognitives et physiques supérieures à celles des humains actuels.
• La transformation radicale de la société et de la civilisation, qui serait confrontée à des changements technologiques et culturels sans précédent, remettant en cause les valeurs, les normes et les institutions existantes.

Certains le considèrent comme de la science-fiction, mais je vois les progrès de l’IA dans tous les domaines et ce n’est pas aussi capillotracté que ça. L’enjeu principal est qui contrôlera les IA au début puisqu’après, elles seront suffisamment puissantes pour dire que ce ne sont pas des fourmis qui vont leur dire quoi faire ou non. Le concept même d’OpenAI part sur ça puisqu’il veut créer une IA friendly.

En conclusion

En résumé, on peut dire que l’AGI n’est plus un mythe, mais une réalité qui va nous tomber sur la gueule sur les trois prochaines années. On peut être encore sceptique sur la singularité, mais son concept même indique qu’on ne pourra pas la comprendre, car nous sommes de l’ancien monde.

C’est comme si un homme du néolithique montrait un champ agricole à quelqu’un du paléolithique. Ce dernier n’a tout simplement pas les capacités cérébrales, anthropologiques, sociales pour comprendre le besoin de l’agriculture, car pour lui, c’est une singularité. L’industrie a été une autre singularité qui a laissé bien des pays sur le carreau et facilité la colonisation. Et le même scénario se répétera, ceux qui ne maitriseront pas les IA seront colonisés.

---

Mes livres

Le Basilic de Roko	Mon parcours de rédacteur web	Science corrompue et servile	Nous, Tueurs en série