Gemini de DeepMind, un système d’IA hybride entre AlphaGo et GPT-4

Google Deepmind travaille sur un système d’intelligence artificielle nommé Gemini, qui associera les capacités du programme AlphaGo, champion du jeu de go, avec celles des grands modèles de langage comme GPT-4, la technologie derrière ChatGPT d’OpenAI.

Dans une interview accordée à Wired, le PDG de Deepmind, Demis Hassabis, explique que l’entreprise compte utiliser son expertise en apprentissage par renforcement pour donner à Gemini des caractéristiques distinctives. Grâce aux techniques employées par AlphaGo, comme l’apprentissage par renforcement et la recherche arborescente, Gemini vise à offrir de nouvelles capacités comme la résolution de problèmes et la planification.

“À un haut niveau, vous pouvez penser à Gemini comme combinant certaines des forces des systèmes de type AlphaGo avec les capacités linguistiques incroyables des grands modèles. Nous avons aussi quelques innovations nouvelles qui vont être assez intéressantes.” selon Demis Hassabis

Gemini a été officiellement présenté en mai 2023 et, selon Hassabis, il sera en développement et en entraînement pendant plusieurs mois encore. Gemini aurait des capacités multimodales inédites, et serait très efficace pour intégrer des outils et des API.

Le système pourrait coûter des dizaines ou des centaines de millions de dollars à développer et pourrait jouer un rôle crucial dans la réponse de Google à ChatGPT et aux autres technologies d’IA génératives, rapporte Wired.

Gemini sera disponible en plusieurs tailles et conçu pour supporter des innovations futures comme la mémoire et la planification. Des rumeurs en mars affirmaient que le modèle aurait un billion de paramètres comme GPT-4. Le projet utiliserait des dizaines de milliers de puces TPU de Google pour l’entraînement.

De son côté, le PDG d’OpenAI, Sam Altman, a déclaré que GPT-5 était encore loin du lancement et qu’il ne commencerait pas son entraînement avant au moins six mois. Un lancement en 2024 semble probable. Google Deepmind n’a pas dit quand Gemini serait disponible.

---

Mes livres

Le Basilic de Roko	Mon parcours de rédacteur web	Science corrompue et servile	Nous, Tueurs en série