OpenChatKit, le rival Open Source de ChatGPT

La communauté open-source Together a lancé la première alternative open-source à ChatGPT, OpenChatKit. Ce chatbot repose sur le modèle de langage GPT-NeoX d’EleutherAI, qui comporte 20 milliards de paramètres, et a été optimisé avec 43 millions d’instructions pour une utilisation en chat. Dans le benchmark HELM standard de l’industrie, le modèle de chat surpasse le modèle de base.

OpenChatKit est livré avec une trousse à outils

En plus du modèle de langage spécialisé GPT-NeoXT-Chat-Base-20B, le kit, disponible gratuitement sur GitHub pour les développeurs sous licence Apache 2.0, comprend les composants suivants :

• Des recettes de personnalisation pour affiner le modèle et obtenir une grande précision pour vos tâches.
• Un système de récupération extensible qui vous permet d’augmenter les réponses du bot avec des informations provenant d’un référentiel de documents, d’une API ou d’une autre source d’informations en temps réel au moment de l’inférence.
• Un modèle de modération, affiné à partir de GPT-JT-6B, conçu pour filtrer les questions auxquelles le bot répond.

Des outils pour permettre aux utilisateurs de fournir des commentaires sur les réponses du chatbot et ajouter de nouveaux ensembles de données sont également intégrés.

Des capacités limitées pour le moment

Selon les développeurs, OpenChatKit a des capacités limitées, mais se démarque par sa capacité à résumer et à répondre à des questions en contexte, à extraire des informations et à classifier du texte.

Cependant, il peine à répondre aux questions sans contexte, à la programmation et à la création littéraire, des tâches qui ont contribué à la popularité de ChatGPT, bien qu’il puisse aussi faire des hallucinations comme son homologue. En outre, OpenChatKit a des difficultés à changer de sujet en plein milieu d’une conversation et peut parfois répéter les mêmes réponses.

Cependant, après une personnalisation fine pour des cas d’utilisation spécifiques, OpenChatKit a affiché de bien meilleures performances. Together travaille actuellement sur ses propres chatbots pour l’apprentissage, les conseils financiers et les demandes de soutien.

Au cours d’un test court, OpenChatKit n’était pas aussi éloquent que ChatGPT, principalement parce que les réponses sont limitées à 256 tokens au lieu d’environ 500. Les réponses sont beaucoup plus courtes, mais OpenChatKit génère des réponses beaucoup plus rapidement. Le changement de langue ne semble pas poser de problème au bot. Le formatage sous forme de liste ou de tableau est également possible.

En outre, Together s’appuie sur les commentaires des utilisateurs pour améliorer encore OpenChatKit.

Le futur de l’apprentissage décentralisé des modèles d’IA ?

Quelle que soit l’issue, le processus d’apprentissage est probablement l’avenir des projets open-source à grande échelle : comme pour GPT-JT, les développeurs d’OpenChatKit ont adopté une approche décentralisée, en distribuant la puissance de calcul nécessaire à partir d’un centre de données central vers de nombreux ordinateurs.

Bien qu’OpenChatKit soit le premier produit dans le monde open-source à émuler ChatGPT, il ne sera certainement pas le seul. Avec la fuite récente des modèles LLaMa de Meta – le plus grand d’entre eux ayant trois fois plus de paramètres que GPT-NeoX-20B – il ne devrait être qu’une question de temps avant que nous ne voyions un chatbot basé sur cette technologie.

Vous pouvez essayer gratuitement OpenChatKit sur Hugging Face.