Le réglage fin, la clé du succès pour GPT-3.5 Turbo et GPT-4

OpenAI vient d’annoncer la disponibilité du réglage fin pour son modèle de langage GPT-3.5 Turbo. Cette fonctionnalité permet aux développeurs de personnaliser le modèle pour améliorer ses performances dans des cas d’usage spécifiques. OpenAI a également annoncé que le réglage fin sera possible pour GPT-4 à l’automne.

Le réglage fin consiste à alimenter GPT-3.5 Turbo avec des données personnalisées pour améliorer ses capacités pour des tâches particulières. Les cas d’usage de la personnalisation incluent l’amélioration de la dirigeabilité, de la cohérence du formatage de sortie, et de la personnalisation du ton et de la voix. Le réglage fin peut aussi réduire la longueur de l’invite jusqu’à 90%, ce qui diminue les coûts.

Des mécanismes de sécurité, comme l’API de modération, sont utilisés pour filtrer les données d’entraînement dangereuses et faire respecter les politiques de contenu pendant le réglage fin. Selon OpenAI, les tests préliminaires montrent que les versions réglées finement peuvent égaler ou dépasser les performances de GPT-4 pour des applications spécialisées.

OpenAI remplace les anciens modèles GPT-3 par babbage-002 et davinci-002 Les coûts du réglage fin se divisent en coût d’entraînement initial et coût d’utilisation, et sont les suivants :

• Formation : 0,008 $ / 1 000 jetons
• Entrée d’utilisation : 0,012 $ / 1 000 jetons
• Sortie d’utilisation : 0,016 $ / 1 000 jetons

OpenAI a également annoncé que les modèles GPT-3 de base (ada, babbage, curie et davinci) seront arrêtés le 4 janvier 2024. En remplacement, la société met à disposition dès aujourd’hui les modèles babbage-002 et davinci-002, qui peuvent être utilisés comme modèles de base ou réglés finement. Ces modèles peuvent être réglés finement en utilisant le nouveau point d’accès API /v1/fine_tuning/jobs. Ce sont des modèles nettement moins chers que gpt-3.5-turbo. La tarification complète est disponible sur le blog d’OpenAI.

Comme pour toutes les API d’OpenAI, “les données envoyées et reçues par l’API de réglage fin appartiennent au client et ne sont pas utilisées par OpenAI, ni par aucune autre organisation, pour entraîner d’autres modèles”, a déclaré la société.