Le coût caché de ChatGPT : l’exploitation des travailleurs africains
Français
ChatGPT a été loué comme une réalisation technologique révolutionnaire, mais il semblerait que ce ne soit qu’un tour de passe-passe pour masquer les véritables méthodes utilisées pour arriver à ce résultat. Derrière chaque technologie révolutionnaire, il y a toujours un esclave qui a fait son boulot…
Suivez-nous sur notre page Facebook et notre canal Telegram
A sa sortie en novembre 2022, ChatGPT a été largement reconnu comme une réalisation technologique révolutionnaire. Ce chatbot peut produire du texte sur une grande variété de sujets, y compris la réadaptation d’un vieux proverbe chinois en argot de la génération Z et l’explication de l’informatique quantique aux enfants à l’aide d’allégories et d’histoires. En une seule semaine, il a réuni plus d’un million d’utilisateurs.
Si vous avez apprécié cet article, soutenez-moi sur Patreon ou Buy me a coffee Vous recevrez chaque semaine du contenu exclusif et des réponses à vos questions. Merci ! 😊
Cependant, le succès de ChatGPT ne peut pas être entièrement attribué à l’ingéniosité de la Silicon Valley. Une enquête de TIME a révélé qu’OpenAI a utilisé les services de travailleurs kényans externalisés qui gagnent moins de 2 $ par heure pour réduire la toxicité de ChatGPT.
Le travail effectué par ces travailleurs externalisés était crucial pour OpenAI. GPT-3, le modèle de ChatGPT, possédait la capacité à composer des phrases efficacement, mais l’application avait tendance à déverser des déclarations violentes, sexistes et racistes. Le problème est que l’outil a été formé en grande partie à partir d’informations provenant d’Internet, qui est à la fois le pire et le meilleur des intentions humaines.
Bien que l’accès à une telle quantité massive d’informations humaines soit la raison pour laquelle GPT-3 a montré une intelligence aussi profonde, c’est également la raison pour les biais également profonds de l’outil.
Le sombre secret derrière la formation de ChatGPT
Ce n’était pas facile de se débarrasser de ces biais et de ce contenu nocif. Même avec une équipe de centaines de personnes, il aurait fallu des décennies pour passer en revue chaque morceau de données et vérifier s’il était approprié ou non. La seule façon pour OpenAI de poser les bases d’un ChatGPT moins biaisé et offensant a été de créer un nouveau mécanisme de sécurité basé sur l’IA.
Cependant, pour former ce mécanisme de sécurité basé sur l’IA, OpenAI aurait besoin d’une main-d’œuvre humaine, et il en a trouvé une au Kenya. Il s’avère que pour créer un mécanisme de détection de contenu nocif, vous avez besoin d’une vaste bibliothèque de contenu nocif sur laquelle former le mécanisme.
Ainsi, il apprend à reconnaître ce qui est acceptable et ce qui est toxique. Dans l’espoir de construire un chatbot non-toxique, OpenAI a externalisé des milliers de snippets de texte à une entreprise au Kenya à partir de novembre 2021. Une partie importante du texte semblait provenir des recoins les plus sombres d’Internet. Ces textes incluaient des descriptions graphiques d’actes dépravés.
Ces textes ont ensuite été analysés et étiquetés par la main-d’œuvre kényane dont on a fermé la gueule par un contrat de confidentialité et qui est restée silencieuse en raison de craintes considérables entourant leur statut d’emploi. Les évaluateurs de données embauchés par OpenAI ont été payés entre 1,32 $ et 2 $ de l’heure, selon leur expérience et leur performance.
La position d’OpenAI était claire dès le départ : “Notre mission est de veiller à ce que l’intelligence générale artificielle bénéficie à toute l’humanité, et nous nous efforçons de construire des systèmes d’IA sûrs et utiles qui limitent les biais et le contenu nocif.” Cependant, l’impact sur les travailleurs kényans n’a été découvert que récemment par TIME. Dans une déclaration concernant le contenu graphique et dépravé qu’il a dû juger, un de ces travailleurs a déclaré : “C’était de la torture, vous lisez un certain nombre de déclarations de ce genre tout au long de la semaine.”
L’impact sur les travailleurs était tel que la société d’externalisation, Sama, a finalement annulé tout le travail qu’elle avait été embauchée pour réaliser par OpenAI en février 2022. Le contrat devait se poursuivre pendant huit mois de plus.
Cette histoire met en lumière le côté sordide de la technologie qui nous enthousiasme aujourd’hui. Il y a des esclaves invisibles qui effectuent des tâches innombrables et impensables pour garantir que l’IA fonctionne comme nous l’attendons. Ce n’est ni la première ou dernière de ces histoires. On a aussi la grande distribution française qui prétendait utiliser l’IA pour analyser des vidéos de surveillance pour s’apercevoir que c’était des pauvres malgaches, payés au lance-pierre qui faisaient tout le taf.
Quand aux médias français qui se scandalisent comme des vierges effarouchées devant cet esclavage moderne, il ne faut pas manquer de leur rappeler qu’une grande partie de leur contenu est créé par les mêmes types d’esclaves sauf qu’ils sont moins payés que les travailleurs kenyans…
Si vous avez apprécié cet article, soutenez-moi sur Patreon ou Buy me a coffee Vous recevrez chaque semaine du contenu exclusif et des réponses à vos questions. Merci ! 😊
