Comprendre l’hallucination dans l’intelligence artificielle

L’hallucination IA n’est pas un nouveau problème. L’intelligence artificielle (IA) a réalisé des progrès considérables ces dernières années, devenant plus compétente dans des activités auparavant réservées aux humains. Cependant, l’hallucination est un problème de taille qui constitue un obstacle majeur pour l’IA.

Les développeurs ont mis en garde contre les modèles d’IA produisant des faits entièrement faux et répondant à des questions avec des réponses inventées comme si elles étaient vraies. L’hallucination est une barrière sérieuse au développement et au déploiement de systèmes d’IA car elle peut compromettre leur précision, leur fiabilité et leur crédibilité.

En conséquence, ceux qui travaillent dans le domaine de l’IA cherchent activement des solutions à ce problème.

Qu’est-ce que l’hallucination en IA ?

Le phénomène connu sous le nom d’hallucination en intelligence artificielle se produit lorsque le modèle d’IA produit des résultats qui ne sont pas ce qui était attendu. Il convient de noter que certains modèles d’IA ont été enseignés à produire délibérément des sorties sans rapport avec les entrées du monde réel (les données).

L’hallucination est le terme utilisé pour décrire la situation où les algorithmes d’IA et les réseaux de neurones d’apprentissage en profondeur créent des résultats qui ne sont pas réels, ne correspondent à aucune donnée sur laquelle l’algorithme a été entraîné, ou ne suivent aucun autre modèle discernable.

Les hallucinations en IA peuvent prendre de nombreuses formes différentes, allant de la création de fausses nouvelles à la création de fausses affirmations ou documents sur des personnes, des événements historiques ou des faits scientifiques. Par exemple, un programme d’IA comme ChatGPT peut fabriquer une figure historique avec une biographie complète et des réalisations qui n’ont jamais existé.

À l’ère actuelle des médias sociaux et de la communication instantanée, où un seul tweet ou un seul message sur Facebook peut atteindre des millions de personnes en quelques secondes, le potentiel de propagation rapide et large d’informations incorrectes est particulièrement problématique.

L’hallucination en Intelligence Artificielle : pourquoi survient-elle ?

Mais comment expliquer l’hallucination en IA ? Les exemples adversaires, des données qui trompent les programmes d’IA en les faisant mal classer, peuvent causer des hallucinations. Les applications d’IA sont entraînées à partir de données telles que des images, des textes ou d’autres types de données. Si les données sont altérées ou déformées, l’application interprète les entrées différemment et produit un résultat incorrect.

Les hallucinations peuvent également survenir dans les grands modèles de langage tels que ChatGPT et ses équivalents en raison d’un décodage de transformer inapproprié. Un transformer en IA est un modèle d’apprentissage profond qui utilise l’auto-attention pour créer du texte qui ressemble à ce qu’un humain écrirait.

En termes d’hallucination, on peut s’attendre à ce que la sortie soit fausse si le modèle de langage est entraîné sur des données et des ressources adéquates et précises. Le modèle de langage peut produire une histoire ou un récit sans lacunes illogiques ni liens ambigus.

Comment détecter les hallucinations de l’IA ?

La vision

En tant que sous-domaine de l’intelligence artificielle, la vision par ordinateur vise à apprendre aux ordinateurs à extraire des données utiles à partir d’entrées visuelles, telles que des images, des dessins, des films ou encore des situations réelles. Cette discipline forme les ordinateurs à percevoir le monde comme le ferait un être humain.

Cependant, puisque les ordinateurs ne sont pas des êtres humains, ils doivent se fier à des algorithmes et des modèles pour “comprendre” les images, plutôt que d’avoir un accès direct à la perception humaine. Il est donc possible qu’une IA ne puisse pas faire la distinction entre des chips et des feuilles qui changent de couleur. Cette situation ne passe également pas le test du bon sens : une image générée par une IA peut paraître bien différente de ce qu’un être humain percevrait. Évidemment, cela devient de plus en plus difficile à mesure que l’IA devient plus avancée.

Les voitures autonomes

Les voitures autonomes gagnent progressivement en popularité dans l’industrie automobile grâce à l’intelligence artificielle. Les pionniers de la voiture autonome tels que Ford’s BlueCruise et Tesla Autopilot ont favorisé cette initiative. Pour comprendre comment l’IA alimente les voitures autonomes, il suffit d’observer comment et ce que perçoit Tesla Autopilot.

Les hallucinations affectent les gens différemment que les modèles d’IA. Les hallucinations d’IA sont des résultats incorrects qui sont largement en décalage avec la réalité ou ne font pas de sens dans le contexte fourni. Par exemple, un chatbot d’IA peut répondre de manière grammaticalement ou logiquement incorrecte ou identifier à tort un objet en raison de bruit ou d’autres problèmes structurels.

Tout comme les hallucinations humaines, les hallucinations d’IA ne sont pas le produit d’un esprit conscient ou subconscient. Elles résultent plutôt d’une utilisation de données insuffisantes ou inadéquates pour entraîner et concevoir le système d’IA.

Les risques d’hallucination d’IA doivent être pris en compte, en particulier lors de l’utilisation d’une sortie d’IA générative pour la prise de décision importante. Bien que l’IA puisse être un outil utile, elle doit être considérée comme un premier jet que les humains doivent examiner et valider soigneusement.

À mesure que la technologie de l’IA se développe, il est crucial de l’utiliser de manière critique et responsable tout en étant conscient de ses inconvénients et de sa capacité à provoquer des hallucinations. En prenant les précautions nécessaires, on peut utiliser ses capacités tout en préservant l’exactitude et l’intégrité des données.

---

Mes livres

Le Basilic de Roko	Mon parcours de rédacteur web	Science corrompue et servile	Nous, Tueurs en série