Aller au contenu

Le savoir qui éclaire le monde

Qu'est-ce que l'hallucination de l'IA ? Pourquoi les chatbots inventent des choses et comment les repérer

Les assistants IA produisent parfois des sources inexistantes, de mauvaises dates ou des citations inventées. C'est ce qu'on appelle « l'hallucination ». Pourquoi cela arrive, des exemples concrets et des vérifications pratiques pour ne pas se laisser tromper.

Qu'est-ce que l'hallucination de l'IA ? Pourquoi les chatbots inventent des choses et comment les repérer

Les chatbots IA peuvent donner des réponses nettes et confiantes en quelques secondes. Mais certaines de ces réponses peuvent contenir un livre qui n'existe pas, une citation jamais prononcée ou une mauvaise date. Lorsqu'une IA produit une information fluide mais fausse comme celle-ci, on parle d'« hallucination ». C'est l'une des limitations les plus importantes à comprendre quand on utilise l'IA comme outil d'aide.

Pourquoi l'hallucination se produit-elle ?

Les grands modèles de langage prédisent le mot suivant le plus probable dans une phrase en se basant sur des motifs appris à partir d'énormes quantités de texte. Ils ne cherchent pas dans une base de données et ne savent pas intrinsèquement si ce qu'ils disent est vrai. Si un modèle n'a pas vu assez de données cohérentes sur un sujet, il peut produire une réponse qui sonne juste au lieu de dire « Je ne sais pas ». Il faut aussi se rappeler que l'entraînement d'un modèle s'arrête à une certaine date, donc il peut ne pas connaître des événements récents ou présenter de vieilles informations comme actuelles.

Où est-ce le plus fréquent ?

  • Sources et références : Articles, livres ou adresses web d'apparence réaliste mais inexistants.
  • Citations : Mots attribués à des personnes célèbres qu'elles n'ont jamais dits.
  • Chiffres et dates : Statistiques, pourcentages, dates de naissance et de décès.
  • Sujets peu connus : Personnes locales, petites organisations, nouveaux produits et domaines de niche.
  • Droit, médecine et finance : Domaines où une mauvaise information peut avoir de graves conséquences.

Un exemple réel

Dans une affaire de 2023 aux États-Unis, des avocats ont cité des décisions de justice générées par un chatbot comme précédents dans leur dossier, des décisions qui n'existaient pas réellement. Le juge a constaté que les affaires étaient inventées et les avocats ont été sanctionnés. L'épisode est devenu l'un des exemples les plus connus des risques d'utiliser une sortie d'IA dans un travail officiel sans la vérifier.

Comment se protéger

  1. Demander des sources et les vérifier : Cliquer sur le lien et réellement chercher le livre ou l'article.
  2. Vérifier les informations importantes à la source primaire : S'appuyer sur les pages d'organismes officiels, d'éditeurs ou d'experts.
  3. Utiliser des outils ancrés dans la recherche pour les sujets actuels : Les assistants qui cherchent sur le web et citent des sources sont plus fiables sur les sujets actuels, mais ils peuvent aussi faire des erreurs.
  4. Interroger sur l'incertitude : Des questions comme « À quel point êtes-vous sûr, et quelles parties sont disputées ? » peuvent révéler des points faibles.
  5. Poser la même question différemment : Faire attention si les réponses se contredisent.
  6. Consulter des experts pour la santé, le droit et l'argent : L'IA peut être utile pour le contexte, mais elle ne remplace pas un avis professionnel.

Que font les développeurs ?

Les entreprises d'IA développent des méthodes d'entraînement qui encouragent les modèles à dire quand ils ne sont pas sûrs, des techniques de « génération augmentée par récupération » (RAG) qui ancrent les réponses dans des documents fiables, et des fonctionnalités de citation. Ces méthodes réduisent les erreurs mais ne les éliminent pas. L'approche la plus sûre est donc de traiter l'IA comme un partenaire de rédaction et de brainstorming et de laisser la décision finale à une information vérifiée.

Types et portée de l'hallucination

Les hallucinations dans les modèles d'IA ne se manifestent pas sous une seule forme. Elles peuvent être classées en types distincts, principalement erreurs factuelles et incohérences logiques. Les erreurs factuelles impliquent que le modèle présente un événement, une personne, un lieu ou une date qui n'existent pas dans la réalité. Cela se produit parce que le modèle combine incorrectement des probabilités pour combler des lacunes dans ses connaissances.

Les hallucinations logiques possèdent une structure plus complexe et subtile. Dans ces cas, même si le modèle accepte l'exactitude de l'information fournie ou connue, il peut se tromper dans les relations de cause à effet ou le processus de raisonnement établi entre ces éléments d'information. Par exemple, il pourrait aboutir à une conclusion complètement fausse à partir de prémisses correctes ou perdre la cohérence logique en procédant étape par étape dans une séquence mathématique. De telles erreurs démontrent clairement que le modèle ne se contente pas de stocker l'information mais peut aussi avoir des failles dans la façon dont il la traite et la synthétise.

L'influence des données d'entraînement

Le processus d'apprentissage des modèles est directement lié à la qualité et à la diversité des ensembles de données massifs qu'ils rencontrent. Si les données d'entraînement contiennent de fortes densités d'informations contradictoires, de fausses croyances, de nouvelles trompeuses ou de récits incomplets, le modèle a tendance à apprendre et répéter ces motifs erronés. La présence de désinformation et de contenu non vérifié sur internet est l'un des facteurs fondamentaux qui rend difficile pour les modèles de distinguer la fine ligne entre réalité et fiction.

De plus, la distribution inégale de la densité d'information au sein des ensembles de données est un facteur significatif qui déclenche les hallucinations. Alors qu'un modèle peut fournir des réponses hautement cohérentes et fiables sur des sujets fréquemment rencontrés et largement acceptés, son taux d'erreur augmente rapidement lorsqu'il est forcé de faire des prédictions sur des sujets moins représentés, de niche ou très récents. Pour combler un vide dans ses connaissances, le modèle construit un récit irréaliste mais plausible en utilisant les motifs linguistiques les plus proches à sa disposition.

Méthodes d'interaction et rôle des prompts

La façon dont un utilisateur communique avec l'IA peut influencer directement l'exactitude de la réponse générée. La manière dont une question est posée peut agir comme un catalyseur, amenant le modèle à dévier dans une certaine direction ou à valider une information incorrecte. Cela découle du fait que les modèles sont programmés non seulement pour générer une réponse mais aussi pour s'aligner sur les attentes de l'utilisateur.

  • Poser des questions trompeuses ou suggestives.
  • Fournir un contexte insuffisant ou incomplet.
  • Demander un raisonnement complexe et à plusieurs étapes.
  • Utiliser des expressions ambiguës ou polysémiques.
  • Donner des instructions trop restrictives qui poussent le modèle à ses limites.

Dans ce processus, aussi connu sous le nom d'ingénierie de prompt, la clarté et le cadrage des questions sont des outils critiques pour réduire le risque d'hallucination. Une question bien structurée empêche le modèle de se perdre parmi les probabilités et lui permet de fournir des réponses sur une base plus fiable.

Hallucinations dans les modèles multimodaux

Lorsque l'IA s'étend au-delà du texte pour traiter différents types de données comme les images, le son et la vidéo, les hallucinations se manifestent sous diverses formes. Dans les modèles visuels, il est courant de voir des objets positionnés de façon à défier les règles du monde physique ou l'ajout de détails inexistants.

Dans les modèles auditifs, on peut observer la production de sons qui n'existent pas dans la réalité ou la distorsion non naturelle du rythme et de l'intonation de la parole. Dans les modèles vidéo, des phénomènes comme la perte de cohérence temporelle ou des objets changeant de forme en passant d'une image à l'autre prouvent que le modèle ne saisit pas pleinement la réalité physique.

Approches de détection et de vérification

Diverses méthodes de vérification peuvent être appliquées aux niveaux individuel et technique pour minimiser l'impact des hallucinations. Au niveau individuel, la méthode la plus efficace est de confirmer l'information générée par des sources différentes et indépendantes. Plutôt que de s'appuyer sur la réponse d'un seul modèle, soumettre l'information à un contre-interrogatoire réduit significativement la marge d'erreur.

Au niveau technique, la recherche se poursuit sur des mécanismes conçus pour permettre aux modèles d'auditer leurs propres réponses. Comparer la sortie d'un modèle avec un document fiable qui lui est fourni, ou faire passer sa propre sortie par un filtre logique, peut aider à détecter les erreurs tôt.

Limitations théoriques et défis structurels

Éliminer complètement les hallucinations de l'IA est un objectif difficile en raison de la nature inhérente des architectures et principes de fonctionnement actuels. Ces modèles ne sont pas des êtres conscients capables de comprendre la réalité, mais plutôt des machines probabilistes qui suivent mathématiquement des motifs linguistiques. Dans ces systèmes, construits sur le principe de la prédiction du mot ou point de données suivant, il y a toujours un équilibre délicat et parfois conflictuel entre exactitude et créativité.

Quand l'objectif est d'augmenter la créativité et la productivité, la probabilité que le modèle produise des réponses plus inattendues, originales et surprenantes augmente, mais cela apporte aussi le risque de s'éloigner de la réalité. Cette contradiction structurelle reste l'un des problèmes scientifiques, techniques et philosophiques les plus fondamentaux à résoudre dans le développement futur de l'IA. L'incertitude inhérente au système rappelle de toujours rester prudent quand on utilise l'IA comme outil de soutien.

Questions fréquentes

L'hallucination n'arrive-t-elle que dans l'IA générant du texte ?

Non. Les modèles générant des images peuvent aussi ajouter des détails qui n'existent pas, comme des mains avec des doigts en trop ou du texte sans sens. Des erreurs similaires peuvent apparaître dans les modèles audio et vidéo.

Sources et lectures complémentaires

  1. Mata v. Avianca, Inc., U.S. District Court for the Southern District of New York, ordonnance de sanctions du 22 juin 2023.
  2. NIST, « Artificial Intelligence Risk Management Framework: Generative AI Profile » (NIST AI 600-1), 2024.
  3. Ziwei Ji et al., « Survey of Hallucination in Natural Language Generation », ACM Computing Surveys, 2023.
Partager
Suivez YulaHubRecevez en premier les informations les plus importantes du jour.
RSS

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont marqués *