Dictionnaire du digital · Fiche

Hallucination d’une IA

Hallucination d’une intelligence artificielle

ThèmeIA
FamilleFiabilité des contenus générés
Pour quiLes équipes qui reprennent les réponses d’un assistant dans des documents professionnels.
Autres nomshallucination IA, réponse inventée

Par Arnaud Guedj, le Dr DigitalFiche publiée le

1

Définition

Une hallucination est une réponse produite par une IA qui présente une information fausse ou sans fondement comme plausible. Elle peut prendre la forme d’une référence inexistante, d’une citation erronée ou d’un détail ajouté.

2

À quoi ça sert

Connaître ce risque aide à décider ce qui doit être vérifié avant diffusion. L’assurance du ton et la présence d’un lien ne prouvent pas l’exactitude de la réponse.

3

Un exemple dans une PME

Mr Jacques fait préparer une fiche de linge de lit par son assistant. Le texte ajoute un label absent des documents du fournisseur ; il retire cette mention avant de publier.

4

Effets indésirables

Une réponse erronée peut devenir une promesse commerciale inexacte. La demander de nouveau au même assistant peut reproduire l’erreur.

5

Précautions d'emploi

Ouvrez les sources et vérifiez qu’elles soutiennent chaque affirmation. Comparez les caractéristiques aux documents du fournisseur. Pour suivre les évolutions des outils, consultez la veille zlio et remontez aux annonces originales, sans en déduire qu’un outil est infaillible.

6

Voir aussi

Sources

  1. 1Que sont les hallucinations générées par l’IA ?, Google Cloud
  2. 2Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative, CNIL
Les Ordonnances du Docteur Digital

Recevoir Les Ordonnances par e-mail

Un mercredi sur deux, je vous envoie un problème de site ou de vente en ligne, son explication et ce qu’il faut faire. Nexperio, mon entreprise, gère les inscriptions et les envois.

S’inscrire sur nexperio.com →

L’inscription se fait sur nexperio.com, qui vous envoie un e-mail de confirmation. Vous pourrez vous désinscrire en un clic.