Hallucination d’une IA
Hallucination d’une intelligence artificielle
| Thème | IA |
|---|---|
| Famille | Fiabilité des contenus générés |
| Pour qui | Les équipes qui reprennent les réponses d’un assistant dans des documents professionnels. |
| Autres noms | hallucination IA, réponse inventée |
Définition
Une hallucination est une réponse produite par une IA qui présente une information fausse ou sans fondement comme plausible. Elle peut prendre la forme d’une référence inexistante, d’une citation erronée ou d’un détail ajouté.
À quoi ça sert
Connaître ce risque aide à décider ce qui doit être vérifié avant diffusion. L’assurance du ton et la présence d’un lien ne prouvent pas l’exactitude de la réponse.
Un exemple dans une PME
Mr Jacques fait préparer une fiche de linge de lit par son assistant. Le texte ajoute un label absent des documents du fournisseur ; il retire cette mention avant de publier.
Effets indésirables
Une réponse erronée peut devenir une promesse commerciale inexacte. La demander de nouveau au même assistant peut reproduire l’erreur.
Précautions d'emploi
Ouvrez les sources et vérifiez qu’elles soutiennent chaque affirmation. Comparez les caractéristiques aux documents du fournisseur. Pour suivre les évolutions des outils, consultez la veille zlio et remontez aux annonces originales, sans en déduire qu’un outil est infaillible.
