Hallucination (IA)

Une hallucination, dans le vocabulaire de l'intelligence artificielle, désigne le fait qu'un modèle génère une information fausse, inventée ou incohérente, tout en la présentant avec la même assurance qu'un fait vérifié. Le terme, emprunté au vocabulaire médical, décrit bien le phénomène : le modèle ne « voit » pas quelque chose qui n'existe pas, il produit un contenu plausible qui n'a simplement aucun fondement réel.

Pourquoi un LLM peut halluciner

Un grand modèle de langage fonctionne en prédisant la suite de mots la plus probable, pas en interrogeant une base de faits vérifiés. Quand une question sort du champ de ses connaissances, qu'elle porte sur un sujet récent, une référence précise ou un détail chiffré, le modèle peut malgré tout produire une réponse structurée et convaincante — une date inventée, une citation qui n'existe pas, une norme juridique fictive — simplement parce que cette suite de mots est statistiquement plausible.

Un risque concret pour une TPE-PME

Utiliser une IA générative pour rédiger un contrat type, vérifier une obligation réglementaire ou citer un texte de loi expose directement à ce risque : l'erreur n'est pas signalée, elle se glisse dans un contenu par ailleurs bien écrit. Notre article sur les hallucinations et le droit d'auteur détaille des cas concrets où cette confiance excessive a des conséquences juridiques réelles pour une entreprise.

S'en protéger sans renoncer à l'IA

La parade ne consiste pas à éviter l'IA générative, mais à ne jamais la traiter comme une source faisant autorité sur les sujets sensibles : toute affirmation chiffrée, juridique ou technique produite par un modèle doit être vérifiée auprès d'une source fiable avant d'être utilisée ou diffusée. Chez ELS Conseil, nous sensibilisons les équipes de nos clients de Provence à ce réflexe simple lorsque nous les accompagnons dans l'adoption d'outils d'IA.

L'hallucination n'est pas un bug ponctuel appelé à disparaître avec la prochaine version : c'est une limite structurelle des modèles actuels, qu'il faut connaître pour utiliser l'IA générative avec le bon niveau de vigilance.

← Retour au lexique