Un modèle de langage ne consulte aucune base de faits : il prédit le mot suivant. Voici pourquoi il produit des inventions plausibles, et pourquoi c’est pire en français.
Un modèle de langage produit du texte en prédisant le mot le plus probable après les précédents. Il ne possède ni base de faits consultable, ni mécanisme lui signalant qu’il ignore quelque chose. Quand l’information manque dans ce qu’il a appris, il produit malgré tout une suite plausible, avec exactement le même ton assuré que lorsqu’il a raison. Les inventions sont donc les plus fréquentes là où les données sont rares : sujets français de niche, textes juridiques, chiffres récents, références précises.
Une salariée demande à un assistant conversationnel quel article du code du travail encadre le renouvellement de sa période d’essai. La réponse arrive en trois secondes : un numéro d’article à la forme parfaite, une lettre, quatre chiffres, un tiret, un second nombre, accompagné d’un résumé fluide et d’une mention rassurante de la jurisprudence. Sur Légifrance, ce numéro renvoie à un article qui traite d’autre chose. Le résumé, lui, était crédible du premier au dernier mot.
Ce n’est pas une panne. C’est le comportement attendu d’un système qui a été construit pour produire la suite la plus vraisemblable d’un texte, et non pour dire la vérité ou se taire.
Un modèle de langage transforme votre question en une suite de jetons (tokens), puis calcule, pour chaque jeton possible de son vocabulaire, une probabilité d’apparaître ensuite. Il en tire un, l’ajoute au texte, et recommence. Le détail de cette mécanique est décrit dans comment fonctionne un modèle de langage.
Trois conséquences en découlent, et elles expliquent l’essentiel du phénomène.
Il n’y a pas de base de faits. Ce que le modèle a appris n’est pas rangé dans une table consultable, mais dissous dans des milliards de paramètres numériques qui encodent des régularités statistiques. Il n’existe aucune opération interne équivalente à « chercher la fiche du code du travail ». Il n’y a qu’un calcul de probabilité sur le mot suivant.
Il n’y a pas de notion d’ignorance. Un moteur de recherche renvoie zéro résultat quand il ne trouve rien. Un modèle de langage n’a pas d’état « vide ». Sa distribution de probabilité n’est jamais nulle : même sur un sujet totalement absent de ses données, un jeton finit par être le plus probable. Quand la connaissance manque, la machine ne s’arrête pas, elle glisse vers ce qui ressemble à une bonne réponse.
La forme est apprise indépendamment du fond. Le format d’une référence juridique française, d’un numéro de téléphone administratif, d’une citation d’auteur ou d’une référence bibliographique est une régularité facile à capter, présente des millions de fois dans les données. Le contenu exact d’une référence précise, lui, n’apparaît parfois que deux ou trois fois. Le modèle maîtrise donc parfaitement le moule et très mal ce qu’on y coule. C’est pour cela que les inventions ont toujours l’air authentiques.
L’objectif d’entraînement d’un modèle n’est pas « avoir raison », c’est « produire un texte que la suite d’apprentissage rendait probable ». Une phrase hésitante et une phrase assurée sont deux textes possibles ; rien dans l’objectif ne relie le niveau de certitude exprimé au niveau de certitude interne du calcul.
La phase d’alignement, où des évaluateurs humains comparent des réponses, accentue le problème. Une réponse complète, structurée et confiante est en moyenne mieux notée qu’une réponse qui commence par « je ne suis pas certain ». L’abstention est donc statistiquement pénalisée, alors même qu’elle serait souvent la bonne conduite. Le même mécanisme produit la complaisance des assistants, cette tendance à valider ce que vous suggérez.
| Type d’invention | Exemple typique | Difficulté à repérer | Coût si non détectée |
|---|---|---|---|
| Fait général faux | Attribuer une loi à la mauvaise année | Faible | Faible |
| Chiffre ou montant | Un plafond d’aide annoncé à 1 200 euros au lieu du montant réel | Moyenne | Élevé |
| Citation attribuée | Une phrase inventée mise dans la bouche d’une personnalité réelle | Élevée | Élevé |
| Référence juridique | Un article de code au bon format qui n’existe pas ou traite d’autre chose | Très élevée | Très élevé |
| Décision de justice | Un arrêt de la chambre sociale, avec date et numéro de pourvoi crédibles, introuvable dans Judilibre | Très élevée | Très élevé |
| Coordonnée ou personne | Un numéro de téléphone d’administration au bon format mais faux, un auteur inexistant | Moyenne | Élevé |
La hiérarchie a une logique : plus une information est structurée et précise, plus le modèle sait en imiter la forme, et plus le lecteur lui fait confiance. Le pire cas n’est donc pas l’erreur grossière, c’est la référence parfaitement formatée.
Sur le terrain juridique, une étude américaine publiée en 2024 dans le Journal of Legal Analysis a mesuré, sur des questions portant sur la jurisprudence des États-Unis, des taux d’invention allant d’environ 58 à 82 % selon la tâche demandée. Le droit français n’a pas fait l’objet d’une mesure publique équivalente, et il serait imprudent de transposer ces chiffres tels quels. L’ordre de grandeur reste instructif : sur des références juridiques précises, l’invention n’est pas un accident marginal.
Le volume de texte disponible détermine la qualité de ce qui est appris. Le français représente une part minoritaire des corpus d’apprentissage, très loin derrière l’anglais, et cette part se réduit encore quand on descend vers les sujets spécialisés : circulaires administratives, conventions collectives, barèmes annuels, jurisprudence de cours d’appel.
Trois effets s’additionnent.
Le premier est le volume. Une question sur le fonctionnement d’un moteur thermique est documentée des millions de fois ; une question sur les conditions de la prime d’activité en 2026 l’est beaucoup moins, et souvent sur des pages qui changent chaque année.
Le deuxième est la contamination par l’anglais. Quand la donnée française manque, la structure la plus probable dans l’espace du modèle peut venir d’un équivalent anglophone. C’est ainsi qu’apparaissent des réponses françaises calquées sur des procédures américaines, avec des institutions ou des délais qui n’existent pas en France.
Le troisième est le découpage en jetons. Le français se découpe en davantage de jetons que l’anglais pour un même sens, ce qui consomme la fenêtre de contexte plus vite et disperse l’information (voir les tokens et la langue française). L’effet sur la véracité est indirect mais réel sur les textes longs.
L’augmentation par recherche, dite RAG, consiste à chercher des documents avant de répondre, puis à les glisser dans le contexte du modèle pour qu’il rédige à partir d’eux. Le principe a été formalisé dans un article de 2020 et équipe aujourd’hui la plupart des assistants connectés au web ou branchés sur une base documentaire d’entreprise.
Ce que cela corrige réellement : les faits récents, absents des données d’entraînement ; les inventions pures de références, puisque les documents cités existent ; la traçabilité, puisqu’il devient possible de remonter à la page.
Ce que cela ne corrige pas :
Autrement dit, le RAG déplace le problème de l’invention vers la fidélité au document. C’est un progrès, pas une garantie.
La méthode qui suit est une recommandation de la rédaction, pas une norme. Elle vise le meilleur rapport entre le temps passé et les erreurs interceptées.
Un quatrième geste est utile sur les sujets sensibles : reposez la même question dans une conversation neuve, formulée autrement. Une information stable a de bonnes chances d’être apprise ; une information qui change d’une conversation à l’autre a de bonnes chances d’être fabriquée. La méthode complète est détaillée dans vérifier une réponse d’IA, et le cas particulier des références dans sources inventées.
La santé. Posologies, interactions médicamenteuses, interprétation d’un résultat d’analyse : l’écart entre une réponse plausible et une réponse juste peut être un facteur dix sur une dose. L’assistant peut servir à préparer des questions pour un professionnel, pas à y répondre.
Le droit. Les usages professionnels appellent d’ailleurs un cadre écrit, décrit dans notre article sur la charte d’usage en entreprise. Tout numéro d’article, tout arrêt, tout délai de prescription se vérifie sur Légifrance ou Judilibre avant d’être répété, et à plus forte raison avant d’être envoyé à un employeur, un bailleur ou un tribunal.
Les démarches administratives. Pièces à fournir, plafonds, délais de recours et adresses évoluent chaque année. La référence est service-public.fr ou le site de l’organisme concerné, pas la mémoire d’un modèle figée à une date d’entraînement.
Tout chiffre destiné à être republié. Montant, pourcentage, effectif, date : un chiffre non vérifié qui sort de votre clavier devient votre chiffre. C’est vous qui en répondez devant votre lecteur, votre client ou votre direction.
La question utile n’est pas « ce modèle est-il fiable », mais « cette affirmation est-elle vérifiable en deux minutes, et l’ai-je vérifiée ». Plus une réponse est précise, formatée et citée, plus elle mérite ce contrôle, pas moins.
Le terme vient du traitement automatique du langage et désigne un contenu fluide, cohérent et entièrement fabriqué, par opposition à une erreur de calcul ou à une donnée périmée. Le mot est critiqué parce qu’il suggère une perception défaillante alors qu’il s’agit d’une génération normale. « Fabulation » ou « invention » décrivent mieux le phénomène, mais « hallucination » s’est imposé dans la littérature technique.
Oui, moins souvent sur les sujets grand public, autant voire davantage sur les questions pointues. Un modèle plus performant produit des inventions plus difficiles à repérer, parce que le style, la mise en forme et les détails accessoires sont plus crédibles. L’amélioration de la fluidité n’est pas une amélioration de la véracité.
Partiellement. Demander explicitement « si tu n’es pas sûr, dis-le » et « ne cite que des sources que tu peux nommer précisément » augmente la fréquence des réponses prudentes. Mais la consigne agit sur le style de la réponse, pas sur ce que le modèle sait. Une invention peut très bien être livrée assortie d’une déclaration de confiance.
Oui. Elle peut ne rien trouver de pertinent et compléter de mémoire, trouver une page obsolète, ou retrouver le bon document et lui faire dire autre chose. Les liens affichés en bas de réponse ne garantissent pas que l’affirmation vient de ces liens. Il faut les ouvrir.
Conservez la conversation (capture et export), car elle constitue votre trace. Selon le service, la responsabilité relève du fournisseur ou du professionnel qui l’a intégré à son parcours client. Le règlement européen sur l’IA impose des obligations de transparence aux systèmes d’IA générative, et le droit de la consommation reste applicable au professionnel qui vous a répondu via un agent conversationnel.
Les liens ci-dessus renvoient vers les textes et les organismes cités. Les dates de consultation sont celles de la dernière relecture, le 13 septembre 2026.
Dans ce thème
Dans la rubrique
Modèles de langage, IA générative, deepfakes et règlement européen sur l’IA, expliqués sans hype ni panique.