Un générateur d’images part d’un rectangle de bruit aléatoire et le débruite par paliers. Ce mécanisme explique les mains ratées, le faux alphabet et les accents français qui flottent.
Un générateur d’images ne découpe ni ne recolle des photographies existantes. Il part d’un rectangle de nombres tirés au hasard et retire un peu de bruit à chaque passage, quelques dizaines de fois, en se laissant orienter par votre phrase transformée en vecteurs. Le corpus n’est pas stocké dans le modèle : seules subsistent des statistiques apprises. Cette mécanique explique les défauts caractéristiques, mains improbables, faux alphabet, accents français flottants, et le fait que deux tirages ne donnent jamais la même image.
Vous tapez « un chat roux endormi sur un canapé de velours vert, photographie argentique, lumière du matin ». Vingt secondes plus tard, quatre images arrivent. Le chat est là, le velours est crédible, le grain argentique aussi. La question qui suit est presque toujours la même : où le programme est-il allé chercher ce chat ?
Nulle part. Aucune photographie n’a été ouverte, découpée ni recollée. Le point de départ du calcul est un rectangle de nombres tirés au hasard, un champ de bruit comparable à la neige d’un vieux téléviseur. Le modèle sait faire une seule chose : estimer le bruit présent et en retirer un peu, plusieurs dizaines de fois de suite, en se laissant orienter par votre phrase.
Cette mécanique explique presque tout le reste : pourquoi deux tirages ne donnent jamais la même image, pourquoi les mains partent de travers, pourquoi une pancarte affiche un alphabet inventé, et pourquoi une même consigne produit des résultats très différents selon un réglage que l’interface ne montre pas.
L’entraînement se déroule à l’envers de ce qu’on imagine. On prend des millions d’images réelles et on les détruit méthodiquement : à chaque palier, on ajoute une pincée de bruit aléatoire. Après quelques centaines de paliers, il ne reste qu’un champ statistique sans structure. Le réseau reçoit une image bruitée et le numéro du palier, et on lui demande une seule chose : prédire le bruit qui a été ajouté.
C’est une tâche pour laquelle on dispose gratuitement de la bonne réponse, puisque c’est nous qui avons ajouté ce bruit. Le réseau s’entraîne donc sans annotation humaine, sur des quantités énormes, et il apprend au passage une chose bien plus profonde que sa consigne : pour deviner quel bruit retirer, il faut savoir à quoi ressemble une image plausible. Cette compétence indirecte est tout le sujet de l’apprentissage automatique.
La génération inverse le mouvement. On part d’un bruit pur, jamais vu, et on demande au réseau ce qu’il faut en retirer. On soustrait, on recommence, et une scène apparaît. Rien dans ce processus ne va chercher une image existante : le modèle ne possède aucun index consultable, seulement des poids, comme n’importe quel réseau de neurones.
Le débruitage est itératif, et l’ordre dans lequel les choses apparaissent n’est pas anodin. Les premiers passages fixent la composition générale : la masse sombre du canapé, la tache orange du chat, la direction de la lumière. Les derniers travaillent la fourrure, la trame du velours, le grain. Une image générée se construit donc du grossier vers le fin.
Les échantillonneurs modernes obtiennent un résultat correct en vingt à cinquante passages, là où les premiers algorithmes en demandaient mille. Descendre à cinq ou dix passages divise la facture et le temps d’attente, mais coupe précisément la phase où les détails fins se stabilisent. Les modes « rapides » des services grand public font ce compromis, et cela se voit d’abord sur les mains, les dents, les yeux et les textes.
Débruiter directement des pixels coûterait trop cher. Les générateurs actuels travaillent dans un espace comprimé : un premier réseau, l’encodeur, réduit l’image à une grille de nombres beaucoup plus petite mais sémantiquement riche, et un décodeur reconstruit les pixels à la toute fin.
Cette compression est le vrai coupable derrière plusieurs défauts que l’on attribue à tort au « manque d’intelligence » du modèle. Une chemise à fines rayures ondule, une bibliothèque affiche des tranches de livres illisibles, une façade haussmannienne perd le rythme de ses balcons. Le modèle ne s’est pas trompé : l’information nécessaire n’était plus là au moment où il travaillait.
Le texte n’entre jamais tel quel dans le générateur. Un encodeur de texte le découpe en unités, les mêmes que celles décrites dans le découpage en tokens, puis projette chacune dans un espace de plusieurs centaines de dimensions. Le réseau de débruitage consulte ces vecteurs à chaque passage par un mécanisme d’attention croisée.
Conséquence directe : les liens grammaticaux entre les mots sont fragiles. « Un chat roux sur un canapé vert » et « un chat vert sur un canapé roux » produisent des vecteurs très proches, et l’attribution des adjectifs peut glisser d’un objet à l’autre. Les négations passent mal pour la même raison : demander « sans lunettes » a longtemps augmenté la probabilité de lunettes, parce que le mot était présent dans le nuage. Ce comportement n’a rien à voir avec la façon dont un modèle de langage traite une phrase.
Un second réglage pèse lourd : l’échelle de guidage. Elle mesure de combien on force le débruitage vers la description plutôt que vers une image plausible quelconque. Trop basse, vous obtenez une belle image qui ignore la moitié de votre demande. Trop haute, vous obtenez une illustration saturée, contrastée, aux couleurs criardes, qui obéit à la lettre et perd toute finesse. Les valeurs utiles se situent presque toujours dans une plage étroite. Pour structurer la demande elle-même, les principes exposés dans l’anatomie d’une consigne qui marche s’appliquent. Notre constructeur de prompt aide à n’oublier aucun de ces éléments.
| Modèle de diffusion | Réseau antagoniste (GAN) | Photomontage manuel | Banque d’images | |
|---|---|---|---|---|
| Point de départ | Un champ de bruit aléatoire | Un vecteur aléatoire | Des photographies existantes | Un fichier réel indexé |
| Ce qui est conservé du corpus | Des statistiques, aucun pixel | Des statistiques, aucun pixel | Les pixels d’origine | Le fichier entier |
| Deux tirages donnent-ils la même image | Non, sauf graine identique | Non | Oui | Oui |
| Défaut typique | Mains, texte, motifs répétitifs | Artefacts en damier, visages figés | Ombres et perspectives incohérentes | Aucun, mais licence à vérifier |
| Pilotage par une phrase | Oui, par attention croisée | Faible | Sans objet | Par mots-clés |
Ces deux échecs sont devenus la signature des images générées. Ils relèvent pourtant de deux problèmes distincts, et l’un se corrige beaucoup plus vite que l’autre.
La main est un objet articulé qui se projette de mille manières, occupe rarement plus de quelques dizaines de pixels et se retrouve souvent partiellement masquée. Le modèle n’a ni squelette ni notion de dénombrement : il ne compte pas jusqu’à cinq, il assemble des textures cohérentes de proche en proche. Sur une zone petite et très structurée, cette cohérence locale suffit à produire un sixième doigt parfaitement dessiné. Les modèles récents se sont nettement améliorés, mais l’erreur revient dès que deux mains se croisent ou tiennent un objet fin.
Le texte incrusté est un autre problème. Le générateur n’a aucune notion de caractère : il a appris la texture visuelle « du texte », des empattements, un rythme, une densité. Les modèles équipés d’un encodeur de texte plus puissant réussissent désormais des mots courts en anglais, parce que ces mots reviennent des millions de fois dans les corpus. La suite est plus rude en français.
Un générateur restitue les statistiques dominantes de ce qu’il a vu. Demandez « un médecin », vous obtiendrez un homme dans la majorité des tirages ; demandez « une personne qui fait le ménage », la répartition bascule. Demandez « une maison », vous recevrez plus souvent un pavillon nord-américain qu’une longère normande. Ces glissements ne sont pas des opinions du modèle, ce sont des fréquences, et le mécanisme est le même que celui décrit pour les biais des modèles de langage.
La question de la mémorisation est plus subtile. Un générateur courant pèse quelques gigaoctets pour un corpus d’entraînement de plusieurs centaines de téraoctets : le rapport interdit tout stockage d’images. Des travaux d’extraction menés en 2023 ont pourtant retrouvé des reconstitutions très proches d’originaux, de l’ordre de la centaine sur des centaines de millions de tirages examinés, toujours sur des visuels dupliqués des milliers de fois dans le corpus. La mémorisation existe donc, mais elle est marginale et concentrée sur les images les plus reprises du web.
Côté droit, la constitution de ces corpus repose en Europe sur l’exception de fouille de textes et de données, assortie d’un droit d’opposition des titulaires de droits. Le règlement européen sur l’IA y ajoute une obligation de publier un résumé suffisamment détaillé des contenus utilisés pour l’entraînement des modèles à usage général. Le calendrier d’application du règlement échelonne ces obligations sur plusieurs années.
Une génération enchaîne plusieurs dizaines de passages complets d’un grand réseau, là où une réponse textuelle courte en demande beaucoup moins. Les mesures publiées situent le coût énergétique d’une image autour de l’ordre du wattheure sur les modèles courants, avec un écart considérable selon la taille du modèle, la résolution et le nombre d’étapes. C’est modeste à l’unité, et c’est ce qui explique les quotas, les files d’attente et les modes dégradés des offres gratuites.
Le fichier produit, lui, obéit aux règles habituelles : un rendu photographique se stocke en JPEG, un visuel à aplats et à texte net en PNG, et un agrandissement logiciel n’ajoute jamais d’information réelle. Le choix du bon conteneur est traité dans notre comparaison des formats de fichiers. Notez qu’un passage par un service de compression ou par une messagerie efface au passage la plupart des métadonnées, y compris celles qui signalent l’origine artificielle du fichier.
La tentation est d’inspecter les pixels : compter les doigts, chercher l’ombre incohérente, zoomer sur les reflets dans l’œil. Ces indices ont une durée de vie courte, et le raisonnement s’inverse dès qu’un modèle progresse. La bonne question n’est pas « cette image est-elle générée », mais « d’où vient ce fichier et qui en répond ». Une image publiée par un compte créé la semaine dernière, sans version antérieure trouvable, sans photographe identifiable et sans autre angle de la même scène, pose un problème de provenance, qu’elle soit générée ou non.
Deux prolongements existent sur ce site. Les dispositifs qui attachent une origine vérifiable à un fichier sont décrits dans l’article sur les filigranes et les métadonnées C2PA. Les montages visant une personne réelle, leur fabrication et leur régime pénal, relèvent des hypertrucages. Leur équivalent sonore, lui, est traité dans le clonage de voix. Le vocabulaire technique employé ici, du débruitage à l’espace latent, est repris terme par terme dans le glossaire.
Non, pas au sens d’une bibliothèque. Un générateur courant pèse quelques gigaoctets alors que son corpus d’entraînement représente des centaines de téraoctets : la compression est telle qu’aucune image ne peut y tenir. Ce que le modèle conserve, ce sont des régularités statistiques. Une exception existe : les images répétées des milliers de fois dans le corpus, affiches de films ou photographies d’agence très reprises, peuvent être reconstituées de façon très proche de l’original. Le phénomène reste rare et concerne surtout les visuels massivement dupliqués.
Parce que le point de départ change. Chaque génération commence par un tirage aléatoire, identifié par un nombre appelé graine. Deux graines différentes donnent deux images différentes avec la même phrase. À l’inverse, en fixant la graine, le même modèle, la même version, le même nombre d’étapes et la même échelle de guidage, vous retombez exactement sur la même image. Les interfaces grand public masquent souvent ce réglage, ce qui donne l’impression d’un caprice.
Une main est un objet articulé qui se projette de mille façons, occupe peu de pixels dans une image et se retrouve souvent partiellement cachée. Le modèle n’a aucune représentation du squelette ni de la notion de compter jusqu’à cinq : il assemble des textures plausibles localement. La cohérence d’ensemble d’une petite zone très structurée est justement ce que le débruitage capte le plus mal. Les modèles récents s’en sortent mieux, mais l’erreur réapparaît dès que les mains se croisent ou tiennent un objet.
Cela dépend des conditions du service utilisé et de ce que représente l’image. En droit français, la protection par le droit d’auteur suppose une création originale portant l’empreinte de la personnalité de son auteur, ce qu’une simple consigne ne suffit pas à établir. Par ailleurs, une image reproduisant un visage identifiable, une marque ou une œuvre protégée reste soumise aux règles habituelles, quelle que soit la façon dont elle a été produite. Vérifiez les conditions du service concerné.
Oui dans un nombre croissant de situations. Le règlement européen sur l’IA impose aux fournisseurs de systèmes générant des images de les marquer dans un format lisible par machine, et à ceux qui diffusent un contenu représentant des personnes ou des événements réels d’indiquer clairement qu’il est artificiel. Ces obligations de transparence s’appliquent à partir d’août 2026. Le détail des dispositifs de marquage est traité dans l’article consacré aux filigranes et aux métadonnées C2PA.
Les liens ci-dessus renvoient vers les textes et les organismes cités. Les dates de consultation sont celles de la dernière relecture, le 13 septembre 2026.
Dans ce thème
Dans la rubrique
Modèles de langage, IA générative, deepfakes et règlement européen sur l’IA, expliqués sans hype ni panique.