Une image générée ne recopie pas des morceaux d’images existantes : elle part d’un bruit aléatoire que le modèle débruite progressivement jusqu’à obtenir quelque chose de plausible. Ce mécanisme explique à la fois la qualité des textures et les échecs caractéristiques sur les mains, le texte écrit et les objets comptés.
Ce thème couvre la fabrication d’images et de voix, la détection des trucages, le cadre pénal français applicable au montage et à l’usurpation, ainsi que les dispositifs de marquage, filigranes et métadonnées de provenance, désormais adossés à une obligation européenne de transparence.