RGPD et intelligence artificielle : où le règlement mord, et où il perd prise

Vous tapez votre nom dans un assistant pour voir. Il vous attribue un poste que vous n’avez jamais occupé, dans une entreprise où vous n’avez jamais travaillé, et ajoute une phrase sur un contentieux qui n’existe pas. Vous voulez faire corriger. Corriger quoi, exactement ? Il n’y a pas de fiche, pas de champ, pas de ligne dans une table. La donnée fausse n’est nulle part : elle est recalculée à chaque fois.

Cette situation résume la difficulté. Le RGPD s’applique intégralement à l’intelligence artificielle, aucune autorité européenne n’a jamais soutenu le contraire. Mais il a été écrit pour des fichiers, et un modèle n’en est pas un. L’ajustement s’est fait en deux ans, par les recommandations de la CNIL puis par un avis du Comité européen de la protection des données de décembre 2024, et il repose sur une idée simple qu’il faut avoir en tête avant tout le reste : ce ne sont pas les mêmes règles avant et après l’entraînement.

Deux traitements, pas un#

La CNIL sépare la phase de développement, qui va de la constitution du corpus à l’obtention du modèle, et la phase de déploiement, qui commence quand le modèle est mis en service. Ce n’est pas un découpage pédagogique, c’est un découpage juridique : deux traitements distincts, avec chacun sa finalité, son responsable, sa base légale, sa durée de conservation et, le cas échéant, sa propre analyse d’impact.

L’erreur la plus fréquente dans les dossiers de conformité consiste à écrire une analyse d’impact unique qui mélange les deux. Elle devient inexploitable : les risques d’un moissonnage massif et les risques d’un tri de dossiers clients n’ont rien de commun. Les trois étapes techniques qui composent la première phase sont décrites dans l’entraînement d’un modèle.

Un modèle contient-il des données personnelles ?#

La question paraît théorique. Elle commande tout le reste : si le modèle est anonyme, le RGPD ne s’applique plus à son exploitation, et les manquements éventuels commis pendant l’entraînement ne contaminent pas ceux qui l’utilisent ensuite.

Le Comité européen de la protection des données a refusé les deux réponses simples. Un modèle n’est pas un fichier, mais il n’est pas non plus anonyme par nature. L’appréciation se fait au cas par cas, sur deux probabilités qui doivent l’une et l’autre être négligeables : celle d’extraire des données personnelles directement des paramètres, et celle d’en obtenir par de simples requêtes adressées au modèle.

Cette prudence a un fondement technique documenté : la mémorisation. Un modèle apprend des régularités statistiques, mais il retient aussi, littéralement, certaines séquences rares ou très répétées de son corpus. Des travaux publiés depuis 2021 ont montré qu’un attaquant patient peut faire ressortir des adresses, des numéros de téléphone ou des passages entiers de textes protégés. Le phénomène est marginal en volume et bien réel en nature.

L’intérêt légitime n’est pas bloqué par principe, mais il se mérite#

Recueillir le consentement de chaque personne dont une page mentionne le nom est matériellement impossible. Le contrat n’existe pas, puisqu’il n’y a aucune relation. Reste l’intérêt légitime, et c’est bien lui que les grands fournisseurs invoquent.

La Cour de justice de l’Union européenne a clarifié en octobre 2024 un point qui bloquait beaucoup de discussions : un intérêt purement commercial peut être un intérêt légitime. Le débat ne porte donc pas sur la nature de l’intérêt, mais sur les deux marches suivantes, la nécessité et la mise en balance. C’est la mise en balance qui décide, et elle se joue sur les attentes raisonnables des personnes, qui ne s’attendaient pas à ce que leur commentaire de forum de 2012 serve à calibrer un modèle.

Les mesures d’atténuation attendues par la CNIL et par le Comité forment une liste assez précise : exclusion des sites qui s’y sont opposés, écartement des contenus manifestement sensibles au sens de l’article 9, filtrage des données de mineurs, pseudonymisation ou suppression des identifiants directs après la phase de nettoyage, délai raisonnable entre la publication d’une information et sa collecte, filtrage des sorties, et surtout un droit d’opposition inconditionnel. Le fonctionnement pratique de ce dernier est détaillé dans le refus de l’entraînement sur vos données.

Informer des millions de personnes qu’on n’a jamais rencontrées#

Quand les données ne sont pas collectées auprès de vous, l’article 14 impose de vous informer : identité du responsable, finalités, catégories de données, source, droits. Appliqué à un corpus de plusieurs milliards de pages, cela reviendrait à écrire à la moitié de la planète.

Le règlement a prévu la soupape : l’article 14.5 lève l’obligation individuelle lorsque la fourniture de l’information se révèle impossible ou exigerait des efforts disproportionnés. La dispense n’est pas gratuite. Elle impose des mesures appropriées pour protéger les personnes, dont la mise à disposition publique de l’information. Concrètement, une politique de confidentialité lisible qui décrit les sources, une page dédiée à l’entraînement, parfois une campagne d’information dans des médias.

C’est sur ce terrain qu’une autorité européenne a prononcé, en décembre 2024, une sanction de quinze millions d’euros contre l’éditeur d’un assistant grand public : information insuffisante des personnes, base légale non établie pour l’entraînement, absence de mécanisme de vérification de l’âge. Le message adressé au secteur porte moins sur le principe de l’entraînement que sur la façon de le documenter.

Le même droit, deux cibles très différentes#

Vos huit droits ne disparaissent pas, mais leur efficacité dépend entièrement de l’endroit où vous les dirigez. Le rappel complet de ces droits figure dans les huit demandes que permet le RGPD.

La lecture de ce tableau donne une stratégie : les droits mordent en amont et en aval, presque jamais au milieu. Une demande adressée au bon maillon aboutit, la même demande adressée au maillon central reçoit un refus techniquement fondé.

Faire corriger un fait faux à votre sujet#

L’article 5 impose que les données soient exactes au regard de la finalité, et l’article 16 ouvre la rectification. Une réponse qui vous attribue une condamnation imaginaire ne se corrige pas comme une date de naissance : il n’y a rien à réécrire.

Ce que peut faire un fournisseur tient en trois gestes : avertir clairement l’utilisateur de la faillibilité des réponses, ce que le règlement sur l’IA impose désormais aussi au titre de la transparence ; corriger ou supprimer la donnée fautive dans les sources dont il dispose ; et poser un filtre qui bloque la restitution de l’affirmation signalée. Le troisième geste est le seul immédiatement efficace. Cette approche par le filtrage est proche du déréférencement dans un moteur de recherche : on n’efface pas la source, on coupe l’accès.

Une remarque sur la charge de la preuve : c’est au responsable de démontrer qu’il a pris des mesures, pas à vous de prouver qu’une correction est techniquement possible. Un refus qui se borne à invoquer l’impossibilité technique, sans mentionner aucune mesure alternative, est un refus insuffisamment motivé. Pour repérer et documenter une affirmation inventée avant de la signaler, la méthode est décrite dans la vérification des références inventées.

Article 22 : le score compte autant que la décision#

L’article 22 interdit en principe qu’une décision produisant des effets juridiques ou vous affectant de manière significative repose sur le seul traitement automatisé. Les organismes s’en sont longtemps affranchis en plaçant un humain au bout de la chaîne, chargé d’entériner le calcul.

L’arrêt SCHUFA, rendu par la Cour de justice en décembre 2023, a refermé cette porte. Un score de solvabilité produit par une société tierce constitue lui-même une décision automatisée dès lors que la banque qui le reçoit s’en remet en pratique à ce score. La validation formelle par une personne qui n’a ni le temps, ni l’information, ni le pouvoir réel de s’en écarter ne suffit pas à sortir du champ de l’article 22.

La portée est large : tri automatique de candidatures, score de risque en assurance, détection de fraude qui bloque un compte, priorisation de dossiers dans une administration. Dans tous ces cas, la personne conserve le droit d’obtenir une intervention humaine effective, d’exprimer son point de vue, de contester et de connaître la logique sous-jacente. En France, la loi Informatique et Libertés et le code des relations entre le public et l’administration ajoutent, pour les décisions administratives individuelles, une obligation de mention explicite de l’usage d’un algorithme. Le cas particulier du recrutement est traité dans l’IA appliquée au recrutement, et les mécanismes de discrimination indirecte dans l’origine des biais d’un modèle.

Ce qu’un déployeur doit poser avant de brancher un modèle#

Pour une structure sans service informatique, cette liste s’ajoute à un socle de sécurité qui reste le préalable, décrit dans le minimum de sécurité d’une TPE ou d’une association. Un modèle branché sur une messagerie mal protégée déplace le problème sans le résoudre.

Deux règlements, deux logiques, un cumul#

Le RGPD protège des personnes. Le règlement européen sur l’IA encadre des produits. Le premier se demande si un traitement est licite, loyal et proportionné ; le second se demande si un système peut être mis sur le marché, avec quelle documentation, quels essais et quelle surveillance après commercialisation. Les deux textes se cumulent, et le second précise expressément qu’il s’applique sans préjudice du premier.

En pratique, cela signifie deux jeux d’obligations, deux autorités et deux régimes de sanction. Une entreprise peut satisfaire aux exigences documentaires d’un système classé à haut risque et manquer entièrement à son obligation d’information des personnes. Le calendrier d’entrée en application, échelonné depuis février 2025, est détaillé dans la chronologie du règlement. Une obligation est déjà exigible et souvent ignorée : celle de veiller à un niveau suffisant de maîtrise de l’IA chez les personnes qui l’utilisent au nom de l’organisation.

Le critère à retenir#

Devant n’importe quelle question de conformité, commencez par situer le traitement sur l’axe développement ou déploiement, puis nommez le responsable. Ces deux réponses désignent le texte applicable, l’interlocuteur à qui écrire et le droit qui a une chance d’aboutir. Tout ce qui est écrit avant d’avoir répondu à ces deux questions est perdu, y compris les meilleures intentions. Et si votre question porte sur ce que devient concrètement le texte que vous tapez, elle relève d’un autre plan, décrit dans le parcours d’une conversation avec un assistant.