Depuis février 2025, huit usages de l’IA sont interdits dans l’Union, sans dérogation possible. Deux d’entre eux visent des employeurs ordinaires, pas des polices politiques. Deux autres s’ajoutent en décembre 2026.
L’article 5 du règlement européen sur l’IA dresse une liste fermée de pratiques interdites depuis le 2 février 2025 : manipulation nuisible, exploitation d’une vulnérabilité, notation sociale, prédiction individuelle de délinquance par profilage, moisson non ciblée de visages, reconnaissance des émotions au travail et à l’école, catégorisation biométrique révélant des données sensibles, identification biométrique à distance en temps réel par la police. Aucune autorisation ne les rend licites. Le plafond d’amende est de 35 millions d’euros ou 7 % du chiffre d’affaires mondial. Deux interdictions s’ajoutent au 2 décembre 2026.
Une entreprise de centres d’appels reçoit une démonstration. Le logiciel affiche, en direct, un indicateur d’« état émotionnel » du conseiller et de son interlocuteur : agacement, lassitude, enthousiasme. L’argumentaire commercial insiste sur l’accompagnement managérial et la qualité de service. Le produit est vendu depuis des années, il fonctionne, il a des clients français.
Il est interdit dans l’Union européenne depuis le 2 février 2025. Pas encadré, pas soumis à autorisation : interdit, avec un plafond d’amende de 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial.
C’est la caractéristique la plus mal comprise de l’article 5 du règlement européen sur l’IA. On l’imagine braqué sur des États policiers et des dystopies lointaines. Deux de ses huit interdictions visent en réalité des employeurs et des écoles ordinaires, et une troisième vise des entreprises de technologie qui vendent leurs services dans le monde entier.
Le règlement empile quatre régimes, décrits dans la présentation du texte et de son calendrier. Trois d’entre eux organisent des obligations. Le premier, celui de l’article 5, ferme la porte.
Trois conséquences pratiques en découlent. Il n’existe aucune procédure de mise en conformité : ni analyse d’impact, ni audit, ni marquage CE ne rendent licite une pratique de la liste. Le consentement de la personne concernée ne change rien non plus, ce qui distingue nettement ce régime de la logique du RGPD. Enfin, l’interdiction frappe toute la chaîne : mise sur le marché, mise en service et simple utilisation. Le client d’un outil prohibé est en infraction au même titre que son éditeur.
La liste est fermée. Un usage choquant qui n’y figure pas n’est pas interdit par ce texte : il relève éventuellement du haut risque, du droit du travail, du droit pénal ou du droit de la consommation. La rigueur du raisonnement compte ici plus qu’ailleurs.
Les deux premières interdictions se ressemblent. La première vise les systèmes qui recourent à des techniques subliminales, délibérément manipulatrices ou trompeuses, pour altérer substantiellement le comportement d’une personne en amoindrissant sa capacité à décider en connaissance de cause. La seconde vise l’exploitation des vulnérabilités liées à l’âge, à un handicap ou à une situation sociale ou économique particulière.
Le point qui limite leur portée est le même dans les deux cas : il faut que la pratique cause ou soit susceptible de causer un préjudice important. Une interface conçue pour rendre le désabonnement pénible ne franchit pas ce seuil ; elle relève du droit de la consommation. Un système qui pousse une personne endettée vers un crédit ruineux en jouant sur sa détresse le franchit.
Les mécanismes de persuasion en cause sont ceux que l’on retrouve dans les escroqueries, à ceci près qu’ils sont ici industrialisés et personnalisés. Le quiz de reconnaissance des arnaques en donne la grammaire : urgence fabriquée, autorité simulée, isolement de la victime. La question des mineurs est traitée à part par le droit français et par le règlement sur les services numériques, comme le rappelle le dossier sur la majorité numérique.
L’interdiction de la notation sociale évoque immédiatement le crédit social chinois. Le texte européen est à la fois plus étroit et plus intrusif dans la vie économique ordinaire. Il faut réunir trois éléments : une évaluation ou un classement de personnes sur une certaine durée, fondé sur leur comportement social ou sur des caractéristiques personnelles ou de personnalité, puis un traitement préjudiciable.
Ce traitement préjudiciable doit lui-même remplir une condition : soit intervenir dans un contexte sans rapport avec celui où les données ont été collectées, soit être injustifié ou disproportionné au regard du comportement observé.
| Situation | Qualification | Pourquoi |
|---|---|---|
| Score de solvabilité fondé sur revenus, charges et incidents de paiement | Haut risque, pas interdit | Données pertinentes, contexte cohérent, décision proportionnée |
| Score d’assurance santé fondé sur des achats en supermarché | Vers l’interdiction | Contexte de collecte sans rapport avec la décision prise |
| Bailleur social classant des locataires selon leur « civisme » observé en ligne | Vers l’interdiction | Comportement social, contexte étranger, effet défavorable |
| Détection de fraude fondée sur des anomalies de facturation | Hors interdiction | Ni comportement social ni traits de personnalité |
| Tri de candidatures selon l’expérience déclarée | Haut risque, pas interdit | Critères liés au poste ; obligations lourdes mais licite |
La frontière se joue donc sur la pertinence du critère et la cohérence du contexte, pas sur l’existence d’un score. Les systèmes qui restent licites basculent presque tous dans la catégorie du haut risque, ce qui n’est pas un feu vert mais un cahier des charges.
La quatrième interdiction vise les systèmes qui évaluent ou prédisent le risque qu’une personne commette une infraction pénale, lorsque cette prédiction repose uniquement sur un profilage ou sur l’évaluation de traits et de caractéristiques de personnalité.
Le mot « uniquement » fait tout le travail. Un outil qui aide un enquêteur à évaluer l’implication d’une personne à partir de faits objectifs, vérifiables et directement liés à une activité criminelle échappe à l’interdiction. Une carte de zones à risque, qui porte sur des lieux et non sur des individus identifiés, n’est pas non plus visée par cette disposition, ce qui ne la dispense ni du RGPD ni du régime du haut risque.
La moisson non ciblée de visages. Créer ou enrichir une base de reconnaissance faciale en extrayant sans ciblage des images de visages depuis internet ou depuis des flux de vidéosurveillance est interdit. C’est la disposition qui vise frontalement le modèle économique de plusieurs sociétés de reconnaissance faciale. Elle se cumule avec le RGPD, qui traite déjà la donnée biométrique comme une catégorie particulière, sujet développé du côté du RGPD appliqué à l’IA.
La reconnaissance des émotions au travail et à l’école. Interdit : tout système qui déduit ou infère des émotions de personnes physiques sur le lieu de travail ou dans un établissement d’enseignement. Les seules échappatoires sont médicales ou de sécurité. Cette interdiction couvre l’entretien d’embauche filmé et analysé, sujet traité en détail à propos de l’IA dans le recrutement, mais aussi l’analyse de sentiment appliquée aux enregistrements de réunions, dont les autres écueils apparaissent avec les comptes rendus de réunion automatiques. Un système équivalent déployé dans un magasin, sur des clients, n’est pas couvert par cette interdiction précise : il relève du haut risque et du RGPD.
La catégorisation biométrique révélant des données sensibles. Interdit : classer des personnes à partir de leurs données biométriques pour déduire leur origine raciale ou ethnique, leurs opinions politiques, leur appartenance syndicale, leurs convictions religieuses ou philosophiques, leur vie sexuelle ou leur orientation sexuelle. Ces inférences sont statistiquement fragiles et socialement dévastatrices, une combinaison analysée à propos des biais des modèles.
La huitième interdiction est la plus commentée et la plus mal citée. Elle vise l’identification biométrique à distance en temps réel, dans des espaces accessibles au public, à des fins répressives. Chacun de ces trois éléments compte.
Trois exceptions subsistent, toutes strictement délimitées : la recherche ciblée de victimes d’enlèvement, de traite ou d’exploitation sexuelle et de personnes disparues ; la prévention d’une menace grave et imminente pour la vie ou la sécurité physique, ou d’une menace réelle et actuelle ou prévisible d’attentat ; la localisation d’une personne soupçonnée d’une infraction figurant dans une liste annexée au règlement et punie d’une peine privative de liberté d’au moins quatre ans. Ces usages supposent une autorisation préalable d’une autorité judiciaire ou administrative indépendante, une base dans le droit national, et une analyse d’impact sur les droits fondamentaux.
Ce qui n’est pas visé par cette interdiction : l’identification a posteriori sur des enregistrements, qui relève du haut risque, et les usages non répressifs. Le contrôle d’accès biométrique dans une entreprise ou un stade sort de l’article 5, sans échapper au RGPD ni au droit du travail, terrain que recoupe la question de la surveillance et du matériel en télétravail.
Le règlement (UE) 2026/1744 du 8 juillet 2026, connu comme l’omnibus numérique sur l’IA, a surtout retardé les obligations du haut risque. Il a aussi allongé la liste des interdictions, avec application au 2 décembre 2026.
Deviennent prohibés les systèmes conçus pour générer des contenus sexuellement explicites représentant une personne sans son consentement, ce qu’on appelle communément la dénudation automatique, ainsi que ceux conçus pour produire des contenus d’abus sexuels sur mineurs. Une réserve accompagne ces interdictions : elles ne visent pas les systèmes dotés de garde-fous techniques fiables empêchant ces usages, formulation qui déplacera le débat sur l’efficacité réelle des filtres.
Ces deux ajouts frappent une industrie visible : les générateurs d’images grand public, dont le fonctionnement est décrit avec la fabrication d’une image par diffusion. Ils s’ajoutent au droit pénal français existant, qui réprime déjà la diffusion de tels contenus. Pour un contenu déjà en ligne, la voie utile reste le signalement d’un contenu illicite.
La tentation est double et symétrique. Certains rangent tout usage inquiétant dans les pratiques interdites, ce qui décrédibilise l’analyse. D’autres estiment qu’un texte européen ne concerne que les grandes plateformes, et achètent tranquillement un outil d’analyse émotionnelle pour leur plateau téléphonique.
Le bon réflexe tient en une question : quel attribut le système déduit-il, sur quelles personnes, dans quel lieu, et avec quelle conséquence pour elles. Ces quatre variables suffisent à trancher la quasi-totalité des cas réels. Elles suffisent aussi à comprendre pourquoi le ciblage publicitaire ordinaire, dont la mécanique tient à celle des traceurs publicitaires, échappe généralement à l’article 5 : la conséquence n’atteint pas le seuil du préjudice important.
Reste la question du gendarme. Une interdiction n’a d’effet que si quelqu’un la constate et la sanctionne, et c’est précisément ce maillon qui reste incomplet en France, comme le détaille l’inventaire des autorités de contrôle françaises. En cas de doute sur un projet en cours, vérifiez auprès de l’autorité sectorielle compétente plutôt que de vous fier à une lecture rapide de la liste.
S’il déduit ou infère des émotions de personnes sur leur lieu de travail, oui. L’interdiction vise les systèmes de reconnaissance des émotions dans les relations de travail et dans les établissements d’enseignement, indépendamment de la finalité affichée, du consentement du salarié ou de l’anonymisation des résultats. Restent licites les usages strictement médicaux ou de sécurité, comme la détection de somnolence d’un conducteur. Mesurer la durée d’un appel ou compter les mots-clés prononcés ne relève pas de la reconnaissance des émotions.
Le règlement prévoit jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial, le montant le plus élevé des deux. Encore faut-il une autorité désignée et un régime national d’amendes. En France, le schéma retenu confie la coordination à la DGCCRF et un rôle central à la CNIL, mais le véhicule législatif n’a pas achevé son parcours à la date de publication. Voir qui surveille l’IA en France.
Pas en bloc. Seule l’identification biométrique à distance en temps réel, dans des espaces accessibles au public, à des fins répressives, est interdite, avec trois exceptions étroites soumises à autorisation préalable. L’identification a posteriori sur des enregistrements est classée à haut risque, pas prohibée. Et l’usage par un acteur privé hors finalité répressive n’est pas visé par cette interdiction, ce qui ne le rend pas licite pour autant : le RGPD s’applique pleinement aux données biométriques.
Oui. Le critère est le marché visé, pas le lieu d’établissement. Un service de reconnaissance faciale bâti à partir d’images moissonnées sur le web tombe sous l’interdiction dès lors qu’il est mis sur le marché de l’Union ou que son résultat y est utilisé. L’interdiction pèse sur la mise sur le marché, la mise en service et l’utilisation : un déployeur européen d’un outil étranger prohibé est lui aussi en infraction.
Les liens ci-dessus renvoient vers les textes et les organismes cités. Les dates de consultation sont celles de la dernière relecture, le 13 septembre 2026.
Dans ce thème
Dans la rubrique
Modèles de langage, IA générative, deepfakes et règlement européen sur l’IA, expliqués sans hype ni panique.