Pratiques d’IA interdites : reconnaître les lignes rouges.
L’article 5 ne se résume pas à une liste de technologies. Chaque interdiction associe une pratique, un contexte, une finalité et parfois des conditions ou exceptions strictes.
Manipulation, tromperie et exploitation de vulnérabilités
Sont visées certaines techniques subliminales, manipulatrices ou trompeuses qui altèrent sensiblement le comportement et causent — ou sont raisonnablement susceptibles de causer — un préjudice important. Le texte vise aussi l’exploitation de vulnérabilités liées notamment à l’âge, au handicap ou à une situation socio-économique particulière.
L’analyse doit documenter le mécanisme d’influence, les populations exposées, les effets prévisibles et les garde-fous. Une intention marketing ou d’optimisation ne neutralise pas le test juridique.
Notation sociale et prédiction individuelle de certaines infractions
Le règlement interdit certaines formes de notation sociale conduisant à un traitement préjudiciable ou défavorable dans des contextes sans rapport ou de manière injustifiée ou disproportionnée. Il encadre aussi la prédiction du risque qu’une personne commette une infraction lorsqu’elle repose uniquement sur le profilage ou l’évaluation de traits de personnalité.
L’article 5 traite notamment de la constitution ou de l’élargissement non ciblé de bases de reconnaissance faciale par aspiration d’images, de certaines inférences d’émotions au travail ou à l’école, de catégorisations biométriques révélant des données sensibles et de l’identification biométrique à distance en temps réel dans des espaces accessibles au public à des fins répressives, sous réserve d’exceptions strictes.
Points de contrôle
Identifier précisément la finalité biométrique
Établir la population et le contexte
Vérifier chaque condition et exception
Associer l’analyse AI Act, RGPD et droits fondamentaux