Pratiques d’IA interdites : reconnaître les lignes rouges.
L’article 5 ne se résume pas à une liste de technologies. Chaque interdiction associe une pratique, un contexte, une finalité et parfois des conditions ou exceptions strictes.
Manipulation, tromperie et exploitation de vulnérabilités
Sont visées certaines techniques subliminales, manipulatrices ou trompeuses qui altèrent sensiblement le comportement et causent — ou sont raisonnablement susceptibles de causer — un préjudice important. Le texte vise aussi l’exploitation de vulnérabilités liées notamment à l’âge, au handicap ou à une situation socio-économique particulière.
L’analyse doit documenter le mécanisme d’influence, les populations exposées, les effets prévisibles et les garde-fous. Une intention marketing ou d’optimisation ne neutralise pas le test juridique.
Notation sociale et prédiction individuelle de certaines infractions
Le règlement interdit certaines formes de notation sociale conduisant à un traitement préjudiciable ou défavorable dans des contextes sans rapport ou de manière injustifiée ou disproportionnée. Il encadre aussi la prédiction du risque qu’une personne commette une infraction lorsqu’elle repose uniquement sur le profilage ou l’évaluation de traits de personnalité.
L’article 5 traite notamment de la constitution ou de l’élargissement non ciblé de bases de reconnaissance faciale par aspiration d’images, de certaines inférences d’émotions au travail ou à l’école, de catégorisations biométriques révélant des données sensibles et de l’identification biométrique à distance en temps réel dans des espaces accessibles au public à des fins répressives, sous réserve d’exceptions strictes.
Points de contrôle
Identifier précisément la finalité biométrique
Établir la population et le contexte
Vérifier chaque condition et exception
Associer l’analyse AI Act, RGPD et droits fondamentaux
Non. L’analyse porte sur la pratique, le contexte, la finalité, les personnes exposées et les effets prévisibles. Une finalité marketing ne neutralise pas une interdiction.
Non. L’article 5 vise plusieurs pratiques précises, tandis que d’autres usages relèvent d’autres catégories de risque et de règles. Chaque finalité doit être examinée séparément, avec le RGPD et les droits fondamentaux.
Suspendre son déploiement opérationnel, documenter les faits et vérifier les interdictions applicables avant de poursuivre l’analyse des obligations éventuelles.
