Pratiques d’IA interdites : reconnaître les lignes rouges.
Avant de classer un système à haut risque, examinez les interdictions de l’article 5. Partez des fonctions, des personnes exposées et des effets prévisibles. Documentez les faits et les conditions qui permettent de décider.
L’article 5 interdit notamment certaines manipulations préjudiciables, l’exploitation de vulnérabilités, la notation sociale et plusieurs usages biométriques. Les interdictions initiales s’appliquent depuis le 2 février 2025. Les nouveaux points b bis et b ter et leurs conditions des paragraphes 1 bis et 1 ter s’appliquent le 2 décembre 2026. Une mention de transparence, un contrat ou un contrôle humain ne rendent pas une pratique interdite licite.
En bref
L’essentiel à retenir
01
Examiner la pratique et ses conditions, plutôt que l’étiquette du logiciel.
02
Distinguer les interdictions déjà applicables des ajouts du 2 décembre 2026.
03
Traiter chaque finalité biométrique séparément.
04
Conserver la décision, ses faits, ses réserves et les actions de protection.
01
Manipulation, tromperie et exploitation de vulnérabilités
Le point a concerne des techniques subliminales ou délibérément manipulatrices ou trompeuses. Le texte exige une altération substantielle du comportement, une atteinte considérable à la capacité de décider de manière éclairée, une décision qui aurait été différente et un préjudice important causé ou raisonnablement probable. Un mécanisme de recommandation ne remplit pas automatiquement ces conditions.
Le point b vise l’exploitation de vulnérabilités dues à l’âge, au handicap ou à une situation sociale ou économique particulière. Il faut examiner l’altération substantielle du comportement et le préjudice important, pour la personne ou un tiers. Une finalité commerciale ou une intention annoncée comme bienveillante ne remplace pas cet examen des effets.
Exemple fictif : un assistant de vente adapte ses pressions à une fragilité financière détectée pour obtenir une dépense dommageable. Le dossier décrit la personnalisation, la vulnérabilité exploitée, la capacité de choix et les conséquences. Dans un ESSMS, les besoins d’accompagnement ou de communication sont aussi des éléments à examiner, sans présumer qu’un outil adapté aux personnes est interdit.
Notation sociale et prédiction individuelle de certaines infractions
Le point c traite de l’évaluation ou du classement de personnes, sur une période, à partir de comportements sociaux ou de caractéristiques personnelles. La note doit conduire à un traitement défavorable dans un contexte dissocié de celui de la collecte, ou à un traitement injustifié ou disproportionné. Un score et une notation sociale interdite sont donc deux notions à distinguer.
Cas fictif : une association utilise des comportements de loisirs pour restreindre un accompagnement sans rapport. Examinez données, contextes, traitement et justification. La décision d’admission peut relever d’autres obligations, même hors du point c.
Le point d vise la prédiction du risque qu’une personne commette une infraction pénale fondée uniquement sur son profilage ou ses traits. L’exception concerne l’appui à une évaluation humaine déjà fondée sur des faits objectifs et vérifiables directement liés à une activité criminelle. L’ajout d’un bouton de validation humaine ne suffit pas à démontrer cette exception.
L’identification recherche qui est une personne. La vérification compare une personne à l’identité qu’elle présente. La catégorisation attribue une catégorie à partir de données biométriques. La reconnaissance des émotions infère des émotions ou intentions sur cette base. L’article 3 fournit ces définitions. Une caméra, à elle seule, ne permet pas de déterminer laquelle de ces fonctions est réalisée.
Les points e à h de l’article 5 traitent de pratiques différentes. Le point e interdit la création ou l’extension de bases de reconnaissance faciale par moissonnage non ciblé d’images d’internet ou de vidéosurveillance. Le point f concerne certaines inférences d’émotions au travail ou dans l’enseignement. Les points g et h ont encore d’autres conditions.
Demandez une démonstration, les données, la finalité, les populations et la sortie. Comparez l’usage prévu par le fournisseur et les fonctions que vous comptez activer. Examinez séparément la protection des données et les autres droits concernés.
Points de contrôle
Fonction réelle et données biométriques utilisées.
Population et contexte d’utilisation.
Point de l’article 5 concerné et conditions.
Exception précise, justification et validation.
Décision d’activation, de suspension ou de modification.
Émotions au travail ou dans l’enseignement : qualifier l’exception
Le point f interdit l’inférence d’émotions sur le lieu de travail et dans les établissements d’enseignement, sauf lorsque l’utilisation est prévue pour des raisons médicales ou de sécurité. L’évaluation de la motivation d’un candidat ou de l’engagement d’un apprenant demande donc une vigilance particulière lorsque le système infère des émotions à partir de données biométriques.
L’exception médicale ou de sécurité doit être reliée à une destination démontrable. Une appellation « bien-être », une organisation de santé ou l’accord d’un salarié ne prouvent pas, à eux seuls, que cette exception est satisfaite. Le dossier distingue la fonction, l’objectif, le besoin et les conditions effectivement garanties.
Cas fictif : un EPSM veut classer la performance de ses personnels à partir de leurs émotions en réunion. Examinez d’abord le point f. Une prise en charge médicale demande un dossier distinct : le lieu de santé ne prouve pas l’exception.
Le point g vise les déductions individuelles, à partir de données biométriques, relatives aux catégories expressément listées : race, opinions politiques, affiliation syndicale, convictions religieuses ou philosophiques, vie sexuelle ou orientation sexuelle. Il faut reprendre cette liste et les exceptions encadrées du texte, plutôt que parler indistinctement de toute analyse biométrique.
Le point h concerne l’identification biométrique à distance, en temps réel, dans un espace accessible au public, à des fins répressives. Ses exceptions portent sur des objectifs précis, tels que certaines recherches ciblées ou menaces. Elles nécessitent les conditions des paragraphes 2 à 5, dont nécessité, proportionnalité, garanties et cadre national autorisant l’usage.
L’autorisation préalable constitue la règle dans ce régime. Le texte organise une urgence strictement justifiée avec demande au plus tard dans les vingt-quatre heures, ainsi que les conséquences d’un refus. Une entreprise privée ne peut pas reprendre ces exceptions répressives pour autoriser librement sa propre surveillance. Les traitements biométriques hors de ce point restent à qualifier sous les autres textes.
Les points b bis et b ter concernent certains contenus intimes réalistes représentant une personne identifiable sans le consentement expressément requis, ainsi que le matériel ou spectacle relatif aux abus sexuels sur enfants défini par la directive 2011/93/UE. Le point b ter prévoit la réserve précise liée à une défense « sans droit » en droit national. Ces dispositions demandent une analyse juridique spécialisée.
Le paragraphe 1 bis distingue mise sur le marché ou en service et utilisation. Pour les deux premières, il examine la destination du système ou la combinaison d’une production raisonnablement prévisible et reproductible, sans modification technique importante, et de l’absence de garanties adéquates. Pour l’utilisation, il vise le but poursuivi par le déployeur. Le paragraphe 1 ter précise certaines manipulations exclues de la définition concernée.
L’article 113 fixe le 2 décembre 2026 pour ces ajouts. Cette date ne dit rien de la licéité au regard des autres règles déjà applicables. Préparez la gestion des signalements, les restrictions d’usage et les garanties fournisseurs sans fabriquer ni conserver de matériel illégal pour démontrer un test. Une revue de sécurité peut utiliser des scénarios abstraits et un protocole autorisé.
Pour chaque ligne pertinente, ajoutez les faits, la disposition, les pièces et les incertitudes. La personne qui autorise le projet doit connaître les hypothèses retenues. Cette grille oriente l’examen, elle ne prononce pas un verdict.
Un assistant et son option d’analyse de visage demandent des décisions distinctes. Une fonction documentée peut rester active, une autre désactivée. Traduisez cette décision dans les permissions, les contrats et les consignes.
Article 5 : pratique, condition et repère temporel
Pratique
Condition déterminante à examiner
Application AI Act
Manipulation ou tromperie, point a
Altération, décision éclairée et préjudice important
Depuis le 2 février 2025
Vulnérabilités, point b
Vulnérabilité visée, exploitation et préjudice
Depuis le 2 février 2025
Notation sociale, point c
Traitement hors contexte ou injustifié ou disproportionné
Depuis le 2 février 2025
Prédiction pénale, point d
Fondement uniquement sur profilage ou traits
Depuis le 2 février 2025
Bases faciales, point e
Moissonnage non ciblé pour reconnaissance faciale
Depuis le 2 février 2025
Émotions, point f
Travail ou enseignement, exception encadrée
Depuis le 2 février 2025
Catégories biométriques, point g
Déductions individuelles expressément listées
Depuis le 2 février 2025
Identification, point h
Temps réel, espace public, fin répressive
Depuis le 2 février 2025
Contenus visés par b bis et b ter
Objet, rôle et conditions des paragraphes 1 bis et 1 ter
La fiche réunit système et version, fonction, personnes exposées, conditions, preuves et décision. Le métier décrit l’usage, la technique les capacités, la conformité le raisonnement et le DPO les traitements. Attribuez et datez les recherches manquantes.
Pour un projet présentant un risque d’usage interdit, bloquez l’activation concernée pendant l’examen et organisez une alternative praticable. Si une pratique interdite est établie, l’action porte sur l’arrêt ou la suppression de cette fonction et la protection des personnes. Un score commercial de conformité ne remplace pas cette décision.
La revue reprend lors d’un changement de modèle, de finalité, de données, de population ou d’option. Conservez les éléments nécessaires dans un environnement protégé, en respectant leur licéité et leurs règles de conservation. L’article 99 prévoit un plafond particulier pour les pratiques interdites, avec des règles de calcul et de proportionnalité qui demandent un examen distinct.
Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.
Questions fréquentes
Questions fréquentes
?Toutes les manipulations commerciales par IA sont-elles interdites ?
Le point a exige des conditions précises, dont l’altération substantielle du comportement, l’atteinte à la décision éclairée et un préjudice important causé ou raisonnablement probable. Examinez le mécanisme réel et les autres règles applicables.
?Le consentement suffit-il à autoriser une analyse des émotions au travail ?
Le point f prévoit une exception pour des raisons médicales ou de sécurité. Un consentement, à lui seul, ne satisfait pas cette exception ni les autres obligations de données et de droits des personnes.
?Une note ou un score constitue-t-il forcément une notation sociale interdite ?
Le point c exige les caractéristiques prévues de l’évaluation et un traitement défavorable hors contexte, injustifié ou disproportionné. Examinez le score et son usage.
L’article 5 distingue plusieurs pratiques, dont certaines bases constituées par moissonnage non ciblé et certaines identifications répressives en temps réel. Les autres usages demandent leur propre examen AI Act et protection des données.
?Quelle est la date des nouvelles interdictions sur les contenus ?
Les points b bis et b ter et les paragraphes 1 bis et 1 ter s’appliquent le 2 décembre 2026 selon l’article 113. Cela ne suspend pas les autres interdictions ou règles déjà applicables.
?Peut-on rendre une pratique interdite licite en indiquant qu’il s’agit d’une IA ?
L’information de l’article 50 ne neutralise pas l’article 5. Il faut d’abord déterminer la licéité de la pratique, puis organiser la transparence des usages autorisés.
?Quelle preuve conserver si le fournisseur manque d’informations ?
Consignez fonction, questions non résolues, documents demandés, responsable et décision provisoire. Gardez les réserves visibles jusqu’à leur résolution.