EUAIACTpar DEMETER FORMATION CONSEIL

Article 5 AI Act : auditer les pratiques interdites sans angle mort.

L’article 5 ne se vérifie pas avec une question générique. Il faut examiner la finalité, le mécanisme d’influence, les personnes exposées, le contexte d’usage et les exceptions précises prévues par le texte.

Guide éditorial

Sources officielles et méthode proposée

Dernière modification de la page :

Réponse courte

L’essentiel en une minute

La revue de l’article 5 doit analyser la finalité, les mécanismes, les données, les populations et les effets réels, puis bloquer ou encadrer les configurations qui pourraient relever d’une interdiction.

AuteurÉquipe éditoriale DEMETER FORMATION CONSEIL
Responsabilité éditorialeDEMETER FORMATION CONSEIL, responsabilité éditoriale
Dernière modification de la page
Source principaleArticle 5 — AI Act Service Desk

Sources, assistance IA et portée des vérifications : notre méthode éditoriale.

5 min de lectureEstimation à 220 mots par minute
Signaler une correction
En bref

L’essentiel à retenir

  1. 01

    Examiner les pratiques et leurs effets, pas seulement le nom de l’outil.

  2. 02

    Associer juridique, métier, données, sécurité et technique.

  3. 03

    Installer des garde-fous avant l’achat, l’activation et le changement.

  4. 04

    Documenter les décisions, les exceptions strictes et les contrôles.

01

Tester huit familles de pratiques, usage par usage

L’audit couvre notamment certaines techniques subliminales, manipulatrices ou trompeuses, l’exploitation de vulnérabilités, la notation sociale, certaines prédictions individuelles d’infraction, le moissonnage non ciblé d’images faciales, certains usages de reconnaissance des émotions, certaines catégorisations biométriques et l’identification biométrique à distance en temps réel à des fins répressives.

Points de contrôle
  • Finalité prévue et finalité réelle
  • Mécanisme d’influence ou de classement
  • Personnes ou groupes exposés
  • Préjudice important possible
  • Source et licéité des données
  • Contexte professionnel, éducatif ou répressif
Article 5, paragraphe 1
02

Ne jamais résumer une exception en un simple “oui”

Plusieurs interdictions comportent des conditions ou exceptions étroites. La décision doit reprendre le cas exact du texte, les faits qui le rendent applicable, les garanties associées et le droit national pertinent lorsqu’il est requis. Une fonctionnalité commercialement disponible n’est pas, à elle seule, une preuve de licéité.

Points de contrôle
  • Texte exact de l’exception
  • Nécessité et proportionnalité
  • Autorisation préalable si requise
  • Limites temporelles, géographiques et personnelles
  • Validation juridique documentée
Article 5, paragraphes 1 à 5
03

Installer un contrôle avant achat et avant changement

Intégrez la revue article 5 aux achats, aux expérimentations, aux modifications de finalité et aux mises à jour. Une alerte doit suspendre la mise en service jusqu’à ce qu’une décision sourcée soit rendue par les fonctions compétentes.

Points de contrôle
  • Questionnaire fournisseur
  • Revue des cas d’usage
  • Canal d’escalade
  • Décision datée et approuvée
  • Réexamen à chaque changement majeur
Article 5 · Article 25
04

Rechercher les mécanismes qui créent le risque

Les pratiques interdites ne se repèrent pas avec une liste de produits. Un même système peut être acceptable dans une configuration et problématique dans une autre. Décrivez ce que le système cherche à obtenir, comment il influence ou classe, quelles données il utilise, qui est exposé et quelles conséquences suivent la sortie. Examinez les options activables, les intégrations et les usages détournés raisonnablement prévisibles.

Interrogez les équipes avec des scénarios concrets : personnalisation qui exploite une vulnérabilité, notation fondée sur un comportement sans rapport avec le contexte, inférence d’attributs sensibles, constitution de bases d’images, reconnaissance des émotions ou identification biométrique. La formulation des questions doit reprendre les conditions et limites du texte applicable.

Article 5
05

Mettre des contrôles aux moments décisifs

Intégrez un contrôle article 5 à la demande d’achat, au lancement d’un projet, à l’activation d’une nouvelle fonction et à la revue d’un changement. Les achats demandent la description des fonctions, exclusions et sous-traitants. Le métier décrit la finalité et les conséquences. Le juridique analyse les critères. La technique vérifie la configuration et bloque les fonctions non autorisées.

Prévoyez un canal d’escalade rapide. Lorsqu’un doute sérieux subsiste, limitez le pilote, interdisez l’usage concerné ou demandez une expertise complémentaire avant mise en production. Une validation orale ne suffit pas. Conservez la question, les faits, la décision, le décideur et les mesures retenues.

Article 5
06

Exemples de vigilance

En RH, une analyse de voix ou de visage destinée à déduire l’état émotionnel appelle une revue spécifique. Dans le commerce, une personnalisation qui exploite la vulnérabilité d’un public ne se traite pas comme une recommandation ordinaire. Dans la sécurité, une fonction biométrique doit être examinée à partir de sa finalité, de son contexte et des exceptions très encadrées. Dans l’éducation ou les services, une notation sociale ne se réduit pas à un score technique.

Ces situations imposent de comprendre les données inférées et la chaîne de décision. Un fournisseur peut décrire une fonction comme une aide. Si les utilisateurs s’y conforment systématiquement ou si aucune alternative n’existe, l’effet réel doit être analysé.

Article 5
07

Auditer et former sans banaliser

Ajoutez des tests de configuration, une revue des journaux et des entretiens avec les utilisateurs. Cherchez les usages non prévus, les extensions locales et les contournements. Les indicateurs portent sur les fonctions bloquées, les alertes traitées, les délais de décision et les changements revus.

La formation présente les catégories avec des cas liés aux métiers, explique le canal de signalement et clarifie le pouvoir d’arrêt. Elle ne doit pas donner l’impression qu’une liste apprise une fois suffit. Les pratiques, les produits et les interprétations évoluent. Une veille reliée au registre permet de réexaminer les usages concernés.

Article 5
De la lecture au travail concret

Les outils pour appliquer ce guide.

Choisissez le support utile à votre situation. L’aperçu est public. Le dossier complet comprend un guide et des fichiers de travail modifiables.

Couverture de l’aperçu Registre IA
PDF + XLSX · Version 2.0

Registre IA

Décrire les usages, retrouver les informations manquantes et consigner la décision de qualification avec ses preuves.

  • PDFGuide du registre IA, 29 pages
  • XLSXRegistre IA éditable, 6 onglets
Consulter l’aperçu
Couverture de l’aperçu Checklist déployeur
PDF + XLSX · Version 1.0

Checklist déployeur

Examiner la notice, le contrôle humain, la surveillance et les traces utiles. Vérifier d’abord le rôle et le périmètre applicables.

  • PDFGuide des obligations du déployeur
  • XLSXChecklist article 26
Consulter l’aperçu

Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.

Questions fréquentes

?Une pratique interdite peut-elle être testée en pilote ?

Un pilote ne neutralise pas une interdiction. La pratique et les conditions doivent être analysées avant tout traitement réel.

?Le fournisseur est-il seul responsable ?

Non. Chaque acteur doit examiner son rôle, sa configuration et son usage. Une clause contractuelle ne remplace pas les contrôles internes.

?Comment traiter une fonction désactivée ?

Documentez son existence, bloquez son activation si nécessaire et revoyez la situation lors des mises à jour ou changements de droits.

?Que faire en cas de doute ?

Suspendre ou limiter l’usage concerné, réunir les faits et obtenir une analyse compétente avant de poursuivre.

?Comment prouver la prévention ?

Conservez les contrôles d’achat, décisions, configurations, tests, droits d’accès, formations et revues de changement.

Organiser votre démarche AI Act.

Présentez votre rôle, les systèmes concernés et l’état de votre préparation. Nous pourrons prioriser avec vous les étapes, les livrables et les preuves à construire.