EUAIACTpar DEMETER FORMATION CONSEIL

Supervision humaine et AI Act : rendre l’article 14 réellement efficace.

La supervision humaine ne se résume pas à placer une personne devant un écran. Elle doit lui permettre de comprendre les capacités et limites du système, de repérer les anomalies, d’éviter le biais d’automatisation et d’intervenir avec une autorité réelle. Cette capacité se conçoit dans le produit, l’organisation du travail et la formation.

Guide éditorial

Sources officielles et méthode proposée

Dernière modification de la page :

Réponse courte

L’essentiel en une minute

Une supervision humaine efficace donne à des personnes compétentes les informations, le temps et l’autorité nécessaires pour surveiller, interpréter, ignorer, corriger ou interrompre le système. Elle est proportionnée au risque, intégrée à l’interface, testée sur des erreurs réalistes et reliée à des preuves.

AuteurÉquipe éditoriale DEMETER FORMATION CONSEIL
Responsabilité éditorialeDEMETER FORMATION CONSEIL, responsabilité éditoriale
Dernière modification de la page
Source principaleRèglement (UE) 2024/1689 — texte officiel

Sources, assistance IA et portée des vérifications : notre méthode éditoriale.

5 min de lectureEstimation à 220 mots par minute
Signaler une correction
En bref

L’essentiel à retenir

  1. 01

    Capacités et limites comprises

  2. 02

    Biais d’automatisation traité

  3. 03

    Pouvoir de contester et d’arrêter

  4. 04

    Scénarios de test et preuves conservés

01

Définir ce que l’humain doit empêcher

Partez des risques résiduels après les mesures techniques. Décrivez les erreurs, incohérences, situations hors périmètre et effets possibles sur les personnes. La supervision vise à prévenir ou réduire ces risques lorsque le système est utilisé conformément à sa finalité ou dans une mauvaise utilisation raisonnablement prévisible.

Pour chaque scénario, précisez le signal visible, la décision attendue et le délai disponible. Un opérateur qui doit examiner mille alertes par heure ne dispose pas d’une capacité réelle. Une personne qui ignore les limites statistiques d’un score risque de transformer une recommandation en verdict. Le dimensionnement du travail fait donc partie du contrôle.

Article 14, paragraphes 1 et 2
02

Répartir les mesures entre fournisseur et déployeur

Le fournisseur intègre, lorsque cela est techniquement possible, des mesures dans le système et identifie celles que le déployeur doit mettre en œuvre. Il fournit des informations sur les capacités, limites, risques, outils d’interprétation et possibilités d’intervention. Le déployeur traduit ces informations en procédure, habilitations et organisation.

Demandez une démonstration des alertes, explications, mécanismes d’arrêt, journaux et modes dégradés. Vérifiez que les fonctions promises existent dans la version achetée. Le contrat organise les changements et l’assistance. Si le déployeur ne peut pas obtenir une information indispensable, il doit évaluer si l’usage peut rester autorisé ou doit être limité.

Articles 13 et 14, paragraphe 3
03

Donner cinq capacités à la personne chargée du contrôle

La personne doit comprendre les capacités et limites pertinentes, surveiller le fonctionnement, interpréter la sortie, décider de ne pas l’utiliser et intervenir ou arrêter le système. Ces capacités demandent des informations accessibles au moment de la décision. Une notice stockée dans un espace documentaire ne suffit pas si l’utilisateur ne peut pas retrouver le seuil ou la cause d’une alerte.

Définissez aussi l’autorité. La personne peut-elle retarder une décision, demander une seconde lecture, corriger une donnée ou suspendre l’outil sans sanction ? Les objectifs de productivité ne doivent pas rendre le contrôle impossible. Les managers reçoivent des consignes sur les situations où la prudence prime sur le débit.

Points de contrôle
  • Comprendre les limites
  • Détecter les anomalies
  • Interpréter la sortie
  • Ignorer ou corriger
  • Arrêter dans un état sûr
Article 14, paragraphe 4
04

Traiter le biais d’automatisation

Le biais d’automatisation conduit à accorder un poids excessif à une sortie parce qu’elle vient d’un système. Il augmente lorsque l’interface présente un score précis sans incertitude, lorsque la charge est forte ou lorsque les utilisateurs sont évalués sur leur conformité à la recommandation. Une case de validation peut alors masquer une décision pratiquement automatique.

Présentez dans les tests une recommandation cohérente mais fausse, un dossier atypique et un conflit entre le système et une source fiable. Mesurez la capacité à détecter, contester et documenter l’écart. Corrigez l’interface, la procédure ou la formation. Suivez aussi le taux d’override sans considérer automatiquement qu’un faible taux prouve la qualité du système.

Test de supervision
ScénarioComportement attenduTrace
Sortie fausse mais plausibleVérifier la sourceRésultat du test
Cas hors périmètreEscaladerTicket ou journal
Donnée incohérenteCorriger ou suspendreDécision datée
Risque immédiatArrêter le systèmeExercice de crise
Article 14, paragraphe 4, point b
05

Former par situation de travail

La formation explique le système utilisé, les décisions concernées, les limites observées, les signaux d’alerte et les gestes attendus. Une présentation générale de l’AI Act ne suffit pas. Les participants doivent pratiquer l’interprétation, la contestation, l’escalade et l’arrêt sur des cas proches de leur activité.

Évaluez les acquis avec une mise en situation et corrigez les erreurs. Conservez le public, le contenu, la version du système, le scénario et le résultat. Prévoyez un recyclage après un changement important ou un incident. Les remplaçants et prestataires doivent être couverts avant d’exercer le rôle.

Articles 4, 14 et 26
06

Prouver et améliorer le dispositif

Le dossier relie les risques, les mesures intégrées, la procédure, les habilitations, la formation, les tests et les incidents. Conservez les versions de l’interface et de la notice. Mesurez les alertes, interventions, délais, erreurs détectées et reprises manuelles. Interprétez les indicateurs dans leur contexte.

Revoyez la supervision lorsqu’une nouvelle population, finalité ou version modifie les risques. Impliquez les personnes qui utilisent le système, car elles observent les contournements et contraintes invisibles dans la conception. Une supervision crédible évolue avec le travail réel et peut conduire à changer l’outil, réduire l’autonomie ou retirer un usage.

Articles 9, 14, 17 et 26
De la lecture au travail concret

Les outils pour appliquer ce guide.

Choisissez le support utile à votre situation. L’aperçu est public. Le dossier complet comprend un guide et des fichiers de travail modifiables.

Couverture de l’aperçu Checklist déployeur
PDF + XLSX · Version 1.0

Checklist déployeur

Examiner la notice, le contrôle humain, la surveillance et les traces utiles. Vérifier d’abord le rôle et le périmètre applicables.

  • PDFGuide des obligations du déployeur
  • XLSXChecklist article 26
Consulter l’aperçu
Couverture de l’aperçu Registre IA
PDF + XLSX · Version 2.0

Registre IA

Décrire les usages, retrouver les informations manquantes et consigner la décision de qualification avec ses preuves.

  • PDFGuide du registre IA, 29 pages
  • XLSXRegistre IA éditable, 6 onglets
Consulter l’aperçu

Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.

Questions fréquentes

?La présence d’un humain suffit-elle ?

Non. Il doit disposer de compétences, d’informations, de temps et d’une autorité réelle.

?Qui conçoit la supervision ?

Le fournisseur conçoit et décrit des mesures. Le déployeur organise celles qui relèvent de son contexte.

?Faut-il un bouton d’arrêt ?

L’article 14 prévoit la capacité d’intervenir ou d’interrompre selon ce qui est approprié et proportionné.

?Comment tester le biais d’automatisation ?

Utilisez des sorties plausibles mais erronées et observez si les utilisateurs vérifient, contestent et escaladent.

?Quelle preuve conserver ?

Risques, procédure, habilitations, formation, scénarios de test, résultats, interventions et améliorations.

Organiser votre démarche AI Act.

Présentez votre rôle, les systèmes concernés et l’état de votre préparation. Nous pourrons prioriser avec vous les étapes, les livrables et les preuves à construire.