Déployeur d’une IA à haut risque : les contrôles à rendre démontrables.
Acheter un système conforme ne suffit pas. Le déployeur reste responsable de son contexte d’utilisation, de la supervision humaine, des données qu’il contrôle et de sa réaction aux risques et incidents.
Le déployeur organise l’usage conforme aux instructions, la supervision humaine, la qualité des données d’entrée, les journaux, la surveillance et les réactions en cas de risque ou d’incident.
Traduire les instructions du fournisseur dans le processus réel.
02
Nommer des personnes compétentes capables d’exercer la supervision.
03
Conserver les journaux et les preuves de fonctionnement.
04
Surveiller, signaler et suspendre lorsque le risque l’exige.
01
Encadrer l’usage et le contrôle humain
Les mesures techniques et organisationnelles doivent permettre un usage conforme à la notice. Le contrôle humain est confié à des personnes disposant des compétences, de la formation, de l’autorité et du soutien nécessaires.
Le déployeur surveille le fonctionnement sur la base de la notice. Lorsqu’un risque est suspecté, il informe sans retard injustifié les acteurs et l’autorité concernés et suspend l’utilisation. En cas d’incident grave, la chaîne d’information prévue par le texte doit être activée immédiatement.
Lorsque le déployeur contrôle les données d’entrée, il en vérifie la pertinence et la représentativité. Il conserve les journaux sous son contrôle pendant la durée prévue, informe les personnes ou travailleurs lorsque le texte l’exige et réalise l’analyse d’impact sur les droits fondamentaux pour les déploiements concernés.
Préparer le déploiement avant l’ouverture aux utilisateurs
Le déployeur vérifie que la finalité, la population, l’environnement et la configuration correspondent au cadre étudié. Il identifie les instructions applicables, les limites, les exigences de données et les conditions de supervision. Ces éléments sont traduits dans les procédures, interfaces, habilitations et formations. Une documentation fournisseur archivée sans adaptation au processus n’est pas une mise en œuvre.
Testez le système avec des cas représentatifs et des situations limites. Définissez la solution de repli, le pouvoir d’arrêt, les seuils d’escalade et le traitement d’une sortie incertaine. Le propriétaire métier approuve que le processus reste utilisable lorsque l’IA est indisponible ou contestée.
La personne chargée de superviser doit comprendre la finalité, les capacités, les limites et le risque d’automatisation excessive. Elle doit disposer du temps, des informations, de l’autorité et d’une alternative réelle. Une validation en un clic sur un volume incompatible avec la capacité humaine ne constitue pas une supervision crédible.
Décrivez les situations qui imposent une vérification, un second regard, une interruption ou une escalade. Analysez les taux de modification des recommandations, les alertes ignorées, les désaccords et les recours. Ces données montrent si la supervision fonctionne ou si le processus suit mécaniquement la machine.
Dans les RH, organisez l’accès au dossier, les motifs de décision et une voie de contestation. Dans la finance, distinguez le score, l’analyse du conseiller et la décision autorisée. Dans l’industrie, formalisez l’arrêt sûr et la validation après alerte. Dans un service d’intérêt général, assurez une information compréhensible et un traitement humain des situations sensibles.
Pour un outil génératif utilisé dans les services, contrôlez les sources, la confidentialité, la validation avant diffusion et la traçabilité de la version. Les obligations exactes dépendent de la qualification, mais ces mesures réduisent le risque opérationnel et facilitent la preuve.
Définissez les indicateurs, journaux, retours utilisateurs, réclamations et événements qui déclenchent une investigation. Le déployeur communique avec le fournisseur lorsqu’un risque, une défaillance ou un incident apparaît. Il conserve les faits, les mesures immédiates et les décisions, puis vérifie l’efficacité de la correction.
Une revue périodique rapproche les performances réelles, les changements, les incidents et les hypothèses initiales. Si les conditions ne sont plus réunies, limitez ou suspendez l’usage. La continuité du service ne doit pas conduire à conserver un système dont la maîtrise n’est plus démontrée.
Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.
Questions fréquentes
Questions fréquentes
?Qui est déployeur au sens de l’AI Act ?
L’analyse dépend de l’entité qui utilise le système sous son autorité, hors usage personnel non professionnel, et du contexte de la chaîne de valeur.
?Suivre les instructions du fournisseur suffit-il ?
Non. Il faut les appliquer au contexte réel, exercer la supervision, surveiller le fonctionnement et traiter les obligations propres au déployeur.
?Combien de temps conserver les journaux ?
Le texte, le rôle et le contexte déterminent la durée. Documentez la règle, les contraintes et les accès.
?Quand suspendre le système ?
Lorsque le risque ne peut plus être maîtrisé, qu’un incident le justifie ou que les conditions d’utilisation ne sont plus réunies.
?Comment prouver la supervision ?
Conservez les rôles, formations, consignes, décisions, interventions, escalades, tests et indicateurs de fonctionnement réel.
Présentez votre rôle, les systèmes concernés et l’état de votre préparation. Nous pourrons prioriser avec vous les étapes, les livrables et les preuves à construire.