Déployeur d’une IA à haut risque : les contrôles à rendre démontrables.

Encadrer l’usage et le contrôle humain

Les mesures techniques et organisationnelles doivent permettre un usage conforme à la notice. Le contrôle humain est confié à des personnes disposant des compétences, de la formation, de l’autorité et du soutien nécessaires.

Surveiller, suspendre et informer

Le déployeur surveille le fonctionnement sur la base de la notice. Lorsqu’un risque est suspecté, il informe sans retard injustifié les acteurs et l’autorité concernés et suspend l’utilisation. En cas d’incident grave, la chaîne d’information prévue par le texte doit être activée immédiatement.

Conserver les preuves propres au contexte

Lorsque le déployeur contrôle les données d’entrée, il en vérifie la pertinence et la représentativité. Il conserve les journaux sous son contrôle pendant la durée prévue, informe les personnes ou travailleurs lorsque le texte l’exige et réalise l’analyse d’impact sur les droits fondamentaux pour les déploiements concernés.

Préparer le déploiement avant l’ouverture aux utilisateurs

Le déployeur vérifie que la finalité, la population, l’environnement et la configuration correspondent au cadre étudié. Il identifie les instructions applicables, les limites, les exigences de données et les conditions de supervision. Ces éléments sont traduits dans les procédures, interfaces, habilitations et formations. Une documentation fournisseur archivée sans adaptation au processus n’est pas une mise en œuvre.

Testez le système avec des cas représentatifs et des situations limites. Définissez la solution de repli, le pouvoir d’arrêt, les seuils d’escalade et le traitement d’une sortie incertaine. Le propriétaire métier approuve que le processus reste utilisable lorsque l’IA est indisponible ou contestée.

Rendre la supervision humaine effective

La personne chargée de superviser doit comprendre la finalité, les capacités, les limites et le risque d’automatisation excessive. Elle doit disposer du temps, des informations, de l’autorité et d’une alternative réelle. Une validation en un clic sur un volume incompatible avec la capacité humaine ne constitue pas une supervision crédible.

Décrivez les situations qui imposent une vérification, un second regard, une interruption ou une escalade. Analysez les taux de modification des recommandations, les alertes ignorées, les désaccords et les recours. Ces données montrent si la supervision fonctionne ou si le processus suit mécaniquement la machine.

Appliquer les obligations dans plusieurs métiers

Dans les RH, organisez l’accès au dossier, les motifs de décision et une voie de contestation. Dans la finance, distinguez le score, l’analyse du conseiller et la décision autorisée. Dans l’industrie, formalisez l’arrêt sûr et la validation après alerte. Dans un service d’intérêt général, assurez une information compréhensible et un traitement humain des situations sensibles.

Pour un outil génératif utilisé dans les services, contrôlez les sources, la confidentialité, la validation avant diffusion et la traçabilité de la version. Les obligations exactes dépendent de la qualification, mais ces mesures réduisent le risque opérationnel et facilitent la preuve.

Surveiller et réagir

Définissez les indicateurs, journaux, retours utilisateurs, réclamations et événements qui déclenchent une investigation. Le déployeur communique avec le fournisseur lorsqu’un risque, une défaillance ou un incident apparaît. Il conserve les faits, les mesures immédiates et les décisions, puis vérifie l’efficacité de la correction.

Une revue périodique rapproche les performances réelles, les changements, les incidents et les hypothèses initiales. Si les conditions ne sont plus réunies, limitez ou suspendez l’usage. La continuité du service ne doit pas conduire à conserver un système dont la maîtrise n’est plus démontrée.