Déployeur d’une IA à haut risque : les contrôles à rendre démontrables.
Acheter un système conforme ne suffit pas. Le déployeur reste responsable de son contexte d’utilisation, de la supervision humaine, des données qu’il contrôle et de sa réaction aux risques et incidents.
Les mesures techniques et organisationnelles doivent permettre un usage conforme à la notice. Le contrôle humain est confié à des personnes disposant des compétences, de la formation, de l’autorité et du soutien nécessaires.
Le déployeur surveille le fonctionnement sur la base de la notice. Lorsqu’un risque est suspecté, il informe sans retard injustifié les acteurs et l’autorité concernés et suspend l’utilisation. En cas d’incident grave, la chaîne d’information prévue par le texte doit être activée immédiatement.
Lorsque le déployeur contrôle les données d’entrée, il en vérifie la pertinence et la représentativité. Il conserve les journaux sous son contrôle pendant la durée prévue, informe les personnes ou travailleurs lorsque le texte l’exige et réalise l’analyse d’impact sur les droits fondamentaux pour les déploiements concernés.