Systèmes d’IA à haut risque : qualifier, sécuriser, démontrer.
Une qualification à haut risque doit expliquer le système et sa destination, puis la disposition retenue. Elle prépare un dispositif de conformité lié au rôle et au calendrier. Ce guide distingue les deux voies de l’article 6, les exceptions encadrées et les preuves à construire, sans classer une organisation entière à partir de son secteur.
Un système peut relever du haut risque par deux voies : un produit ou composant de sécurité de l’annexe I soumis à une évaluation de conformité par un tiers, ou une utilisation de l’annexe III. Les conditions de l’article 6 doivent être établies. L’exception du paragraphe 3 est encadrée, et un système de l’annexe III réalisant le profilage de personnes physiques reste toujours à haut risque. Les échéances des sections 1 à 3 du chapitre III sont le 2 décembre 2027 et le 2 août 2028, sauf l’article 6, paragraphe 5.
Dans ce dossier : Qualification des risques AI Act
En bref
L’essentiel à retenir
01
Deux voies à examiner à partir de la destination.
02
Une exception documentée, avec quatre conditions alternatives et un verrou sur le profilage.
03
Des preuves distinctes côté fournisseur et déployeur.
04
Des dates, transitions et règles sectorielles à rattacher au système.
01
Deux portes d’entrée principales
La première voie demande deux conditions cumulatives. Le système est lui-même un produit, ou un composant de sécurité d’un produit, couvert par une législation de l’annexe I. Ce produit doit aussi être soumis à une évaluation de conformité par un tiers en vertu de la législation pertinente. Un produit équipé d’IA ne répond pas automatiquement à ces deux conditions.
La version consolidée précise la fonction de sécurité, les fonctions purement auxiliaires et les situations où une défaillance met la santé ou la sécurité en danger. Elle précise également que l’intervention d’un tiers pour certains autres risques ne suffit pas à remplir la condition pertinente. Retrouvez la législation, la classe du produit et la procédure réellement applicable.
La seconde voie porte sur les utilisations listées à l’annexe III. Elle couvre huit domaines, mais des destinations précises à l’intérieur de chacun. La santé, l’enseignement, les RH ou la finance ne constituent pas chacun une catégorie globale de systèmes à haut risque. La phrase de l’annexe correspondant à la fonction doit être citée dans la décision.
Les deux voies de qualification
Voie
Conditions à établir
Pièces utiles
Article 6, paragraphe 1
Produit ou sécurité de l’annexe I et évaluation par un tiers
Destination, législation produit, procédure et fonction de sécurité
Article 6, paragraphe 2
Destination précisément listée à l’annexe III
Processus, personnes, sortie et influence sur la décision
En emploi, l’annexe III vise notamment la sélection et le recrutement, dont le filtrage des candidatures. En éducation, elle vise certaines décisions d’accès, d’affectation ou d’évaluation. Pour les services essentiels, les situations comprennent certaines prestations publiques, l’évaluation de solvabilité avec l’exception relative à la détection de fraude, et la tarification ou l’évaluation des risques en assurance vie et santé.
La liste comprend également certaines fonctions biométriques, des composants de sécurité d’infrastructures critiques, des usages répressifs, migratoires, judiciaires et démocratiques. Dans la santé, elle comprend notamment le triage des patients dans les services d’urgence. Décrivez la décision visée plutôt que d’utiliser un libellé aussi large que « outil médical » ou « logiciel RH ».
Exemples fictifs : une synthèse de courriers dans un ESAT demande une analyse de sa fonction, mais ne devient pas automatiquement à haut risque du fait de l’établissement. Une IA qui filtre des candidatures d’encadrants conduit à examiner le point 4. Un système de triage aux urgences demande un autre dossier, lié à sa destination et à ses éventuelles règles produit.
L’exception du paragraphe 3 demande une démonstration
Un système listé à l’annexe III peut relever du paragraphe 3 lorsqu’il ne présente pas de risque important pour la santé, la sécurité ou les droits fondamentaux, notamment en n’influençant pas sensiblement la décision. Une des quatre conditions décrites dans ce paragraphe doit aussi être satisfaite. L’existence d’un opérateur humain ne dispense pas de cette analyse.
Les quatre conditions concernent une tâche procédurale étroite, l’amélioration du résultat d’une activité humaine déjà réalisée, la détection de modèles de décision ou d’écarts dans les conditions prévues, ou une tâche préparatoire. Pour la détection, le texte encadre notamment le remplacement ou l’influence sur l’évaluation humaine et l’existence d’un examen humain approprié.
Un système de l’annexe III qui réalise le profilage de personnes physiques reste toujours à haut risque. Lorsque le fournisseur conclut à l’exception, il documente son évaluation avant mise sur le marché ou mise en service. L’article 49, paragraphe 2, conserve une obligation d’enregistrement. Une note « faible risque » sans faits, conditions et preuve ne répond pas à ce raisonnement.
Annexe I : coordonner l’analyse avec le responsable produit
Dans un exemple fictif, un logiciel est qualifié de dispositif médical relevant du règlement (UE) 2017/745. La qualification AI Act demande encore de vérifier la destination, le statut produit, la fonction concernée et l’évaluation par un tiers applicable. La simple utilisation à l’hôpital ne démontre pas ces éléments.
L’annexe I distingue les sections A et B. L’article 2, paragraphe 2, limite les dispositions applicables aux systèmes liés aux produits de la section B. Le paragraphe 13 prévoit aussi des limitations encadrées pour la section A lorsque la protection sectorielle remplit les conditions du texte. Ces règles empêchent de reprendre un dossier unique pour tous les produits.
La version consolidée a déplacé le règlement sur les machines en section B. Le dossier doit utiliser la version pertinente de l’annexe, avec la procédure sectorielle et la justification du périmètre. Faites identifier les éventuelles limitations précises avant d’annoncer qu’une conformité produit couvre, à elle seule, tout l’AI Act.
Les articles 8 à 15 organisent la gestion des risques, les données, la documentation, les journaux, les informations aux déployeurs, le contrôle humain et les performances. Ils doivent être reliés à la destination, au périmètre et à la date applicables. Le dossier technique est établi avant mise sur le marché ou mise en service et tenu à jour.
Les preuves répondent à des questions concrètes : quels dommages ont été examinés, quelles limites ont été observées, quels jeux de données ont été vérifiés et comment un humain peut intervenir ? Les indicateurs et seuils de test doivent être adaptés à la destination. Les exigences de données concernent les jeux utilisés selon les conditions de l’article 10.
Un contrôle humain effectif demande des moyens de comprendre les limites, interpréter la sortie, repérer le biais d’automatisation, ignorer ou remplacer une sortie et intervenir ou arrêter de manière sécurisée, selon les conditions pertinentes. Une case « validation humaine » dans une procédure décrit une intention. Un essai documenté montre ce que la personne peut réellement faire.
Points de contrôle
Risques reliés à la destination et au cycle de vie.
Données et essais documentés.
Documentation technique et versions.
Journaux et instructions exploitables.
Contrôle humain, exactitude, robustesse et cybersécurité.
Fournisseur et déployeur : deux dispositifs complémentaires
Le fournisseur organise notamment la gestion de la qualité et les exigences du système, suit la procédure d’évaluation applicable et prépare déclaration, marquage, enregistrement et surveillance. Les modalités varient selon la voie et les dispositions pertinentes. Le déployeur met en place les mesures d’usage prévues à l’article 26, dont instructions, contrôle humain et suivi.
Le déployeur vérifie les données d’entrée sous son contrôle, surveille le fonctionnement et conserve les journaux sous son contrôle pendant une période adaptée, d’au moins six mois sauf autre disposition applicable. Ce délai concerne ces journaux, pas une obligation universelle de conserver tous les dossiers pendant dix ans. Les règles de données personnelles restent pertinentes.
Les obligations relatives aux travailleurs, à certaines personnes affectées et à l’enregistrement des autorités publiques ont leurs propres conditions. La surveillance, la suspension et les signalements se préparent avec le fournisseur. Un contrat doit permettre de traiter un changement ou un incident, puis de comprendre quelle version et quelle instruction étaient utilisées.
Avant la première utilisation d’un système à haut risque visé à l’article 6(2), hors systèmes du point 2 de l’annexe III, l’article 27 impose une analyse d’impact sur les droits fondamentaux à des déployeurs déterminés. Il vise les organismes de droit public et les entités privées fournissant des services publics, ainsi que les déployeurs des systèmes du point 5 b de l’annexe III, pour l’évaluation de la solvabilité ou l’attribution d’une note de crédit aux personnes physiques, hors détection de la fraude financière. Il vise aussi les déployeurs des systèmes du point 5 c, pour l’évaluation des risques et la tarification de l’assurance vie et santé des personnes physiques. Cette obligation ne s’étend pas automatiquement à tout système produit de l’annexe I.
L’analyse porte sur le processus, la durée et la fréquence d’utilisation, les personnes affectées, les risques spécifiques, le contrôle humain et les mesures de gestion ou de recours. Elle doit s’articuler avec les informations du fournisseur. Une AIPD au titre de la protection des données peut apporter des éléments utiles, mais ne remplace pas automatiquement l’analyse de l’article 27.
Une fois l’analyse réalisée, le déployeur notifie ses résultats à l’autorité de surveillance du marché en transmettant le modèle rempli visé à l’article 27(5), conformément à l’article 27(3). Dans le cas prévu à l’article 46(1), les déployeurs peuvent être exemptés de cette notification. La disponibilité pratique du modèle ou d’un outil automatisé et le canal compétent sont à vérifier pour le dossier.
Notre proposition de travail consiste à rapprocher les pièces déjà disponibles des rubriques requises, puis à identifier ce qui manque. Le responsable doit expliquer la population et les conséquences du processus réel. La qualification, les dates applicables et les changements pertinents restent visibles dans le dossier.
Le 2 décembre 2027 concerne les sections 1 à 3 du chapitre III pour la voie de l’annexe III. Le 2 août 2028 concerne ces sections pour la voie de l’annexe I. L’article 6, paragraphe 5, est excepté de ce report. Ces échéances ne reportent pas en bloc l’article 4, les pratiques interdites ou les obligations de transparence.
Examinez aussi l’article 111 pour les systèmes déjà mis sur le marché ou en service avant la date pertinente et les importantes modifications de conception. L’échéance du 2 août 2030 concerne les systèmes destinés aux autorités publiques dans ce régime transitoire. Elle ne donne pas à tout nouveau système public un délai général jusqu’en 2030.
La feuille de route proposée commence par les pièces décisives : destination, voie de qualification, rôle, date et réserves. Elle indique ensuite qui obtient les informations, qui réalise les essais et qui décide des conditions d’utilisation. L’échéance juridique et la date interne de préparation doivent occuper deux colonnes différentes.
Le tableau ci-dessous est une méthode de préparation. Il aide à relier les pièces sans créer de score de conformité artificiel. Pour une ligne non résolue, inscrivez la réserve, le responsable et la condition de décision. Conservez un historique lorsque la destination, la version ou la source juridique change.
Une première revue peut porter sur un système représentatif, puis être réutilisée sur des usages comparables après vérification de leurs faits. Les similitudes d’outil ou de contrat ne rendent pas automatiquement les finalités équivalentes. Préparez les questions de qualification avant de demander une validation générale de tout le parc.
Pièces proposées pour une décision haut risque
Pièce
Question traitée
Condition de qualité
Fiche de destination
Quelle fonction influence quelles personnes ?
Faits confirmés et version identifiée
Note de qualification
Quelle voie et quelles conditions sont retenues ?
Dispositions précises et réserves motivées
Matrice de responsabilités
Qui est fournisseur, déployeur ou autre acteur ?
Entités et coopération décrites
Plan de preuves
Quels contrôles et informations faut-il réunir ?
Responsable, accès, test et résultat attendu
Feuille de route
Quelles dates et quelles décisions restent ouvertes ?
Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.
Questions fréquentes
Questions fréquentes
?Comment savoir si un système est à haut risque ?
Documentez les deux voies de l’article 6. Pour l’annexe I, établissez les conditions produit ou sécurité et l’évaluation par un tiers. Pour l’annexe III, examinez la destination précise, puis les conditions éventuelles du paragraphe 3.
?Une validation humaine suffit-elle pour l’exception ?
Il faut établir les conditions de risque et une des quatre conditions de l’article 6, paragraphe 3. La présence d’une personne dans le processus ne démontre pas, à elle seule, l’absence d’influence importante. Le profilage des personnes physiques concerné reste à haut risque.
?Une documentation complète suffit-elle à être conforme ?
Le dispositif associe des exigences et contrôles portant notamment sur les risques, données, performances, informations, contrôle humain et suivi. Les pièces doivent correspondre au système et à sa destination, avec des preuves de mise en œuvre.
?Le déployeur a-t-il aussi des obligations ?
L’article 26 prévoit notamment les instructions, la supervision, le suivi, les données et journaux sous son contrôle, ainsi que des informations dans les cas précisés. Le périmètre, la date et les transitions doivent être rattachés au système.
?La FRIA est-elle obligatoire pour toutes les entreprises ?
L’article 27 vise des déployeurs et systèmes déterminés, dont certaines entités publiques ou fournissant des services publics, et certaines utilisations en crédit ou assurance. Il comporte une exclusion pour le point 2 de l’annexe III.
?Le haut risque est-il reporté intégralement ?
L’article 113 prévoit les dates des sections 1 à 3 du chapitre III, avec l’exception de l’article 6, paragraphe 5. D’autres dispositions, dont la maîtrise de l’IA et la transparence, suivent leur propre calendrier.
?Un système public peut-il attendre 2030 ?
L’article 111 encadre les systèmes antérieurs et les importantes modifications de conception. Le jalon 2030 doit être lu dans ce contexte. Il ne constitue pas une dispense générale pour les nouveaux systèmes des autorités publiques.