EUAIACTpar DEMETER FORMATION CONSEIL

AI Act à l’hôpital et en clinique : qualifier les usages d’IA en santé.

Un hôpital ou une clinique peut utiliser des logiciels d’IA très différents : aide à l’imagerie, priorisation, transcription, gestion des lits, codage ou assistance rédactionnelle. Le secteur de la santé ne rend pas chaque système automatiquement haut risque. Il faut qualifier sa finalité, son lien avec un produit réglementé, la décision influencée et les personnes concernées.

Guide éditorial

Sources officielles et méthode proposée

Dernière modification de la page :

Réponse courte

L’essentiel en une minute

À l’hôpital, examinez deux voies de classification haut risque : l’article 6(1), si le système est un produit ou un composant de sécurité couvert par une législation de l’annexe I et soumis à une évaluation par un tiers, et l’annexe III pour certaines finalités précises, notamment le triage des urgences. Les usages administratifs et les outils d’assistance ne sont pas automatiquement haut risque. Le RGPD, les règles des dispositifs médicaux et la gouvernance clinique restent à examiner séparément.

Dans ce dossier : AI Act par secteur : santé et établissements de soins
AuteurÉquipe éditoriale DEMETER FORMATION CONSEIL
Responsabilité éditorialeDEMETER FORMATION CONSEIL, responsabilité éditoriale
Dernière modification de la page
Source principaleRèglement (UE) 2024/1689 — texte officiel

Sources, assistance IA et portée des vérifications : notre méthode éditoriale.

6 min de lectureEstimation à 220 mots par minute
Signaler une correction
En bref

L’essentiel à retenir

  1. 01

    Un système clinique n’est pas automatiquement haut risque du seul fait qu’il est utilisé à l’hôpital.

  2. 02

    La voie produit de l’article 6(1) dépend de critères cumulatifs et du parcours d’évaluation de conformité.

  3. 03

    L’annexe III comprend notamment le triage des patients en urgence et certaines décisions de services essentiels.

  4. 04

    AIPD, analyse AI Act, dispositif médical et gouvernance des soins sont complémentaires.

01

Ne pas assimiler secteur de santé et catégorie à haut risque

Le premier travail consiste à séparer les systèmes par finalité : décision clinique, triage, aide à la documentation, planification, gestion administrative, facturation ou recherche. Une transcription de consultation peut manipuler des données de santé sans pour autant relever automatiquement d’une catégorie haut risque de l’AI Act. À l’inverse, une fonction peu visible dans un logiciel hospitalier peut orienter une décision importante. Le nom du service ou de l’éditeur ne remplace pas l’examen du cas d’usage.

Pour chaque système, documentez les professionnels utilisateurs, les patients ou autres personnes concernées, les données, la sortie, la décision influencée, la possibilité d’intervention et les conséquences d’une erreur. Ajoutez le fabricant, l’intégrateur, l’hébergeur, le statut de dispositif médical, la version et le cadre d’utilisation validé. Une mise à jour qui change les fonctionnalités ou le contexte doit déclencher une revue.

Points de contrôle
  • Finalité clinique ou administrative
  • Professionnel utilisateur
  • Patients et autres personnes exposées
  • Décision influencée
  • Version et intégrations
  • Fournisseur et statut réglementaire produit
Articles 3 et 6 · Annexes I et III
02

Examiner les deux voies de classification de l’article 6

La première voie vise un système destiné à servir de composant de sécurité d’un produit couvert par l’annexe I, ou un système qui constitue lui-même un tel produit, lorsque la législation produit exige une évaluation de conformité par un tiers avant sa mise sur le marché ou sa mise en service. Les conditions sont cumulatives. Il ne suffit donc pas qu’un outil contribue aux soins ou qu’il soit parfois décrit comme dispositif médical. Il faut vérifier le produit, le rôle de sécurité, la législation applicable et la procédure de conformité.

La seconde voie concerne les usages listés à l’annexe III. Dans le domaine de la santé et des services essentiels, un système destiné à évaluer l’éligibilité ou le droit d’une personne à certains services publics essentiels peut être visé. L’annexe III mentionne aussi la classification des appels d’urgence, le triage des patients en urgence et certaines tâches de répartition des premiers secours. Ces catégories ne couvrent pas indistinctement toute aide au diagnostic ou toute organisation hospitalière.

Deux voies à vérifier
VoieConditions à documenterExemple de question
Article 6(1) et annexe IProduit ou composant de sécurité et évaluation par tiers requiseQuelle législation produit et quelle procédure s’appliquent ?
Article 6(2) et annexe IIIFinalité correspondant à une entrée précise de l’annexeLe système établit-il une priorité de triage d’urgence ?
Filtre de l’article 6(3)Conditions légales, influence, profilage et documentationLa sortie modifie-t-elle matériellement une décision ?
Article 6 · Annexes I et III · Règlement (UE) 2026/1744
03

Articuler l’AI Act avec dispositifs médicaux et RGPD

Le règlement sur les dispositifs médicaux et les règles nationales de santé gardent leur propre objet. Une évaluation de conformité produit n’épuise pas nécessairement les obligations AI Act, et la qualification AI Act ne remplace pas la qualification médicale du produit. Le fabricant, les affaires réglementaires, la biomédicale, la qualité et les équipes cliniques doivent partager les changements, les incidents et les données d’évaluation. Le contrat et la documentation doivent indiquer quelle version et quel usage ont été examinés.

Si le système traite des données personnelles, le responsable doit déterminer la base juridique, respecter la minimisation, informer les personnes, encadrer les sous-traitants et évaluer le besoin d’AIPD. La CNIL rappelle que l’AIPD concerne les traitements susceptibles d’engendrer un risque élevé pour les droits et libertés. Depuis la modification de l’article 27 par le règlement (UE) 2026/1744, le déployeur qui réalise une analyse d’impact sur les droits fondamentaux peut y insérer des renvois ou des éléments pertinents de l’AIPD lorsque des obligations sont déjà couvertes. Les finalités et conclusions propres à chaque analyse doivent rester lisibles.

Article 27(4) modifié · Article 35 du RGPD · Règlement (UE) 2017/745 selon le système
04

Tester la supervision et la réponse aux incidents

Une supervision effective exige une compétence clinique ou opérationnelle adaptée, du temps, une interface compréhensible et une autorité réelle pour contester, interrompre ou escalader. Organisez des tests avec des sorties erronées, des données manquantes, une population différente et une indisponibilité. Observez si le professionnel voit les limites, trouve l’information utile, documente son choix et accède à une procédure de repli. Une validation affichée à l’écran ne démontre pas ces capacités.

Coordonnez la surveillance avec la qualité et la gestion des risques de l’établissement. Définissez les événements à signaler, les informations à préserver, les notifications possibles et les critères de reprise. Associez direction médicale, DSI, DPO, sécurité, biomédicale, achats, qualité et fournisseur selon l’incident. Les décisions d’autoriser, limiter ou suspendre doivent viser une version et un périmètre identifiables.

Points de contrôle
  • Scénarios de défaillance testés
  • Autorité de contestation et d’arrêt
  • Accès aux journaux et preuves
  • Procédure de repli exercée
  • Canal fournisseur et délais contractuels
  • Décision de reprise documentée
Articles 9, 14, 15, 26 et 73
05

Mettre en place un inventaire par parcours de soins

Les établissements disposent souvent d’une liste d’applications, mais pas d’une vue des décisions qui les utilisent. Interrogez des services différents et confrontez le registre aux achats, comptes cloud, extensions, projets de recherche et pratiques professionnelles. La cartographie doit faire apparaître les fonctions expérimentales et les outils intégrés dans des logiciels déjà homologués. Elle permet de trouver les usages inconnus avant qu’ils ne se généralisent.

Attribuez à chaque usage un propriétaire, une qualification, une base documentaire et une date de revue. Utilisez des déclencheurs : nouveau fournisseur, nouvelle version, extension à une spécialité, changement de population, incident ou modification réglementaire. La direction peut ainsi arbitrer sur les risques et ressources à engager sans suspendre indistinctement l’innovation utile aux soins.

Méthode de cartographie opérationnelle
De la lecture au travail concret

Les outils pour appliquer ce guide.

Choisissez le support utile à votre situation. L’aperçu est public. Le dossier complet comprend un guide et des fichiers de travail modifiables.

Couverture de l’aperçu Registre IA
PDF + XLSX · Version 2.0

Registre IA

Décrire les usages, retrouver les informations manquantes et consigner la décision de qualification avec ses preuves.

  • PDFGuide du registre IA, 29 pages
  • XLSXRegistre IA éditable, 6 onglets
Consulter l’aperçu
Couverture de l’aperçu Checklist déployeur
PDF + XLSX · Version 1.0

Checklist déployeur

Examiner la notice, le contrôle humain, la surveillance et les traces utiles. Vérifier d’abord le rôle et le périmètre applicables.

  • PDFGuide des obligations du déployeur
  • XLSXChecklist article 26
Consulter l’aperçu

Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.

Questions fréquentes

?Tous les systèmes d’IA utilisés par un hôpital sont-ils à haut risque ?

Non. La qualification dépend des conditions de l’article 6, de la destination, du produit et des usages de l’annexe III. Le secteur ne suffit pas.

?Une aide au diagnostic est-elle automatiquement un dispositif médical à haut risque ?

Pas automatiquement. Il faut examiner la destination médicale, les règles produit, le statut du système et les conditions cumulatives de l’article 6(1).

?Le triage aux urgences est-il cité par l’annexe III ?

L’annexe III vise notamment les systèmes destinés à évaluer et classer les appels d’urgence et les systèmes de triage des patients en urgence. La finalité exacte et les conditions doivent être vérifiées.

?Une AIPD suffit-elle pour l’AI Act ?

Non. Elle porte sur le traitement de données personnelles. L’article 27 prévoit une analyse des droits fondamentaux pour certains déployeurs, avec possibilité de renvois ou de reprise d’éléments d’une AIPD lorsque les obligations sont déjà couvertes.

?Un hôpital privé doit-il toujours faire une FRIA ?

Non. L’article 27 vise certaines catégories de déployeurs et de systèmes. Il faut vérifier le statut de l’entité, l’usage et la catégorie concernée.

Passer du guide à votre projet IA.

Expliquez votre objectif, vos usages et vos contraintes. Nous pourrons préciser les points à traiter et choisir avec vous entre conseil, accompagnement et formation.