AI Act en EHPAD et ESSMS : décider quels usages exigent une revue renforcée.
Un établissement peut utiliser une IA pour reformuler un compte rendu, organiser des plannings, signaler un risque de chute ou contribuer à une décision d’orientation. Ces quatre usages n’ont ni les mêmes personnes concernées, ni les mêmes effets, ni le même cadre. En EHPAD et en ESSMS, la bonne question n’est pas « l’IA est-elle autorisée ? », mais « quelle décision influence-t-elle, et quelle preuve permet de la maîtriser ? ».
L’AI Act s’applique aux EHPAD et ESSMS selon le système, sa finalité et le rôle de l’établissement. Un assistant de rédaction, un outil de gestion du personnel, un système médical et un outil qui influence l’accès à un service n’ont pas la même qualification. L’établissement doit inventorier les usages, vérifier l’annexe I ou III lorsque pertinente, contrôler les instructions du fournisseur et articuler cette analyse avec le RGPD et la protection des données de santé.
Dans ce dossier : AI Act dans les établissements et services
Le secteur ne détermine pas à lui seul le niveau de risque AI Act.
02
Les usages liés aux soins, aux droits ou au personnel méritent une qualification prioritaire.
03
Une sortie d’IA ne remplace ni la responsabilité professionnelle ni l’examen du cas individuel.
04
Les données de santé imposent une analyse RGPD distincte et exigeante.
01
Cartographier les usages plutôt que les logiciels
Une même suite logicielle peut contenir un assistant de rédaction, une fonction de résumé, un module de détection et un outil d’affectation des équipes. Créez une fiche par finalité : qui lance la fonction, quelles données y entrent, quelle sortie est affichée, quelle décision elle peut influencer et quelle personne est concernée. La version du fournisseur et les paramètres locaux complètent la fiche. Ce découpage permet de distinguer les aides administratives des fonctions susceptibles de produire un effet direct sur un résident ou un professionnel.
Commencez par les usages qui influencent une priorité de soin, l’orientation, l’accès à une prestation, l’évaluation d’un salarié ou le traitement de données sensibles. Pour un détecteur de chute, examinez sa destination de produit, sa notice et son éventuel statut de dispositif médical. Pour une aide au planning, regardez si elle distribue des tâches sur la base du comportement ou des caractéristiques personnelles. Les mots « santé » et « planning » ne suffisent pas à conclure.
Protéger la décision professionnelle et la personne accompagnée
Dans un établissement, une recommandation peut prendre rapidement une apparence d’autorité lorsqu’elle arrive dans le dossier de soins. Le responsable du processus définit quand l’équipe doit vérifier la source, consulter une personne et écarter une sortie. L’interface doit rendre possible l’intervention humaine prévue. Une consigne « garder un humain dans la boucle » est insuffisante si le professionnel n’a ni le temps, ni l’information, ni le pouvoir de corriger.
Documentez un parcours concret, par exemple une alerte de risque de chute. Qui voit l’alerte ? Peut-on connaître ses limites et ses fausses alertes ? Que fait-on si elle contredit l’observation clinique ? Qui est informé en cas d’erreur répétée ? Ces réponses relient les articles sur la supervision et l’usage conforme aux instructions au fonctionnement réel de l’établissement.
Traiter les données de santé comme un projet distinct
Une organisation peut respecter une obligation AI Act et rester en difficulté au regard du RGPD. Les données de santé sont particulièrement protégées. Avant de transmettre des transmissions, comptes rendus ou identifiants à un service d’IA, examinez la finalité, la base juridique, la condition de traitement des données sensibles, les rôles des acteurs, l’hébergement, la durée de conservation et l’éventuelle AIPD. La CNIL fournit des repères propres à l’IA en santé.
Un essai avec de vraies données est déjà un traitement. Faites d’abord une démonstration avec des cas fictifs. Si le projet exige ensuite des données réelles, formalisez les accès, les sous-traitants, les droits des personnes et le retrait des données au terme de l’essai. Le contrat avec l’éditeur doit correspondre aux flux réellement observés, y compris les éventuelles fonctions de réentraînement.
Construire une feuille de route à l’échelle de l’établissement
Nommez un propriétaire pour chaque usage et reliez-le au référent qualité, au DPO, à la direction des soins ou de l’accompagnement et à la sécurité selon le cas. Sélectionnez deux pilotes : un usage administratif courant et un usage sensible. La comparaison montrera quelles questions sont communes et quelles vérifications demandent un dossier renforcé. Préparez des consignes courtes à partir de situations vécues par les équipes.
Le plan suit les échéances du règlement modifié : maîtrise de l’IA et pratiques interdites déjà applicables, transparence selon ses conditions, et obligations haut risque de l’annexe III en principe au 2 décembre 2027, avec un calendrier distinct pour l’annexe I. Une revue est déclenchée par un nouveau fournisseur, une fonction activée, une population supplémentaire ou un incident. Les preuves sont datées et accessibles à celles et ceux qui doivent prendre une décision.
Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.
Questions fréquentes
Questions fréquentes
?Un EHPAD est-il automatiquement à haut risque au titre de l’AI Act ?
Non. Le règlement qualifie des systèmes et des finalités, pas un établissement entier.
?Un outil de détection de chute est-il toujours concerné par l’annexe I ?
Sa destination, son statut de produit et la procédure de conformité doivent être examinés. Le nom de la fonction ne suffit pas.
?Peut-on tester une IA avec des dossiers de résidents ?
Un essai avec données réelles doit respecter le RGPD et les règles relatives aux données de santé. Commencez par des données fictives lorsque cela permet d’évaluer le produit.
?Qui pilote le sujet dans un ESSMS ?
La direction désigne un propriétaire d’usage et associe les fonctions métier, qualité, DPO, achats et sécurité selon les risques.
Présentez votre rôle, les systèmes concernés et l’état de votre préparation. Nous pourrons prioriser avec vous les étapes, les livrables et les preuves à construire.