Audit IA en ESSMS, ESAT et EPSM : un dossier de décisions pour la direction.
Un établissement peut disposer d’une charte IA et ignorer qu’un logiciel a activé une nouvelle fonction. Il peut aussi avoir interdit les chatbots tout en utilisant un outil de transcription intégré au dossier. Un audit utile rapproche les règles écrites et les pratiques. Son résultat attendu est un ensemble de décisions attribuées, avec des preuves et des actions, plutôt qu’un score global qui rassure sans expliquer.
Un audit IA d’établissement décrit les usages réels, distingue les périmètres sanitaires et médico-sociaux, puis examine chaque fonction selon l’AI Act, le RGPD et les règles sectorielles. Il vérifie les fournisseurs, les compétences, la supervision et la continuité. Les constats débouchent sur des décisions et actions datées. Cet audit de préparation ne constitue ni une certification AI Act de l’organisme ni une évaluation HAS des ESSMS.
Dans ce dossier : IA dans les établissements sanitaires, sociaux et médico-sociaux
Auditer les usages et configurations, pas uniquement les contrats.
02
Séparer exigences applicables et recommandations internes.
03
Tester la supervision sur un parcours concret.
04
Attribuer chaque action et chaque décision de poursuite.
01
Définir le périmètre et les personnes qui peuvent décider
La direction précise les sites, activités, logiciels et professionnels concernés. Un EPSM appartient au secteur sanitaire, même lorsqu’il gère aussi des structures médico-sociales. Un organisme multi-établissements ne doit pas fusionner ces cadres dans une seule fiche indifférenciée. L’audit indique ce qui est examiné, ce qui reste hors périmètre et quelles compétences supplémentaires seront nécessaires pour certaines conclusions.
Le sponsor désigne un propriétaire pour chaque usage et associe le métier, la qualité, le DPO, la sécurité, les achats et les fonctions juridiques selon les risques. Les équipes de terrain participent à la collecte. Le mandat autorise des décisions réelles : limiter, suspendre, demander une preuve ou lancer un pilote. Une instance qui peut seulement prendre connaissance du rapport ne suffit pas à traiter les situations prioritaires.
Inventorier les fonctions visibles et celles intégrées aux logiciels
L’inventaire distingue chaque fonction : rédaction, transcription, recherche documentaire, planification, surveillance ou recommandation individuelle. Il indique l’outil, la version, les données, les utilisateurs et la décision influencée. Les équipes vérifient aussi les modules activés par défaut et les comptes individuels. Le nom commercial d’un logiciel ne décrit pas toutes les fonctions qu’il contient ni leurs usages locaux.
La collecte combine un entretien, l’observation d’un parcours et la documentation du prestataire. Les informations inconnues sont marquées comme telles et deviennent des demandes. On ne remplit pas une case par supposition pour terminer le registre. Les usages sans données personnelles peuvent être traités plus rapidement, mais ils restent examinés selon leur finalité et les effets possibles sur une personne ou une décision.
Construire une qualification juridique séparée des promesses du fournisseur
Pour chaque fonction, l’audit examine d’abord les pratiques interdites potentiellement pertinentes, puis les voies de haut risque et le rôle de l’organisme. Il rapproche les conditions du texte de faits documentés. Les obligations spécifiques des systèmes à haut risque ne sont pas appliquées indistinctement à tous les outils. Les dates d’application et dispositions transitoires sont vérifiées dans les sources européennes actualisées avant la décision.
Le RGPD est analysé selon ses propres conditions : finalité, base légale, données sensibles, droits, contrats, sécurité, transferts et analyse d’impact. La réglementation médicale, les droits des personnes accompagnées et les règles de travail sont examinés lorsqu’ils sont pertinents. Une conclusion favorable sur un seul texte ne vaut pas conformité globale. Les réserves sont inscrites dans la décision, avec les informations encore nécessaires.
Tester le contrôle humain sur un cas de bout en bout
L’auditeur suit un exemple de la saisie à l’utilisation de la sortie. Le professionnel peut-il retrouver la source, comprendre une limite et corriger le résultat ? Dispose-t-il du temps nécessaire ? Que se passe-t-il lorsqu’il refuse une recommandation ? Un bouton « valider » démontre une action d’interface, pas une supervision suffisante. Le protocole doit observer les moyens et les décisions réellement possibles.
Le cas test est fictif lorsqu’il n’est pas nécessaire d’utiliser des données personnelles. Il comporte une erreur connue, une donnée manquante et une indisponibilité. L’équipe montre sa procédure de signalement et son mode de secours. Le rapport conserve les résultats, les limites de l’essai et les corrections attendues. Un test réussi dans un service ne devient pas une preuve pour tous les sites ou métiers.
Produire un plan d’action qui aide la direction à arbitrer
Les constats sont classés selon leur conséquence et leur degré d’incertitude. Une fuite possible de données, une fonction potentiellement interdite ou une décision individuelle non maîtrisée appelle une action prioritaire. Une information fournisseur manquante ne devient pas automatiquement une non-conformité constatée : le rapport distingue absence de preuve, risque, écart vérifié et recommandation. Cette précision évite les conclusions excessives.
Chaque action indique un responsable, une échéance, une preuve de réalisation et la personne qui décide de la clôture. La direction arbitre aussi les ressources nécessaires. Les documents attendus peuvent être un paramètre vérifié, un contrat corrigé, une formation ciblée ou un nouvel essai. Le rapport ne demande pas systématiquement une procédure supplémentaire lorsqu’une mesure technique ou une clarification de rôle répond mieux au constat.
Recommandations de gouvernance ; preuves proportionnées
06
Articuler compétences, qualité et suivi sans promettre une certification
L’audit relie les compétences aux fonctions réellement utilisées. Les éducateurs, soignants, cadres et responsables techniques ont des besoins différents. Le plan de formation comporte des exercices et une évaluation du comportement attendu. La certification Qualiopi de DEMETER SANTE porte sur le processus de formation dans la catégorie certifiée. Elle ne certifie ni un logiciel IA ni la conformité AI Act de l’établissement audité.
Les éléments de qualité peuvent alimenter les démarches existantes, mais une évaluation HAS des ESSMS et un audit des usages IA restent distincts. Le suivi prévoit une revue après un changement de finalité, de modèle ou de prestataire, et après un incident significatif. La direction conserve le registre des décisions et les points ouverts. L’audit devient alors un outil de pilotage vivant, dont le périmètre et les limites restent lisibles.
Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.
Questions fréquentes
Questions fréquentes
?Un audit permet-il de certifier tout l’établissement conforme à l’AI Act ?
Un audit de préparation produit des constats, décisions et actions dans un périmètre précis. Il ne constitue pas une certification générale de l’organisme ni une garantie sur toutes ses activités.
?Quels documents réunir avant l’audit ?
La liste des fonctions, versions, contrats, flux, habilitations, procédures de validation, formations et incidents connus. Les informations manquantes doivent rester visibles.
?Doit-on examiner les outils sans données personnelles ?
Oui, selon leur finalité et les décisions qu’ils influencent. L’absence de données personnelles allège certains sujets RGPD, mais ne résout pas toute la qualification AI Act.
?Quand faut-il refaire une revue ?
Après un changement important d’usage, de version, de configuration ou de fournisseur, et lorsqu’un incident ou une nouvelle exigence affecte le raisonnement initial.
Expliquez votre objectif, vos usages et vos contraintes. Nous pourrons préciser les points à traiter et choisir avec vous entre conseil, accompagnement et formation.