EUAIACTpar DEMETER FORMATION CONSEIL

Audit IA en ESSMS, ESAT et EPSM : un dossier de décisions pour la direction.

Un établissement peut disposer d’une charte IA et ignorer qu’un logiciel a activé une nouvelle fonction. Il peut aussi avoir interdit les chatbots tout en utilisant un outil de transcription intégré au dossier. Un audit utile rapproche les règles écrites et les pratiques. Son résultat attendu est un ensemble de décisions attribuées, avec des preuves et des actions, plutôt qu’un score global qui rassure sans expliquer.

Guide sectoriel sourcé

Contrôle documentaire des sources

Dernière modification de la page :

Réponse courte

L’essentiel en une minute

Un audit IA d’établissement décrit les usages réels, distingue les périmètres sanitaires et médico-sociaux, puis examine chaque fonction selon l’AI Act, le RGPD et les règles sectorielles. Il vérifie les fournisseurs, les compétences, la supervision et la continuité. Les constats débouchent sur des décisions et actions datées. Cet audit de préparation ne constitue ni une certification AI Act de l’organisme ni une évaluation HAS des ESSMS.

Dans ce dossier : IA dans les établissements sanitaires, sociaux et médico-sociaux
AuteurÉquipe éditoriale DEMETER FORMATION CONSEIL — rédaction sectorielle
Vérification documentaireÉquipe éditoriale DEMETER FORMATION CONSEIL — contrôle documentaire des sources
Dernière modification de la page

Contenu de référence daté du

Source principaleEUR-Lex : règlement européen sur l’intelligence artificielle
Nature de cette modification

Ajout des méthodes DUI, HDS, preuves HAS et participation au CVS.

Sources, assistance IA et portée des vérifications : notre méthode éditoriale.

6 min de lectureEstimation à 220 mots par minute
Signaler une correction
En bref

L’essentiel à retenir

  1. 01

    Auditer les usages et configurations, pas uniquement les contrats.

  2. 02

    Séparer exigences applicables et recommandations internes.

  3. 03

    Tester la supervision sur un parcours concret.

  4. 04

    Attribuer chaque action et chaque décision de poursuite.

01

Définir le périmètre et les personnes qui peuvent décider

La direction précise les sites, activités, logiciels et professionnels concernés. Un EPSM appartient au secteur sanitaire, même lorsqu’il gère aussi des structures médico-sociales. Un organisme multi-établissements ne doit pas fusionner ces cadres dans une seule fiche indifférenciée. L’audit indique ce qui est examiné, ce qui reste hors périmètre et quelles compétences supplémentaires seront nécessaires pour certaines conclusions.

Le sponsor désigne un propriétaire pour chaque usage et associe le métier, la qualité, le DPO, la sécurité, les achats et les fonctions juridiques selon les risques. Les équipes de terrain participent à la collecte. Le mandat autorise des décisions réelles : limiter, suspendre, demander une preuve ou lancer un pilote. Une instance qui peut seulement prendre connaissance du rapport ne suffit pas à traiter les situations prioritaires.

Méthode d’audit proposée ; AI Act, article 3EUR-Lex : règlement européen sur l’intelligence artificielle
02

Inventorier les fonctions visibles et celles intégrées aux logiciels

L’inventaire distingue chaque fonction : rédaction, transcription, recherche documentaire, planification, surveillance ou recommandation individuelle. Il indique l’outil, la version, les données, les utilisateurs et la décision influencée. Les équipes vérifient aussi les modules activés par défaut et les comptes individuels. Le nom commercial d’un logiciel ne décrit pas toutes les fonctions qu’il contient ni leurs usages locaux.

La collecte combine un entretien, l’observation d’un parcours et la documentation du prestataire. Les informations inconnues sont marquées comme telles et deviennent des demandes. On ne remplit pas une case par supposition pour terminer le registre. Les usages sans données personnelles peuvent être traités plus rapidement, mais ils restent examinés selon leur finalité et les effets possibles sur une personne ou une décision.

Dossier minimal par usage
RubriqueInformation attenduePreuve possible
FinalitéTâche et décision influencéeDescription métier et démonstration
DonnéesCatégories, flux et destinatairesSchéma, paramètres et contrat
RôlePosition de l’organisationAnalyse fournisseur ou déployeur
SupervisionQui contrôle et peut arrêterProcédure et essai observé
DécisionPoursuite, réserve ou suspensionResponsable, date et actions
AI Act, articles 3, 6 et 25 ; méthode de collecteEUR-Lex : règlement européen sur l’intelligence artificielle
03

Construire une qualification juridique séparée des promesses du fournisseur

Pour chaque fonction, l’audit examine d’abord les pratiques interdites potentiellement pertinentes, puis les voies de haut risque et le rôle de l’organisme. Il rapproche les conditions du texte de faits documentés. Les obligations spécifiques des systèmes à haut risque ne sont pas appliquées indistinctement à tous les outils. Les dates d’application et dispositions transitoires sont vérifiées dans les sources européennes actualisées avant la décision.

Le RGPD est analysé selon ses propres conditions : finalité, base légale, données sensibles, droits, contrats, sécurité, transferts et analyse d’impact. La réglementation médicale, les droits des personnes accompagnées et les règles de travail sont examinés lorsqu’ils sont pertinents. Une conclusion favorable sur un seul texte ne vaut pas conformité globale. Les réserves sont inscrites dans la décision, avec les informations encore nécessaires.

04

Tester le contrôle humain sur un cas de bout en bout

L’auditeur suit un exemple de la saisie à l’utilisation de la sortie. Le professionnel peut-il retrouver la source, comprendre une limite et corriger le résultat ? Dispose-t-il du temps nécessaire ? Que se passe-t-il lorsqu’il refuse une recommandation ? Un bouton « valider » démontre une action d’interface, pas une supervision suffisante. Le protocole doit observer les moyens et les décisions réellement possibles.

Le cas test est fictif lorsqu’il n’est pas nécessaire d’utiliser des données personnelles. Il comporte une erreur connue, une donnée manquante et une indisponibilité. L’équipe montre sa procédure de signalement et son mode de secours. Le rapport conserve les résultats, les limites de l’essai et les corrections attendues. Un test réussi dans un service ne devient pas une preuve pour tous les sites ou métiers.

Supervision proportionnée ; articles 14 et 26 lorsque applicablesEUR-Lex : règlement européen sur l’intelligence artificielle
05

Produire un plan d’action qui aide la direction à arbitrer

Les constats sont classés selon leur conséquence et leur degré d’incertitude. Une fuite possible de données, une fonction potentiellement interdite ou une décision individuelle non maîtrisée appelle une action prioritaire. Une information fournisseur manquante ne devient pas automatiquement une non-conformité constatée : le rapport distingue absence de preuve, risque, écart vérifié et recommandation. Cette précision évite les conclusions excessives.

Chaque action indique un responsable, une échéance, une preuve de réalisation et la personne qui décide de la clôture. La direction arbitre aussi les ressources nécessaires. Les documents attendus peuvent être un paramètre vérifié, un contrat corrigé, une formation ciblée ou un nouvel essai. Le rapport ne demande pas systématiquement une procédure supplémentaire lorsqu’une mesure technique ou une clarification de rôle répond mieux au constat.

Recommandations de gouvernance ; preuves proportionnées
06

Articuler compétences, qualité et suivi sans promettre une certification

L’audit relie les compétences aux fonctions réellement utilisées. Les éducateurs, soignants, cadres et responsables techniques ont des besoins différents. Le plan de formation comporte des exercices et une évaluation du comportement attendu. La certification Qualiopi de DEMETER SANTE porte sur le processus de formation dans la catégorie certifiée. Elle ne certifie ni un logiciel IA ni la conformité AI Act de l’établissement audité.

Les éléments de qualité peuvent alimenter les démarches existantes, mais une évaluation HAS des ESSMS et un audit des usages IA restent distincts. Le suivi prévoit une revue après un changement de finalité, de modèle ou de prestataire, et après un incident significatif. La direction conserve le registre des décisions et les points ouverts. L’audit devient alors un outil de pilotage vivant, dont le périmètre et les limites restent lisibles.

De la lecture au travail concret

Les outils pour appliquer ce guide.

Choisissez le support utile à votre situation. L’aperçu est public. Le dossier complet comprend un guide et des fichiers de travail modifiables.

Couverture de l’aperçu Registre IA
PDF + XLSX · Version 2.0

Registre IA

Décrire les usages, retrouver les informations manquantes et consigner la décision de qualification avec ses preuves.

  • PDFGuide du registre IA, 29 pages
  • XLSXRegistre IA éditable, 6 onglets
Consulter l’aperçu
Couverture de l’aperçu Plan 90 jours
PDF + XLSX · Version 1.1

Plan 90 jours

Transformer les points ouverts en actions, responsables et livrables. Adapter la feuille de route à vos moyens et à vos échéances.

  • PDFGuide du plan 90 jours
  • XLSXFeuille de route et RACI
Consulter l’aperçu

Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.

Questions fréquentes

?Un audit permet-il de certifier tout l’établissement conforme à l’AI Act ?

Un audit de préparation produit des constats, décisions et actions dans un périmètre précis. Il ne constitue pas une certification générale de l’organisme ni une garantie sur toutes ses activités.

?Quels documents réunir avant l’audit ?

La liste des fonctions, versions, contrats, flux, habilitations, procédures de validation, formations et incidents connus. Les informations manquantes doivent rester visibles.

?Doit-on examiner les outils sans données personnelles ?

Oui, selon leur finalité et les décisions qu’ils influencent. L’absence de données personnelles allège certains sujets RGPD, mais ne résout pas toute la qualification AI Act.

?Quand faut-il refaire une revue ?

Après un changement important d’usage, de version, de configuration ou de fournisseur, et lorsqu’un incident ou une nouvelle exigence affecte le raisonnement initial.

Passer du guide à votre projet IA.

Expliquez votre objectif, vos usages et vos contraintes. Nous pourrons préciser les points à traiter et choisir avec vous entre conseil, accompagnement et formation.