IA dans le dossier usager informatisé : les questions à poser avant activation
Un éditeur vous propose de résumer les transmissions ou de préparer le projet personnalisé depuis le dossier usager informatisé. La démonstration est convaincante. Ce qui manque souvent, c’est le trajet précis des données et la place du professionnel entre la suggestion et l’enregistrement. Pour une direction d’ESSMS, la décision porte sur cette fonction, sa version et sa configuration, plutôt que sur une promesse générale d’« IA sécurisée ».
Avant d’activer une fonction IA dans un DUI, décrivez sa tâche, ses données d’entrée, ses destinataires et ce qu’elle peut écrire dans le dossier. Demandez des preuves sur l’hébergement, les copies, les habilitations, la conservation et la désactivation. Préparez un pilote sur des dossiers entièrement fictifs, avec validation humaine et critères d’arrêt. Documentez séparément l’examen RGPD, le périmètre HDS éventuel et la qualification AI Act du cas d’usage.
Évaluer une fonctionnalité identifiée, pas l’ensemble du DUI en bloc.
02
Reconstituer les copies et les accès du dossier jusqu’au modèle.
03
Garder la suggestion distincte de l’écrit professionnel validé.
04
Décider sur des preuves et un protocole de pilote reproductible.
01
1. Décrire la tâche et l’effet attendu sur l’accompagnement
Écrivez une fiche courte : utilisateur, tâche de départ, documents consultés, sortie proposée, destinataire et décision qui suit. « Résumer les transmissions de la semaine pour préparer une réunion » décrit une fonction vérifiable. « Améliorer l’accompagnement grâce à l’IA » laisse trop de questions ouvertes. L’ANS situe le DUI au cœur de l’organisation numérique médico-sociale. Une fonction ajoutée à ce carrefour peut toucher plusieurs processus.
Séparez la reformulation, la recherche documentaire et la recommandation. Une synthèse que l’éducateur peut comparer aux transmissions sources appelle un contrôle différent d’une suggestion d’orientation ou d’un score de priorité. Demandez si l’outil infère des informations nouvelles, par exemple un risque supposé ou un besoin non formulé. La présentation dans le même écran du DUI peut masquer cette différence.
La fiche doit préciser les usages exclus du pilote et les profils autorisés. Une première expérimentation peut se limiter à des brouillons sans enregistrement automatique. Si l’objectif change, la décision initiale doit être réexaminée. La dénomination « assistant » ne suffit pas à déterminer une catégorie réglementaire ou à autoriser l’emploi de données de santé.
2. Poser douze questions à l’éditeur et demander une pièce pour chaque réponse
Répartissez l’entretien en quatre ensembles. D’abord la fonction : que produit-elle, sur quels champs, avec quel modèle et quelle version ? Ensuite les flux : qui reçoit les données, quelles copies sont créées et combien de temps durent-elles ? Puis les responsabilités : qui accède aux contenus, comment l’écrit est-il validé et quelles preuves techniques sont disponibles ? Enfin le retrait : comment désactiver la fonction, effacer ses copies et être informé d’un changement ? Ce sont douze questions à adapter au produit réel.
Une réponse commerciale ouvre une vérification. « Hébergé en France » demande une carte des services et des acteurs. « Aucune réutilisation » demande un engagement qui couvre aussi les entrées, les sorties et les journaux. « Contrôle humain » demande une démonstration du moment de validation et de ce qu’il est possible de modifier. Conservez la date, l’auteur de la réponse, le document associé et les points encore ouverts.
Le tableau suivant propose les premières preuves à réclamer. Il ne constitue pas une notation universelle des éditeurs. Un refus ou une réponse incomplète doit être examiné au regard de l’usage envisagé. Pour une donnée sensible, une incertitude sur son destinataire justifie de reporter ce flux plutôt que de compléter le dossier avec une hypothèse optimiste.
Dessinez le trajet avec les équipes techniques : transmission source, sélection des passages, envoi au service d’inférence, réponse et stockage éventuel. Ajoutez les index de recherche, les caches, l’historique des conversations, les traces de supervision et les sauvegardes. Un texte resté dans l’interface peut avoir été traité par un prestataire distinct de l’hébergeur habituel du DUI.
Pour chaque étape, renseignez l’entité responsable, le pays, la durée, les accès et la preuve contractuelle. L’examen HDS se conduit sur les données et les prestations effectivement concernées. Le certificat du serveur principal ne répond pas à toutes les questions sur un modèle externe. Le RGPD demande aussi un examen de la finalité, des rôles, de la sécurité et, selon le risque, de l’analyse d’impact.
Réduisez les données au besoin de la tâche. Une synthèse hebdomadaire n’a pas forcément besoin de tout l’historique de vie, des pièces d’identité ou du dossier d’un proche. Retirer le nom laisse parfois la personne identifiable dans un petit établissement. Considérez ces contenus comme personnels tant qu’une anonymisation effective n’a pas été démontrée.
4. Concevoir la validation comme une tâche professionnelle
Le professionnel doit pouvoir revenir à la source, conserver une incertitude et corriger la suggestion avant son insertion. Affichez la provenance et la période de chaque passage. Prévoyez ce qui se passe lorsqu’une source manque ou contredit une autre. Un bouton « Valider » est peu utile si le lecteur ne sait pas ce qu’il doit contrôler ou s’il manque de temps pour le faire.
Exemple entièrement fictif : une transmission dit que Lina a refusé une sortie lundi, puis qu’elle a souhaité en discuter vendredi. La synthèse proposée devient « Lina refuse les activités collectives ». Dans le protocole proposé, le validateur doit retrouver les deux passages, rétablir leur chronologie et retirer la généralisation. L’exercice permet d’expliquer le contrôle attendu sans exposer une personne réelle. Aucun résultat de test produit n’est présenté ici.
Enregistrez séparément l’écrit validé et, lorsque cela est nécessaire et proportionné, les éléments qui permettent d’en comprendre la production. Attribuez clairement l’auteur professionnel. Définissez un circuit de correction lorsqu’une erreur est découverte après usage. Les habilitations doivent être cohérentes avec le rôle et le besoin d’accès, y compris pour les nouveaux index documentaires.
5. Préparer un pilote qui peut réellement conduire à un refus
Constituez un jeu de situations inventées : deux homonymes, un fait ancien rectifié, un document hors période, un champ absent et une note contradictoire. Ajoutez un utilisateur sans droit sur le dossier. Pour chaque cas, écrivez le comportement attendu avant l’essai. Le test des droits doit porter sur les résultats de recherche et les citations, pas seulement sur l’ouverture du document dans le DUI.
Observez quatre dimensions : fidélité aux faits, respect des accès, facilité de correction et retour au fonctionnement habituel. Mesurez le temps complet, comprenant recherche des sources et correction. Le temps de génération seul ne décrit pas le travail du professionnel. Une réponse fluide mais mal sourcée doit apparaître dans la fiche d’anomalie, même si l’utilisateur la trouve agréable.
Définissez les arrêts : accès à un dossier interdit, attribution d’un fait à la mauvaise personne, écriture définitive sans validation ou impossibilité de désactiver. L’équipe décide à l’avance qui suspend le pilote et qui examine les écarts. Les essais décrits sont à réaliser dans votre environnement. Ils ne préjugent ni de la performance du fournisseur ni de la conformité de votre installation.
Méthode EUAIACT. Exemple fictif ou protocole proposé, sans essai produit revendiqué.
06
6. Informer les personnes et formaliser l’arbitrage
Préparez une explication compréhensible : ce que fait l’outil, qui relit, quelles informations sont utilisées et à qui signaler une erreur. La concertation collective peut révéler des effets que la démonstration technique ignore. Elle reste distincte de l’information individuelle et de l’examen du fondement légal du traitement. Le DPO conseille sur les données et les droits, sans se substituer à la décision de la direction.
La fiche de décision rassemble le périmètre accepté, les réserves, les responsables et la date de revue. Conservez les justificatifs HDS pertinents et la conclusion sur l’AIPD, avec son raisonnement. La qualification AI Act dépend notamment de la finalité du système. Le calendrier européen a été modifié en 2026 ; ce guide opérationnel n’énonce pas un délai unique applicable à tous les DUI.
Une réserve doit avoir une condition de levée observable. « À sécuriser » ne suffit pas. Préférez « l’éditeur fournit la liste des destinataires du service de génération avant tout envoi de dossier réel ». Le comité peut accepter un pilote fictif limité tout en reportant la production. Cette distinction permet d’avancer sans confondre apprentissage et autorisation d’usage.
7. Revoir la fonction après chaque changement significatif
Inscrivez dans le suivi les versions du modèle, les connecteurs et les types de documents autorisés. L’arrivée d’une recherche sur l’ensemble du dossier change le périmètre d’un assistant jusque-là limité à un texte fourni. Un nouvel opérateur de support ou une nouvelle région d’hébergement demande aussi une revue. Demandez comment ces changements seront signalés et qui peut les accepter.
Après démarrage, conservez un échantillon proportionné d’écarts, de corrections et de retours des utilisateurs. Évitez de recopier des dossiers réels dans un tableur de suivi largement accessible. L’indicateur utile décrit un problème et son traitement, par exemple une confusion de période corrigée avant enregistrement. Il permet de distinguer une adaptation de formation d’un défaut exigeant l’arrêt de la fonction.
Vous pouvez commencer par réunir la fiche de fonction, la carte des flux et les conditions du pilote. Nos outils existants de registre IA et d’achats aident à organiser les preuves. Pour un examen contextualisé, DEMETER FORMATION CONSEIL accompagne les équipes de direction, qualité, métiers, DSI et DPO. Le dossier fournisseur reste la première matière de travail.
Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.
Questions fréquentes
Questions fréquentes
?Un DUI référencé Ségur autorise-t-il automatiquement sa fonction IA ?
Le référencement d’un logiciel et l’évaluation d’une nouvelle fonction ont des périmètres différents. Demandez les exigences et la version effectivement couvertes, puis examinez les flux, l’usage et les données de la fonction IA.
?Peut-on commencer avec des dossiers pseudonymisés ?
La pseudonymisation laisse généralement des données personnelles, parfois identifiables par le contexte. Pour la première démonstration, construisez des dossiers entièrement fictifs. L’usage réel demande son propre examen et ses garanties.
?Qui doit valider le texte produit ?
La structure désigne un professionnel compétent pour la tâche, disposant des sources, des droits et du temps de contrôle. La responsabilité éditoriale doit être claire et le texte proposé distinct de l’écrit enregistré.
?Que faire si l’éditeur refuse de détailler les flux ?
Consignez la question et les pièces manquantes. Reportez les flux sensibles dont les destinataires restent inconnus. Un essai fictif limité peut servir à évaluer l’ergonomie, sans autoriser l’envoi de données réelles.
Précisez les outils, les données et les accès concernés. Nous vous aiderons à définir le périmètre de travail et les compétences ou interlocuteurs à mobiliser.