AIPD et IA générative : construire une analyse qui sert à décider.
Votre fournisseur annonce une IA sécurisée, le métier veut gagner du temps et le DPO demande une analyse d’impact. Le projet reste souvent coincé entre ces trois discours. Une AIPD utile transforme la discussion en décisions vérifiables : quelles informations peuvent entrer dans l’outil, qui accède aux résultats et que fait-on quand une réponse décrit mal une personne ? Ce guide traite du déploiement d’un assistant dans une organisation, pas seulement de l’entraînement du modèle par son éditeur.
Une AIPD est nécessaire lorsque le traitement de données personnelles est susceptible d’engendrer un risque élevé pour les droits et libertés, selon l’article 35 du RGPD. Une IA générative ne déclenche pas automatiquement la même analyse dans tous les contextes. Le responsable de traitement décrit son usage, évalue la nécessité et les risques, puis teste les mesures retenues avant le déploiement. L’analyse du fournisseur peut alimenter ce travail, mais elle ne remplace pas l’étude de votre propre traitement.
Justifier la décision de réaliser ou non une AIPD.
03
Tester chaque mesure avant l’ouverture du service.
04
Conserver une décision, un responsable et une date de réexamen.
01
Commencer par le traitement, plutôt que par le nom du modèle
La première page doit permettre à un collègue de comprendre ce qui se passe. Un assistant résume-t-il des messages clients, prépare-t-il des courriers ou propose-t-il une réponse à une demande sociale ? Décrivez les personnes concernées, les catégories de données, la source des informations, les utilisateurs et l’usage du résultat. Un diagramme simple allant du document initial à la décision finale vaut mieux qu’un inventaire des caractéristiques commerciales du modèle.
Séparez les espaces techniques. Le dossier métier, la conversation avec l’assistant, les fichiers importés, les journaux de sécurité et les données utilisées par le fournisseur peuvent suivre des règles différentes. Pour chacun, demandez une durée de conservation, un lieu de traitement et des destinataires. Une option « historique désactivé » ne prouve pas l’effacement de toutes les traces. Les inconnues sont inscrites comme telles et deviennent des questions à résoudre, avec un interlocuteur nommé.
Documenter le besoin d’une AIPD sans raccourci automatique
L’article 35 fournit le point d’entrée. La CNIL explique comment apprécier le risque, notamment à partir des caractéristiques du traitement et des personnes concernées. Consignez votre raisonnement : nature des données, échelle, profilage éventuel, personnes vulnérables, rapprochement de fichiers et effets des résultats. L’étiquette « risque limité » utilisée pour l’AI Act ne permet pas de conclure que le risque RGPD est faible. Les deux examens poursuivent des objectifs distincts.
Si une AIPD est requise, prévoyez le temps du métier, de la sécurité et du DPO avant la date de lancement. Si elle ne l’est pas, conservez les éléments qui fondent cette décision et ses limites. Le responsable de traitement prend la décision en tenant compte du conseil du DPO lorsqu’il est désigné. Une extension vers des dossiers sensibles ou une autre population impose de reprendre l’examen, même avec le même abonnement et le même fournisseur.
« Hallucination » est une catégorie technique, pas une conséquence suffisamment précise. Dans un service client, une réponse inventée peut attribuer un impayé à la mauvaise personne. Dans un établissement, une synthèse peut transformer une hypothèse en fait établi. Décrivez le scénario, la personne affectée, le dommage possible et les conditions nécessaires pour qu’il se produise. Le risque d’une réponse fausse devient alors une question de contrôle et de recours.
Reliez chaque mesure à une preuve. Une vérification humaine suppose un document source accessible, du temps de relecture et la possibilité de refuser la sortie. Un filtre de données suppose des essais sur des formats différents, pas seulement une case cochée dans une console. Le tableau ci-dessous est une proposition de travail. Il ne remplace pas l’évaluation de vraisemblance, de gravité et de risque résiduel attendue dans l’AIPD.
Cas pratique : un assistant de réponse aux demandes clients
Une PME fictive veut préparer des réponses aux réclamations. Elle commence avec des situations inventées, puis constate que l’assistant complète parfois une date absente. Le pilote est redéfini : l’outil rédige uniquement à partir de champs validés et signale les informations manquantes. Le salarié voit la demande d’origine et reste responsable de l’envoi. Les pièces de paiement et les documents d’identité sont exclus du périmètre initial.
L’équipe compare vingt situations préparées avant l’essai : demandes ambiguës, homonymes, pièces incomplètes et droit d’accès. Ce nombre est un choix pédagogique, pas un seuil réglementaire. Elle mesure les erreurs factuelles et le temps total de correction. L’achat est suspendu tant que les règles de suppression et les destinataires techniques restent inconnus. Le dossier garde les réponses obtenues, les réserves et les changements décidés. Aucune performance de client réel n’est revendiquée.
Méthode proposée par EUAIACT ; exemple pédagogique fictif
05
Préparer le dossier fournisseur et le plan de réduction des risques
Demandez des informations portant sur le service commandé : rôle des acteurs, sous-traitants, transferts éventuels, réutilisation des entrées, assistance à l’exercice des droits et notification des violations. Une documentation consacrée au développement du modèle reste utile, mais elle ne décrit pas forcément votre connecteur, votre compte administrateur ou votre base documentaire. Dans le dossier, chaque réponse indique sa source, sa date et le périmètre couvert.
Le plan d’action attribue une mesure à une personne capable de la mettre en œuvre. Une mesure qui dépend d’une fonction absente de votre licence reste une mesure non réalisée. Pour les risques résiduels, explicitez ce qui demeure possible et les personnes concernées. Si le traitement présente encore un risque élevé en l’absence de mesures suffisantes, examinez la consultation préalable prévue par l’article 36 du RGPD. Un calendrier commercial ne clôture pas cette question.
À chaque changement notable, comparez le nouveau fonctionnement à la description approuvée. Une connexion aux courriels, l’arrivée de données de santé, une mise à jour du moteur de recherche ou une nouvelle décision métier peuvent modifier le risque. Organisez une revue qui associe la personne responsable de l’usage et les fonctions compétentes. La date affichée sur le document doit correspondre à une vérification réelle, avec des modifications tracées.
Le livrable final réunit la description, la nécessité et la proportionnalité, les risques, les mesures, les preuves de test et la décision. Une synthèse compréhensible aide les équipes à appliquer les restrictions. Les éléments confidentiels de sécurité restent protégés. Pour préparer cette démarche, commencez par un registre des usages et un dossier de qualification. Le résultat attendu est une décision argumentée et révisable, pas un document volumineux qui reste sans lecteur.
Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.
Questions fréquentes
Questions fréquentes
?Une IA générative impose-t-elle toujours une AIPD ?
La nécessité dépend du traitement et de son risque pour les personnes. Documentez l’examen de l’article 35, les critères pertinents et les listes applicables. Un traitement sensible, à grande échelle ou concernant des personnes vulnérables appelle une attention particulière.
?Peut-on reprendre l’AIPD du fournisseur ?
Elle peut fournir des informations techniques et des scénarios utiles. Vérifiez cependant les données, les destinataires, les réglages, les personnes et les décisions propres à votre déploiement. Les différences doivent être analysées avant de reprendre ses conclusions.
?AIPD et FRIA sont-elles le même document ?
L’AIPD relève du RGPD. L’évaluation des droits fondamentaux de l’AI Act répond à un autre champ et à des conditions propres. Des éléments peuvent être partagés, mais la présence d’un document ne démontre pas automatiquement que l’autre exigence est satisfaite.
?Quel livrable demander à un prestataire ?
Un périmètre précis, une analyse des risques, des mesures attribuées, les preuves disponibles, les inconnues et une décision proposée. Convenez aussi des conditions de mise à jour. La responsabilité du traitement ne se transfère pas par la seule commande de cette prestation.
Précisez les outils, les données et les accès concernés. Nous vous aiderons à définir le périmètre de travail et les compétences ou interlocuteurs à mobiliser.