EUAIACTpar DEMETER FORMATION CONSEIL

IA et prestations sociales : sécuriser les décisions d’éligibilité.

Une aide sociale peut déterminer un logement, un soin ou les ressources du mois. Si un système d’IA intervient pour apprécier l’éligibilité d’une personne ou recommander une réduction de prestation, il faut savoir exactement comment sa sortie pèse dans la décision. L’annexe III de l’AI Act désigne ce cas avec précision. Elle ne classe pas pour autant tout chatbot d’une administration comme haut risque.

Guide éditorial

Sources officielles et méthode proposée

Dernière modification de la page :

Réponse courte

L’essentiel en une minute

L’annexe III, point 5(a), vise les systèmes d’IA destinés à être utilisés par une autorité publique ou pour son compte afin d’évaluer l’éligibilité de personnes physiques à des prestations et services d’aide sociale essentiels, y compris certains soins, ou de les octroyer, réduire, révoquer ou récupérer. La qualification exige de vérifier la finalité prévue, l’effet sur la décision et l’article 6. Pour un système concerné, le déployeur doit organiser la supervision, l’information et, selon les cas, une analyse d’impact sur les droits fondamentaux.

AuteurÉquipe éditoriale DEMETER FORMATION CONSEIL
Responsabilité éditorialeDEMETER FORMATION CONSEIL, responsabilité éditoriale
Dernière modification de la page
Source principaleRèglement (UE) 2024/1689 — texte officiel

Sources, assistance IA et portée des vérifications : notre méthode éditoriale.

5 min de lectureEstimation à 220 mots par minute
Signaler une correction
En bref

L’essentiel à retenir

  1. 01

    Le cas d’usage visé est l’éligibilité ou l’octroi, la réduction, la révocation ou la récupération d’une aide essentielle.

  2. 02

    Une autorité publique et un prestataire agissant pour elle doivent regarder le rôle réel du système.

  3. 03

    La supervision, la motivation de la décision et la contestation sont au cœur du parcours.

  4. 04

    Le RGPD et le droit administratif applicable ajoutent leurs propres exigences.

01

Identifier la décision que le système influence

La première question n’est pas de savoir si le logiciel « fait de l’IA ». Elle est de savoir si sa finalité prévue consiste à évaluer l’accès d’une personne à une aide ou à un service essentiel, ou à proposer son octroi, sa réduction, sa révocation ou sa récupération. Un assistant qui explique les pièces d’un dossier peut rester hors de ce cas. Un outil qui attribue une probabilité d’éligibilité transmise à l’instructeur peut, selon son fonctionnement, jouer un rôle central dans la décision.

Reconstituez un dossier fictif : données reçues, critères administratifs, sortie de l’IA, action de l’agent, motifs finalement communiqués. Le fait qu’un humain clique sur « valider » n’efface pas l’effet de la recommandation. Un système qui trie les dossiers « à vérifier en priorité » peut également influencer les délais et l’accès effectif. La qualification s’appuie sur la finalité du fournisseur et le parcours local, avec une analyse motivée de l’article 6(3) si elle est envisagée.

Différencier les usages
FonctionEffet possibleQuestion de qualification
Aide à remplir le formulaireCompréhension des piècesDécide-t-elle de l’éligibilité ?
Score d’éligibilitéRecommandation d’octroiQuelle place dans la décision ?
Priorisation de contrôleDélai ou intensité du contrôleEffet significatif sur l’accès ?
Génération du courrierMotivation et informationLes motifs sont-ils vérifiés ?
Article 6 · Annexe III, point 5(a)
02

Mettre en place une supervision qui résiste aux cas atypiques

Le déployeur concerné doit pouvoir utiliser le système selon la notice, confier la supervision à des personnes compétentes et surveiller son fonctionnement. Dans un service instructeur, cela signifie donner à l’agent les éléments nécessaires pour comprendre la recommandation, corriger les données et s’en écarter. Une interface qui affiche seulement « admissible » ou « rejet » ne donne pas assez de prise sur un cas atypique.

Testez les situations où les données administratives sont incomplètes, contradictoires ou temporaires. Une personne en rupture de logement, en situation de handicap ou en changement familial peut ne pas ressembler aux cas courants du jeu d’essai. Le protocole doit prévoir une instruction humaine complète, un canal de rectification et une trace des écarts. Les indicateurs de performance globale ne remplacent pas ces tests de conséquences individuelles.

Articles 13, 14, 26 et 27
03

Préparer l’analyse d’impact et les droits des personnes

L’article 27 impose une analyse d’impact sur les droits fondamentaux à certains déployeurs de systèmes à haut risque avant leur première utilisation. Elle examine notamment les processus, la durée et la fréquence d’emploi, les catégories de personnes concernées, les risques de préjudice et les mesures de supervision et de recours. Pour une aide essentielle, cette analyse rend visibles les conséquences d’un refus, d’un retard ou d’une erreur répétée. Elle complète, selon les cas, l’AIPD du RGPD.

L’article 26(11) prévoit l’information des personnes concernées par certaines décisions fondées sur des systèmes à haut risque de l’annexe III. L’article 86 prévoit, sous conditions, une explication individuelle du rôle du système et des principaux éléments de la décision. Le service doit pouvoir retrouver ces éléments dans un dossier compréhensible. Une formule générique « une IA a été utilisée » ne répond pas à toutes ces exigences.

Points de contrôle
  • Analyse d’impact applicable
  • Information des personnes
  • Décision traçable
  • Motifs intelligibles
  • Correction des données
  • Recours et explication
  • Revue des effets par population
Articles 26(11), 27 et 86 · RGPD
04

Acheter un système que l’on pourra gouverner

Un cahier des charges utile demande au fournisseur la finalité prévue, la classification, la notice, les limites, les tests de performance, les journaux disponibles et la méthode de gestion des changements. Il prévoit une démonstration sur des cas difficiles, ainsi qu’un export des éléments qui permettent de motiver une décision. Le service acheteur et les équipes d’instruction doivent participer à la recette ; la conformité ne peut pas être évaluée sur une seule présentation commerciale.

Après le lancement, mesurez les écarts entre recommandations et décisions humaines, les recours, les décisions annulées, les délais et les incidents. Si l’outil se met à produire un effet nouveau, requalifiez-le. Le calendrier haut risque de l’annexe III commence en principe le 2 décembre 2027 depuis la réforme de 2026 ; les marchés lancés aujourd’hui doivent anticiper les pièces et la coopération nécessaires à cette date.

Articles 13, 26 et 27 · Règlement (UE) 2026/1744
De la lecture au travail concret

Les outils pour appliquer ce guide.

Choisissez le support utile à votre situation. L’aperçu est public. Le dossier complet comprend un guide et des fichiers de travail modifiables.

Couverture de l’aperçu Trame FRIA
PDF + DOCX · Version 1.0

Trame FRIA

Examiner le périmètre de l’article 27, puis décrire les personnes exposées, les risques et les mesures. Ce support n’est pas un formulaire officiel.

  • PDFGuide pratique FRIA et article 27
  • DOCXTrame FRIA modifiable
Consulter l’aperçu
Couverture de l’aperçu Matrice AI Act RGPD
PDF + XLSX · Version 1.0

Matrice AI Act RGPD

Réunir les faits communs aux deux analyses, tout en conservant leurs périmètres, leurs responsables et leurs conclusions distinctes.

  • PDFGuide AI Act et RGPD
  • XLSXMatrice de correspondance
Consulter l’aperçu

Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.

Questions fréquentes

?Un chatbot qui explique les aides est-il automatiquement à haut risque ?

Non. Il faut vérifier s’il évalue réellement l’éligibilité ou influence une décision visée à l’annexe III.

?Une décision signée par un agent sort-elle du champ ?

Pas automatiquement. La qualification tient compte de la finalité et de la place effective de la sortie d’IA dans la décision.

?La FRIA remplace-t-elle l’AIPD ?

Non. Les déclencheurs et objets sont différents. Certaines parties peuvent être réutilisées selon l’article 27(4), sans supprimer les éléments manquants.

?Que demander au fournisseur avant un marché ?

La classification motivée, la notice, les limites, les essais, les journaux, la gestion des versions et les informations utiles à la supervision.

Passer du guide à votre projet IA.

Expliquez votre objectif, vos usages et vos contraintes. Nous pourrons préciser les points à traiter et choisir avec vous entre conseil, accompagnement et formation.