Haut risque, GPAI et transparence : comment les obligations se cumulent.
Les catégories de l’AI Act ne forment pas un escalier unique. Un modèle généraliste, un système à haut risque et une interface soumise à une obligation de transparence désignent des objets et des responsabilités différents.
Analysez séparément le modèle GPAI, le système final, sa finalité à haut risque éventuelle, les fonctions de transparence et le rôle de chaque acteur. Les obligations pertinentes peuvent se cumuler sans qu’une catégorie entraîne automatiquement les autres.
Ne pas classer un modèle GPAI comme un système final
02
Qualifier le haut risque à partir de la finalité
03
Examiner l’article 50 pour les fonctions concernées
04
Attribuer chaque obligation au bon acteur
01
Dessiner la chaîne avant de cocher des cases
Imaginez un assistant qui repose sur un modèle généraliste fourni par un acteur, une application assemblée par un autre et une entreprise qui l’utilise dans un processus métier. Le modèle, le système, la destination et l’usage réel sont quatre niveaux à distinguer. Le chapitre V vise notamment les fournisseurs de modèles d’IA à usage général. La classification d’un système à haut risque découle principalement de l’article 6, de l’annexe I ou de l’annexe III. La transparence de l’article 50 dépend quant à elle de fonctions, de sorties et de rôles spécifiques.
Commencez par dessiner les contrats et les flux. Qui fournit le modèle ? Qui développe ou met le système à disposition sous son nom ? Qui décide de l’utilisation ? Qui interagit avec l’interface et qui reçoit le contenu ? Une petite organisation peut cumuler des rôles, mais on ne peut pas le déduire d’un organigramme. La même chaîne change lorsqu’un éditeur intègre un nouveau modèle ou lorsqu’un client étend la finalité de l’application. Une cartographie datée évite de mélanger les obligations de chacun.
Un éditeur intègre un modèle généraliste à une application qui propose un classement de candidatures. Le modèle en amont peut relever du régime GPAI pour son fournisseur. Le système final doit être examiné au regard de l’annexe III sur l’emploi et de sa finalité précise. L’employeur utilisateur doit comprendre ses obligations propres si le système est qualifié à haut risque. Si une personne interagit directement avec une fonction conversationnelle, l’article 50 peut aussi entrer en jeu. La présence d’une seule de ces caractéristiques ne permet pas de conclure sur toutes les autres.
La preuve suit la même séparation. La documentation du modèle aide l’éditeur, mais ne remplace pas l’évaluation du système final. Une déclaration du fournisseur du système aide l’employeur, mais ne décrit pas automatiquement son processus de recrutement réel. L’employeur doit vérifier le paramétrage, le temps de supervision, les données qu’il injecte et l’information des personnes lorsque le texte le prévoit. Le dossier conserve des versions reliées, sans prétendre qu’une seule attestation couvre toute la chaîne.
Une interface transparente n’est pas nécessairement haut risque
Un chatbot d’information générale peut devoir signaler à une personne qu’elle interagit avec une IA, sans relever pour autant de l’annexe III. Une image synthétique peut appeler un marquage technique du côté du fournisseur et une divulgation visible dans certaines situations du côté du déployeur. Ces questions sont séparées du classement haut risque. Le contexte, les exceptions et la version exacte de l’article 50 doivent être vérifiés. Une mention dans une politique de confidentialité n’est pas toujours équivalente à une information reçue au bon moment dans le parcours.
Le test doit porter sur l’expérience réelle. Affichez le parcours sur mobile, dans l’application intégrée et dans le canal de publication. Demandez à une personne extérieure si elle comprend qu’elle parle à un système d’IA ou que le contenu a été généré. Conservez les captures, le texte de la mention, la date de mise en ligne et la version du système. La transparence n’est pas démontrée par une clause contractuelle que l’utilisateur final ne voit jamais.
La matrice part d’une ligne par exigence potentielle, avec l’objet concerné, l’acteur responsable, le déclencheur, l’action et la preuve. Une même pièce peut soutenir plusieurs analyses, mais elle ne rend pas identiques les obligations. La notice du fournisseur peut servir à la qualification du déployeur, à la formation des utilisateurs et au protocole de test ; chacune de ces tâches doit néanmoins laisser sa propre décision. Les points inconnus sont visibles et affectés à un interlocuteur.
Réexaminez la matrice si le modèle, la finalité, l’interface ou la chaîne contractuelle change. Le système peut rester techniquement semblable et changer de régime parce que son usage est étendu à une décision sensible. À l’inverse, une modification de modèle peut exiger de nouveaux tests sans modifier la finalité. Le passeport aide à garder ces axes distincts, puis à relier les actions au dossier d’exploitation.
Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.
Questions fréquentes
Questions fréquentes
?Un modèle GPAI rend-il automatiquement le système final haut risque ?
Non. Le système final est qualifié selon sa finalité et les critères applicables.
?Haut risque et transparence peuvent-ils se cumuler ?
Oui lorsque les conditions propres aux deux régimes sont réunies.
?Qui porte les obligations du modèle ?
Elles concernent notamment le fournisseur du modèle GPAI ; les autres acteurs ont leurs obligations propres selon leur rôle.
?Une seule attestation fournisseur couvre-t-elle tout ?
Non. L’usage réel, le paramétrage et les obligations du déployeur doivent être examinés séparément.
Partenariat stratégique
De la stratégie IA à la mise en œuvre.
DEMETER FORMATION CONSEIL et JustAI associent leurs expertises pour relier gouvernance, AI Act, compétences et ingénierie. Ensemble, nous couvrons les étapes de votre projet : cadrer, concevoir, déployer, former et piloter.
Présentez votre rôle, les systèmes concernés et l’état de votre préparation. Nous pourrons prioriser avec vous les étapes, les livrables et les preuves à construire.