Modification substantielle d’un système d’IA : quand le rôle change.
Une mise à jour n’est pas toujours une simple maintenance. Lorsqu’un changement n’était pas prévu et affecte la conformité ou la finalité, il peut constituer une modification substantielle. L’acteur qui le réalise peut alors assumer les obligations du fournisseur pour le système modifié. Une procédure de changement claire permet de détecter ce basculement avant la production, puis de proportionner les nouvelles évaluations et preuves.
Une modification substantielle est un changement non prévu ou non anticipé qui affecte la conformité du système ou modifie sa finalité prévue. Elle peut résulter d’un nouveau cas d’usage, d’un modèle, de données, de seuils, d’une architecture ou d’une population. Elle impose une analyse documentée et peut entraîner une nouvelle évaluation et un changement de rôle.
Cluster éditorial : Cycle de vie et chaîne de valeur · Intention : Déterminer si une modification d’un système d’IA est substantielle
En bref
L’essentiel à retenir
01
Détecter les changements au-delà de la version
02
Comparer au périmètre initial approuvé
03
Évaluer l’effet sur finalité et conformité
04
Rejouer les contrôles et attribuer le rôle
01
Repérer les changements qui méritent une analyse
Surveillez la finalité, la population, les décisions, le modèle, les données, les variables, les seuils, l’interface, les connecteurs, les outils et l’autonomie. Une migration technique peut changer la performance. Un nouveau connecteur peut exposer des données. Une extension à un autre métier peut faire entrer le système dans un cas de l’annexe III.
Le numéro de version ne suffit pas. Certains fournisseurs modifient un service sans version majeure, tandis qu’une nouvelle version peut corriger un défaut sans changer la conformité. Exigez des notes de changement exploitables et comparez le système réel au dossier approuvé. Les équipes internes doivent déclarer leurs adaptations, y compris les instructions, règles et réglages.
Appliquer un test de matérialité en quatre questions
Le changement était-il prévu dans l’évaluation initiale ? Modifie-t-il la finalité ? Affecte-t-il une exigence applicable, une performance, un risque ou une mesure de maîtrise ? Change-t-il le rôle d’un acteur dans la chaîne ? Répondez avec des faits, des tests et les documents de la version précédente.
Classez le changement comme mineur, significatif ou potentiellement substantiel selon une grille interne. Cette grille aide au tri mais ne remplace pas le test juridique. Les cas incertains sont examinés par les fonctions compétentes. La décision mentionne les hypothèses, les tests à rejouer, les restrictions temporaires et l’autorité qui approuve la remise en service.
Un distributeur, importateur, déployeur ou autre tiers peut être considéré comme fournisseur lorsqu’il appose son nom, réalise une modification substantielle ou change la finalité d’un système à haut risque dans les conditions prévues. Le fournisseur initial coopère et fournit les informations nécessaires, sous réserve des règles de propriété intellectuelle et de secret des affaires.
Le contrat doit prévoir l’information, l’accès aux documents, la répartition des tests et la gestion des responsabilités. Une clause qui interdit toute modification ne suffit pas si les équipes modifient effectivement le système. Formez les intégrateurs et métiers à reconnaître le seuil d’escalade avant de mettre une adaptation en production.
Mettez à jour la gestion des risques, les données, la documentation, les journaux, la notice, la supervision, la robustesse et les tests concernés. Vérifiez la classification et les obligations de transparence. Pour un système soumis à évaluation de conformité, déterminez si une nouvelle procédure est nécessaire. Conservez le lien entre changement, preuve et décision.
Après déploiement, surveillez spécifiquement les hypothèses touchées. Comparez la performance et les incidents avant et après. Informez les utilisateurs lorsque leurs procédures ou limites changent. Une bonne gestion des changements réduit les blocages : les modifications courantes suivent une voie rapide, tandis que les changements de finalité ou de risque reçoivent une analyse approfondie.
