Article 10 AI Act : gouvernance des données, biais et preuves attendues.
La qualité ne se résume pas à un taux de complétude. L’article 10 relie conception, origine, préparation, hypothèses, représentativité, biais et contexte réel d’utilisation.
Documenter la chaîne de fabrication des jeux de données
Pour chaque jeu d’entraînement, de validation et de test utilisé, conservez les choix de conception, les processus de collecte et l’origine, les opérations de préparation, les hypothèses et l’évaluation de la disponibilité, de la quantité et de l’adéquation.
L’examen doit repérer les biais susceptibles de porter atteinte à la santé, à la sécurité, aux droits fondamentaux ou de produire une discrimination interdite. Les mesures de détection, de prévention et d’atténuation doivent être reliées aux populations, aux usages et aux seuils de décision.
Prouver la pertinence dans le contexte de déploiement
Les jeux doivent être pertinents, suffisamment représentatifs et, dans toute la mesure possible, exempts d’erreurs et complets au regard de la destination. Ils doivent aussi tenir compte des caractéristiques géographiques, contextuelles, comportementales ou fonctionnelles du cadre d’usage.