Article 50 de l’AI Act : le guide complet des obligations de transparence.

Commencer par le déclencheur, puis attribuer le bon rôle

La première question n’est pas « faut-il écrire produit par IA ? ». Il faut identifier le déclencheur juridique. Le système interagit-il directement avec une personne ? Génère-t-il un contenu de synthèse ? Reconnaît-il des émotions ou réalise-t-il une catégorisation biométrique ? Le contenu constitue-t-il un deepfake ou un texte publié pour informer le public sur une question d’intérêt public ?

La deuxième question porte sur le rôle. Les paragraphes 1 et 2 visent le fournisseur. Les paragraphes 3 et 4 visent le déployeur. Une entreprise qui achète un outil génératif est souvent déployeur pour son usage, mais elle peut aussi devenir fournisseur si elle met un système sur le marché ou en service sous son nom.

Interaction directe : informer dès le premier contact

Le fournisseur d’un système destiné à interagir directement avec des personnes physiques doit le concevoir de façon à les informer qu’elles échangent avec une IA. La règle concerne notamment les assistants conversationnels, agents vocaux et interfaces qui répondent au nom d’un service.

L’exception fondée sur le caractère évident de l’interaction s’apprécie du point de vue d’une personne normalement informée, raisonnablement attentive et avisée, compte tenu des circonstances et du contexte. Un nom fantaisiste ou une voix synthétique ne suffit pas toujours à rendre la nature artificielle évidente.

En pratique, l’information gagne à être placée dans l’interface elle-même, avant ou dans le premier message. Elle doit rester perceptible sur mobile, compatible avec les technologies d’assistance et cohérente lorsque le dialogue change de canal.

Contenus synthétiques : organiser le marquage technique

Le fournisseur d’un système, y compris d’un système d’IA à usage général, qui génère des contenus audio, image, vidéo ou texte de synthèse doit faire en sorte que les sorties soient marquées dans un format lisible par machine et identifiables comme générées ou manipulées par une IA.

La solution doit être aussi efficace, interopérable, robuste et fiable que la technologie le permet. L’article 50 demande de tenir compte du type de contenu, des coûts de mise en œuvre et de l’état de la technique. La preuve attendue ne se limite donc pas à l’existence d’une fonction. Elle porte aussi sur sa résistance aux transformations courantes et sur les limites connues.

L’obligation ne s’applique pas, dans la mesure prévue par le texte, aux fonctions d’assistance pour la mise en forme standard ou aux systèmes qui ne modifient pas substantiellement les données d’entrée ni leur sémantique. Cette exception doit être évaluée sur le fonctionnement réel, et non sur le nom commercial de la fonctionnalité.

Deepfakes et textes d’intérêt public : publier avec le bon signal

Le déployeur d’un système qui génère ou manipule des images, des contenus audio ou vidéo constituant un deepfake doit indiquer que le contenu a été généré ou manipulé par une IA. Pour une œuvre ou un programme manifestement artistique, créatif, satirique, fictif ou analogue, la divulgation peut être adaptée afin de ne pas entraver l’affichage ou la jouissance de l’œuvre.

Une règle distincte vise les textes générés ou manipulés par IA puis publiés dans le but d’informer le public sur des questions d’intérêt public. La divulgation n’est pas requise lorsque le contenu a fait l’objet d’un processus d’examen humain ou de contrôle éditorial et qu’une personne physique ou morale assume la responsabilité éditoriale de la publication.

Exemple : une illustration publicitaire représentant une personne réelle dans une scène qui n’a jamais existé peut relever du deepfake. Un brouillon de note interne relu par un salarié ne devient pas, pour cette seule raison, un texte publié pour informer le public. Les faits, le canal et la finalité de publication restent déterminants.

Émotions et catégorisation biométrique : informer ne suffit pas

Le déployeur d’un système de reconnaissance des émotions ou de catégorisation biométrique doit informer les personnes physiques qui y sont exposées du fonctionnement du système. Le traitement des données à caractère personnel doit aussi respecter le RGPD, le règlement applicable aux institutions européennes ou la directive relative aux traitements en matière pénale, selon le cas.

Cette obligation de transparence ne transforme pas un usage interdit en usage autorisé. L’article 5 interdit notamment certains usages de reconnaissance des émotions au travail et dans les établissements d’enseignement, sous réserve de l’exception prévue pour des raisons médicales ou de sécurité. La qualification doit donc commencer par les pratiques interdites avant d’organiser l’information.

Passer de la mention à une chaîne de transparence vérifiable

Une mise en conformité solide relie la qualification juridique, la configuration du système, la production du contenu, sa validation et sa diffusion. Le registre des systèmes doit indiquer le rôle de l’organisation, le déclencheur de l’article 50, le responsable de l’information et le contrôle réalisé avant publication.

Les lignes directrices de la Commission précisent le champ des obligations. Le code de bonnes pratiques propose, sur une base volontaire, des mesures pour le marquage, la détection et l’étiquetage. Une organisation qui ne suit pas le code reste tenue de respecter l’article 50 et doit pouvoir démontrer l’adéquation de ses propres mesures.