Acheter une solution d’IA dans un marché public : clauses et contrôles.
Acheter une solution d’IA revient aussi à acheter des conditions de preuve : comprendre la fonction, examiner ses limites, recevoir la version attendue et pouvoir la faire évoluer ou la quitter. L’acheteur doit traduire ces questions dans la consultation et le suivi du marché. Une démonstration réussie ou une déclaration de conformité générale laisse autrement beaucoup de travail à découvrir après la notification.
Pour un marché public d’IA, partez de la tâche et des erreurs critiques, puis reliez chaque exigence à une preuve de l’offre, un contrôle de réception et une condition de suivi. Examinez les rôles et les obligations AI Act selon le système et le calendrier. Les critères, clauses et tests proposés ici doivent être adaptés et validés au regard du droit de la commande publique.
Une expression du besoin indépendante d’un produit particulier.
02
Une matrice qui relie exigence, offre, recette et suivi.
03
Des clauses de preuve, de changement et de réversibilité opérationnelles.
04
Des décisions de réception documentées, avec réserves et limites des essais.
01
Décrire le service attendu et comparer les alternatives
Écrivez la tâche, les utilisateurs, les personnes affectées et le résultat attendu. Pour un assistant documentaire, indiquez les corpus, les droits d’accès et ce qu’une réponse erronée pourrait provoquer. Pour un outil de tri, décrivez l’effet sur la décision. Demandez aussi si une recherche classique ou une règle explicite répondrait au besoin avec moins de dépendances.
Le Code de la commande publique organise la définition du besoin et les principes de liberté d’accès, d’égalité de traitement et de transparence. Un sourçage doit aider à comprendre les solutions et les contraintes sans préjuger du titulaire. Faites examiner les spécifications, critères, exigences de preuve et équivalences pertinentes par les personnes compétentes pour la procédure retenue.
La fiche DAE, DINUM et Écolab sur l’achat responsable d’IA offre un cadre pour interroger la pertinence et les exigences responsables. Dans notre méthode, ajoutez une fiche de décision « pourquoi cette fonction ? », avec les alternatives examinées et les informations manquantes. Elle permettra de comprendre la consultation autrement que par une liste de caractéristiques techniques choisies à partir d’une démonstration.
Préparer la qualification et les obligations de l’acheteur
Décrivez les fonctions et les activités de chaque acteur avant d’allouer les obligations. L’acheteur peut être déployeur, mais des modifications ou un changement de destination demandent une analyse de la chaîne de valeur. L’achat d’un système haut risque ne signifie pas que toutes les obligations du fournisseur deviennent celles de l’acheteur. Les documents et la coopération doivent correspondre au rôle réel.
L’article 27 prévoit une analyse d’impact sur les droits fondamentaux pour certains déploiements à haut risque, notamment ceux d’organismes de droit public dans son périmètre, avec ses exclusions. Cette analyse ne se déduit pas de tout achat d’IA. Examinez aussi l’AIPD selon le RGPD : les démarches peuvent partager des éléments, mais leurs conditions et objets ne sont pas interchangeables.
Le calendrier consolidé distingue notamment le 2 décembre 2027 pour les dispositions concernées du chapitre III relatives à l’annexe III et le 2 août 2028 pour l’annexe I. Un marché courant au-delà de ces dates doit organiser les pièces et travaux nécessaires à temps. Cela ne reporte pas les règles déjà applicables aux données, aux achats ou aux pratiques interdites.
Relier les exigences aux preuves et à la réception
Pour chaque exigence, choisissez ce que le candidat doit expliquer, ce qui sera contrôlé sur la version livrée et ce qui sera suivi pendant le marché. Une phrase comme « résultats fiables » doit être traduite en scénarios, critères et limites. Précisez les informations attendues dans l’offre et celles qui devront être disponibles à la réception, sans confondre ces étapes.
Les critères doivent permettre une comparaison annoncée et cohérente. Préparez un protocole commun et demandez aux candidats de décrire les conditions de leurs démonstrations. Un contrôle sur un corpus de démonstration ouvert ne prouve pas la bonne gestion d’un corpus interne restreint. Écrivez cette limite et prévoyez le contrôle de configuration qui sera nécessaire ensuite.
La matrice ci-dessous est une proposition, pas un règlement de consultation prêt à signer. Les obligations de preuve, conditions de tests et conséquences d’un écart demandent une validation juridique et technique. Vérifiez aussi le coût des contrôles : une exigence impossible à exercer faute d’accès ou de moyens ne protège pas l’exécution simplement parce qu’elle figure dans le dossier.
Matrice exigence, preuve, recette et suivi
Exigence
Élément de l’offre
Contrôle de réception
Suivi
Accès au corpus autorisé
Architecture et permissions décrites
Deux profils et documents de droits différents
Revue des droits et connecteurs
Réponse traçable
Méthode et limites des citations
Lien source et réponse sans source testés
Échantillon et anomalies
Contrôle humain
Parcours, droits et informations
Simulation d’une erreur et reprise
Revue des incidents et consignes
Versions connues
Politique de changement et préavis
Version réellement installée
Revue avant changement significatif
Sortie possible
Formats, assistance et coûts
Export d’essai et lecture hors outil
Exercice de sortie prévu au contrat
Méthode proposée par EUAIACT. Les situations, chiffres et résultats d’exercice sont fictifs.
04
Rédiger des clauses qui pourront être exercées
Une clause de documentation précise les pièces, les versions, les destinataires, le mode de remise et le traitement d’une absence. Une clause de coopération décrit qui répond aux questions et avec quelles informations. Les obligations de confidentialité et les secrets légitimes doivent être organisés, sans rendre toute preuve inaccessible. Identifiez les limites que cette restriction crée pour l’acheteur.
Pour les changements, définissez ceux qui appellent une information, une revue ou une nouvelle réception : modèle, fonctions, données, hébergement, sous-traitants ou connecteurs. La qualification et les risques doivent être réexaminés lorsque les faits changent. Prévoyez le traitement d’une mise à jour urgente de sécurité, afin de concilier protection et maîtrise du changement.
Proposition de rédaction à adapter : « Le titulaire identifie la version livrée et signale les changements affectant les fonctions, les flux ou les limites documentées. Il fournit les éléments nécessaires à leur examen selon le dispositif prévu au marché. » Complétez ensuite les délais, modalités, exceptions et conséquences avec le service juridique. Cette formulation ne constitue pas une clause complète ni un avis individualisé.
La clause d’incident décrit le canal, les informations utiles, la préservation des preuves et l’assistance. Les délais contractuels n’effacent pas les obligations légales propres à chaque acteur. Pour l’audit, définissez les accès, le périmètre et les conditions de confidentialité. Pour la sortie, demandez les formats, la lecture, les droits et les coûts, plutôt qu’une formule générale de réversibilité.
Méthode proposée par EUAIACT. Les situations, chiffres et résultats d’exercice sont fictifs.
05
Organiser une recette sur les erreurs qui comptent
La recette doit porter sur la version et la configuration livrées. Préparez des cas corrects, des cas incomplets et des cas qui doivent être refusés ou transmis à un humain. Donnez à chaque cas un identifiant, un résultat attendu, un observateur et une règle de réception. Les seuils sont liés au contexte et annoncés. Aucun taux de réussite universel n’est proposé ici.
Pour un assistant documentaire, testez une question sans réponse dans le corpus, une référence périmée et un document inaccessible au profil. Pour une automatisation, examinez une demande ambiguë, un retrait de droits et une indisponibilité. Les résultats doivent conserver les entrées autorisées, la version, les observations et les réserves, avec les protections nécessaires sur les données.
Un test isolé favorable ne démontre pas une garantie générale. Une anomalie grave demande une action et une vérification de correction. Décidez selon les modalités du marché : réception, réserve, ajournement ou autre décision juridiquement prévue. Les utilisateurs et le support doivent comprendre les limites encore ouvertes avant le lancement, pas les découvrir dans un procès-verbal qu’ils n’ont jamais lu.
Méthode proposée par EUAIACT. Les situations, chiffres et résultats d’exercice sont fictifs.
06
Exemple fictif : acheter un assistant documentaire de collectivité
Une collectivité fictive veut aider ses agents à retrouver des procédures internes. Le besoin exclut la décision sur les droits d’un usager et la publication automatique d’une réponse. L’équipe prépare douze cas fictifs : six réponses sourcées, trois questions absentes du corpus et trois documents soumis à des droits différents. Ce lot illustre un protocole, pas un test représentatif réalisé par DEMETER.
Dans l’exercice, une réponse cite une version périmée et un profil voit un extrait qu’il ne devrait pas consulter. Les observations restent distinctes : qualité documentaire pour la première, contrôle d’accès pour la seconde. La moyenne de réussite ne ferme aucun des deux écarts. Le titulaire doit examiner leur cause et remettre les éléments de correction prévus au marché.
L’équipe rejoue les cas après correction, puis vérifie les fonctions de source et les droits sur un lot complémentaire défini. Le procès-verbal précise le périmètre des essais et leurs limites. Le lancement reste une décision de l’autorité compétente, fondée aussi sur le dossier de données, de sécurité et de fonctionnement. Une démonstration corrigée ne remplace pas ces pièces.
Méthode proposée par EUAIACT. Les situations, chiffres et résultats d’exercice sont fictifs.
07
Suivre l’exécution et préparer la sortie dès le début
Le suivi examine les versions, les réclamations, les changements, les incidents et les preuves encore attendues. Pour chaque revue, faites apparaître ce qui est décidé et ce qui reste ouvert. Le référent du marché doit savoir qui peut demander une correction, suspendre une fonction selon les conditions prévues ou mobiliser l’autorité qui prendra cette décision.
Planifiez un export d’essai avant la fin du contrat. Vérifiez la présence des données attendues, leur format, leurs droits et la capacité d’une autre équipe à les lire. L’export d’un fichier ne prouve pas la reconstruction du service. Certains éléments techniques ou droits peuvent rester indisponibles. Identifiez-les comme limites de réversibilité avant de dépendre de la solution.
Présentez enfin le coût complet : service, accès, tests, intégration, accompagnement des agents, suivi et sortie. Les hypothèses doivent être explicites et comparables, sans montants inventés. Une revue de cadrage peut aider à transformer ces questions en dossier de consultation cohérent, avec les services métier, achats, juridique, données et sécurité de l’acheteur.
Dossier remis après formulaire professionnel, avec un lien sécurisé valable sept jours. Les communications restent facultatives. Ces outils se personnalisent à votre contexte et ne constituent pas une certification de conformité.
Questions fréquentes
Questions fréquentes
?La mention « conforme AI Act » suffit-elle dans une offre ?
Elle doit être reliée au système, au rôle, au calendrier et aux pièces pertinentes. La consultation organise les preuves, leur remise, les contrôles et le traitement des réserves.
?Faut-il imposer une solution d’IA ?
Définissez d’abord la tâche et le service attendu. Comparez les alternatives et faites valider les spécifications et critères au regard du droit de la commande publique.
?Toute collectivité doit-elle faire une FRIA pour chaque outil ?
L’article 27 concerne certains déploiements de systèmes à haut risque dans son périmètre, avec ses exclusions et échéances. La qualité d’acheteur public ne rend pas automatiquement tout logiciel concerné.
?Comment comparer les démonstrations ?
Annoncez des scénarios et conditions comparables. Demandez les versions, observations et limites. Distinguez ce qui est montré pendant l’offre de ce qui doit être vérifié sur la configuration livrée.
?Peut-on copier les clauses de cet article dans le marché ?
Elles servent à préparer le travail. Les clauses finales demandent une adaptation juridique et technique au besoin, à la procédure, au régime du marché et aux responsabilités réelles.
?Un export démontre-t-il la réversibilité ?
Il faut aussi vérifier les formats, les droits, la lecture, les dépendances, l’assistance et les coûts. L’export de données ne démontre pas nécessairement la reconstruction du service ailleurs.
Décrivez l’usage prévu, les acteurs et les points à sécuriser. Cet échange permettra de préciser les questions, les responsabilités et le périmètre de l’accompagnement.