Lorsqu'un système passe de la phase de suggestion à la phase d'exécution, la consignation de ses actions cesse d'être une bonne pratique opérationnelle et devient le seul moyen de défense possible face à un client mécontent, un auditeur inquisiteur ou un tribunal. Sans trace écrite, aucune explication n'est possible, et l'absence d'explication est systématiquement interprétée contre la partie qui est chargée de la fournir.
C'est également la seule exigence technique qui ne peut pas être ajouté ultérieurement. La sécurité peut être renforcée, les autorisations améliorées ou la qualité des données corrigée pendant le fonctionnement du système. Il est impossible d'enregistrer ce qui s'est déjà produit.
La preuve de la suffisance d'un enregistrement est concrète : Choisissez un cas survenu il y a trois mois et expliquez précisément ce qui s'est passé.. Pour répondre, six éléments sont nécessaires :
Élément | Ce qui est sauvé | À quoi ça sert ? |
|---|---|---|
Entrée | Données et contexte reçus par le système | Reproduisez le cas |
Sources | Quels documents ou enregistrements avez-vous consultés ? | Expliquez d'où vient la réponse. |
Décision | Sortie du modèle, version et configuration | Distinguer l'erreur de dérive |
Action | Quelles opérations ont été exécutées, sur quel système et quand ? | Audit et annulation |
Identité | Avec quelles qualifications a-t-il agi, et à la demande de qui ? | Responsabilité des attributs |
Validation | Qui l'a examiné, qu'est-ce qui a changé et quand ? | Démontrer la supervision humaine |
La ligne de la sources C'est l'élément le plus fréquemment omis et le plus précieux en cas de réclamation : il permet de démontrer que la réponse était basée sur des informations correctes et à jour, ou d'identifier précisément quel document obsolète en est la cause.
La rangée de version du modèle C’est ce qui nous permet de distinguer deux situations très différentes : une erreur système spécifique et une dégradation générale après une mise à jour. Sans cette information, les deux cas sont indiscernables.
Les trois cadres qui régissent cette question convergent vers la même exigence, avec des vocabulaires différents.
le Réglementation européenne sur l'IA Pour certaines catégories de systèmes, il est nécessaire d'assurer la journalisation automatique des événements, la documentation technique et une supervision humaine avérée. Depuis le 2 août 2026, les obligations de transparence prévues à l'article 50 et les pouvoirs de sanction applicables aux fournisseurs de modèles à usage général sont en vigueur.
le Cadre de gestion des risques liés à l'IA du NIST, Grâce à son profil spécifique pour l'IA générative, elle structure toute la gestion des risques autour de la capacité à mesurer et à surveiller.
La ISO/IEC 42001:2023 La certification d'un système de gestion de l'IA exige la preuve d'un suivi continu. Par preuve, on entend des enregistrements, et non des politiques.
Aucun d'eux n'accepte l'explication selon laquelle l'organisation a agi avec diligence. Tous trois exigent des preuves, et ce qui leur est présenté, ce sont les données stockées pendant le fonctionnement du système.
Un client affirme que sa demande a été injustement rejetée il y a quatre mois. La décision a été prise par un système automatisé et confirmée par une personne.
Les questions qui se poseront, dans cet ordre : quelles informations ont été utilisées pour prendre la décision, si ces informations étaient correctes et à jour, quels critères le système a appliqués, si la personne qui a validé la demande a vu la proposition complète, et si d’autres cas similaires ont bénéficié du même traitement.
Une organisation dûment enregistrée répond dans l'après-midi et, si elle détecte une erreur, la corrige et en limite les conséquences. Une organisation non enregistrée peut seulement affirmer que son processus est globalement correct, ce qui n'est précisément pas ce qui est demandé.
La différence entre les deux situations avait été décidée des mois auparavant, lors d'une discussion technique sur ce qu'il convenait de conserver.
Enregistrer uniquement le résultat. Sans les données d'entrée ni les sources, le résultat n'est ni reconstructible ni explicable.
Durée de rétention trop courte. Les réclamations arrivent en retard. Un délai de trente jours exclut la plupart des dossiers importants. Ce délai devrait être fixé en fonction du cycle de gestion des réclamations de l'entreprise et de la réglementation applicable, et non en fonction des coûts de stockage.
Des archives éparses. Si chaque composant écrit sur son propre site et avec sa propre horloge, la reconstruction d'un cas nécessite de parcourir cinq sources. Un identifiant de cas unique, valable pour l'ensemble du flux, résout ce problème à moindre coût.
registre mutable. Un document qui peut être altéré sans laisser de trace n'est pas valable comme preuve. C'est l'immuabilité qui lui confère sa valeur probante.
L'intégration totale est un objectif peu réaliste. Une intégration suffisante pour un processus spécifique est réalisable en quelques semaines. Quatre étapes :
Chaque itération permet de construire un élément réutilisable de la couche d'intégration. Après trois ou quatre processus, l'entreprise dispose d'une infrastructure, et non de solutions isolées. C'est l'approche composable que nous décrivons dans Le goulot d'étranglement est une fois de plus l'architecture
L'objection légitime à tout cela est la protection des données : enregistrer ce que fait un système implique d'enregistrer des informations sur les personnes, clients et employés.
Il ne s'agit pas d'un argument contre l'enregistrement, mais plutôt en faveur d'une conception rigoureuse. Trois mesures permettent de résoudre la plupart des problèmes :
Un système de tenue de registres bien conçu protège à la fois l'organisation et les personnes impliquées, car il permet de prouver qu'une décision a été prise correctement.
Si votre organisation possède des systèmes d'IA qui effectuent des actions, il y a une vérification d'une heure que vous devriez effectuer cette semaine : demander la reconstitution complète d'un cas précis datant d'il y a trois mois.
Le résultat de ce test en dit plus long sur l'exposition réelle de l'entreprise que n'importe quel rapport de conformité. Et même si le résultat est mauvais, c'est toujours le bon moment pour le découvrir, car les enregistrements manquants aujourd'hui peuvent être générés dès demain. Ceux d'il y a trois mois, non.
C’est cet enregistrement qui nous permet de reconstituer le fonctionnement du système dans un cas précis : les données reçues, les sources consultées, le modèle produit et sa version, l’action exécutée, l’identité de l’utilisateur et la personne qui l’a validée. C’est le seul moyen d’expliquer une décision prise des mois plus tard.
Car c'est irréversible : ce qui n'a pas été enregistré n'existe pas. La sécurité, les autorisations ou la qualité des données peuvent être améliorées pendant le fonctionnement du système, mais l'historique des événements passés ne peut être reconstitué a posteriori.
Le règlement européen sur l'IA exige la consignation automatique des événements, la documentation technique et une supervision humaine démontrable pour certaines catégories de systèmes. Le cadre de gestion des risques (RMF) du NIST en matière d'IA structure la gestion des risques autour de la capacité de mesure et de surveillance, et la norme ISO/IEC 42001 exige la preuve d'un contrôle continu pour la certification.
La durée de conservation des documents doit être fixée en fonction du cycle de traitement réel des sinistres de l'entreprise et de la réglementation applicable, et non en fonction des coûts de stockage. Une durée de conservation de trente jours exclut la plupart des dossiers qui deviendront pertinents par la suite, car les réclamations sont généralement formulées plusieurs mois plus tard.
Avec trois mesures : minimiser le contenu en conservant des références aux documents consultés au lieu de copies intégrales, restreindre l’accès au dossier avec ses propres autorisations et un audit spécifique, et définir des périodes de conservation et de suppression explicites conformes à la réglementation.
Choisir un cas précis datant de trois mois et demander sa reconstitution complète. Si l'équipe peut expliquer quelles données ont été saisies, quelles sources ont été utilisées, quelle version du modèle a été employée, quelles opérations ont été effectuées et qui les a validées, le dossier est suffisant.
Pourriez-vous reconstituer aujourd'hui une décision automatisée prise il y a trois mois ? Nous examinons les données enregistrées par votre système, les informations manquantes et les exigences réglementaires applicables à votre cas. Demander un avis → |
Español Español 
English
Français
العربية
Português
Deutsch
Italiano
