Maintenir l'implication d'une personne dans le processus décisionnel ne signifie pas que l'automatisation a échoué ; au contraire, elle est bien conçue. La plupart des économies réalisées grâce à un processus automatisé se situent au niveau de la préparation (collecte, comparaison, rédaction et proposition), et non au niveau de l'approbation finale. Supprimer cette étape augmente considérablement les risques pour un gain quasi nul.
Le débat sur l'autonomie complète est souvent abordé sous l'angle de la maturité technologique. Il serait plus pertinent de l'envisager sous l'angle économique : où se situent la main-d'œuvre coûteuse et où se situe le risque coûteux ?.
Prenons l'exemple d'un processus de résolution d'incident typique. Le temps se répartit approximativement comme suit :
Un système qui automatise les première et troisième étapes permet de réaliser la majeure partie des économies. La décision, qui comporte le risque, repose désormais entre les mains d'une seule personne qui dispose de toutes les informations nécessaires et la prise de décision ne prend qu'une minute au lieu de vingt.
C’est pourquoi le modèle le plus rentable que nous ayons mesuré n’est pas l’autonomie : c’est… Préparation complète avec approbation humaine.
Modèle | Comment ça marche | Quand cela vous convient-il ? |
|---|---|---|
approbation préalable | Aucune action n'est exécutée sans validation. | Actions irréversibles : paiements, communications externes |
Exception | Il est exécuté sauf dans des cas définis. | Volume élevé, risque limité |
Échantillonnage | Tout est exécuté, une partie est examinée | Faible risque, besoin de contrôle de qualité |
Examen ultérieur | Il est exécuté puis audité. | Seulement si l'action est réversible |
L'erreur courante consiste à choisir le modèle en fonction du niveau de confiance dans le système, alors qu'il faudrait le choisir en fonction du niveau de confiance dans le système. en raison de la réversibilité de l'action. Un excellent modèle exécutant des paiements sans validation reste une mauvaise décision de conception ; un modèle médiocre classant les tickets avec un exemple d’avis est parfaitement raisonnable.
L'objection légitime est que la validation humaine annule les économies si elle est mal conçue. Quatre règles permettent d'éviter cela :
Le système fournit le dossier préparé, et non la question. La personne devrait avoir accès à la proposition, aux informations sur lesquelles elle se fonde et aux alternatives ; elle ne devrait rien avoir à chercher.
L'approbation est l'action par défaut. Si la validation nécessite plus de clics qu'une validation manuelle, le processus sera abandonné.
Les validations sont regroupées. Vingt approbations consécutives coûtent bien moins cher que vingt interruptions réparties sur toute la journée.
Les corrections sont consignées. C’est là le point essentiel, et celui que presque personne n’applique : chaque correction constitue une donnée sur la qualité réelle du système, comme nous l’avons expliqué dans L'automatisation sans observabilité est irresponsable.
La décision de supprimer la validation humaine doit reposer sur des données, et non sur la confiance. Trois conditions cumulatives :
Si les trois conditions sont réunies, il est judicieux de passer d'une autorisation préalable à une supervision par exception dans les cas à faible risque, tout en maintenant la validation dans les autres cas.
Et une règle qui devrait être mise par écrit : La supervision n'est pas retirée en raison de contraintes d'horaire.. C'est la cause la plus fréquente d'incidents dans les systèmes automatisés, et c'est une décision qui est généralement prise lors d'une réunion sans procès-verbal.
À partir de 2025, une raison supplémentaire, non soumise à appréciation, entre en jeu. Le règlement européen sur l'IA exige une supervision humaine concrète pour certaines catégories de systèmes, et non une supervision abstraite : il doit être possible de prouver qui a effectué la supervision, ce qu'ils ont vu et à quel moment.
Cela fait de l'enregistrement de la validation une obligation, et non une simple bonne pratique. Et cela a une conséquence sur la conception : une surveillance effectuée mais non enregistrée ne prouve rien.
Lorsqu'on propose de supprimer la validation humaine pour gagner en efficacité, la question pertinente n'est pas de savoir si le modèle est suffisamment performant, mais plutôt : Combien économisons-nous exactement en supprimant cette étape, et quel est le coût d'une erreur que personne ne détecte ?
Dans la plupart des processus ayant un impact économique, le premier chiffre est faible et le second élevé. Lorsque les deux sont pris en compte, la discussion se résout d'elle-même.
Cette conception implique une intervention humaine dans le processus décisionnel d'un système automatisé. Cela ne signifie pas que l'automatisation elle-même est défaillante : la plupart des économies sont réalisées lors de la préparation des dossiers, et non lors de l'approbation finale. Par conséquent, le maintien de la validation préserve la quasi-totalité des avantages et élimine la quasi-totalité des risques.
Quatre : l’approbation préalable, où rien n’est exécuté sans validation ; la supervision par exception, où elle est exécutée sauf dans des cas définis ; l’échantillonnage, où tout est exécuté et une partie est examinée ; et l’examen ultérieur, applicable uniquement si l’action est réversible.
Parce que l'automatisation traditionnelle était déterministe et donc prévisible,
La réversibilité de l'action est le facteur déterminant, et non le niveau de confiance dans le système. Un excellent modèle traitant les paiements sans validation reste un mauvais choix de conception, tandis qu'un modèle médiocre classant les tickets par examen d'échantillons est acceptable.
Ce qui a permis la coexistence malgré l'absence de documentation. En intégrant des mécanismes de prise de décision, un même cas peut être résolu différemment, et sans trace écrite, il est impossible de comprendre pourquoi.
Avec quatre règles : que le système fournisse le dossier préparé avec proposition, preuves et alternatives ; que l’approbation soit l’action par défaut et ne nécessite pas plus de clics qu’une approbation manuelle ; que les validations soient regroupées au lieu d’être interrompues ; et que les corrections apportées lors de chaque examen soient enregistrées.
Lorsque trois conditions cumulatives sont réunies : un taux d’approbation élevé et stable, sans modification des cas concrets ; des erreurs à faible impact et à distribution connue ; et des actions réversibles ou d’une ampleur limitée. Jamais sous la contrainte du calendrier.
Oui. Le règlement européen sur l'IA exige une supervision humaine démontrable pour certaines catégories de systèmes, ce qui implique de pouvoir prouver qui a examiné le système, à quelles informations cette personne a eu accès et à quel moment. Une supervision effectuée mais non consignée ne permet pas de démontrer la conformité.
À quel moment une personne doit-elle intervenir dans votre processus automatisé ? Nous avons conçu le point de contrôle, l'interface de validation et l'enregistrement requis par la réglementation, sans faire de la supervision un goulot d'étranglement. Parlons-en →
Español Español 
English
Français
العربية
Português
Deutsch
Italiano
