Manter uma pessoa envolvida no processo de tomada de decisão não significa que a automação falhou; significa que foi bem projetada. A maior parte da economia gerada por um processo automatizado está na preparação — coleta, comparação, elaboração e proposta — e não no clique final de aprovação. Eliminar esse clique aumenta quase todo o risco em troca de quase nenhuma economia.
A discussão sobre autonomia total é frequentemente enquadrada como uma questão de maturidade tecnológica. Seria mais útil enquadrá-la como uma questão econômica: onde está a mão de obra cara e onde está o risco caro?.
Vamos analisar um processo típico de resolução de incidentes. O tempo é distribuído aproximadamente da seguinte forma:
Um sistema que automatiza a primeira e a terceira etapas captura a maior parte da economia. A decisão, onde reside o risco, agora está nas mãos de uma única pessoa que tem tudo o que precisa e leva apenas um minuto em vez de vinte.
É por isso que o padrão mais lucrativo que medimos não é a autonomia: é a Preparação completa com aprovação humana.
Modelo | Como funciona | Quando é conveniente? |
|---|---|---|
Aprovação prévia | Nada é executado sem validação. | Ações irreversíveis: pagamentos, comunicações externas |
Exceção | É executado, exceto em casos definidos. | Alto volume, risco limitado |
Amostragem | Tudo é executado, uma parte é revisada. | Baixo risco, necessidade de controle de qualidade |
Revisão subsequente | É executado e depois auditado. | Somente se a ação for reversível |
O erro comum é escolher o modelo com base no nível de confiança no sistema, quando deveria ser escolhido o modelo com base no nível de confiança no sistema. devido à reversibilidade da ação. Um modelo excelente que executa pagamentos sem validação ainda é uma má decisão de projeto; um modelo medíocre que classifica ingressos com revisão por amostragem é perfeitamente razoável.
A objeção legítima é que a validação humana anula a economia obtida se o projeto for mal concebido. Quatro regras impedem isso:
O sistema entrega o caso preparado, não a pergunta. A pessoa deve ter acesso à proposta, às informações em que ela se baseia e às alternativas; ela não deve precisar procurar nada.
A aprovação é a ação padrão. Se a validação exigir mais cliques do que fazê-la manualmente, o processo será abandonado.
As validações estão agrupadas. Vinte aprovações consecutivas custam muito menos do que vinte interrupções ao longo do dia.
O que foi corrigido é registrado. Este é o ponto crucial, e aquele que quase ninguém implementa: cada correção é um dado sobre a qualidade real do sistema, como explicamos em A automação sem observabilidade é irresponsável.
A decisão de remover a validação humana deve ser baseada em dados, não em confiança. Três condições cumulativas:
Se todas as três condições forem atendidas, faz sentido passar da aprovação prévia para a supervisão por exceção em casos de menor risco, mantendo a validação nos demais.
E uma regra que deve ser colocada por escrito: A supervisão não é suspensa devido à pressão de agendamento.. É a causa mais comum de incidentes em sistemas automatizados, e é uma decisão que geralmente é tomada em uma reunião sem ata.
A partir de 2025, há um motivo adicional que não está sujeito ao julgamento de ninguém. O Regulamento Europeu de IA exige supervisão humana demonstrável para certas categorias de sistemas, e não de forma abstrata: deve ser possível comprovar quem revisou, o que viu e quando.
Isso faz com que o registro da validação seja um requisito, e não uma boa prática. E isso tem uma implicação de design: o monitoramento que ocorre, mas não é registrado, não prova nada.
Quando alguém propõe eliminar a validação humana para aumentar a eficiência, a questão útil não é se o modelo é bom o suficiente. É: Quanto economizamos exatamente ao eliminar essa etapa, e qual é o custo de um erro que ninguém detecta?
Na maioria dos processos com impacto econômico, o primeiro número é pequeno e o segundo é grande. Quando ambos estão em discussão, a questão se resolve por si só.
Este projeto envolve intervenção humana no processo de tomada de decisão de um sistema automatizado. Isso não indica uma falha da automação em si: a maior parte da economia está na preparação dos casos, não na aprovação final, portanto, manter a validação preserva quase todos os benefícios e elimina quase todos os riscos.
Quatro: aprovação prévia, onde nada é executado sem validação; supervisão por exceção, onde é executada exceto em casos definidos; amostragem, onde tudo é executado e uma parte é revisada; e revisão subsequente, aplicável somente se a ação for reversível.
Como a automação tradicional era determinística e, portanto, previsível,
A reversibilidade da ação é o fator decisivo, não o nível de confiança no sistema. Um modelo excelente que processa pagamentos sem validação ainda é uma escolha de design ruim, enquanto um modelo medíocre que classifica ingressos com revisão baseada em amostras é razoável.
o que permitiu a coexistência com a falta de documentação. Ao incorporar componentes de tomada de decisão, o mesmo caso pode ser resolvido de maneiras diferentes e, sem um registro, não há como reconstruir o porquê.
Com quatro regras: que o sistema entregue o caso preparado com proposta, evidências e alternativas; que a aprovação seja a ação padrão e não exija mais cliques do que fazê-la manualmente; que as validações sejam agrupadas em vez de interromper o processo; e que o que for corrigido em cada revisão seja registrado.
Quando três condições cumulativas são atendidas: uma taxa de aprovação alta e estável, sem alterações em casos reais; erros de baixo impacto com distribuição conhecida; e ações reversíveis ou de quantidade limitada. Nunca devido à pressão do calendário.
Sim. O Regulamento Europeu sobre IA exige supervisão humana comprovada para certas categorias de sistemas, o que significa ser possível comprovar quem revisou o sistema, a que informações teve acesso e quando. A supervisão que ocorre, mas não é registrada, não permite demonstrar a conformidade.
Em que situações um ser humano deve intervir no seu processo automatizado? Projetamos o ponto de controle, a interface de validação e o registro exigidos pelas normas, sem transformar a supervisão em um gargalo. Vamos conversar →
Español Español 
English
Français
العربية
Português
Deutsch
Italiano
