Um framework de decisão para governar a autonomia de IA no back-office — dois eixos independentes, imposto pela infraestrutura.
Autonomia é escala, não interruptorVibe coding deu velocidade à área. O agente escreve, testa e entrega em horas o que antes levava semanas. Ótimo. Mas a pergunta que ficou aberta é outra: até onde ele vai sozinho? Onde entra o humano?
Tratar isso como um interruptor — autonomia ligada ou desligada — é a resposta errada. Reconciliar uma carteira lendo logs é baixo risco. Mandar boleta pro custodiante é irreversível. Os dois não podem viver no mesmo botão.
Autonomia é uma escala. E escala se governa. Este documento entrega o framework para desenhar essa escala — e, mais importante, para gravá-la na infraestrutura, não na cabeça do agente.
Autonomia de IA no back-office se separa em dois eixos que não se misturam.
Um agente pode ter ação quase zero e ainda assim gerar muito código — ou o contrário. Confundir os dois é o erro que faz o time travar decisões ou correr risco desnecessário. Trate cada eixo com sua própria régua. É o que fazemos a seguir.
A régua do dia a dia é um semáforo. Quanto mais irreversível e menos conferível a ação, mais o humano decide. Três critérios traçam a cor: reversibilidade (dá pra desfazer?), blast radius / raio de impacto (quantas carteiras, quanto dinheiro?) e sensibilidade do dado (dado de cliente, cadastro, financeiro?).
| Cor | Regra | Exemplos concretos | Quem decide |
|---|---|---|---|
| 🟢 Verde | Automatiza livre — ações read-only e conferíveis. Reversível e auditável. | Extrair posições, casar carteira × administrador, classificar tipo de quebra, gerar relatório, rascunhar e-mail. | Agente age sozinho. |
| 🟡 Amarelo | Automatiza com aprovação — ações que escrevem ou disparam algo externo. | Enviar e-mail ao administrador, abrir ticket, mudar status. | O agente prepara, o humano clica. |
| 🔴 Vermelho | Nunca automatiza — decisão irreversível, sem trilha ou de alto impacto. | Escrever em produção, mover recurso, ordem ou boleta ao custodiante. | Sempre humano. Bloqueado na infraestrutura. |
Reversibilidade, raio de impacto e sensibilidade do dado definem a cor — e a cor define quem segura o gatilho.
O semáforo é a régua prática. Mas existe um vocabulário formal para "quem segura o gatilho" em cada cor — o mesmo que reguladores e auditoria usam. Vale conhecer para falar a língua deles.
Verde equivale a human-out-of-the-loop: o agente age de ponta a ponta, sem humano no caminho. Amarelo é human-in-the-loop ou human-on-the-loop: ou o agente para e aguarda aprovação antes de agir, ou executa sob supervisão com um humano pronto para intervir e abortar. Vermelho não é um degrau de loop — é bloqueio: o humano decide, ponto.
Uma ressalva importante: human-above-the-loop não é um nível dessa escada. O humano que define metas, limites e métricas é uma camada de governança que envolve as três cores — não um quarto degrau. No dia a dia, use o semáforo. O rótulo técnico serve para conversar com quem fiscaliza.
Dois eixos independentes — autonomia de AÇÃO e autonomia de CÓDIGO — definidos como código e impostos pela infraestrutura, nunca deixados ao agente.
Quem faz vibe code (o analista de negócio) não é quem aprova ir pra produção. O caminho tem portões. Isso resolve o incidente concreto: um agente mexeu em código de produção de outro time a partir de um sandbox compartilhado.
É o playground. O analista faz vibe coding à vontade, quebra, refaz, itera. Zero cerimônia. Mas o sandbox não toca produção — é isolado por construção.
Produção tem seu próprio repositório, separado do sandbox. É o espelho do que roda de verdade. Ninguém edita produção direto do playground compartilhado. Essa separação é o que impede um time de pisar no código do outro.
Levar código do sandbox pra produção passa por branch, pull request e merge. Cada mudança fica registrada, revisável e reversível. Nada entra em produção sem esse trilho.
Segregation of duties: o autor não é o validador, e o validador não é quem libera produção. Some a isso o gancho de model-risk — "effective challenge", uma validação independente que questiona de verdade o que o agente produziu. Não é carimbo. É desafio.
Os dois eixos escalam para o nível de projeto. Grandes frentes — cadastro, ordens, gestão de caixa, concessão de taxas — mexem com dinheiro, cliente e irreversibilidade. Exigem mais portões: mais aprovação humana, mais gate na promoção de código. Melhorias operacionais pontuais podem correr mais leves.
E uma nota de design que evita confusão comum: dashboard é monitoramento, não execução. A tela mostra KPIs e deixa você enxergar o que está acontecendo. A ação em si mora no código e na rotina — nunca no clique de uma tela.
O tier de autonomia é definido como código e imposto pela infraestrutura — nunca deixado ao julgamento do agente. Se a fronteira depende do agente decidir na hora "isso eu posso, aquilo não", você não tem governança: tem torcida.
O limite precisa ser um bloqueio na infraestrutura, não uma instrução no prompt. Grave a régua. Não peça pro agente lembrar dela.
Isto não é opinião. Cada peça do framework tem lastro em padrão regulatório ou de mercado.
A supervisão precisa ser proporcional ao risco, com capacidade real de intervir e parar (stop button). É exatamente a lógica do amarelo e do vermelho. Fonte: artificialintelligenceact.eu.
Traz a lista de práticas proibidas. Fundamenta a categoria vermelha do semáforo. Fonte: artificialintelligenceact.eu.
Quatro funções: Govern, Map, Measure, Manage. O companion para IA generativa (AI 600-1, jul/2024) estende isso ao vibe coding. É a espinha da camada de governança. Fonte: nist.gov.
Exige controles pré-trade — price collars, hard e soft blocks — e um kill switch (Art. 12). É o modelo direto para bloquear ordem autônoma ao custodiante. Fonte: esma.europa.eu.
Sucede a SR 11-7 (Fed/OCC/FDIC, abr/2026). Pede validação independente e "effective challenge", com separação entre quem desenvolve e quem valida. É a base do Eixo Código. Fonte: federalreserve.gov.
Separa autorização, custódia, registro e reconciliação. É o princípio de controle interno que vira "quem escreve ≠ quem aprova". Fonte: coso.org.
Fairness, Ethics, Accountability, Transparency para uso de IA em serviços financeiros (2018). Referência de mercado para responsabilizar decisões automatizadas. Fonte: mas.gov.sg.
Primeiro padrão de sistema de gestão de IA (AIMS), com ciclo PDCA. Dá o esqueleto para operar governança de IA de forma contínua. Fonte: iso.org.
A Responsible Scaling Policy amarra salvaguardas ao nível de capacidade do modelo (ASL). Mesma ideia do framework: mais poder, mais controle. Fonte: anthropic.com.
A tríade human-in / on / out-of-the-loop vem da doutrina de sistemas autônomos (DoD Directive 3000.09). É o nome formal por trás das cores do semáforo. Fonte: digital.library.unt.edu.
Deixar o agente decidir a própria cor. Se o limite vive no prompt e não na infraestrutura, ele some no primeiro contexto longo — atenção é finita e o contexto se degrada ("context rot"). A cor tem que ser bloqueio real, não instrução.
Achar que o dashboard executa. A tela monitora; quem executa é o código. Botão de tela virando gatilho de ordem é risco disfarçado de conveniência.
Usar o rótulo "human-above-the-loop" como se fosse um nível da escada. Não é. O loop canônico tem três posições — in, on, out. "Humano define metas e limites" é a camada de governança que envolve as três, não um quarto degrau. Nomear errado leva a desenhar errado.
Não pergunte se o agente é autônomo — decida, para cada ação e cada linha de código, quanto de autonomia ele tem, e grave essa decisão na infraestrutura.
Três passos concretos. Primeiro: mapeie as ações do back-office pelos três critérios — reversibilidade, raio de impacto e sensibilidade do dado — e pinte cada uma de verde, amarelo ou vermelho. Segundo: transforme essas cores em código e bloqueios na infraestrutura, não em recomendações. Terceiro: comece pelos grandes projetos — cadastro, ordens, caixa, taxas — onde o risco é maior e o retorno de governar é imediato. A velocidade do vibe coding continua. A diferença é que agora existe uma linha clara de onde o agente para.