Até pouco tempo atrás, a IA nas empresas respondia perguntas. Resumia documentos, sugeria textos, classificava solicitações. Se errasse, alguém lia a resposta e decidia o que fazer.

Agora, a IA começa a agir. Agentes conectados a ERPs, CRMs e APIs internas conseguem criar pedidos, alterar cadastros, emitir reembolsos, abrir chamados e enviar mensagens a clientes.

A promessa é real: menos trabalho repetitivo, atendimento mais rápido, processos que funcionam fora do horário comercial. O risco também é real. Um agente que pode executar uma operação pode executá-la errado, duas vezes, para o cliente errado ou em um volume que ninguém previu.

Minha posição: instruções em linguagem natural não são controle. Um agente conectado a sistemas empresariais deve operar dentro de limites técnicos verificáveis — os mesmos que exigiríamos de qualquer outro sistema ou pessoa com acesso àquelas operações.

O problema não é a IA errar. É ninguém ter definido o que acontece quando ela erra

Escrever no prompt “nunca conceda descontos acima de 10%” não é uma política de segurança. É uma sugestão a um modelo probabilístico, que pode ser contornada por uma entrada maliciosa, por um contexto ambíguo ou simplesmente por um erro de interpretação.

Se a API de descontos aceita 40%, o agente pode conceder 40%.

A pergunta correta não é “como convencer a IA a se comportar?”, mas “o que o sistema permite, independentemente do que a IA decida?”.

Essa distinção muda o projeto inteiro. O controle sai do texto do prompt e passa para a arquitetura: autorização nas APIs, limites de valor, validações de negócio, aprovações e registros.

Cinco controles que um agente empresarial precisa ter

1. Permissões mínimas e explícitas

Um agente de atendimento que consulta pedidos não precisa de permissão para alterar preços. Um agente que abre chamados não precisa acessar dados financeiros.

Defina, para cada agente, quais operações ele pode executar, sobre quais dados e com quais limites. Isso vale tanto para as ferramentas expostas ao modelo quanto para as credenciais que ele utiliza por trás delas.

Uma regra prática: se você não daria aquela permissão a um estagiário no primeiro dia, não a dê ao agente sem um controle adicional.

2. Identidade: em nome de quem o agente está agindo?

Quando um agente altera um registro, o sistema precisa saber quem solicitou a ação. Agentes que usam uma única credencial de serviço com acesso amplo apagam essa informação — e permitem que qualquer usuário, por meio do agente, faça o que ele próprio não poderia fazer.

O desenho mais seguro é o agente operar com identidade delegada: as permissões efetivas são a interseção entre o que o agente pode fazer e o que o usuário que o acionou pode fazer.

3. Aprovação humana proporcional ao risco

Nem toda ação precisa de aprovação. Exigir confirmação para cada consulta inviabiliza a automação. Não exigir para nada transforma o agente em um risco operacional.

Uma classificação simples ajuda:

Tipo de operaçãoExemploControle sugerido
LeituraConsultar status de um pedidoExecução direta, com registro
Alteração reversível e de baixo impactoAtualizar o telefone de contatoExecução direta, com registro e possibilidade de reversão
Alteração com impacto financeiro limitadoReembolso até um valor definidoExecução com limites rígidos por operação e por período
Alteração crítica ou irreversívelCancelar contrato, alterar dados bancários, reembolso altoAprovação humana obrigatória antes da execução

Classificação ilustrativa. Os limites devem ser definidos por cada empresa, considerando seus riscos e obrigações.

A aprovação deve mostrar ao responsável o que será feito, com quais dados e por quê — não apenas um botão “confirmar”.

4. Idempotência e controle transacional

Agentes repetem ações. Uma chamada que demorou a responder pode ser refeita. Um fluxo interrompido pode ser retomado do início. Sem proteção, isso significa reembolsos duplicados, pedidos em dobro e mensagens enviadas várias vezes ao mesmo cliente.

As operações expostas a agentes precisam ser idempotentes: executar duas vezes a mesma solicitação deve produzir o mesmo resultado que executar uma. Na prática, isso exige uma chave única por operação, verificada pelo sistema de destino.

Operações compostas — reservar estoque, gerar cobrança, notificar cliente — precisam de uma estratégia clara para falhas no meio do caminho: desfazer as etapas anteriores ou retomar a partir do ponto em que pararam.

5. Auditoria completa e retomada

Para cada ação executada, registre: quem solicitou, qual agente executou, qual ferramenta foi chamada, com quais parâmetros, qual foi o resultado e — quando aplicável — quem aprovou.

Esse registro não serve apenas para investigar incidentes. Ele permite responder a clientes, auditores e reguladores, medir a qualidade da automação e decidir, com dados, quais operações podem ganhar mais autonomia.

Um exemplo: o agente de reembolsos

Considere uma empresa fictícia de comércio eletrônico que deseja automatizar reembolsos de pedidos com problemas de entrega.

Desenho ingênuo: o agente recebe acesso à API de pagamentos com uma credencial administrativa e uma instrução no prompt: “conceda reembolsos apenas quando o atraso for comprovado”.

O que pode dar errado: um cliente escreve uma mensagem cuidadosamente construída e convence o agente de que houve atraso. Uma falha de rede faz o agente repetir a chamada, e o reembolso é processado duas vezes. Ninguém sabe, depois, qual atendente ou qual conversa originou a operação.

Desenho controlado:

  • o agente consulta o status de entrega diretamente no sistema logístico, em vez de confiar no relato do cliente;
  • a ferramenta de reembolso só aceita pedidos do próprio cliente autenticado na conversa;
  • reembolsos até um valor definido são executados automaticamente; acima dele, vão para uma fila de aprovação;
  • cada solicitação carrega uma chave de idempotência — repetir a chamada não gera novo pagamento;
  • existe um limite diário de valor total por agente, e a operação é suspensa automaticamente se ele for atingido;
  • cada reembolso registra conversa, parâmetros, resultado e aprovador.

Exemplo ilustrativo, sem relação com um cliente real.

O agente continua útil — a maior parte dos casos é resolvida em segundos. Mas o pior cenário possível passa a ser limitado e rastreável.

Por que esse tema ganhou urgência

As plataformas estão tornando cada vez mais simples conectar modelos a sistemas reais. O lançamento do .NET 11, em novembro de 2026, destacou a integração de ferramentas via MCP (Model Context Protocol) e workflows com o Microsoft Agent Framework. Ecossistemas como Python e JavaScript seguem o mesmo caminho.

Quanto mais fácil conectar, maior a chance de um agente chegar à produção sem que alguém tenha desenhado seus limites.

A comunidade de segurança também reagiu. A OWASP Top 10 for Agentic Applications organiza os principais riscos de aplicações com agentes — entre eles abuso de ferramentas, permissões excessivas, identidade delegada mal resolvida e ações autônomas sem supervisão adequada. É uma boa referência para quem precisa justificar controles perante a diretoria.

Responsabilidade versus controle

Em um artigo anterior, Quem assina as decisões da IA?, discuti quem responde pelas decisões de um sistema automatizado. Aquela é uma pergunta sobre responsabilidade.

Este artigo trata da consequência prática: depois de decidir quem responde, é preciso garantir que o sistema só permita aquilo que essa pessoa está disposta a assinar. Responsabilidade sem controle técnico é apenas uma promessa.

Por onde começar

  1. Inventarie as operações candidatas à automação e classifique-as por impacto e reversibilidade.
  2. Comece por leitura e por operações reversíveis, medindo a qualidade do agente antes de ampliar sua autonomia.
  3. Revise as APIs que serão expostas: elas validam limites de negócio por conta própria, ou confiavam que só uma tela bem comportada as chamaria?
  4. Defina aprovação, limites e auditoria antes da produção, não depois do primeiro incidente.
  5. Tenha um botão de parada: a capacidade de suspender um agente imediatamente, sem afetar o restante do sistema.

Perguntas frequentes

Um bom prompt não é suficiente para controlar o agente?

Não. O prompt orienta o comportamento, mas não impõe limites. Controles efetivos precisam estar nas APIs, nas permissões e nas regras de negócio do sistema de destino.

Toda ação de um agente precisa de aprovação humana?

Não. Aprovação deve ser proporcional ao risco. Consultas e alterações reversíveis podem ser automáticas, com registro. Operações críticas ou irreversíveis devem exigir aprovação prévia.

Posso conectar um agente diretamente ao meu ERP?

Tecnicamente, muitas vezes sim. A questão é com quais permissões, sobre quais operações e com quais proteções. Em geral, é mais seguro expor uma camada de serviços específica para o agente, com validações e limites próprios, do que conceder acesso amplo ao ERP.

Como saber se o agente está funcionando bem em produção?

Meça taxa de conclusão, taxa de escalonamento para humanos, erros, reversões e reclamações associadas às ações do agente. A auditoria completa é o que torna essa medição possível.

Conclusão

Agentes de IA podem gerar ganhos operacionais importantes. Mas autonomia sem limites técnicos não é inovação — é exposição.

Antes de permitir que um agente altere informações empresariais, avalie quais operações podem ser automatizadas e quais controles são necessários.

Na consultoria em arquitetura para IA e dados, ajudo empresas a desenhar integrações entre agentes e sistemas existentes com permissões, aprovações, auditoria e recuperação de falhas definidas desde o início. Os projetos comerciais são conduzidos pela IVATEC.