Botão de desligamento de agentes de IA: defina o seu antes de lançar

Sábado, quatro da tarde. Você está longe do notebook e um agente em produção entra em loop: chama a mesma ferramenta várias vezes, gasta orçamento e escreve para clientes o que não deveria. Quem desliga? E quanto tempo leva?

No meu artigo sobre agentes na Salesforce terminei com uma pergunta: quem entrega as chaves ao agente, para quais portas e por quanto tempo. Hoje vem a pergunta irmã, aquela que quase ninguém quer responder antes do lançamento: como você tira essas chaves quando algo dá errado?

O que a Salesforce diz que já existe

Segundo o comunicado da Salesforce México de setembro de 2026, o Agent Kill Switch já está disponível de forma geral como parte do Agent Fabric, por meio do Omni Gateway. O texto parte do mesmo cenário do sábado à tarde e afirma que, na maioria das plataformas, a única medida disponível é derrubar o ambiente onde o agente roda, o que também desconecta os agentes que funcionam bem.

Isto é o que a Salesforce descreve:

• Quatro alcances possíveis: uma única solicitação, uma sessão, uma instância específica de um agente ou todo um tenant em caso de emergência.

• Hard Stop: interrompe o tráfego de imediato e bloqueia a comunicação do agente com o Model Proxy e com outros agentes da rede.

• Restore: devolve o agente ao estado exato em que estava antes do congelamento, sem reparar dados à mão.

• Um registro à prova de adulteração, encadeado por hash, de quem interveio, em que escopo, o que foi afetado e quando.

Tudo isso vem do fabricante e eu não testei. Há ainda três pontos que não consegui confirmar: o preço, as licenças exigidas e se o mesmo botão alcança agentes de outras plataformas. O comunicado não esclarece. Se você for avaliar, faça essas três perguntas direto à Salesforce.

Quem define as regras do botão de desligamento de agentes de IA é você

O que mais me ajudou no comunicado foi o argumento. A Salesforce diz que os operadores hesitam em acionar a alavanca quando o sinal é ambíguo, e que essa hesitação transforma incidentes pequenos em incidentes caros. Se cada intervenção pode ser revertida, diz ela, um falso positivo custa segundos e um fim de semana de limpeza sai da conta. Minha leitura é que o argumento se sustenta: um freio barato é usado a tempo e um freio caro é adiado.

As regras do botão são definidas pela sua equipe. Antes da produção, você deveria conseguir responder quatro perguntas para cada agente crítico:

• O que para: uma solicitação, uma conversa, o agente inteiro?

• Quem pode desligá-lo, até num sábado, sem pedir três permissões.

• O que acontece com o que já estava em andamento, como e-mails pela metade ou registros pela metade.

• Como se restaura e quem dá o aval para ligá-lo de novo.

O próprio comunicado fecha com duas tarefas parecidas: definir o que significam soft stop e hard stop para cada agente crítico e documentar isso antes de precisar, e fazer um teste de desativação e restauração em um agente que não esteja em produção. Para mim, é a parte mais honesta do texto.

Quando frear de vez e quando com calma

Este critério é meu, sem respaldo do fabricante.

Freie de imediato (hard stop) quando:

• O agente pode escrever para clientes ou movimentar dinheiro e o erro se repete.

• Você suspeita que ele fugiu das instruções, por exemplo por injeção de comandos, um cenário que o comunicado menciona.

• Você não sabe o que ele está fazendo. Se não consegue explicar, pare.

Freie com calma, limitado a uma solicitação ou a uma sessão, quando:

• A falha está numa conversa específica e o resto funciona.

• O agente apenas propõe e uma pessoa aprova, então nada sai sozinho.

• Parar tudo custaria mais do que o próprio erro.

O freio rende mais com monitoramento ao lado. No resumo da Dreamforce 2026, a Salesforce apresenta o Agent Health Monitoring, que marca como disponível de forma geral, com mais de 16 métricas integradas e alertas, e o Custom Scorers, com a API disponível e a interface ainda em beta, para avaliar sessões com critérios próprios. A Salesforce os apresenta como forma de pegar as falhas que passam despercebidas. Confirme o status de cada peça antes de apoiar seu plano nela.

Então fica a pergunta incômoda: se o seu agente errar esta noite, você sabe quem o desliga e o que acontece depois? Se a resposta é "alguém vai resolver", ele ainda não está pronto para a produção.

Fontes:

• Salesforce México, "El botón de apagado que la IA agéntica necesitaba: Agent Kill Switch ya está disponible para todos" (setembro de 2026, em espanhol)

• Salesforce, "21 Things We Announced at Dreamforce 2026" (itens 14 e 18)