Nos acostumamos muito rápido a uma cena que, até pouco tempo atrás, parecia improvável: abrir uma conversa com uma IA, escrever um pedido e esperar.

Um texto. Uma explicação. Uma ideia. Um trecho de código.

Se a resposta não servisse, tentávamos de novo. Mais contexto, outro exemplo, uma instrução melhor. Aos poucos, aprender a usar IA passou a significar aprender a pedir.

Mesmo quando a resposta surpreendia, o ritmo continuava sendo nosso. A IA entregava alguma coisa e esperava. Nós decidíamos o próximo passo.

É esse ritmo que começa a mudar.

Com agentes, parte do caminho entre um pedido e um resultado pode ficar por conta do próprio sistema. Ele consulta informações, usa ferramentas, verifica o que aconteceu e decide como continuar. A Anthropic descreve essa diferença pela capacidade de conduzir o processo e escolher ferramentas durante a execução.

Em vez de acompanhar cada troca, podemos definir um objetivo e voltar depois para ver o trabalho.

“Eu pergunto, a IA responde” começa a dividir espaço com “eu defino um objetivo, a IA trabalha”.

Isso não significa que os prompts vão desaparecer. Continuaremos precisando explicar o que queremos. Mas uma instrução passa a poder iniciar uma sequência de ações, com decisões no meio que não escrevemos uma a uma.

A discussão sobre agentes always-on, preparados para operar continuamente, torna essa mudança mais visível. A NVIDIA já apresenta sistemas voltados a esse tipo de operação persistente. Para mim, o aspecto mais interessante é imaginar o trabalho seguindo enquanto nossa atenção está em outro lugar.

O que queremos encontrar quando voltarmos?

Pense em um pedido aparentemente simples: “organize minha próxima semana”.

A IA poderia identificar conflitos na agenda e sugerir novos horários. Também poderia remarcar compromissos, recusar convites ou enviar mensagens em meu nome.

Todas essas ações cabem, de alguma forma, na palavra “organizar”. Eu não necessariamente autorizaria todas.

Enquanto estamos conversando, podemos esclarecer essa diferença na próxima mensagem. Quando o sistema já está agindo, talvez o convite tenha sido cancelado antes de percebermos que faltou uma combinação.

Começo a achar mais interessante perguntar “o que estou disposto a delegar para uma IA?” do que “o que posso perguntar para ela?”.

A primeira pergunta me obriga a pensar nas consequências.

Na engenharia, isso fica bastante concreto. Eu posso querer que um agente investigue uma falha, leia o código e prepare uma correção. Publicar essa correção em um sistema usado por clientes é outra decisão.

O objetivo pode ser o mesmo: resolver o problema. A autorização precisa ser diferente em cada parte do caminho.

Para quem desenvolve software, há muito trabalho nessa passagem. Precisamos conseguir verificar o que foi feito, entender quais testes sustentam uma mudança e impedir que o acesso necessário para investigar vire permissão para alterar qualquer coisa.

Um resultado acompanhado de evidências é muito mais útil do que uma mensagem dizendo “resolvido”.

Isso também coloca um limite na promessa de simplesmente deixar a IA trabalhando. Em seus experimentos com agentes de longa duração, a Anthropic relata dificuldades como perder a continuidade entre sessões e considerar um trabalho concluído antes de verificá-lo adequadamente. Manter um sistema em execução não garante que ele esteja avançando na direção certa.

Na liderança de engenharia, essa discussão me parece familiar.

Quando delegamos trabalho a alguém, precisamos compartilhar contexto suficiente para que a pessoa tome decisões sem nos consultar a cada minuto. O resultado esperado importa, assim como as restrições, os compromissos com outras áreas e aquilo que ainda está em aberto.

Com uma IA, precisamos explicitar parte desse contexto e construir limites técnicos para sua atuação. Uma frase como “use o bom senso” não substitui uma permissão bem definida.

Talvez essa seja uma das dificuldades menos visíveis da adoção de agentes: descobrir quanto do nosso trabalho depende de coisas que nunca foram escritas.

Uma exceção que todo mundo conhece. Um cliente que exige uma conversa antes de qualquer mudança. Uma prioridade que foi alterada numa reunião e ainda não chegou à documentação.

Ao tentar delegar, encontramos essas lacunas.

Para uma empresa, comprar acesso a agentes pode acabar sendo a parte simples. Mais trabalhoso é decidir quem pode autorizar o quê, quais informações podem ser usadas e quem acompanha uma execução que atravessa diferentes sistemas.

É aí que governança deixa de parecer um assunto distante. Ela aparece na decisão sobre um reembolso, no acesso a um documento interno ou na possibilidade de enviar uma mensagem para um cliente.

Também há uma diferença entre errar e ser induzido a errar. Um agente que lê páginas, documentos e mensagens pode encontrar instruções maliciosas misturadas ao conteúdo que deveria analisar. A Anthropic discute esse risco, conhecido como prompt injection, e ressalta que a proteção depende de várias camadas, incluindo ferramentas, permissões e ambiente.

A confiança que me interessa aqui precisa ser específica. Confiar para consultar uma informação não equivale a confiar para compartilhá-la. Confiar para preparar uma ação não equivale a autorizar sua execução.

Se preciso aprovar cada movimento, continuo conduzindo o trabalho quase inteiro. Se deixo tudo acontecer sem visibilidade, posso descobrir um problema tarde demais.

O desafio está em escolher os momentos em que minha atenção faz diferença.

Quero ser chamado quando houver uma decisão relevante, uma ambiguidade que só eu possa resolver ou uma consequência que ainda não autorizei. Para isso, preciso conseguir reconhecer esses momentos antes de entregar a tarefa.

No artigo “Esta foto nunca foi tirada”, refleti sobre como a facilidade de criar uma imagem aumenta a importância de verificar sua origem. Vejo uma preocupação parecida aqui: conforme fica mais fácil colocar ações em movimento, cresce a necessidade de entender quem as autorizou e como foram executadas.

Há algo muito atraente na possibilidade de sair de uma conversa e encontrar trabalho adiantado quando voltar. Pesquisa organizada, uma proposta comparada, uma mudança pronta para revisão.

Quero poder aproveitar isso sem transformar meu dia numa fila de aprovações e sem precisar aceitar uma execução que não consigo examinar.

Estamos ensinando a IA a fazer coisas sozinha. Agora precisamos descobrir até onde queremos deixá-la ir.

Quando eu voltar e encontrar a tarefa concluída, quero conseguir responder a uma pergunta simples: ela fez o que eu queria, dentro do que eu autorizei?