O que é um agente de IA
Um chatbot responde com texto. Um agente, além disso, usa ferramentas: busca nos seus documentos, consulta uma API, escreve num banco de dados ou manda e-mail. É o que o torna útil e o que o torna perigoso, porque já não apenas diz coisas, ele as faz.
Dentro da empresa costumam nascer colados a algo que já existe: a busca interna, o CRM, o mensageiro. É aí que herdam permissões que ninguém revisou.
Tipos de agentes de IA
Os manuais os classificam pela forma como decidem: reativos, baseados em objetivos, que aprendem. Numa empresa, é mais útil classificá-los pelo que podem fazer. O assistente com ferramentas responde e consulta sistemas quando pedem. O agente de fluxo executa sozinho uma tarefa de vários passos, como classificar e-mails e abrir chamados. E nos sistemas de vários agentes um planeja e os outros executam, o que costuma se chamar IA agêntica.
Quanto mais autonomia, mais importa o que ele pode tocar. Um assistente que só lê é um risco de dados; um agente que escreve, envia ou paga é também um risco de dinheiro e de reputação.
Exemplos de agentes de IA numa empresa
Atendimento: responde com a base de conhecimento e abre o caso no CRM. Vendas: resume ligações e atualiza oportunidades. Desenvolvimento: escreve mudanças e propõe pull requests. Dados: responde perguntas de negócio consultando o data warehouse. Operações: lê alertas, procura a causa e propõe a correção.
Em todos se repete a mesma pergunta: com quais permissões ele age e quem vê o que ele faz. Um agente de suporte que lê todos os casos pode devolver os de outro cliente; um de dados que consulta com permissão de administrador responde o que quem pergunta não deveria ver.
O que pode dar errado
Três coisas se repetem. A primeira, devolver a uma pessoa dados que não são dela, porque o agente vê mais do que quem pergunta. A segunda, prompt injection: um texto escondido em um documento ou em um site muda as instruções dele. A terceira, agir demais: apaga, envia ou paga sem que ninguém tenha aprovado.
Nenhuma das três aparece na demonstração, porque ali o documento é seu, a pergunta é amigável e o volume é de três arquivos.
O que revisamos antes de deixá-lo sozinho
Que dados ele pode ler e devolver, e para quem; que ferramentas pode usar e com que limites de gasto e de uso; a resistência a prompt injection, testada à mão com os casos de quem quisesse abusar; o que fica registrado de cada decisão; e o que acontece quando o modelo muda, que é o que ninguém volta a olhar.
Essa revisão é a de governança de IA quando falamos do conjunto, e a do backend e da sua API quando falamos do sistema onde o agente vive.