Os primeiros assistentes de chat de IA eram ferramentas que produziam uma única resposta a uma pergunta. A nova geração de sistemas chamados "agentes" consegue, quando lhe é dado um objetivo, planear os passos necessários para o alcançar, utilizar ferramentas como pesquisar na web, ler e escrever ficheiros, executar código ou navegar num site, e verificar o resultado, tentando novamente se necessário.
Como funcionam?
Um agente funciona habitualmente num ciclo: compreende a tarefa, elabora um plano, utiliza uma ferramenta (por exemplo, executar uma pesquisa ou abrir um ficheiro), avalia o resultado e decide o passo seguinte. O ciclo continua até que a tarefa esteja concluída ou seja necessária a aprovação do utilizador. O que um agente pode fazer depende das ferramentas e dos dados a que lhe foi dado acesso.
Exemplos de utilização
- Investigação: Analisar dezenas de fontes e preparar um relatório com referências.
- Trabalho de escritório: Recolher informações de e-mails para uma tabela, agendar reuniões.
- Software: Encontrar e corrigir um erro num código-fonte, escrever testes.
- Tarefas pessoais: Comparar opções de viagem, preencher formulários (com aprovação para passos críticos, como o pagamento).
Riscos
- Ações erradas: Um agente pode compreender mal uma instrução e enviar um e-mail indesejado ou apagar um ficheiro.
- Injeção de comandos (prompt injection): Instruções maliciosas escondidas numa página web ou num documento podem tentar orientar o agente. Este é um dos problemas de segurança mais debatidos no que respeita aos agentes.
- Permissões excessivas: Um acesso amplo a áreas sensíveis, como contas bancárias ou sistemas empresariais, traz o risco de danos graves.
- Responsabilidade: O utilizador ou a organização é, em última análise, responsável pelas ações tomadas pelo agente.
Princípios para uma utilização segura
- Dar ao agente apenas as permissões mínimas necessárias para a tarefa.
- Configurá-lo para pedir aprovação antes de passos irreversíveis, tais como transferir dinheiro, efetuar compras, enviar e-mails e apagar.
- Rever o registo das ações executadas pelo agente.
- Ter cuidado ao permitir que um agente processe documentos e sites de fontes desconhecidas.
A diferença entre um agente de IA e a automatização clássica
As ferramentas de automatização clássicas utilizadas nos locais de trabalho durante anos funcionam de acordo com regras pré-escritas, tais como "Se chegar uma fatura a esta pasta, escreva o montante na folha de cálculo." Quando se deparam com uma situação fora das regras, normalmente param. Em contrapartida, os agentes de IA recebem um objetivo em linguagem natural, planeiam os passos por si próprios e podem tentar um caminho diferente quando algo inesperado acontece.
- Flexibilidade: Um agente pode tentar compreender um documento cujo formato mudou; uma ferramenta baseada em regras não o consegue fazer.
- Previsibilidade: A automatização clássica dá sempre o mesmo resultado; o comportamento de um agente pode variar consoante os dados de entrada e este pode cometer erros.
- Supervisão: É por isso que manter um registo de cada passo e exigir a aprovação humana para ações importantes é ainda mais relevante no caso dos agentes.
Perguntas a colocar antes de utilizar um agente
A comunidade de segurança OWASP inclui a "agência excessiva" na sua lista dos riscos mais importantes nas aplicações de modelos linguísticos de grande escala: se a um agente forem dadas mais permissões do que o necessário, uma instrução mal compreendida ou conteúdos maliciosos podem causar danos reais.
É por isso que é útil colocar as seguintes questões antes de começar a utilizar um agente: A que contas e ficheiros consegue aceder? As ações irreversíveis, tais como enviar dinheiro, apagar ou enviar e-mails, exigem a minha aprovação? Posso ver cada passo que tomou posteriormente? O Instituto Nacional de Padrões e Tecnologia (NIST) dos EUA recomenda igualmente, através da sua Estrutura de Gestão de Riscos de IA, a monitorização contínua dos efeitos dos sistemas de IA e responsabilidades claramente definidas.
As funcionalidades, os planos e os preços das ferramentas de IA mudam frequentemente. Consulte sempre a página oficial da ferramenta para obter informações atualizadas.
Perguntas frequentes
Qual é a diferença entre um agente e um assistente de chat?
Um assistente de chat produz principalmente respostas; um agente executa ações utilizando ferramentas para atingir um objetivo. Uma vez que muitos assistentes incluem agora funcionalidades de agente, a linha que os separa é cada vez mais ténue.
Fontes e leitura adicional
- OWASP, “Top 10 for LLM Applications” (injeção de comandos e agência excessiva).
- NIST, “AI Risk Management Framework: Generative AI Profile” (NIST AI 600-1), 2024.
- Shunyu Yao et al., “ReAct: Synergizing Reasoning and Acting in Language Models”, ICLR, 2023.
- OWASP – Top 10 for LLM Applications 2025 (Excessive Agency)
- NIST – AI Risk Management Framework (AI RMF 1.0), 2023
Deixe um comentário
Seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *