Ir al contenido

El conocimiento que ilumina el mundo

¿Qué son los agentes de IA? El paso de los chats a los asistentes que realizan tareas

La inteligencia artificial ya no se limita a responder preguntas: puede navegar por la web, rellenar formularios, editar archivos y llevar a cabo tareas de varios pasos por sí misma. Cómo funcionan los agentes, ejemplos de uso, los riesgos y los principios para utilizarlos de forma segura.

¿Qué son los agentes de IA? El paso de los chats a los asistentes que realizan tareas

Los primeros asistentes de chat con IA eran herramientas que producían una sola respuesta a una pregunta. La nueva generación de sistemas llamados "agentes" puede, al recibir un objetivo, planificar los pasos necesarios para alcanzarlo, utilizar herramientas como buscar en la web, leer y escribir archivos, ejecutar código o navegar por un sitio web, y comprobar el resultado, intentándolo de nuevo si es necesario.

¿Cómo funcionan?

Un agente suele funcionar en un bucle: comprende la tarea, elabora un plan, utiliza una herramienta (por ejemplo, realiza una búsqueda o abre un archivo), evalúa el resultado y decide el siguiente paso. El bucle continúa hasta que la tarea se completa o se necesita la aprobación del usuario. Lo que un agente puede hacer depende de a qué herramientas y datos se le haya dado acceso.

Ejemplos de uso

  • Investigación: Examinar decenas de fuentes y preparar un informe con referencias.
  • Trabajo de oficina: Recopilar información de correos electrónicos en una tabla, programar reuniones.
  • Software: Encontrar y corregir un error en una base de código, escribir pruebas.
  • Tareas personales: Comparar opciones de viaje, rellenar formularios (con aprobación para pasos críticos como el pago).

Riesgos

  • Acciones erróneas: Un agente puede malinterpretar una instrucción y enviar un correo electrónico no deseado o eliminar un archivo.
  • Inyección de instrucciones: Instrucciones maliciosas ocultas en una página web o documento pueden intentar guiar al agente. Este es uno de los problemas de seguridad más debatidos en relación con los agentes.
  • Permisos excesivos: El acceso amplio a áreas sensibles como cuentas bancarias o sistemas de empresa conlleva el riesgo de causar daños graves.
  • Responsabilidad: El usuario o la organización son los últimos responsables de las acciones que realice el agente.

Principios para un uso seguro

  1. Dar al agente solo los permisos mínimos necesarios para la tarea.
  2. Configurarlo para que solicite aprobación antes de realizar pasos irreversibles como transferir dinero, comprar, enviar correos electrónicos y eliminar elementos.
  3. Revisar el registro de las acciones que ha llevado a cabo el agente.
  4. Tener cuidado al permitir que un agente procese documentos y sitios de fuentes desconocidas.

La diferencia entre un agente de IA y la automatización clásica

Las herramientas de automatización clásica utilizadas en los lugares de trabajo durante años funcionan según reglas preescritas, como "Si llega una factura a esta carpeta, escribe la cantidad en la hoja de cálculo". Cuando se encuentran con una situación fuera de las reglas, normalmente se detienen. Los agentes de IA, por el contrario, reciben un objetivo en lenguaje natural, planifican los pasos por sí mismos y pueden probar una ruta diferente cuando ocurre algo inesperado.

  • Flexibilidad: Un agente puede intentar comprender un documento cuyo formato ha cambiado; una herramienta basada en reglas no puede hacerlo.
  • Predictibilidad: La automatización clásica ofrece el mismo resultado cada vez; el comportamiento de un agente puede variar según la entrada y puede cometer errores.
  • Supervisión: Por esta razón, mantener un registro de cada paso y exigir la aprobación humana para las acciones importantes es aún más crucial cuando se trabaja con agentes.

Preguntas que se deben hacer antes de utilizar un agente

La comunidad de seguridad OWASP incluye la "agencia excesiva" en su lista de los riesgos más importantes en las aplicaciones de modelos de lenguaje grande: si a un agente se le conceden más permisos de los necesarios, una instrucción malinterpretada o contenido malicioso pueden causar daños reales.

Por ello, resulta útil plantearse lo siguiente antes de empezar a utilizar un agente: ¿A qué cuentas y archivos puede acceder? ¿Las acciones irreversibles como enviar dinero, eliminar elementos o enviar correos electrónicos requieren mi aprobación? ¿Puedo ver cada paso que ha dado posteriormente? El Instituto Nacional de Estándares y Tecnología (NIST) de EE. UU., en su marco de gestión de riesgos de IA, recomienda de manera similar la supervisión continua de los efectos de los sistemas de IA y responsabilidades claramente definidas.

Las características, planes y precios de las herramientas de IA cambian con frecuencia. Compruebe siempre la página oficial de la herramienta para obtener información actualizada.

Preguntas frecuentes

¿Cuál es la diferencia entre un agente y un asistente de chat?

Un asistente de chat se encarga principalmente de producir respuestas; un agente realiza acciones utilizando herramientas para alcanzar un objetivo. Dado que muchos asistentes incorporan ahora funciones de agente, la línea que los separa es cada vez más difusa.

Fuentes y lecturas adicionales

  1. OWASP, “Top 10 for LLM Applications” (inyección de instrucciones y agencia excesiva).
  2. NIST, “AI Risk Management Framework: Generative AI Profile” (NIST AI 600-1), 2024.
  3. Shunyu Yao et al., “ReAct: Synergizing Reasoning and Acting in Language Models”, ICLR, 2023.
  4. OWASP – Top 10 for LLM Applications 2025 (Excessive Agency)
  5. NIST – AI Risk Management Framework (AI RMF 1.0), 2023
Compartir
Sigue a YulaHubRecibe primero las noticias más importantes del día.
RSS

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *