Agentes de IA: autonomía, acción y control humano

TL;DR. Un agente de IA no solo responde, actúa: usa herramientas (calendario, correo, web) en un ciclo de observar, razonar y ejecutar hasta cumplir un objetivo. Ofrece mucha productividad, pero también nuevos riesgos: puede malinterpretar la orden, elegir mal o ser manipulado. Por eso necesita permisos controlados y supervisión humana de su plan, no solo del resultado.

Una situación cotidiana: la preparación de una reunión

Imagine que tiene una tarde cargada de trabajo y necesita organizar una reunión importante para la próxima semana con un cliente. En lugar de buscar usted mismo los huecos libres, revisar el historial de conversaciones y redactar la convocatoria, le pide a un sistema: “Prepara la reunión con el cliente X”.
Un sistema convencional podría simplemente responderle con consejos sobre cómo redactar una invitación 1. Sin embargo, un agente de IA comenzaría a trabajar en segundo plano: consultaría su calendario para ver su disponibilidad, buscaría en su correo electrónico intercambios anteriores con ese cliente, localizaría los documentos del proyecto en su nube, redactaría un resumen de los puntos pendientes, propondría una agenda de temas y dejaría preparada una invitación personalizada para que usted la revise antes de enviarla 2, 3.

De una IA que responde a una IA que actúa

Hasta hace poco, la mayoría de los usuarios interactuaban con la inteligencia artificial a través de chatbots, que actúan principalmente como máquinas de preguntas y respuestas basadas en la información con la que fueron entrenadas 1. El cambio hacia los agentes representa un paso fundamental: la transición de modelos que solo generan texto a sistemas que pueden utilizar herramientas y ejecutar acciones en un entorno digital 1, 3.

Qué es un agente explicado sin tecnicismos

Un agente no es necesariamente un modelo de IA más inteligente que los demás 4. La diferencia reside en su arquitectura: es un sistema donde un modelo recibe un objetivo específico y opera en un ciclo continuo hasta alcanzarlo 2, 5.
Para entenderlo, piense en la IA como el “motor” o la inteligencia, y en el agente como el “vehículo” completo que incluye la dirección, las ruedas y las herramientas para navegar por un entorno 3. El agente no sigue un guion rígido de principio a fin, sino que decide por sí mismo qué pasos dar basándose en lo que observa en cada momento 2.

Diferencia entre chatbot, automatización, workflow y agente

Es común confundir estos términos, pero sus estructuras son muy distintas:

• Chatbot: Es un sistema de interacción donde el usuario pregunta y la IA responde basándose en su memoria o en documentos proporcionados, sin capacidad de actuar fuera de la charla 1.
• Automatización tradicional: Sigue una secuencia fija de pasos (“si ocurre A, entonces haz B”) definida por un programador. No tiene capacidad de decisión ante imprevistos 2, 6.
• Workflow con IA: Es un sistema donde varios pasos están predefinidos por código, pero en algunos puntos intermedios se utiliza la IA para procesar información o clasificar datos antes de seguir el camino marcado 6, 7.
• Agente de IA: Es un sistema autónomo donde la IA dirige sus propios procesos. El modelo recibe el objetivo y él mismo elige qué herramientas usar y qué camino seguir, ajustando su plan según los resultados que va obteniendo 6, 8.

Los componentes básicos de un agente

Para que una IA pueda actuar como un agente, necesita estar rodeada de varios elementos que Anthropic define como las capas de un sistema agente 3:

1. Objetivo: La tarea final que el usuario quiere lograr (ej. “Prepara la reunión”).
2. Modelo: El “cerebro” o la inteligencia que procesa la información y razona 3.
3. Instrucciones (Arnés): El conjunto de reglas y límites de seguridad bajo los que opera el modelo (ej. “No envíes correos sin permiso”) 3.
4. Herramientas: Aplicaciones que el modelo puede usar, como el correo, el calendario o el buscador 3.
5. Información sobre el estado (Entorno): El contexto donde opera el agente, como los archivos a los que tiene acceso o las webs que puede visitar 3.
6. Ciclo de actuación: El proceso repetitivo de planificar y actuar hasta terminar 2.
7. Condición de parada: Una regla que detiene al agente cuando el objetivo se ha cumplido o se ha alcanzado un límite de intentos 8.

El ciclo: cómo “piensa” y actúa el agente

Un agente opera mediante un ciclo denominado ReAct (Razonamiento y Actuación) 9. En lugar de dar una respuesta única, el sistema realiza los siguientes pasos de forma iterativa 2, 9:

• Observa: Mira el entorno o el resultado del paso anterior (ej. “He visto que el cliente no puede los lunes”).
• Decide: Razona sobre qué hacer a continuación (ej. “Buscaré disponibilidad para el martes”).
• Actúa: Utiliza una herramienta (ej. Abre el calendario y comprueba el martes).
• Comprueba: Evalúa si la acción funcionó o si necesita corregir algo.
• Continúa o se detiene: Si el objetivo no se ha cumplido, vuelve a empezar el ciclo.

Ejemplo completo: preparando la reunión con el cliente

Siguiendo nuestro ejemplo principal, este sería el proceso interno del agente:El sistema recibe la orden. Observa que no sabe quién es el cliente X. Decide usar la herramienta de “Búsqueda en contactos”. Actúa y encuentra el correo del cliente. Luego, decide buscar “reunión cliente X” en su correo para ver de qué hablaron la última vez. Observa un correo de ayer donde el cliente decía que solo puede por las mañanas. El agente añade esa restricción a su plan. Finalmente, comprueba los huecos libres en su calendario que sean por la mañana y prepara un borrador de invitación 2, 3.

Qué puede hacer bien un agente

Los agentes son excelentes para problemas abiertos donde es difícil predecir cuántos pasos serán necesarios 10. Son muy útiles en:

• Atención al cliente: Donde pueden consultar datos del usuario y emitir reembolsos de forma programada 11.
• Tareas de investigación: Donde deben navegar por múltiples fuentes hasta encontrar un dato específico 12.
• Programación: Donde pueden escribir código, probarlo, observar el error y corregirlo en un bucle hasta que funcione 13.

Qué sigue necesitando una secuencia fija y no un agente

A pesar de su flexibilidad, el uso de agentes implica mayores costes y latencia 6. Si una tarea se puede descomponer fácilmente en pasos fijos y predecibles (como convertir un documento de Word a PDF), es preferible usar una automatización tradicional o un workflow rígido, ya que ofrecen mayor consistencia y menos errores acumulativos 7, 14, 15.

Qué puede salir mal: riesgos detectados

Permitir que una IA actúe introduce fallos que no existían cuando solo respondía preguntas. Benchmarks como OSWorld 2.0 (publicado en junio de 2026) muestran que los agentes actuales todavía pierden el hilo de las restricciones o ignoran información que llega a mitad de la tarea 16. Los errores más comunes incluyen:

• Interpretar mal el objetivo: Confundir a dos clientes con nombres similares 16.
• Elegir una herramienta incorrecta: Intentar usar el calendario para buscar una factura 8.
• Perder una condición: Olvidar que el cliente solo podía por la mañana y proponer una cita por la tarde 16.
• Confiar en información manipulada: Un ataque de prompt injection (instrucciones maliciosas ocultas en un correo) podría engañar al agente para que envíe información privada a un atacante 17, 18.
• Repetir acciones: Quedarse bloqueado intentando abrir un archivo que no tiene permiso para leer.
• Considerar terminada una tarea incompleta: Informar de que la reunión está lista sin haber verificado si el enlace de videoconferencia funciona 16.
• Ejecutar correctamente una orden equivocada: Si usted le pide “Borra todos los eventos”, el agente lo hará con total eficacia, aunque sea un error humano 19.

Estos modos de fallo comparten raíz técnica en el carácter no-determinista de los LLM cuando se ponen en producción, tratado en detalle en el error más caro con LLM en producción.

Diferencia entre leer, preparar y actuar

Es vital que el usuario comprenda estos tres niveles de permisos:

1. Consultar información: El agente lee datos (calendario, correos). El riesgo es de privacidad 20, 21.
2. Preparar una acción: El agente redacta el correo o crea el evento pero no lo confirma. Es el nivel más seguro para la supervisión humana 20, 22.
3. Ejecutar una acción: El agente envía el correo o borra el archivo. Aquí es donde los errores son más difíciles de deshacer 3, 20.

Cómo cambian los riesgos según los permisos

Cuantos más permisos y herramientas tenga un agente, mayor es la superficie de ataque y las consecuencias de un error 17, 23. Un agente con acceso a “solo lectura” puede filtrar datos, pero un agente con permisos de “escritura” o “ejecución” puede comprometer la integridad de sus sistemas o realizar acciones costosas en su nombre 17, 24.

Qué significa realmente supervisión humana

La supervisión no debería ser una aprobación mecánica de cada pequeño clic, ya que eso genera fatiga y hace que el usuario deje de prestar atención 22.Una supervisión efectiva implica que el humano valide la estrategia general antes de que el agente empiece a actuar. Por ejemplo, la función Plan Mode permite que la IA le muestre primero todo lo que piensa hacer para que usted lo edite o apruebe en conjunto 22. Además, el sistema debe saber cuándo detenerse y preguntar si encuentra una ambigüedad que solo el usuario puede resolver 25, 26.

Qué debería poder ver, detener, corregir y deshacer el usuario

Para un despliegue seguro, NIST recomienda que los sistemas permitan 27, 28:

• Ver: Un registro transparente de cada paso dado por el agente 29, 30.
• Detener: Un botón de pausa o desactivación inmediata si el agente se comporta de forma errática 27, 31.
• Corregir: Poder modificar una invitación redactada por la IA antes de que se envíe 22.
• Deshacer: Mecanismos de recuperación para revertir cambios accidentales realizados por el agente 32, 33.

Cinco preguntas antes de permitir que un agente actúe

1. ¿Qué herramientas específicas tiene permiso para usar este agente en mi nombre?
2. ¿He revisado el plan de pasos que va a seguir antes de que ejecute la primera acción?
3. ¿Tiene el agente permiso para enviar información al exterior o solo para organizarla internamente?
4. ¿Sé cómo detener el proceso si observo que el agente está cometiendo un error?
5. ¿Existen instrucciones maliciosas en los documentos o correos que el agente va a procesar?

Cierre

Los agentes de IA no son entidades inteligentes que “comprenden” sus deseos, sino sistemas logísticos que ejecutan ciclos de razonamiento y acción utilizando herramientas digitales 2, 34. Aunque ofrecen un gran potencial de productividad, su autonomía requiere que el usuario mantenga el control sobre los permisos y realice una supervisión centrada en la estrategia, no solo en los resultados finales.

Un registro público de incidentes reales con agentes y otros sistemas de IA está en el observatorio LaAutopsIA.

Tabla comparativa de sistemas

Resumen final

Un agente de IA es un sistema que utiliza un modelo de lenguaje para planificar y ejecutar tareas de forma iterativa mediante el uso de herramientas externas. A diferencia de un chatbot, puede realizar acciones como consultar calendarios o redactar correos, pero su autonomía introduce riesgos de seguridad y errores de ejecución que hacen imprescindible la supervisión humana del plan de acción y el control estricto de sus permisos de ejecución.

Fuentes utilizadas

• Building Effective AI Agents. Anthropic. Diciembre 2024. 4-8, 10-15, 29, 35
• Trustworthy agents in practice. Anthropic. Abril 2026. 1-3, 17, 20, 22-26, 30, 36
• ReAct: Synergizing Reasoning and Acting in Language Models. Yao et al. Octubre 2022 (rev. 2023). 9
• OSWorld 2.0: Benchmarking Computer Use Agents on Long-Horizon Real-World Tasks. Yuan et al. Junio 2026. 16
• WebArena: A Realistic Web Environment for Building Autonomous Agents. Zhou et al. Julio 2023 (rev. 2024). 37, 38
• NIST AI 600-1: Artificial Intelligence Risk Management Framework. Julio 2024. 18, 19, 21, 27, 28, 31-34, 39, 40
• OWASP Top 10 for Agentic Applications 2026. Diciembre 2025. 41

Tabla de verificación

📄 Esta guía también está disponible en formato PDF para consulta offline.