Agentes de IA: qué cambia cuando la IA pasa de recomendar a actuar

Con una herramienta generativa convencional, el error suele llegar primero a una persona: una respuesta imprecisa, un análisis incompleto o una propuesta desacertada todavía pueden descartarse antes de producir consecuencias. Con un agente, ese margen puede reducirse porque el sistema puede encadenar pasos, utilizar herramientas o ejecutar una acción dentro del proceso. La capacidad de actuar cambia el riesgo, incluso cuando la tarea inicial parece rutinaria.

Por eso no basta con trasladar al mundo de los agentes las mismas prácticas utilizadas con un copiloto. Revisar una respuesta y supervisar una ejecución son problemas distintos. La organización necesita conocer no solo qué resultado espera, sino también hasta dónde puede avanzar el agente, qué recursos puede utilizar y en qué punto debe devolver la decisión a una persona.

De revisar respuestas a supervisar acciones

¿Qué debe preocupar más, que el agente se equivoque o que pueda actuar sobre ese error? Depende de la acción. Un fallo al consultar información puede corregirse con facilidad; uno que envía una comunicación, modifica un registro, concede acceso o inicia un proceso puede generar consecuencias antes de que alguien lo revise. La supervisión debe crecer con el impacto de la ejecución, no simplemente con la complejidad aparente de la tarea.

Esto obliga a separar capacidad técnica de autorización. Que un agente pueda completar varios pasos no significa que deba tener permiso para completarlos todos. Un equipo puede permitirle buscar información y preparar una propuesta, pero exigir aprobación antes de modificar datos o comunicarse con un cliente. El límite útil se decide según el efecto de la acción y la facilidad para detectarla y revertirla.

La responsabilidad no se delega junto con la ejecución

Delegar la ejecución tampoco convierte al agente en responsable del proceso. La organización sigue necesitando saber quién decidió conceder ese nivel de autonomía, quién revisa las excepciones y quién puede intervenir cuando el comportamiento deja de ser aceptable. Como ocurre con la responsabilidad cuando la IA participa en decisiones, introducir automatización puede repartir la responsabilidad entre más actores, pero no hacerla desaparecer.

El problema aparece cuando el agente tiene capacidad operativa y nadie conserva autoridad efectiva sobre ella. Un responsable nominal sirve de poco si no puede restringir permisos, detener una ejecución o decidir qué ocurre ante una excepción. Antes de aumentar la autonomía, el equipo debe poder identificar a la persona o rol que mantiene esas capacidades.

Qué deben controlar los equipos antes de dar autonomía a un agente

Dar autonomía a un agente no debería empezar preguntando cuántas tareas puede completar, sino qué consecuencias puede producir sin intervención humana. Consultar información, modificar datos, enviar mensajes o iniciar pagos pueden parecer pasos de un mismo flujo, pero exigen controles distintos por su impacto.

El objetivo tampoco es colocar una aprobación humana delante de cada paso. Eso trasladaría la carga de trabajo a quien supervisa. El equipo necesita distribuir el control donde realmente reduce el riesgo: permisos proporcionados, puntos de aprobación y mecanismos para detectar y gestionar excepciones.

Permisos: acceder solo a lo necesario para actuar

Los permisos definen el alcance real de un agente. Si una tarea consiste en consultar información y preparar una propuesta, permitir además modificar registros o ejecutar acciones externas amplía innecesariamente las consecuencias de un error. La autonomía útil empieza por limitar el acceso al mínimo necesario.

También importa qué puede hacer dentro de cada herramienta. Leer, crear, modificar, borrar o enviar no son capacidades equivalentes. Cuanto mayor sea el impacto de una acción, mayor debería ser la justificación para conceder ese permiso.

Aprobaciones: decidir qué acciones necesitan intervención humana

La aprobación humana aporta más valor cuando protege decisiones relevantes, difíciles de revertir o cargadas de contexto. Un agente puede preparar una respuesta comercial y una persona autorizar el envío si implica compromisos económicos, excepciones contractuales o información sensible.

La pregunta útil es qué no debería ocurrir sin confirmación previa. Impacto, reversibilidad, importe, destinatario, sensibilidad de los datos o aparición de una excepción pueden servir como criterio. Así, la supervisión deja de ser vigilancia constante y se concentra en decisiones concretas.

Trazabilidad, escalado y reversibilidad cuando algo se desvía

Incluso una acción autorizada puede producir un resultado inesperado. El equipo necesita poder reconstruir qué hizo el agente y actuar a partir de esa información: revisar, corregir, limitar permisos o detener el proceso.

También debe estar claro qué ocurre cuando el agente sale del caso previsto. Una excepción necesita un destinatario humano y una acción de alto impacto debe poder detenerse o, cuando sea posible, revertirse. Los guardarraíles para agentes de IA pueden implementar parte de esos límites, pero el equipo sigue decidiendo qué comportamientos son aceptables y quién interviene cuando dejan de serlo.

Cuánta autonomía puede asumir un agente de IA

No existe un nivel de autonomía adecuado para todos los agentes ni para todas las tareas. La misma organización puede permitir que un agente consulte información sin intervención, exigir aprobación antes de modificar un registro y prohibirle ejecutar una acción irreversible. La decisión depende menos de lo avanzado que sea el sistema que de qué puede ocurrir si actúa mal.

Para fijar ese límite conviene combinar cuatro variables: impacto de la acción, facilidad para revertirla, permisos necesarios y capacidad para detectar un error a tiempo. El trabajo de NIST sobre identidad y autorización de agentes también sitúa entre las cuestiones relevantes la identificación, autorización y auditoría cuando estos sistemas acceden a datos, herramientas y aplicaciones. El equipo debe traducir esos controles a una decisión operativa: cuánto puede hacer el agente antes de devolver el control a una persona.

Una escala para decidir qué puede ejecutar por sí solo

Una forma práctica de evitar el dilema entre autonomía total y aprobación constante es trabajar con niveles diferentes según la acción:

Nivel de autonomía	Qué puede hacer el agente	Control humano
Ejecución autónoma	Realizar acciones de bajo impacto y fácilmente reversibles	Revisión periódica de resultados y límites
Ejecución con registro	Actuar sin aprobación previa cuando sea necesario poder reconstruir lo ocurrido	Trazabilidad y revisión ante señales o excepciones
Aprobación previa	Preparar la acción, pero no ejecutarla hasta recibir autorización	Una persona valida antes de producir la consecuencia
Fuera de su autonomía	No ejecutar acciones cuyo impacto, permisos o dificultad de reversión superen el riesgo aceptado	La decisión y ejecución permanecen bajo responsabilidad humana

La utilidad de la escala está en aplicarla a acciones concretas, no al agente completo. Un mismo agente puede tener autonomía para clasificar solicitudes, necesitar aprobación para responder a determinadas excepciones y no disponer nunca de permiso para borrar información crítica. Para quienes necesiten trasladar estos criterios a la implementación, el curso Desarrollo de agentes con OpenAI permite trabajar de forma práctica con herramientas, delegación, guardarraíles y trazabilidad.

Cuándo ampliar, limitar o retirar la autonomía

La autonomía tampoco debería concederse una vez y darse por resuelta. Si el agente demuestra un comportamiento estable en tareas acotadas, puede tener sentido ampliar gradualmente su margen. Si aparecen errores difíciles de detectar, nuevas excepciones o consecuencias mayores de las previstas, el equipo debería poder reducirlo sin esperar a que ocurra un incidente grave.

La pregunta de revisión es sencilla: ¿seguiríamos concediendo hoy estos permisos con lo que sabemos ahora? Si la respuesta cambia, también deberían cambiar los límites. Supervisar agentes implica conservar esa capacidad de reajuste y asegurar que siempre existe alguien con autoridad para ampliar, restringir o retirar la autonomía.

Conclusiones

Los agentes de IA obligan a cambiar la forma de entender la supervisión. Cuando un sistema puede actuar, utilizar herramientas y avanzar dentro de un proceso, controlar ya no significa revisar únicamente lo que produce. Significa decidir qué autonomía puede asumir, bajo qué condiciones y quién conserva la autoridad para intervenir.

El objetivo tampoco es frenar cada acción con una aprobación humana. Los equipos necesitan combinar permisos proporcionados, puntos de control, trazabilidad y capacidad de escalado según el impacto y la reversibilidad de cada tarea. Delegar ejecución puede aumentar la eficiencia, pero la responsabilidad sobre los límites concedidos sigue siendo humana.

La autonomía útil no es la máxima posible, sino la que una organización puede explicar, supervisar y retirar cuando deja de ser adecuada.