Temporada 2 · Episodio 5 · Diseño
Autonomía graduada: dónde decide el agente y dónde decide una persona
La pregunta no es si confiar en un agente, sino cuánto, para qué y con qué red. La autonomía se diseña por niveles, como en los autos que se conducen solos.
En una empresa, el piloto de un agente de conciliación termina en una discusión que parece filosófica. Finanzas quiere que el agente registre solo los calces obvios, sin molestar a nadie. Auditoría no quiere que registre nada sin revisión. TI no sabe qué configurar. Pasan tres semanas sin decisión, hasta que alguien dibuja en la pizarra cuatro formas de operar: informar, proponer, ejecutar tras aprobación o ejecutar con aviso. Las acciones prohibidas quedan fuera de la escala.
La escena es una composición, y la escala de la pizarra es la idea central de este episodio. La autonomía de un agente no es una decisión única. Es un diseño.
La lección de los autos autónomos
La norma SAE J3016 define niveles del 0 al 5 para funciones de conducción, desde ninguna automatización hasta conducción automatizada bajo todas las condiciones en que una persona puede conducir. El nivel describe la función activa y las responsabilidades de la persona y el sistema; un vehículo puede ofrecer funciones de niveles distintos. La analogía útil es definir alcance y responsabilidad para cada función, no aplicar la norma automotriz a la IA empresarial.
Los cuatro niveles que siguen son una guía de diseño para agentes de negocio, no niveles SAE. Una misma aplicación puede asignar controles distintos a cada tarea.
Cuatro niveles prácticos
- Informa: consulta, analiza y reporta, sin modificar registros de negocio.
- Propone: prepara una acción y su evidencia; una persona decide y ejecuta en el sistema.
- Ejecuta con aprobación previa: el agente aplica la acción solo después del visto bueno explícito del rol autorizado.
- Ejecuta con aviso: actúa automáticamente dentro de límites estrictos, registra el resultado y avisa para revisión posterior. Solo para casos de bajo impacto y reversibles.
Algunas acciones quedan prohibidas para ese agente, cualquiera sea su nivel en otras tareas. La escala no reemplaza los permisos técnicos ni la posibilidad de detenerlo.
La pregunta no es si confiar en el agente. Es cuánto, para qué tarea y con qué red de seguridad.
Cómo asignar el nivel
Para asignar el nivel inicial, empieza por el impacto y la reversibilidad de un error. Un borrador de correo suele ser menos grave que un pago a la cuenta equivocada; reclasificar un ticket suele ser más fácil de deshacer que registrar un asiento en un período cerrado. Añade sensibilidad de datos, capacidad de detectar fallos a tiempo y obligaciones del proceso. Las tareas de alto impacto o difíciles de revertir permanecen en «propone» o «aprobación previa».
La autonomía se gana con evidencia
Asignar autonomía después de una buena demo es arriesgado. Conviene empezar con revisión humana y ampliar el alcance cuando pruebas representativas y casos difíciles cumplan umbrales acordados de calidad y seguridad. Una alta tasa de aprobación sin cambios, por sí sola, no basta: hay que examinar los errores poco frecuentes, monitorear en producción y poder volver a un nivel anterior.
Esto requiere dos cosas que se repiten en toda esta temporada: registrar las propuestas con efecto en el negocio y las decisiones de control, y medir los resultados. Sin eso, la discusión sobre autonomía vuelve a ser filosófica.
Para el lunes
- Toma un proceso candidato y lista cada acción que un agente podría realizar en él.
- Clasifica cada acción según el costo de un error y si es reversible.
- Asigna un nivel inicial a cada una y define qué evidencia haría falta para subirlo.
Fuentes y contexto
Las escenas de estos episodios son composiciones de situaciones frecuentes, no casos de clientes. Las cifras que aparecen en ellas son ilustrativas.