El espejismo de los agentes de IA

La demo duró doce minutos y fue impecable. El agente leyó una bandeja de facturas, las cruzó con los pagos del banco y redactó un resumen en lenguaje natural para la gerencia. El directorio aplaudió y aprobó un piloto. Tres meses después, el piloto sigue en un servidor de pruebas. Funciona con los datos de ejemplo. Con los datos reales, se equivoca de maneras que nadie sabe explicar, y nadie se atreve a dejarlo escribir en el ERP.

La industria ya tiene un nombre para ese lugar: el «purgatorio de los pilotos», donde terminan proyectos de IA que brillan en la presentación y nunca llegan a la operación. A veces falla el modelo frente a casos reales. Otras veces faltan datos, herramientas, permisos o una definición clara del proceso. Hay que medir cada pieza antes de culpar a una sola.

El error, ahora a escala

Una conciliación manual puede fallar y pasar inadvertida. Si un agente aplica una regla ambigua a miles de movimientos sin controles, también puede repetir el error a escala antes de que alguien lo detecte. La causa puede estar en la definición del proceso, en los datos, en las herramientas o en el modelo. Hay que probar cada parte y revisar excepciones antes de darle volumen.

La IA no ordena por sí sola un proceso confuso. Las planillas sin gobierno, el conocimiento en la cabeza de una persona y las cinco versiones de la verdad aumentan el riesgo de obtener respuestas equivocadas con una redacción convincente.

El modelo es el motor. Sin carretera, un motor más grande solo hace más ruido.

Lo que no aparece en la demo

Para pasar de una demo a una operación confiable hay que probar el modelo y el sistema que lo rodea. Estas cinco piezas suelen decidir si el piloto puede avanzar.

• Reglas escritas: qué hacer, qué no hacer y qué hacer cuando no está seguro. Sin ellas, el agente improvisa.
• Datos conectados y definidos: acceso a las fuentes reales, no a una exportación de la semana pasada, y con las definiciones que usa el negocio.
• Permisos por rol: qué herramientas usa, qué lee y qué puede escribir, igual que una persona. El agente de cobranza no necesita ver remuneraciones.
• Registro completo: qué propuso, con qué datos, qué regla aplicó. Sin trazabilidad, nadie confía y nadie audita.
• Aprobación humana donde importa: las acciones de alto impacto esperan un visto bueno. Eso no frena al agente; es lo que permite darle trabajo real.

El orden correcto

Una secuencia prudente empieza por escribir las reglas y excepciones del proceso, conectar fuentes confiables y automatizar con reglas probadas lo que no necesita un modelo. Los casos restantes pueden requerir software convencional, un agente o revisión humana. Esa elección se hace con pruebas, límites claros y aprobación proporcional al riesgo.

Es menos espectacular que doce minutos frente al directorio. También permite saber qué parte del proceso puede operar con seguridad y cuál necesita más trabajo.

Las escenas de estos episodios son composiciones de situaciones frecuentes, no casos de clientes. Las cifras que aparecen en ellas son ilustrativas.