Diseñar la Arquitectura Para Agentes de IA, No Solo Alrededor de Ellos

El problema

Un equipo nos buscó después de agregar un agente autónomo a su sistema de inventario existente. El agente podía leer niveles de stock, generar reórdenes y actualizar registros de proveedores — todo a través de la misma API que usaba un administrador humano. En una semana, los conteos de stock empezaron a divergir de la realidad. No por un mal output de la IA; porque el agente usaba legítimamente una API diseñada para un humano que verifica contexto que una máquina nunca tuvo.

La API permitía que cualquier llamador actualizara un registro de proveedor sin saber si había una reorden en curso ligada a ese proveedor. Un administrador humano con un año en el equipo sabía, de manera informal, no tocar registros de proveedores mientras hubiera una reorden activa. El agente no tenía forma de saberlo — esa restricción nunca se había escrito en ningún lugar que el sistema pudiera hacer cumplir.

La decisión

Dejamos de tratar “agregar un agente” como un problema de integración y empezamos a tratarlo como un problema de arquitectura. Los agentes no fallan porque sean poco confiables en abstracto — fallan cuando se les da acceso a operaciones cuya secuencia segura depende de contexto que nunca se codificó como un límite del sistema.

Nuestro estándar ahora: antes de que cualquier agente reciba acceso de escritura a un sistema, definimos las operaciones que realmente puede realizar como una interfaz explícita y más estrecha — no la misma API que usa un humano, envuelta en un prompt. Esa interfaz codifica las reglas de secuencia directamente (un bloqueo de reorden es una restricción real de base de datos, no una convención), y cada escritura que hace el agente pasa por un punto de control con supervisión humana dimensionado según el radio de impacto de esa acción específica — aprobado automáticamente para una reorden rutinaria dentro de presupuesto, retenido para revisión para cualquier cosa que toque registros de proveedores o gasto fuera de lo normal.

Esta es una superficie más pequeña y estricta que la que recibe un administrador humano, a propósito — un humano detecta ambigüedad por contexto; a un agente hay que diseñarle la ambigüedad fuera del sistema.

El resultado

La interfaz reconstruida se lanzó con el bloqueo de reorden aplicado en la capa de datos, y una cola de revisión que ahora detiene aproximadamente una de cada veinte acciones propuestas por el agente antes de ejecutarse — precisamente las acciones donde el radio de impacto justificaba la pausa. Los conteos de stock han coincidido con la realidad desde el rediseño, y el equipo escaló el agente a un segundo almacén sin rehacer el trabajo de seguridad, porque los límites viven en la arquitectura, no en un prompt que alguien tiene que recordar actualizar.

Esta es la forma de cada proyecto bajo nuestro trabajo de arquitectura de software para agentes de IA — el agente es un operador capaz, pero solo dentro de límites que el propio sistema hace cumplir.