Agentes: cuándo dejar que el sistema actúe solo
Cuándo está justificado
Cuando el número de pasos no se conoce de antemano. Un proceso fijo implementado como agente es un sistema caro e impredecible donde un bucle simple funcionaría. Un agente sirve para la investigación: 'encuentra por qué la factura no cuadra'.
Tres niveles de autonomía
Propone para aprobación humana; actúa solo en acciones reversibles y deriva las irreversibles a aprobación; y autónomo en un dominio definido con un historial probado. La distinción entre reversible e irreversible es la decisión central de diseño.
Qué debe existir antes de conectar los permisos
Permisos mínimos; límites rígidos en el código sobre el número de pasos, el coste y el tiempo; un registro completo de acciones; y separación total entre contenido externo e instrucciones.
Y una regla práctica: menos herramientas, bien definidas. Cuantas más herramientas hay, peor es la elección entre ellas.
En profundidad
Define cada herramienta como una interfaz pública: un nombre explícito, cuándo usarla y cuándo no, un esquema estricto, y errores que expliquen qué corregir. Haz las acciones sensibles de dos pasos —preparación y confirmación— y ejecuta escenarios diseñados para hacerlo fallar, incluida la entrada maliciosa, antes de salir en directo.