Cuándo un agente necesita supervisión humana

Hay una diferencia enorme entre un agente que prepara una acción y uno que la ejecuta directamente, y esa diferencia es exactamente donde tiene que estar el punto de aprobación humana. Preparar significa: juntar la información, armar la propuesta, dejarla lista para que alguien la revise. Ejecutar significa que esa acción ya salió al mundo real — un mail enviado, un pago hecho, un pedido confirmado — sin que nadie la haya mirado antes.

La pregunta de "¿este agente necesita supervisión?" tiene una respuesta más simple de lo que parece si se la reformula así: ¿qué pasa si esta acción puntual sale mal? Si el costo de un error es bajo y reversible (un borrador de mail que se puede corregir antes de enviar), la ejecución automática sin aprobación previa es razonable. Si el costo de un error es alto o irreversible (un pago, un compromiso comercial, un dato enviado a un cliente), la aprobación humana antes de ejecutar no es un capricho de control — es la forma correcta de operar mientras el agente no tenga un historial probado en ese tipo de decisión específica.

Esto no es una regla fija para siempre: un agente que empieza con aprobación humana obligatoria en el 100% de los casos puede, con el tiempo y con evidencia de que acierta consistentemente, pasar a que solo los casos atípicos necesiten revisión. El punto de aprobación se mueve a medida que se acumula evidencia de que el agente decide bien en el caso general — el mismo principio de "resolver bien el caso general primero" que vale para cualquier automatización.

La pregunta no es si un agente es confiable en general. Es si esta acción puntual, si sale mal, es reversible y de bajo costo — o no.

Desde PANGEA, cuando diseñamos un agente para una tarea, la primera decisión no es qué tan autónomo puede ser — es qué pasa, exactamente, si se equivoca en esa tarea puntual. Esa respuesta define dónde va el punto de aprobación, no una preferencia general sobre "cuánta autonomía nos gusta darle a la IA".