Por qué 'que la IA decida sola' es la pregunta equivocada
La pregunta que casi todos hacen sobre agentes de IA no es la que importa. Cuál es la pregunta correcta, y por qué cambia toda la conversación.
Equipo PANGEA
"¿Confiamos en que la IA decida sola?" es, casi siempre, la primera pregunta que aparece cuando una empresa evalúa incorporar un agente. Es una pregunta entendible, y también es la pregunta equivocada — porque asume que existe un único nivel de confianza que aplica igual para cualquier decisión, cuando en realidad la confianza correcta depende completamente de qué decisión puntual se está evaluando.
Nadie se pregunta, en abstracto, "¿confío en que una persona nueva del equipo decida sola?" — la respuesta siempre depende de qué está decidiendo. Confiamos en que decida sola cómo redactar un mail interno, y no confiamos en que decida sola firmar un contrato grande sin que nadie lo revise. La misma lógica exacta aplica a un agente de IA, y sin embargo la pregunta suele plantearse como si el agente fuera una sola entidad con un único nivel de confianza fijo para todo lo que hace.
La pregunta correcta, entonces, no es "¿confiamos en la IA en general?" — es "¿en esta decisión puntual, con este costo de error específico, qué nivel de autonomía tiene sentido darle?" (la escala de tres niveles que vimos en la nota anterior de este cluster). Esa pregunta reformulada no busca una respuesta única y definitiva sobre la IA como categoría — busca una respuesta caso por caso, la misma forma en que ya se decide cuánta autonomía tiene cada persona del equipo según la tarea.
"¿Confiamos en la IA?" no tiene una respuesta útil. "¿Confiamos en que esta tarea puntual, con este costo de error, se resuelva con este nivel de autonomía?" sí la tiene.
Reformular la pregunta de esta manera no solo da una respuesta más precisa — también destraba conversaciones internas que, de otra forma, se quedan empantanadas en un debate filosófico sobre la IA en general, en vez de avanzar sobre decisiones concretas y evaluables una por una.