Los riesgos reales de pegar información de la empresa en ChatGPT

"Total, es solo para redactar mejor un mail" es la frase que más veces precede a un problema real de shadow AI. Alguien pega el texto completo de un mail de un cliente en ChatGPT o en Gemini para que se lo mejore, sin pensar que ese mail podía tener un monto de facturación, un nombre de contacto que no debía salir de la empresa, o los términos de una negociación en curso. El riesgo no está en la intención — está en que, una vez que esa información sale del entorno de la empresa hacia un tercero, la empresa deja de tener control sobre qué pasa con ella después.

¿Qué pasa exactamente con esa información? Depende de la herramienta y del plan que se use — algo que la mayoría de quienes pegan un texto no revisa. Con una cuenta personal y gratuita de ChatGPT, Claude o Gemini, es común que el proveedor pueda usar esas conversaciones para entrenar modelos futuros, según las políticas de cada servicio (esto varía por proveedor y por plan, y cambia con el tiempo — conviene revisarlo directo en la política vigente de la herramienta que se use, no asumirlo). Con una cuenta empresarial de cualquiera de esos mismos proveedores, bien configurada, ese uso normalmente se puede desactivar. La diferencia entre una situación y otra no es qué asistente se usa — es si alguien configuró la cuenta correcta antes de usarla.

Esto no es un riesgo exclusivo de rubros con datos ultra sensibles. Un relevamiento de Thomson Reuters (2024) encontró que el 45% de los profesionales legales ya usa herramientas de IA de consumo (ChatGPT, Gemini u otras similares) para tareas de trabajo, exponiendo a sus estudios a riesgos de confidencialidad y secreto profesional. Y a nivel de visibilidad organizacional, el Cisco 2025 Cybersecurity Readiness Index, con 8.000 líderes de negocio en 30 mercados, encontró que el 60% no tiene confianza en poder identificar qué herramientas de IA no autorizadas están en uso dentro de su propia empresa. La mayoría de las organizaciones, literalmente, no sabe qué está saliendo.

El costo, cuando se materializa, es medible: el Cost of a Data Breach Report de IBM (2025) encontró que la presencia de shadow AI sumó en promedio USD 670.000 al costo de una violación de datos, y estuvo presente en 1 de cada 5 de los más de 600 casos estudiados.

Qué información sube el riesgo real, en orden de gravedad decreciente: datos de clientes o terceros (nombres, contactos, condiciones comerciales); información financiera o contractual propia; credenciales o datos de acceso (nunca deberían aparecer en ningún prompt); e información interna de bajo impacto, donde el riesgo real es mucho menor.

El error más común no es que alguien use IA con mala intención. Es tratar toda la información de la empresa con el mismo nivel de cuidado, cuando en realidad unos pocos tipos de dato concentran casi todo el riesgo real.

Esa distinción — qué información sí y qué información no — es exactamente el primer punto de la política mínima que describimos en la nota anterior de este cluster. No hace falta prohibir todo uso de IA para reducir el riesgo real: hace falta que el equipo sepa, con claridad, cuáles son esos pocos tipos de dato que nunca deben salir.