Prompts, datos personales y confidencialidad: el nuevo perímetro de riesgo de la IA generativa

La inteligencia artificial generativa ha entrado en muchas organizaciones por una vía sencilla: una caja de texto. Ese prompt puede contener datos personales, información confidencial, secretos empresariales o documentación sometida a reserva. El reto no es demonizar la herramienta, sino gobernar su uso.

La caja de texto donde cabe casi todo

Durante años se ha hablado de servidores, contraseñas, copias de seguridad, correos electrónicos, accesos indebidos, videovigilancia, cookies, formularios web y brechas de seguridad. Todo eso sigue ahí. Pero ahora hay un nuevo invitado en la mesa: el prompt.

Aparentemente, un prompt es poca cosa: una instrucción que se introduce en una herramienta para que genere una respuesta. “Resume este contrato”. “Mejora este correo”. “Hazme un informe”. “Analiza esta reclamación”. La inteligencia artificial generativa puede ahorrar tiempo, ordenar ideas y ayudar a trabajar mejor. El problema no está en la herramienta, sino en usarla sin saber qué se está haciendo.

En ese prompt puede ir el nombre de un cliente, una nómina, una baja médica, una denuncia interna, una conversación de WhatsApp, una sentencia, un contrato sujeto a confidencialidad, un informe de auditoría, una historia clínica, una estrategia procesal o un expediente disciplinario.

Desde el punto de vista jurídico, introducir información en una herramienta de IA generativa no es un acto neutro. Puede ser tratamiento de datos personales, comunicación a un tercero, infracción contractual, vulneración del secreto profesional, afectación a secretos empresariales o brecha de seguridad. El perímetro de riesgo se ha desplazado: antes se miraba hacia el servidor; ahora también hacia la caja de texto.

Datos personales: entrada, salida, inferencias y conservación

En protección de datos la primera pregunta sigue siendo básica: ¿hay datos personales? Si la respuesta es afirmativa, se activa el Reglamento General de Protección de Datos y la Ley Orgánica de Protección de Datos y Garantía de Derechos Digitales. En IA generativa, además, esa pregunta debe formularse varias veces: respecto de la entrada, de la salida, de las inferencias y de la conservación.

La entrada es lo evidente. Si se introduce el nombre de una persona, su correo, su DNI, su dirección, una imagen, una voz, una matrícula o información que permita identificarla, se tratan datos personales. Si además aparecen datos de salud, ideología, afiliación sindical, religión, vida sexual, orientación sexual, datos biométricos o genéticos, entran en juego categorías especiales.

La entrada no siempre es tan clara. Puede subirse un PDF supuestamente anonimizado que conserva metadatos. O eliminarse el nombre, pero mantenerse el cargo, la fecha, el centro de trabajo y una descripción que identifica a la persona. Cambiar “Juan” por “X” no siempre anonimiza.

También importa la salida. La herramienta puede generar una respuesta que incluya datos personales, los complete, los infiera o directamente los invente. Que una respuesta esté redactada con seguridad no significa que sea verdadera. Si se usa para valorar reclamaciones, ordenar candidaturas o preparar respuestas a trabajadores, la salida puede condicionar la decisión final.

Queda, además, la conservación. ¿Dónde quedan los prompts? ¿Durante cuánto tiempo? ¿Puede acceder el proveedor? ¿Se usan para entrenamiento? ¿Hay subencargados o transferencias internacionales? No son manías jurídicas; son cumplimiento básico. El principio de minimización exige introducir solo lo necesario: si basta con un texto sin nombres o con un fragmento, no se sube el expediente completo.

Confidencialidad, secreto profesional y secretos empresariales

Otro error habitual es pensar que, si no hay datos personales, no hay problema. Puede no haber un solo dato personal y existir un riesgo serio de confidencialidad. La protección de datos no agota el Derecho.

Una empresa puede introducir información sobre precios, márgenes, proveedores, estrategia comercial, licitaciones, código fuente, vulnerabilidades, auditorías de seguridad o negociaciones contractuales. Puede que nada de eso identifique a una persona física, pero puede ser información confidencial o secreto empresarial.

La Ley de Secretos Empresariales protege la información secreta con valor empresarial y sometida a medidas razonables para mantenerla en secreto. Esta última exigencia es clave. Si una organización permite copiar información estratégica en herramientas externas no autorizadas, después tendrá más difícil defender que adoptó medidas razonables para protegerla.

En los despachos profesionales el riesgo es aún más delicado. Subir a una herramienta externa un escrito procesal, un contrato, una estrategia de negociación o un correo del cliente puede afectar a la protección de datos, pero también al secreto profesional y al deber de reserva. Lo mismo sucede en entornos sanitarios, aseguradores, educativos, financieros o de recursos humanos, donde la confidencialidad es una exigencia de funcionamiento.

La herramienta gratuita no siempre es gratis

Muchas herramientas de IA generativa han entrado en las organizaciones porque alguien las prueba, le funcionan y empieza a usarlas. Sin proyecto, contrato revisado, análisis de riesgos ni consulta a sistemas, jurídico, compras, cumplimiento o al Delegado de Protección de Datos. Cuando se quiere reaccionar, media plantilla ya la utiliza.

La herramienta gratuita resulta atractiva, ya que no requiere presupuesto y promete productividad inmediata. Pero en el mundo digital lo gratuito suele tener letra pequeña. Generalmente se paga con nuestros datos.

Si la herramienta se usa con datos personales por cuenta de la organización, el artículo 28 del RGPD no es opcional. Debe analizarse si el proveedor actúa como encargado, responsable independiente o corresponsable; qué instrucciones acepta; qué datos trata; durante cuánto tiempo; con qué subproveedores; dónde; con qué seguridad; si notifica brechas; si ayuda a atender derechos y si borra los datos. Si hay transferencias internacionales, deberán valorarse las garantías aplicables.

No todas las modalidades de uso son iguales. Una cuenta gratuita no equivale a una cuenta empresarial con garantías contractuales. Una herramienta abierta no es lo mismo que una API configurada para no usar datos en entrenamiento, ni un modelo instalado en entorno propio equivale a un servicio externo. Una suite corporativa con controles de administración no equivale a una aplicación que cada persona empleada abre con su correo personal.

Gobernar sin bloquear

La solución no es prohibir por prohibir. La prohibición absoluta suele empujar el uso a la clandestinidad. La solución es identificar usos, clasificarlos, autorizar los razonables, prohibir los peligrosos y formar a quienes van a utilizar estas herramientas.

La primera medida es reconocer la realidad: probablemente ya se está usando IA generativa en la organización, aunque nadie la haya autorizado formalmente. A partir de ahí, conviene elaborar un inventario sencillo: qué herramientas se utilizan, quién las usa, para qué, con qué datos, si hay cuentas corporativas o personales y si se suben documentos de clientes, trabajadores, pacientes, alumnos, socios o proveedores.

Después hay que clasificar usos. Pueden permitirse usos de bajo riesgo, como mejorar textos sin datos personales ni información confidencial, preparar esquemas o resumir documentación pública. Pueden autorizarse con cautelas usos medios, como apoyo en documentos internos previamente anonimizados. Y deben quedar sujetos a autorización expresa o prohibidos los usos que impliquen datos de salud, infancia, denuncias internas, expedientes disciplinarios, secreto profesional, secretos empresariales, credenciales o información contractual sensible.

También es necesaria una política interna de uso que se entienda. Debe responder a preguntas concretas: qué herramientas se pueden usar, qué datos no se pueden introducir, qué usos requieren autorización, cómo anonimizar, cómo revisar resultados, a quién consultar y qué hacer ante un incidente. La formación debe ser práctica: esto sí, esto no, esto solo si se anonimiza, esto debe consultarse.

El Reglamento de Inteligencia Artificial incorpora una lógica de riesgos, transparencia y alfabetización. No todo uso de IA generativa será de alto riesgo, pero determinados usos pueden tener impacto relevante si afectan a empleo, educación, servicios esenciales, salud, justicia o colectivos vulnerables. La salida generada debe revisarse.

Conclusión

La inteligencia artificial generativa no ha inventado la imprudencia, pero la ha acelerado. Antes, para cometer determinados errores había que enviar un correo al destinatario equivocado, perder un portátil o publicar por accidente un documento. Ahora basta con copiar y pegar información en una herramienta que no se ha revisado.
El prompt es un nuevo punto de entrada y salida de información. En él puede haber datos personales, información confidencial, secretos empresariales, datos de clientes, documentación sanitaria, estrategia jurídica o fragmentos que, unidos entre sí, cuentan más de lo que parece.

La IA generativa no es el problema. El problema es usarla como si no pasara nada. Las organizaciones que quieran utilizarla con garantías deben saber qué se usa, definir qué se permite, contratar bien, formar y reaccionar. Si una organización no sabe quién usa estas herramientas, con qué datos, para qué finalidad, bajo qué proveedor y con qué garantías, no tiene política de IA: tiene un acto de fe.