Lorenzo Cotino analiza el salto de escala que introduce la inteligencia artificial en los riesgos para la privacidad y defiende una innovación acompañada de gobernanza, transparencia y controles efectivos. Reclama reglas concretas para los agentes autónomos y las neurotecnologías y advierte de una amenaza menos visible: el perfilado masivo que alimentamos cada vez que entregamos información personal a una plataforma de IA.
La autonomía de la inteligencia artificial nutre portadas globales y la AEPD recibió recientemente la primera notificación de una brecha en la que un agente de inteligencia artificial habría actuado de forma autónoma, con una intervención humana mínima. ¿Estamos ante un cambio de escala en los riesgos para la privacidad?
La primera conclusión de todas estas noticias que han causado inquietud es incómoda: la IA no nos ha hecho de pronto más inseguros, sino que ha revelado que ya lo estábamos. Muchas fisuras existían y no las habíamos visto y ahora hay que hacer, con urgencia, los deberes de ciberseguridad que ya eran necesarios.
Además, aparecen formas de ataque relativamente nuevas, como las inyecciones de prompts. Un correo o un documento puede contener instrucciones ocultas destinadas a saltarse los niveles de seguridad de un agente. Y esos agentes ya se están incorporando a empresas y administraciones para leer correos, consultar bases de datos, cruzar información o tramitar presupuestos, facturas y pagos. Su autonomía es muy útil, pero amplía la superficie de riesgo.
¿Qué controles deberían ser innegociables antes de permitir que un agente acceda a bases de datos, aplicaciones o información personal?
Cuanta más autonomía concedemos a un sistema, más claro debe estar qué puede hacer, qué no puede hacer y a qué información puede acceder. Los permisos tienen que estar jerarquizados y compartimentados. No todos los datos de una organización deben quedar al alcance de un agente simplemente porque resulte técnicamente posible conectarlo a ellos.
La receta esencial se llama gobernanza. La mano derecha de una organización debe saber qué está haciendo la izquierda. Hay que conocer los casos de uso, valorar sus riesgos y decidir qué salvaguardas exige cada uno. Para eso hacen falta comités con perfiles diversos: responsables de innovación, ciberseguridad, protección de datos y cumplimiento normativo. La innovación es necesaria, pero no puede avanzar al margen de quienes responden por la seguridad y los derechos.
Antes incluso de formar, hay que concienciar. Quien no apueste por la IA corre el riesgo de quedarse atrás, pero también hay que saber qué tenemos entre manos. Para una empresa no solo están en juego los derechos de clientes y trabajadores; está riesgo su principal activo, que es la información.
La Red Iberoamericana de Protección de Datos aspira a que sus estándares sean respaldados en la próxima Cumbre Iberoamericana en Madrid. ¿Qué diferencia marcaría ese apoyo político?
Los estándares se actualizaron hace apenas unos meses y recibir el respaldo de los Estados en la XXX Cumbre Iberoamericana supondría un avance muy importante para la región. No estamos ante un tratado obligatorio, pero sí ante una guía normativa, puesta negro sobre blanco, sobre protección de datos e inteligencia artificial única en el mundo.
Llegar a un consenso político no es sencillo porque en Iberoamérica conviven percepciones muy distintas sobre la IA y sobre el riesgo de hiperregularla. Precisamente por eso se ha buscado un documento que señale las cautelas principales alrededor de la IA sin frenar la innovación ni sobrerregularla sino acompañando y señalando las cautelas principales.
La IA es imparable y ofrece enormes oportunidades, pero necesita contención y reglas
Ese respaldo también ayudaría a construir un marco común entre países con capacidades y tradiciones regulatorias diferentes. Los estándares pueden convertirse en una referencia compartida desde la que cada Estado avance y concrete sus obligaciones.
Los textos normativos exigen transparencia, trazabilidad, evaluaciones de impacto y auditorías. ¿Cómo se audita de verdad un algoritmo y qué acceso deben tener las autoridades a los datos, la documentación y el funcionamiento del sistema?
La protección de datos obliga a una cierta transparencia y explicabilidad tanto en el sector público como en el privado. Cuando un algoritmo es utilizado por una autoridad pública existen todavía más razones para saber qué está haciendo, con qué datos trabaja, qué información entra, qué resultados produce y qué inferencias realiza, porque hay derechos ciudadanos directamente implicados.
En el sector privado también tenemos derecho a saber que alguien está tratando nuestros datos y cómo lo hace. Y, si el sistema adopta decisiones que nos afectan, debemos poder exigir una explicación sobre las bases de esa decisión y cuestionarla. Las personas tendemos a confiar en las máquinas, pero un sistema depende de quién lo haya diseñado, con qué datos y bajo qué criterios, y puede equivocarse mucho.
Auditar no significa necesariamente entregar el código fuente. A la mayoría de los ciudadanos el software, por sí solo, no les explicaría nada. Lo importante es que se pueda comprender cómo funciona el sistema, qué criterios utiliza y por qué ha llegado a una decisión concreta. Esa explicación debe ser inteligible y permitir una revisión efectiva.
¿Qué puede hacer hoy una persona para proteger sus datos y cuándo es realmente efectiva la supervisión humana?
La normativa de protección de datos ha resistido bien el paso del tiempo. Ocurrió con las redes sociales, ocurrió con la nube y ocurre ahora con la inteligencia artificial.
Principios ya conocidos —saber qué datos se manejan, limitar su uso a los necesarios y conocer qué decisiones se adoptan— siguen sirviendo para orientar tecnologías nuevas.
Pero las plataformas también deben cumplir las normas y los usuarios necesitamos unas mínimas pautas de higiene. Hay personas que introducen en sistemas de IA análisis médicos, currículos o información confidencial de sus organizaciones. No todo puede subirse a una plataforma, porque al hacerlo estamos entregando información personal y, a veces, el principal valor de una empresa o una administración.
La supervisión humana es una garantía y es efectiva cuando la persona conoce el asunto, revisa el resultado y puede corregirlo. No lo es cuando se limita a confirmar lo que dice la máquina porque presupone que estará bien. En algunos ámbitos incluso harán falta otros sistemas automatizados para detectar contenidos sintéticos, imágenes manipuladas o ataques que el ojo humano no puede identificar por sí solo.
La Red trabaja actualmente con el Centro Nacional de Inteligencia Artificial de Chile en el “Informe económico sobre la normativa de protección de datos”, que analiza siete países iberoamericanos y cuyos resultados preliminares parecen positivos. Sin adelantar lo que todavía no pueda hacerse público, ¿qué conclusiones emergen sobre la relación entre protección de datos, innovación y crecimiento económico? ¿Qué responde este estudio, apoyado por SEGIB, a quienes presentan la regulación como un freno a la libertad empresarial o al desarrollo de la IA?
Una de las líneas del estudio analiza el valor económico de las decisiones de adecuación. Cuando la Unión Europea reconoce que un país ofrece garantías equivalentes, los datos pueden circular con mucha más flexibilidad. Ya sucede con Argentina y Uruguay y, más recientemente, con Brasil. Queremos medir qué impacto tiene esa situación y qué ocurriría con el intercambio empresarial si dejara de existir.
Aún no tenemos conclusiones definitivas, pero la hipótesis que se está examinando cuestiona la idea de que toda regulación frena necesariamente la innovación y la economía. La protección de datos no siempre es fácil de cumplir y la normativa europea es intensa, pero obliga a gobernar y ordenar bien la información. Ese esfuerzo puede elevar los estándares de calidad de una organización, porque exige saber qué datos tiene, dónde están y quién puede utilizarlos.
Proteger a las personas y favorecer la actividad económica no son objetivos incompatibles. Un marco fiable puede facilitar los flujos de datos y aportar seguridad jurídica a quienes innovan.
Los estándares actualizados reconocen por primera vez los neurodatos como una materia especialmente sensibles y consideran de alto riesgo utilizarlos para inferir estados mentales, modificar comportamientos o vigilar a personas en el trabajo o la educación. ¿Qué está haciendo la Red ante esta nueva frontera y qué usos deberían prohibirse antes de que dispositivos capaces de captar señales neuronales se generalicen?
El tiempo de las declaraciones genéricas sobre neuroderechos ya ha pasado. Fueron un primer avance, pero ahora hay que trasladar esos principios a la realidad. La Agencia impulsó un grupo de trabajo en la Red Iberoamericana que trabajó durante nueve meses y cuyo documento fue adoptado a finales de mayo. Es uno de los textos más completos que existen sobre neurodatos y su tratamiento.
La idea básica es proyectar sobre las neurotecnologías los principios que ya ofrece la protección de datos: transparencia, explicabilidad, consentimiento y conocimiento de qué información se maneja. Son datos especialmente sensibles, pero no partimos de cero ni es imprescindible esperar a una ley completamente nueva para disponer de garantías.
Sí hacen falta desarrollos adicionales y prohibiciones muy concretas. Se necesita bisturí: determinar qué usos no se permitirán en el ámbito laboral, educativo o deportivo. Junto a la regulación, la Agencia participa también en la elaboración de estándares técnicos internacionales para las neurotecnologías.
La actualización de los estándares iberoamericanos refuerza la protección de niños, niñas y adolescentes. ¿Dónde se encuentran hoy los principales riesgos?
Los sistemas de recomendación llevan tiempo determinando a qué información accedemos y qué publicidad recibimos. Los algoritmos condicionan nuestra percepción de la realidad y la IA acelera ese proceso porque permite elaborar perfiles mucho más precisos y, por tanto, aumentar la capacidad de manipulación.
No debemos pensar que los adultos somos inmunes. Todos tenemos una fibra sensible que un sistema puede aprender a detectar. Pero los riesgos se multiplican entre menores y personas con vulnerabilidades cognitivas. Por eso hacen falta reglas de transparencia, mecanismos de auditoría y un control efectivo de los llamados patrones oscuros, diseñados para captar nuestra atención o empujarnos hacia determinadas decisiones.
Como mínimo, debemos saber qué conocen los algoritmos sobre nosotros, con qué finalidad utilizan esa información y hasta qué punto tratan de influir en nuestro comportamiento
Y, cuando se produzca un tratamiento ilegal, las autoridades deben poder actuar.
Más allá de sesgos, suplantaciones o filtraciones, ¿qué amenaza para la privacidad no ha entrado todavía suficientemente en el debate público?
Hay riesgos que son visibles e intuitivos, pero uno menos evidente es el perfilado enorme que las grandes plataformas —las antiguas y las nuevas— realizan sobre los usuarios de IA. Se está abriendo una nueva vía de captación masiva de datos y no siempre sabemos adónde va esa información ni para qué terminará utilizándose.
Necesitamos ser conscientes de los datos que introducimos, tanto los nuestros como los de otras personas. Con las redes sociales aprendimos que, muchas veces, el producto eran los datos que entregábamos. Con las plataformas de inteligencia artificial sucede algo parecido: en buena medida seguimos recibiendo servicios a cambio de nuestra información. Ese intercambio y los tratamientos que permanecen ocultos deberían ocupar un lugar mucho más central en el debate público.
