La discusión normativa alrededor de los avances tecnológicos empieza a volverse urgente. El futuro apremia y es preciso establecer marcos que aseguren el bienestar común.
En noviembre de 2017, un grupo de 25 investigadores firmaba en la revista Nature el artículo “Cuatro prioridades éticas para la neurotecnología y la Inteligencia Artificial” poniendo foco en que “la IA y las interfaces cerebro-computadora deben respetar y preservar la privacidad, la identidad, la agencia y la igualdad de las personas”.
Aquellos científicos fueron liderados por el neurobiólogo español Rafael Yuste, investigador y profesor en la Universidad de Columbia y quien inspiró la Iniciativa BRAIN, centrada en desarrollar nuevos métodos para estudiar el cerebro. Él lidera también la NeuroRights Foundation, un proyecto de concienciación y difusión de los neuroderechos: nuevos Derechos Humanos para proteger la actividad del cerebro y la información que reside en él. Los neuroderechos ya tienen reflejo en las Constituciones de Chile y han despertado el mismo interés en Brasil, México, Uruguay, Argentina, Colombia y España.
De su enunciado por un grupo de científicos a su incorporación en los marcos constitucionales y legislativos, los neuroderechos están teniendo un recorrido intenso en apenas cinco años. ¿Podría resumir su génesis y el despliegue de esa trayectoria?
El origen de los neuroderechos se remonta a 2011. Durante una reunión en Inglaterra organizada por cuatro fundaciones internacionales a modo de brainstorming para entender por qué la neurobiología no avanzaba, yo propuse la idea de lanzar un proyecto a gran escala que desarrollase métodos de neurotecnología para poder realizar mediciones y manipulaciones de la actividad cerebral de una manera más sistemática a como se había hecho hasta entonces.
A raíz de aquello mandamos una propuesta a la Oficina de la Casa Blanca para Políticas de Ciencia y Tecnología con el germen de lo que se convertiría en la Iniciativa BRAIN (Brain Research through Advancing Innovative Neurotechnologies) de la Administración Obama, lanzada en 2013, con un recorrido de 12 años y un presupuesto total de 6.000 millones de dólares. BRAIN sigue a toda marcha con apoyo de republicanos y demócratas e indistintamente de quien ha ocupado el despacho oval en todo este tiempo.
En 2016 organizamos una reunión para dar pie a proyectos similares alrededor del cerebro en todo el mundo incluyendo a China, Japón, Corea del Sur, Australia, Canadá, Israel y la Unión Europea y en 2017 unimos a todos esos proyectos del cerebro en una declaración firmada en Canberra (Australia) para cooperar de forma global, en lo que hasta el momento es el mayor proyecto de neurociencia en la historia.
Lo que se puede hacer hoy en un ratón, podrá hacerse mañana sobre una persona y eso es preocupante
Al tiempo, en nuestro laboratorio de la Universidad de Columbia nos dimos cuenta de que la tecnología que estábamos desarrollando y probando con ratones de laboratorio era tan potente que no sólo podíamos descifrar la corteza visual del animal, sino también cambiarla: hacer creer al ratón que puede ver cosas que no está viendo, manipular la percepción de una manera directa. Descubrimos que el poder de la neurotecnología no solo residía en descifrar el contenido del cerebro, sino también en poder manipularlo de una manera precisa.
Desde entonces, por sentido de responsabilidad empecé a trabajar en la regulación de posibles malos usos de la neurotecnología. Lo que se puede hacer hoy en un ratón, podrá hacerse mañana sobre una persona y eso es preocupante.
En mayo de 2017, 25 expertos en neurotecnología representando a todos los proyectos del cerebro de todo el mundo nos reunimos en la Universidad de Columbia. En el grupo había expertos en clínica, en bioética e Inteligencia Artificial, además de personas procedentes de empresas de neurotecnología y de grandes tecnológicas de Silicon Valley. Juntos llegamos a la conclusión de que la actividad cerebral debía ser protegida y acuñamos el término “neuroderechos”, alertando a la sociedad acerca de las cuestiones éticas de la neurotecnología con la solución posible de un abordaje de Derechos Humanos.
Plantear la protección de la actividad cerebral como una cuestión de Derechos Humanos es audaz. Implica un “paremos antes de seguir” y poner límites a cierta innovación, algo que para la economía de mercado es casi un anatema.
El cerebro es el órgano que genera la actividad mental y cognitiva de los seres humanos: pensamientos, memorias, conciencia, emociones, intenciones… Acceder a él mediante tecnología permite entender su funcionamiento y encontrar por primera vez una explicación científica a la gran pregunta de la ciencia y del humanismo de toda la historia: ¿Quiénes somos?
Desarrollar neurotecnología es imprescindible para ayudar a pacientes con enfermedades cerebrales neurológicas, neurodegenerativas o dolencias psiquiátricas mentales.
Los problemas aparecen cuando las neurotecnologías que nacen de la medicina y de la ciencia se extienden hacia un uso comercial. Comienzan a fabricarse dispositivos tecnológicos que no necesitan neurocirugía y se llevan como un complemento: gafas, diademas, auriculares o pulseras. Las compañías que los comercializan acumulan datos cerebrales, acaparando su propiedad para luego venderlos. La posible utilización de estas tecnologías con fines interesados expone a las personas a abusos potenciales.
Estos dispositivos no tienen ninguna regulación. La Fundación NeuroRights (ver box) ha analizado los contratos de más de 30 empresas de neurotecnología y en todas y cada una de ellas la propiedad de los datos es de la empresa. Son contratos predatorios desde el punto de vista del cliente. Es el salvaje oeste: como no hay regulación, todas las empresas sin excepción acaparan todo lo que pueden.
La NeuroRights Foundation y los cinco neuroderechos
La NeuroRights Foundation que lidera Yuste junto al abogado experto en Derechos Humanos Jared Genser desarrolla una labor de concienciación y difusión de los cinco neuroderechos: privacidad mental; identidad personal; libre albedrío; acceso equitativo y protección contra los sesgos. Todos ellos se están trabajando al más alto nivel con reuniones en Naciones Unidas y con la involucración personal de su Secretario General, el portugués Antonio Guterres.
Existen ya tres comités de Derechos Humanos de Naciones Unidas -el Comité Contra la Tortura, el Comité para la Eliminación de la Discriminación Racial y el Comité de Derechos Humanos que gestiona el Pacto Internacional de Derechos Civiles y Políticos (ICCPR)- que están estudiando los nuevos derechos para incorporarlos como extensión de estos Tratados Internacionales de Derechos Humanos.
Ante el problema, surge la solución de abordarlo desde el punto de vista de los Derechos Humanos: proteger el cerebro como el santuario de nuestra mente porque ahí se genera la identidad humana. Si este no es un problema de Derechos Humanos, ¿qué es un problema de Derechos Humanos?
En 2024 el proyecto más importante de la Fundación es continuar llevando la temática de los neuroderechos, que ya empieza a ser acogida por las administraciones públicas y las organizaciones internacionales, al corazón de las empresas tecnológicas para involucrarlas directamente en la generación de soluciones a estos problemas que hemos identificado.
En Oppenheimer, la película de Cristopher Nolan se habla de que “la ciencia debe levantar la piedra aún a riesgo de que aparezca la serpiente”. La diferencia la marca lo que se hace con la serpiente: ignorarla, darle de comer, anularla… ¿Hasta qué punto los equipos científicos situados ante el hallazgo deben también implicarse en señalar la cara B de cada avance científico?
Yuste sonríe y gira su laptop para mostrar el edificio que se observa desde la ventana del despacho donde atiende esta entrevista.
En el sótano de ese edificio del campus de la universidad de Columbia es donde se fabricó el primer reactor nuclear de la historia y los físicos que lo consiguieron fueron quienes integraron posteriormente el Proyecto Manhattan. Pero los propios científicos que crearon la bomba atómica fueron los primeros en pedir regulación de la energía atómica a Naciones Unidas hasta que finalmente se creó el Organismo Internacional de la Energía Atómica.
Varias generaciones después y con el mismo espíritu, en el edificio de al lado otro grupo de científicos -esta vez involucrados en el desarrollo de neurotecnologías- nos reunimos y le pedimos a Naciones Unidas regulación sobre el tema. Estamos inspirados en lo que ocurrió en el edificio de al lado.
Chile, pionera mundial
Yuste considera Chile casi su segundo hogar: en los últimos seis años ha viajado diez veces al país andino. La primera fue en 2018, invitado por el Senado de Chile al Congreso Futuro, el mayor encuentro científico/ciudadano de Iberoamérica. En su charla –Neuroderechos y la privacidad mental– Yuste expuso la cuestión de los neuroderechos y el Senado de Chile, liderado por el Senador Guido Girardi, recogió el guante del desafío que supone incorporarlos a un marco normativo. En dos años, el Senado primero y la Cámara después aprobaron de manera unánime una reforma del artículo 19 de la Constitución chilena que protege la actividad cerebral y la información procedente de ella.
La reforma la firmó el Presidente Sebastián Piñera en noviembre de 2021 y Chile hizo historia al convertirse en el primer país en el mundo en proteger la actividad cerebral de su ciudadanía.
La enmienda sigue en vigor. Es un texto corto, de apenas dos frases, pero con alcance universal: “El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella».
La involucración de Naciones Unidas en los neuroderechos es imprescindible: la única regulación global son los Tratados de Derechos Humanos que emanan de ella
¿Cómo se trasladan estos principios de base a un reflejo en leyes y códigos concretos?
El Senado de la República de Chile hizo dos cosas: además del proyecto de enmienda constitucional que se aprobó por unanimidad, propuso una ley de neuro protección que aterriza estas ideas en el código legal y el código sanitario vigente en Chile. Y esta ley de protección es muy original porque propone una solución muy práctica a qué hacer con este problema en el futuro. Chile definió por ley que toda neurotecnología es un producto médico, con lo cual aplica el código sanitario y médico vigente en el país a todos los productos.
El Instituto de Salud Pública tiene que aprobar también los dispositivos electrónicos antes de que puedan comercializarse aplicando a todos los neuro datos el mismo rigor de protección que se contempla en los datos médicos sensibles. Esta ley pionera en el mundo la aprobó de forma unánime el Senado en 2021, pero está atascada en la Cámara, no porque haya oposición a ella, sino porque no ha sido propulsada por el Gobierno chileno del Presidente Boric. Si Chile alcanza a aprobarla no solamente sería el primer país donde los neuroderechos tienen protección constitucional, sino el primero en utilizar el sistema médico para canalizar de una manera legal, eficiente, rápida y también inteligente el problema que plantea la neurotecnología. Es importante que Chile siga esa senda, porque lo que ocurra en el país puede ser ejemplo para toda la humanidad.
El ejemplo chileno provocó mucho interés en todo el mundo y ha sido prácticamente copiado por otros países, con proyectos muy parecidos de reforma constitucional.
El Senado de la República de Brasil presentó una propuesta de enmienda del artículo 5 de la Constitución brasileña, que es el más importante de la carta en el que se definen los derechos fundamentales de la ciudadanía brasileña, para introducir esa protección de la información cerebral. Independientemente de esto, el estado de Río Grande do Sul, aprobó en diciembre de 2023 una enmienda a la Constitución de su Estado para que toda la legislación futura incorpore los neuroderechos protegiendo la actividad cerebral y la información procedente de ella como un Derecho Humano básico.
En Brasil también hay un proyecto para incluir en el código civil esa protección de la actividad cerebral liderado por la procuradora del estado de Sao Paulo. Y aquí Brasil está adelantando a Chile porque no solo van a tener protección constitucional, sino que los neuroderechos van a estar incorporados al Código Civil.
En México se ha presentado una enmienda constitucional, que se encuentra en discusión en el Senado de la República y hay otros países en puertas de hacer algo parecido: Uruguay, Argentina, Costa Rica y Colombia. Otro asunto muy importante es que la Organización de Estados Americanos (OEA) que involucra a los Estados de todas las Américas aprobó un documento para garantizar la protección de la actividad cerebral.
En España los neuroderechos se han incorporado a la Carta de Derechos Digitales que aprobó el gobierno en 2022 y que no tiene valor legal, sino orientativo. La Constitución en España es muy complicada de enmendar y se piensa más en un proyecto de ley.
La Agencia Española de Protección de Datos lleva meses estudiando el tema con la idea de generar un decálogo que añada los neuroderechos a su interpretación del RGPD (Reglamento General de Protección de Datos) y que pueda elevarse a la Unión Europea. Durante la reciente Presidencia española de la UE se estableció la Declaración de León firmada por todos los países europeos para defender los neuroderechos y la privacidad de la información cerebral.
En un mundo con distintos modelos económicos y políticos y desigualdades entre e intra países hay ciudadanos protegidos y otros totalmente expuestos. La brecha en el acceso a estas tecnologías puede convertirse en un problema social e incluso antropológico. Habrá personas aumentadas y otras condenadas a ser parias, generando varios tipos de humanos.
Todo lo que hacemos con la mente lo podremos acelerar y mejorar con neuro tecnologías aplicadas y eso va a llevar de la mano a un nuevo ser humano en el que parte del procesamiento mental ocurrirá fuera de nuestro cuerpo. Queremos asegurarnos desde el comienzo que este escenario esté regido por el principio universal de justicia, que el acceso a esta neuro aumentación sea un acceso equitativo.
El definido como cuarto neuroderecho habla del acceso equitativo a la neuroaumentación, de manera que cuando estos dispositivos se utilicen para aumentar las capacidades cognitivas de las personas como la memoria -esto ya se hace- se realicen bajo el principio universal de justicia. Hay que evitar la fractura de la sociedad y de la humanidad en dos tipos de seres humanos. Por eso la involucración de Naciones Unidas en los neuroderechos es imprescindible: la única regulación global son los Tratados de Derechos Humanos que emanan de ella.
La NeuroRights Foundation ha trabajado con el director de cine alemán Werner Herzog y juntos han rodado la película documental El teatro del pensamiento. Se plantea como un viaje hacia el estudiode la mente y la conciencia, invitando a cuestionar si realmente tenemos control sobre nuestros pensamientos o si nuestros cerebros se verán inexorablemente sometidospor tecnologías de control mental en un futuro no tan lejano. Ciencia, arte audiovisual, compromiso con los problemas colectivos…¿cómo fue la experiencia?
Al comienzo del Covid le envié un email a Herzog con la propuesta de hacer una película sobre los neuroderechos. Él siempre ha tenido mucho interés en el cerebro y nunca había tenido la oportunidad de hacer una película sobre el tema. Me pidió una propuesta de guión y en mayo de 2022 salimos a rodar. Nos embarcamos en un viaje en el que hicimos 30 entrevistas en dos semanas trabajando a destajo. Hablamos con científicos, filósofos, expertos en Derechos Humanos…Fue una experiencia maravillosa. Ninguno de los dos tenía interés comercial alguno, lo enfocamos como una cuestión de responsabilidad ante un tema que queríamos presentar de manera comprensible y con profundidad. Se ha mostrado en varios festivales y queremos venderle a una productora los derechos para su distribución. De momento, tenemos autorización para hacer pases privados de la película siempre que sean para interés público, médico o científico.
