A discussão normativa ao redor dos avanços tecnológicos começa a se tornar urgente. O futuro preme e é preciso estabelecer marcos que assegurem o bem-estar comum.
Em novembro de 2017, um grupo de pesquisadores assinava na revista Nature o artigo “Quatro prioridades éticas para a neurotecnologia e a Inteligência Artificial” pondo foco em que “a IA e as interfaces cérebro-computador devem respeitar e preservar a privacidade, a identidade, a agência e a igualdade das pessoas”.
Entre aqueles cientistas se encontrava o neurobiólogo espanhol Rafael Yuste, pesquisador e professor na Universidade de Colúmbia que forma parte da Iniciativa BRAIN, centrada em decifrar como funciona a mente humana. Ele lidera também a NeuroRights Foundation, um projeto de conscientização e difusão dos neurodireitos: novos Direitos Humanos para proteger a atividade do cérebro e a informação que nele reside. Os neurodireitos já têm reflexo nas Constituições do Chile e do Brasil e despertaram o mesmo interesse no México, no Uruguai, na Argentina, na Colômbia e na Espanha.
De seu enunciado por um grupo de cientistas à sua incorporação nos marcos constitucionais e legislativos, os neurodireitos estão tendo um percurso intenso em apenas cinco anos. Poderia resumir sua gênese e o desdobramento dessa trajetória?
A origem dos neurodireitos se remonta a 2011. Durante uma reunião na Inglaterra organizada por quatro fundações internacionais a modo de brainstorming para entender por que a neurobiologia não avançava, foi proposta a ideia de lançar um projeto a grande escala que desenvolvesse métodos de neurotecnologia para poder realizar medições e manipulações da atividade cerebral de uma maneira mais sistemática do que como tinha se feito até então.
A raiz daquilo foi enviada uma proposta ao Escritório da Casa Blanca para Políticas de Ciência e Tecnologia com o germe do que se converteria na Iniciativa BRAIN (Brain Research through Advancing Inovative Neurotechnologies) da Administração Obama, lançada em 2013, com um percurso de 12 anos e um orçamento total de 6.000 milhões de dólares. BRAIN continua a todo vapor com apoio de republicanos e democratas e, indistintamente, de quem tenha ocupado a sala oval em todo este tempo.
Em 2016 organizamos uma reunião para dar lugar a projetos similares ao redor do cérebro em todo o mundo incluindo a China, o Japão, a Coréia do Sul, a Austrália, o Canadá, Israel e a União Europeia e em 2017 todos esses projetos do cérebro se uniram em uma declaração firmada em Canberra (Austrália) para cooperar de forma global, no que, até o momento, é o maior projeto de neurociência na história.
O que hoje pode ser feito em uma cobaia, amanhã poderá ser feito em uma pessoa e isso é preocupante
Ao mesmo tempo, em nosso laboratório da Universidade de Colúmbia, percebemos que a tecnologia que estávamos desenvolvendo e provando com cobaias de laboratório era tão potente que não só podíamos decifrar o córtex visual do animal, senão também mudá-la: fazer crer à cobaia que pode ver coisas que não está vendo, manipular a percepção de uma maneira direta. Descobrimos que o poder da neurotecnologia não só residia em decifrar o conteúdo do cérebro, senão também em poder manipulá-lo de uma maneira precisa.
Desde então, por sentido de responsabilidade, começou a se trabalhar na regulação de possíveis maus usos da neurotecnologia. O que hoje pode ser feito em uma cobaia, poderá ser feito, amanhã, em uma pessoa e isso é preocupante.
Em maio de 2017, 25 especialistas em neurotecnologia representando todos os projetos do cérebro de todo o mundo nos reunimos na Universidade de Colúmbia. No grupo havia especialistas em clínica, em bioética e Inteligência Artificial, além de pessoas procedentes de empresas de neurotecnologia e de grandes tecnológicas de Silicon Valley. Todos chegamos à conclusão de que a atividade cerebral devia ser protegida e acunhamos o termo neurodireitos, alertando a sociedade acerca das questões éticas da neurotecnologia com a solução possível de uma abordagem de Direitos Humanos.
Propor a proteção da atividade cerebral como uma questão de Direitos Humanos é audaz. Implica um “paremos antes de seguir” e pôr limites a certa inovação, algo que para a economia de mercado é quase um anátema.
O cérebro é o órgão que gera a atividade mental e cognitiva dos seres humanos: pensamentos, memórias, consciência, emoções, intenções… Aceder a ele mediante tecnologia permite entender seu funcionamento e encontrar, pela primeira vez, uma explicação científica à grande pergunta da ciência e do humanismo de toda a história: Quem somos?
Desenvolver neurotecnologia é imprescindível para ajudar a infinidade de pacientes com doenças cerebrais neurológicas, neurodegenerativas ou doenças psiquiátricas mentais.
As sombras aparecem quando as neurotecnologias que nascem da medicina e da ciência se estendem a um uso comercial. Começam a ser fabricados dispositivos tecnológicos que não necessitam neurocirurgia e são usados como um complemento: óculos, arcos, fones de ouvido, pulseiras. As companhias que os comercializam acumulam dados cerebrais, monopolizando sua propriedade para depois vendê-los. A possível utilização destas tecnologias com fins interessados expõe as pessoas a abusos.
Estes dispositivos não têm nenhuma regulação. A Fundação NeuroRights (ver box) analisou os contratos de mais de 60 empresas de neurotecnologia e, em todas e cada uma delas, a propriedade dos dados é da empresa. São contratos predatórios desde o ponto de vista do cliente. É o selvagem oeste: como não há regulação, todas as empresas, sem exceção, monopolizam tudo o que podem.
A NeuroRights Foundation e os cinco neurodireitos
Surge assim a criação da NeuroRights Foundation que Yuste lidera junto ao advogado especialista em Direitos Humanos Jared Genser e começa um labor de evangelização e difusão dos cinco neurodireitos: privacidade mental; identidade pessoal; direito à liberdade, à agência e ao livre arbítrio; acesso equitativo e proteção contra os vieses. Todos eles estão sendo trabalhados ao mais alto nível com reuniões nas Nações Unidas e com o envolvimento pessoal de seu Secretário-Geral, o português António Guterres.
Já existem três comitês de Direitos Humanos das Nações Unidas – o Comitê Contra a Tortura, o Comitê para a Eliminação da Discriminação Racial e o Comitê de Direitos Humanos que é gerenciado pelo Pacto Internacional de Direitos Civis e Políticos (ICCPR) – que estão estudando os novos direitos para incorporá-los como extensão destes Tratados Internacionais de Direitos Humanos.
Perante o problema, surge a solução de abordá-lo desde o ponto de vista dos Direitos Humanos: proteger o cérebro como o santuário da nossa mente porque aí se gera a identidade humana. Se este não é um problema de Direitos Humanos, o que é um problema de Direitos Humanos?
Em 2024 o projeto mais importante da Fundação é levar a temática dos neurodireitos, que já começa a ser acolhida pelas administrações públicas e pelas organizações internacionais, ao coração das empresas tecnológicas para envolvê-las diretamente na geração de soluções a estes problemas que identificamos.
Em Oppenheimer, o filme de Cristopher Nolan se fala que “a ciência deve levantar a pedra ainda que com o risco de aparecer a serpente”. A diferença é marcada pelo que se faz com a serpente: ignorá-la, alimentá-la, anulá-la… Até que ponto as equipes científicas situadas ante o descobrimento devem também se implicar em assinalar a face B de cada avanço científico?
Yuste sorri e gira seu laptop para mostrar o edifício que se observa desde a janela do escritório onde atende a esta entrevista.
No sótão desse edifício do campus da universidade de Colúmbia é onde foi fabricado o primeiro reator nuclear da história e os físicos que o conseguiram foram aqueles que integraram, posteriormente, o Projeto Manhattan. Os próprios cientistas que criaram a bomba atômica foram os primeiros em pedir a regulação da energia atômica às Nações Unidas até que, finalmente, foi criado o Organismo Internacional da Energia Atômica.
Várias gerações depois e com o mesmo espírito, no edifício ao lado, outro grupo de cientistas – esta vez envolvidos no desenvolvimento de neurotecnologias – nos reunimos e pedimos às Nações Unidas a regulação sobre o tema. Estamos inspirados pelo que ocorreu no edifício vizinho.
Chile, pioneira mundial
Yuste considera o Chile quase como seu segundo lar: em três anos viajou dez vezes ao país andino. A primeira foi em 2018, convidado pelo Senado do Chile ao Congresso Futuro, o maior encontro científico/cidadão da Ibero-América. Em sua conferência – Neurodireitos e a privacidade mental– Yuste expôs a questão dos neurodireitos e o Chile recolheu a deixa do desafio que representa incorporá-los a um marco normativo. Em dois anos, o Senado primeiro e a Câmara depois, aprovaram de maneira unânime uma reforma do artigo 19 da Constituição chilena que protege a atividade cerebral e a informação dela procedente.
A reforma foi assinada pelo Presidente Sebastián Piñera em novembro de 2021 e o Chile fez história ao se converter no primeiro país no mundo em proteger a atividade cerebral de sua cidadania.
A emenda continua em vigor. É um texto pequeno, apenas duas frases, mas de alcance universal: “O desenvolvimento científico e tecnológico estará ao serviço das pessoas e será realizado com respeito à vida e à integridade física e psíquica. A lei regulará os requisitos, condições e restrições para sua utilização nas pessoas, devendo resguardar. Especialmente, a atividade cerebral, assim como a informação dela proveniente”.
O envolvimento das Nações Unidas nos neurodireitos é imprescindível: a única regulação global são os Tratados de Direitos Humanos que dela emanam
Como estes princípios de base são transladados a um reflexo em leis e códigos concretos?
O Senado da República do Chile fez duas coisas: além do projeto de emenda constitucional que foi aprovado por unanimidade, propôs uma lei de neuro proteção que faz chegar estas ideias ao código legal e ao código sanitário vigente no Chile. E esta lei de proteção é muito original porque propõe uma solução muito prática sobre o que fazer com este problema no futuro. O Chile definiu por lei que toda neurotecnologia é um produto médico, com o quê, aplica o código sanitário e médico vigente no país a todos os produtos.
O Instituto de Saúde Pública tem de aprovar também os dispositivos eletrônicos antes de que possam ser comercializados aplicando a todos os neuro dados o mesmo rigor de proteção que se contempla nos dados médicos sensíveis. Esta lei pioneira no mundo foi aprovada de forma unânime pelo Senado em 2021, mas está parada na Câmara, não porque haja oposição a ela, senão porque não foi propulsada. Se o Chile alcança a sua aprovação, não somente seria o primeiro país onde os neurodireitos têm proteção constitucional, senão o primeiro em utilizar o sistema médico para canalizar de uma maneira legal, eficiente, rápida e inteligente o problema que a neurotecnologia representa. É importante que o Chile siga essa senda, porque o que ocorrer no país pode ser exemplo para toda a humanidade.
O exemplo chileno provocou muito interesse em todo o mundo e foi praticamente copiado por outros países, com projetos muito parecidos de reforma constitucional.
O Senado da República do Brasil apresentou uma proposta de emenda do artigo 5 da Constituição brasileira, que é o mais importante da carta, no qual são definidos os direitos fundamentais da cidadania brasileira para introduzir essa proteção da informação cerebral. Independentemente disto, o estado de Rio Grande do Sul, aprovou, em dezembro de 2023, uma emenda à Constituição de seu Estado para que toda a legislação futura incorpore os neurodireitos protegendo a atividade cerebral e a informação dela procedente como um Direito Humano básico.
No Brasil também há um projeto para incluir no código civil essa proteção da atividade cerebral liderado pela procuradora do estado de São Paulo. E aqui, o Brasil está adiantando o Chile, porque não só vão ter proteção constitucional, senão que os neurodireitos vão estar incorporados ao Código Civil.
No México foi apresentada uma emenda constitucional, que se encontra em discussão no Senado da República e há outros países às portas de fazer algo parecido: o Uruguai, a Argentina, a Costa Rica e a Colômbia. Outro assunto muito importante é que a Organização de Estados Americanos (OEI) que envolve os Estados de todas as Américas aprovou um documento para garantir a proteção da atividade cerebral.
Na Espanha, os neurodireitos foram incorporados à Carta de Direitos Digitais que o governo aprovou em 2022 e que não tem valor legal, senão orientativo. É muito complicado emendar a Constituição na Espanha e se pensa mais em um projeto de lei.
A Agência Espanhola de Proteção de Dados, há meses, está estudando o tema com a ideia de gerar um decálogo que acrescente os neurodireitos à sua interpretação do RGPD (Regulamento Geral de Proteção de Dados) e que possa ser elevado à União Europeia. Durante a recente Presidência espanhola da UE se estabeleceu a Declaração de León firmada por todos os países europeus para defender os neurodireitos e a privacidade da informação cerebral.
Em um mundo com distintos modelos econômicos e políticos e desigualdades entre e intra países há cidadãos protegidos e outros totalmente expostos. A brecha no acesso a estas tecnologias pode se converter em um problema social e inclusive antropológico. Haverá pessoas potenciadas, aumentadas e outras condenadas a ser párias, gerando vários tipos de humanos.
Tudo o que fazemos com a mente, poderemos acelerá-lo e melhorá-lo com neuro tecnologias aplicadas e isso vai acompanhado por um novo ser humano no qual, parte do processamento mental ocorrerá fora do nosso corpo. Queremos nos assegurar, desde o começo, que este cenário esteja regido pelo princípio universal de justiça, que o acesso a este neuro aumento seja um acesso equitativo.
O definido como quarto neurodireito fala do acesso equitativo ao neuroaumento, de maneira que quando estes dispositivos forem utilizados para aumentar as capacidades cognitivas das pessoas como a memória – isto já se faz – sejam realizados sob o princípio universal de justiça. Há de se evitar a fratura da sociedade e da humanidade em dois tipos de seres humanos. Por isso o envolvimento das Nações Unidas nos neurodireitos é imprescindível: a única regulação global são os Tratados de Direitos Humanos que dela emanam.
A NeuroRights Foundation trabalhou com o diretor de cinema alemão Werner Herzog e juntos rodaram o filme documentário O teatro do pensamento. É proposto como uma viagem para o estudo da mente e Da consciência, convidando a questionar se realmente temos controle sobre nossos pensamentos ou se nossos cérebros se verão inexoravelmente submetidospor tecnologias de controle mental em um futuro não tão longínquo. Ciência, arte audiovisual, compromisso com os problemas coletivos…como foi a experiência?
No começo da Covid enviei um e-mail a Herzog. Ele sempre teve muito interesse no cérebro e nunca tinha tido a oportunidade de fazer um filme sobre o tema. Pediu-me uma proposta de roteiro e, em maio de 2022, já tínhamos tudo planejado para rodar. Embarcamo-nos em uma viagem na qual fizemos 30 entrevistas em duas semanas, trabalhando com empenho. Falamos com cientistas, filósofos, especialistas em Direitos Humanos… Foi uma experiência maravilhosa. Nenhum dos dois tinha interesse comercial algum, focamos tudo como uma questão de responsabilidade ante um tema que queríamos apresentar de maneira compreensível e com profundidade. Foi mostrado em vários festivais e queremos vender os direitos a uma produtora para sua distribuição. De momento, temos autorização para fazer passes privados do filme, sempre que for para interesse público, médico ou cientista.
