Conservar a cultura, o idioma, a identidade e as referências comuns em um mundo fragmentado pela avalanche de conteúdos e pelas novas formas de criação que a IA traz poderia se considerar um direito? Mais ainda, é um direito entender como as mudanças tecnológicas às que estamos expostos afetam a nossa pura humanidade?
A indústria tecnológica leva em sua natureza a expectativa constante. O óleo que engraxa sua maquinária é uma descoberta da tecnologia ”definitiva” e, desta vez, o consenso é unânime: a Inteligência Artificial é a mais disruptiva dos últimos tempos e, mais além de questionar como fazemos as coisas, vem nos interrogar sobre o que somos.
“As evoluções mudam as respostas, as revoluções mudam as perguntas”, propunha Jorge Wagensberg, físico e professor de Teoria dos processos irreversíveis na Universidade de Barcelona. A mudança que a Inteligência Artificial traz não é para dar novas respostas às interrogações de sempre, senão para propor perguntas absolutamente novas e essa questão não corresponde só à tecnologia: se translada à filosofia, ao humanismo e a esse conjunto de referências e marcos coletivos que chamamos cultura.
Uma via de mão dupla
Na relação entre a inteligência artificial (IA) e a cultura, o impacto é de mão dupla: “a inteligência artificial tem impacto na cultura e a cultura também tem, ou poderia ter, um impacto na IA”, indica o filósofo argentino Octavio Kulesz, em sua publicação O aporte da cultura ao desafio da Inteligência Artificial.
Kulesz centra seu trabalho em temas relacionados com as indústrias culturais na era digital. Desde 2020 é membro do Grupo de Especialistas da UNESCO que redigiu a Recomendação mundial sobre a Ética da IA, o primeiro instrumento normativo mundial sobre o tema que inclui a cultura como uma área decisiva. Para o filósofo, “a cultura opera como input e como output chave da IA”. Uma grande parte dos dados que são entregues à máquina como alimento provém da criatividade humana e se encontra do outro lado da equação: graças à IA são geradas cada vez mais obras artísticas. Não só porque a versão generativa da Inteligência Artificial as produza diretamente a partir de prompts ou instruções, senão porque as ferramentas da IA amplificam a criatividade, dando passagem à figura do “artista aumentado”.
Piratagem ao sistema operativo da civilização
“Já existem no mundo mais máquinas do que humanos utilizando a linguagem natural: tradutores, corretores linguísticos, assistentes de voz que, no caso de serem treinadas com referências deficientes, empobreceria a qualidade dos idiomas”, indicou Santiago Muñoz Machado, Diretor da Real Academia Espanhola da Língua e presidente da Associação de Academias da Língua Espanhola (ASALE), no encontro Marcos Regulatórios em Inteligência Artificial organizado pela SEGIB.
O diretor da RAE assinalou que o uso da linguagem natural por parte da IA é um objetivo conquistado e recuperou a frase do filósofo mediático por excelência, Yuval Noah Harari: “A máquina pirateou o sistema operativo da nossa civilização, a linguagem”. A RAE não tem relação com as máquinas nem a capacidade de corrigir a arbitrariedade fora de consenso com a qual manejam o idioma “e que depende de seus programadores e dos vieses que estes tiverem, que costumam eliminar as minorias”, assinalou Muñoz Machado.
Uma cultura atomizada, desprovida de símbolos, identidades e significados, poderia rachar o andaime que nos mantém unidos
Por enquanto, as empresas TIC se convertem em potenciais reguladoras ou prescritoras da língua com capacidades de impor variantes que podem não coincidir com os usos dos humanos e que se transmitem aos novos usuários da língua: as próprias máquinas. “Poderiam germinar dialetos digitais que tensionassem a unidade e estabelecessem as bases de uma fragmentação do uso do idioma que a atividade acadêmica conseguiu evitar durante mais de 300 anos”, continuou Muñoz Machado durante sua intervenção no webinar da SEGIB.
O diretor da RAE falou sobre “estabelecer vínculos com as grandes e pequenas empresas tecnológicas que manejam linguagem natural para que utilizem os materiais da Academia”. Daí surgiu o projeto LEIA com o duplo objetivo de velar pelo bom uso da língua espanhola nas máquinas e aproveitar a IA para criar ferramentas que fomentem o uso correto do espanhol nos seres humanos.
Em um artigo do New York Times o filósofo e linguista Noam Chomsky não compartilha a ideia de que a piratagem à língua seja tal: quando os linguistas tentam desenvolver uma teoria sobre porque uma língua determinada funciona como o faz, constroem uma versão explícita da gramática que a criança constrói por instinto e com uma exposição mínima à informação. No entanto, o sistema operativo da criança é completamente diferente ao de um programa de aprendizado automático.
De fato, para Chomsky, “estes programas estão estancados em uma fase pré-humana ou não humana da evolução cognitiva. Seu defeito mais profundo é a ausência da marca da verdadeira inteligência: a explicação”.
No prólogo do livro a Imaginação, criatividade e linguagem em uma nova era tecnológica, Mario Tascón assinalava que “as IAs não pensam, isso é uma metáfora; processam, geram, ordenam, extraem dados, resumem e constroem estruturas de conteúdos que, até agora, eram patrimônio da criatividade humana. Talvez tenhamos de inventar um neologismo, uma nova palavra, para indicar o que elas fazem”. O livro busca ajudar a compreender, de forma clara, como funcionam os grandes modelos de linguagem por trás de vários dos avanços mais recentes — e mediáticos — em inteligência artificial, além de contribuir à construção de uma cultura cidadã comum sobre IA.
Nunca fez tanta falta como agora a informação precisa, verificada, equitativa e contextual para entender o momento histórico no qual a IA nos situa
Também sobre a pirataria da linguagem como sistema operativo do humano, o neurocientista Mariano Sigman indica que “a história está cheia de piratarias de todo tipo, não necessitamos a IA para destruir nossos princípios e valores, nos bastamos a nós mesmos”.
No ensaio Artificial, a nova inteligência e o controle do humano (Debate, 2023), Sigman e o tecnólogo Santiago Bilinkis, ambos argentinos, aportam uma ampla variedade de ângulos desde os quais formar um juízo fundamentado sobre o futuro. Nem mensagens apocalíticas nem optimismo acrítico. Para os autores, a IA é um potenciador da nossa criatividade e das nossas capacidades, como uma espécie de treinador virtual ou uma mente complementar. Devemos tratar a IA “como uma musa e não como um adversário”
Sigman indica que a IA gera todo tipo de projeções e imagens mentais, assim que esta é nomeada. “Metaforicamente a IA é como a selva, que é um lugar perigoso, mas fascinante, cheio de vida. Se sabemos apreciá-la, uma vez que entramos nesse mundo tão estranho, há todo um espaço de fascinação. Creio que à IA não há de ser considerada nem com tanto medo nem com tanto respeito ou admiração”.
O viés é um espelho
Os vieses da IA procedem de seus criadores humanos e sua origem são, precisamente, os estereótipos culturais. Vieses de gênero, contra minorias sexuais, étnicas ou religiosas que se encontram nos materiais culturais com os quais a IA se alimenta. Os preconceitos humanos se transladam à máquina que julga o mundo com a mesma visão enviesada de seus criadores. Nese sentido, a IA tem o valor de identificar os preconceitos que subjazem nas sociedades, nas culturas e nos próprios corpus linguísticos que veem assinaladas suas contradições, vieses e imperfeições à luz da pura lógica matemática.
O próprio fato de que uma língua seja “maior” que outra é, em si mesmo, um viés. Os fornecedores de soluções de IA que trabalham com linguagem natural priorizam as ferramentas pensadas para certas línguas, em detrimento de outras. O espanhol está em uma posição de vantagem porque é falado por 600 milhões de pessoas e o português também é uma língua relevante com 222 milhões de falantes no Brasil e Portugal, mas muitas línguas de povos originários ficariam definitivamente fora da lógica das ferramentas de IA.
A questão é o que fazer com isso uma vez proposto o diagnóstico e o ativismo antivieses que busca que as minorias se encontrem também representadas, para o quê, é necessário orçamento, vontade política e mais mulheres e pessoas pertencentes a entornos discriminados nos espaços nos quais estas ferramentas sejam protegidas, mas também onde as regulações sejam debatidas.
A IA como musa
“O físico, como o poeta, não deveria descrever os fatos do mundo, senão só criar metáforas e conexões mentais”, dizia Niels Bohr, mestre de tantíssimos físicos e matemáticos quânticos.
Múltiplos autores e criadores consideram a ciência, a tecnologia e a cultura como primas ou irmãs: compartilham o mesmo ADN como fruto da criatividade humana.
O escritor chileno Benjamín Labatut abunda nisso ao converter a ciência e a tecnologia no tema central de sua literatura. Assinala que a iluminação e a decodificação do mundo que a ciência persegue projeta uma sombra que a literatura recolhe, que estava ali muito antes para nos explicar o mundo, como uma irmã mais velha. “Para a literatura serve tudo, ela recolhe tudo, não tem de se cingir aos princípios de racionalidade e comprovação que a ciência exige, que dá voltas para confirmar algo que, de alguma maneira misteriosa, já sabíamos”, compartilhava em uma conversa mantida durante o recente Há Festival de Cartagena de Índias.
O autor de Um verdor terrível (2020) e MANIAC (2023) – dois fenômenos editoriais que penetram nas cabeças e nos processos “criativos” dos cientistas que romperam a física newtoniana para atomizar a realidade em pedaços quânticos e prefiguraram a complexa matemática que reside nas tripas da Inteligência Artificial – defendia em uma entrevista recente que “a literatura nos recorda que, por muito que esquadrinhemos a realidade, a maior parte do ser humano vai continuar sendo um mistério. Por muito que digamos que há regras que subjazem, essas regras sempre vão ser escuras para nós. A literatura é como um estudo da sombra. É a sombra, e não a luz, a que interessa”.
Autores e criadores consideram a ciência, a tecnologia e a cultura como primas ou irmãs: compartilham o mesmo ADN como fruto da criatividade humana
Não pode se agregar um fóton de luz ao mundo sem agregar, imediatamente, a sua sombra, vem a dizer Labatut, que expõe sem julgar os delírios que podem surgir da racionalidade mais pura encarnada nos físicos superdotados do século XX que geraram a raiz da computação cuja explosão vivemos hoje. O autor reconhece que nos chamados delírios da Inteligência Artificial – a capacidade dos modelos de IA para gerar conteúdo que não se baseia em dados reais, senão que é produto da própria imaginação dos modelos – “são uma mina de ouro para a literatura”. Labatut mantém que esses delírios já assinalam um aspecto fundamental de como funciona nossa própria inteligência, “que não é perceptiva, é delirante. O ChatGPT, ao parecer, não pode operar na linguagem sem ter estes sonhos, estas fantasias, todos estes dados que apontam a uma realidade que não existe. E a realidade que não existe é o centro da literatura”.
Em uma passagem de MANIAC, uma das personagens antecipa a possibilidade de que as referências, os contextos culturais que nos possuem e que nos dão sentido de pertencimento poderiam se perder. A fragmentação, dissociação, segregação do conhecimento poderia causar “um estranho retrocesso na evolução humana, uma súbita diminuição de conhecimento e lucidez que afetaria toda a espécie e que seria o primeiro arauto de uma nova Idade Escura, produto da perda voluntária, irremediável e profunda, da nossa memória coletiva”.
Octavio Kulesz propõe que poderia ocorrer que – algoritmos futuros – as grandes plataformas gerem materiais culturais personalizados, não para uma certa comunidade, senão para um indivíduo que dela desfruta de forma isolada. “O que é uma grande oportunidade em termos comerciais, ao pensá-lo desde o ponto de vista da coesão social, uma cultura atomizada e desprovida de símbolos, identidades e sentido poderia fazer com que o andaime que nos mantém unidos rachasse. Aliás, é viável uma sociedade na qual não existe uma cultura compartilhada?”, interroga o especialista.
Direito a entender
A falta de informação é perigosa, mas o excesso pode ser pior. Em Divertir-se até morrer: o discurso público na era do show business, (2001) Neil Postman, discípulo do teórico e crítico dos meios de comunicação Marshal McLuhan, já assinalou, há mais de 20 anos, a dificuldade que representa para os cidadãos saber o que é relevante e o que não e desconhecem como abrir passagem em uma selva informativa orientada ao entretenimento infinito. “A banalização transforma a informação em informação enganosa, mal localizada, irrelevante, fragmentada ou superficial, informação que cria a ilusão de saber algo a mais que, de fato, nos afasta de compreender” mantinha Postman. Tudo isso sem ter chegado a presenciar o que as redes sociais, as plataformas e a IA fizeram com a maneira em que consumimos conteúdos.
Nunca fez tanta falta como agora a informação precisa, verificada, equitativa e contextual para entender o momento histórico no qual a IA nos situa. Comunicar de forma clara e com impacto é o mantra aplicado pela agência, editorial, think tank, e laboratório de ideias Prodigioso Volcán para explicar os fenômenos que nos concernem através de formatos digitais com um pé firmemente apoiado na cultura. Para a agência, “a desconexão digital é o novo analfabetismo do século XXI que se converteu em um handicap importante para a participação nos distintos âmbitos da nossa sociedade”, indica sua CEO e fundadora María Moya.
Surge, assim, a iniciativa de criar um Objetivo de Desenvolvimento Sustentável, o número 18, que tem a ver com o direito da cidadania a entender os grandes desafios do nosso tempo. A Comunicação Clara é a disciplina que faz efetivo o direito a entender das pessoas. Aplicá-la, permitiria favorecer a igualdade e combater a brecha digital. “Sua dificuldade reside em que é muito mais do que linguagem. Para fazer fácil o difícil necessitamos uma soma de disciplinas interdependentes como a linguagem clara, o layout, a acessibilidade digital, os vieses e a compreensão leitora e, agora, a Inteligência Artificial”, continua Moya.
As empresas TIC se convertem em potenciais prescritoras da língua com capacidades de impor variantes que podem não coincidir com os usos dos humanos
Na iniciativa também participa a Fundação Gabo, que busca fomentar cidadãos ativos e mais bem informados mediante a formação e o estímulo aos jornalistas e a promoção do uso ético e criativo do poder de contar e compartilhar histórias, inspirados no método de oficina de Gabriel García Márquez.
A capacidade para criar imagens e notícias falsas da IA, a velocidade de propagação e a lógica dos algoritmos para compartilhá-las é inalcançável e a maneira em que os meios explicarem o fenômeno da IA, seus derivados e dissonâncias, será fundamental para se orientar nela. A exposição Fake News, a fábrica de mentiras que Mario Tascón, fundador de Prodigioso Vulcão, comissariou na Fundação Telefónica abordou a revisão do fenômeno das notícias falsas ao longo dos séculos, propondo uma reflexão sobre como essas fake news se expandiram desde a aparição das plataformas digitais e o impacto que geram atualmente em uma sociedade saturada de informação, mas pobre em pedagogia para valorizá-la.
Se a IA Generativa provoca tanto assombro como vertigem, a não tão futura Inteligência Artificial Geral seria o seguinte passo em propor a externalização do que somos. A capacidade de autorreplicação celular capaz de criar “a coisa” contendo, além disso, as instruções para criá-la, se translada à replicação do funcionamento do cérebro humano em um entorno sintético. É complexo. Tanto, que escapa à mera ciência e necessita ser explicado desde a filosofia e a criação artística para poder entender como a própria IA aproximaria a possibilidade de criar uma nova e inexplicável beleza.
Jorge Luis Borges escreveu que viver em uma época de grandes perigos e promessas é experimentar tanto a tragédia como a comédia, com “a iminência de uma revelação” para nos entendermos a nós mesmos e ao mundo. Estamos nesse empenho.
