Em uma região marcada pela desigualdade e pela informalidade como a Ibero-América, migrantes, mulheres pobres, jovens sem trajetória profissional formal, comunidades indígenas ou habitantes de áreas sem boa conectividade representam uma parcela substancial da geografia humana. E se um sistema de IA não souber interpretar as circunstâncias específicas das periferias, oferecerá uma representação inadequada da realidade, como aponta um estudo do Instituto Internacional Idea.
O PNUD alerta que a IA é implementada na América Latina e no Caribe sobre desigualdades já existentes e que as pessoas menos visíveis nos registros correm maior risco de serem excluídas pelos sistemas que selecionam bolsas de estudo, subsídios, créditos ou candidaturas a empregos, porque o algoritmo pode interpretar a falta de informações como falta de solvência, estabilidade ou mérito.
A exclusão digital acrescenta outra camada. Para se beneficiar de um tutor educacional, uma consulta médica remota ou uma ferramenta que aumente a produtividade, são necessários falta conectividade, dispositivos, competências e, cada vez mais, capacidade para pagar melhores serviços. A lacuna já não separa apenas aqueles que estão conectados daqueles que não estão. A distância também aumenta entre aqueles que podem utilizar sistemas avançados de forma criteriosa e aqueles que recebem versões gratuitas, limitadas ou desenvolvidas para outras realidades.
Com as mulheres, as discriminações se sobrepõem. Para elas, as oportunidades abertas pela digitalização costumam coexistir com antigas desigualdades
Camadas de exclusão
O pesquisador brasileiro Tarcízio Silva, autor de Racismo algorítmico: inteligência artificial e discriminação em redes digitais, estudou como a histórica hipervigilância das populações negras e pobres encontra continuidade em tecnologias como o reconhecimento facial, o policiamento preditivo ou os sistemas de pontuação de risco.
Com as mulheres, as discriminações se sobrepõem. Um sistema de crédito pode penalizar trajetórias profissionais interrompidas devido às responsabilidades de cuidado; um sistema de contratação pode aprender com históricos marcados pela predominância masculina, e um aplicativo de combate à violência de gênero pode ignorar aquelas que não têm acesso privado e seguro a um telefone.
Para elas, as oportunidades abertas pela digitalização costumam coexistir com antigas desigualdades. O estudo Mulheres na economia de plataformas: desafios e oportunidades na Ibero-América, na economia de plataformas: desafios e oportunidades na Ibero-América, elaborado pela SEGIB, OIT e ONU Mulheres, calcula que, somente nas plataformas de trabalho on-line, trabalham 8,3 milhões de pessoas na região, das quais 2,8 milhões são mulheres. Para muitas delas, a flexibilidade e a possibilidade de trabalhar a distância podem facilitar o acesso ao emprego que outros mercados de trabalho dificultam.
No entanto, os dados do relatório da SEGIB também indicam que o mundo digital não elimina as desigualdades de partida: as mulheres se concentram em tarefas com remuneração mais baixa, realizam menos trabalhos e obtêm uma renda semanal média de 35,2 dólares, em comparação com os 58,3 dólares dos homens.
Por trás disso, aparecem desigualdades conhecidas, como a maior carga de trabalho de cuidado, as lacunas nas competências digitais ou a menor presença das mulheres em áreas tecnológicas.
“A baixa presença feminina nas equipes de tecnologia influencia quais problemas são considerados importantes e como as soluções são desenvolvidas”, alerta a especialista colombiana Zinnya del Villar, responsável global por dados e inteligência artificial da Data-Pop Alliance em uma entrevista da ONU Mulheres.
A essas antigas desigualdades somam-se riscos próprios do novo modelo algorítmico, como a irregularidade da renda, a falta de proteção social ou a opacidade dos sistemas algorítmicos.
Trabalhar para a máquina
A socióloga e engenheira da computação argentina Milagros Miceli aponta outro tipo de grupo marginalizado pela IA que, embora esteja profundamente ligado à cadeia de produção da inteligência artificial, permanece fora da narrativa daqueles que a constroem e daqueles que se beneficiam dela.
Boa parte desse trabalho de rotulagem de dados e revisão de conteúdos que sustenta os sistemas de IA é terceirizada para países do Sul Global, frequentemente sob um regime de baixos salários, instabilidade e pouca proteção trabalhista.
“É um trabalho invisível, embora eu prefira chamá-lo de invisibilizado, e é proposital”, afirmou Miceli em uma entrevista. “Em muitos casos, há danos psicológicos devido à natureza dos conteúdos. Há muitas pessoas trabalhando com dados e imagens perturbadoras.”
A socióloga dá visibilidade a esse trabalho oculto por meio da Data Workers’ Inquiry, uma pesquisa participativa na qual trabalhadores da economia de dados documentam suas condições de trabalho com depoimentos como o de Oskarina Fuentes, que há mais de uma década realiza tarefas essenciais para treinar sistemas de inteligência artificial em diversas plataformas.
A inteligência artificial não fala a sua língua
A exclusão torna-se literal no caso das línguas originárias. O estudo O desempenho da Inteligência Artificial no uso das línguas indígenas americanas, elaborado pela consultoria LLYC (Llorente y Cuenca) com a Microsoft e o apoio do Banco Interamericano de Desenvolvimento, avaliou respostas em quéchua, quiché, maia, guarani, náuatle e aimará. Apenas 54% foram aparentemente corretas e, mesmo nesses casos, eram até quatro vezes mais curtas do que as oferecidas em línguas dominantes, além de obterem pontuações muito baixas em expressão e compreensão: o quéchua alcançou 3,72 de 10, e o maia e o quiché, 1,25.
Como aponta a UNESCO, as ferramentas desenvolvidas com as comunidades podem facilitar a telemedicina, os procedimentos administrativos, a educação e a preservação linguística, e são os povos indígenas que devem decidir quais conhecimentos podem ser incorporados, com que consentimento, sob qual propriedade e para quais usos.
Uma língua carrega categorias, memória, humor e relações com o território. Não contar com ela deixa uma lacuna em seu conhecimento.
Porque não se trata apenas de traduzir palavras. Uma língua carrega categorias, memória, humor e relações com o território e, se um modelo responde em guarani, mas interpreta o mundo a partir de referências ocidentais, a comunidade estaria presente como vocabulário, mas ausente como conhecimento. Por isso, e sem esquecer as línguas indígenas, a próxima Cimeira Ibero-Americana de Chefes de Estado e de Governo espera aprovar a Aliança Ibero-Americana em Inteligência Artificial para trabalhar sobre o valor de contar com duas línguas, português e espanhol, e em cujos modelos de IA deve ressoar todo o acervo cultural próprio e compartilhado, para que a Ibero-América possa contar a si mesma.
Construção de alternativas
Em seu último Relatório de Desenvolvimento Humano, Um chamado para decidir: pessoas e possibilidades na era da Inteligência Artificial, o PNUD propõe deslocar a questão daquilo que a inteligência artificial pode fazer para as escolhas e capacidades reais das pessoas.
Para as comunidades vulnerabilizadas, a inclusão exige mais do que acrescentar exemplos diversos a uma base de dados. Exige participar da definição do problema, poder rejeitar determinados usos, saber quando um sistema toma uma decisão, contestar seus resultados e obter reparação. Exige conectividade e formação, mas também instituições capazes de auditar modelos e limitar aplicações que ameacem direitos.
Talvez o maior erro seja imaginar que as comunidades vulnerabilizadas esperam passivamente para serem incluídas.
Em toda a Ibero-América existem organizações feministas, indígenas, afrodescendentes, juvenis e de direitos digitais que produzem dados comunitários, auditam tecnologias e constroem alternativas.
Elas não pedem apenas que o algoritmo as considere melhor. Reivindicam o direito de decidir o que ele deve observar, o que não deve transformar em dado e a quem deve prestar contas. Um bom exemplo é a Rede Feminista de Inteligência Artificial na América Latina e o Caribe, que sustenta em seus estatutos que a IA pode ser construída à margem dos grandes centros tecnológicos e responder a múltiplas formas de compreender o progresso. Reúne organizações da sociedade civil, grupos acadêmicos, ativistas e comunidades de diferentes países da região para promover uma inteligência artificial baseada nos direitos humanos, feminista, antipatriarcal e anticolonial, construída a partir das necessidades e dos conhecimentos das próprias comunidades.
Fazem parte de organizações como a Fundação Via Livre, DataGénero, Dados Contra o Feminicídio ou a Fundação Dados Protegidos, juntamente com pesquisadoras, tecnólogas e ativistas de diferentes áreas. Seu propósito é analisar os vieses ou desigualdades que a IA pode reproduzir e experimentar outras formas de criá-la e governá-la, incorporando aqueles que habitualmente têm menos voz em seu desenvolvimento.
O histórico de projetos é variado em temática e geografia; basta consultar os seis atualmente em andamento:
Na Argentina, o Centro de Estudos Interdisciplinares de Ciência, Tecnologia e Inovação (CIECTI) e a Rede pelos Direitos das Pessoas com Deficiência (REDI) pretendem evitar que a IA aplicada a registros clínicos reproduza representações capacitistas, androcêntricas ou cissexistas.
Na Bolívia, a Fundação CERAI lidera o projeto Vozes da Terra, Dados de Cielo, no qual mulheres indígenas chiquitanas combinam conhecimentos ancestrais e tecnologia para prevenir e monitorar os incêndios da Floresta Chiquitana.
O Brasil contribui com duas experiências: o Instituto AzMina impulsiona o projeto QuitérIA, que utiliza processamento de linguagem natural para monitorar a atividade legislativa do Congresso a partir de uma perspectiva de gênero e interseccional, e a iniciativa Cabaça Digital, na qual várias pesquisadoras e ativistas trabalham com comunidades da Amazônia em novas formas de governança de dados que permitam proteger seus saberes tradicionais diante do racismo ambiental, da pressão urbana e do extrativismo de dados.
Na Colômbia, a Corporação Acracia está registrando uma Memória Viva na IA para mulheres Inga de Putumayo, projeto no qual, por meio de círculos da palavra e ferramentas de IA de código aberto, são conectados conhecimentos das mamãezinhas sábias sobre menstruação, gravidez, partos, infância e plantas medicinais com mulheres jovens. A comunidade controla seus dados e decide o que é digitalizado, colocando a tecnologia a serviço da memória viva, da transmissão intergeracional e da soberania indígena.
No Equador, a Fundação Furia e o Observatório de Plataformas (OdP) trabalham com mulheres trans no projeto furIA para cocriar ferramentas que permitam documentar violações de direitos humanos e facilitar o acesso a apoio jurídico e psicossocial.
Por fim, um projeto da Universidade Autônoma de Querétaro, no México, coloca a tecnologia a serviço de uma preocupação que acompanha o próprio crescimento da IA: o consumo de água dos centros de dados, desenvolvendo uma ferramenta colaborativa para documentar seus impactos , em um território submetido a elevado estresse hídrico.
Uma inteligência artificial justa será, portanto, aquela que amplie capacidades sem transformar a diferença em anomalia, a pobreza em suspeita nem a cultura em matéria-prima. E, especialmente, aquela que deixe às pessoas poder suficiente para questioná-la.
