En una región atravesada por la desigualdad y la informalidad como es Iberoamérica, migrantes, mujeres pobres, jóvenes sin trayectoria laboral formal, comunidades indígenas o habitantes de zonas sin buena conectividad representan una parte sustancial de la geografía humana. Y si un sistema de IA no sabe leer las circunstancias específicas de las periferias, devolverá una mala representación de la realidad, como se indica en un estudio del Instituto Internacional Idea.
El PNUD advierte de que la IA se despliega en América Latina y el Caribe sobre desigualdades ya existentes y las personas menos visibles en los registros corren mayor riesgo de quedar excluidas por los sistemas que seleccionan becas, subsidios, créditos o candidaturas laborales debido a que el algoritmo puede interpretar la falta de información como escasez de solvencia, estabilidad o mérito.
La exclusión digital añade otra capa. Para beneficiarse de un tutor educativo, una consulta médica remota o una herramienta que eleve la productividad hacen falta conectividad, dispositivos, competencias y, cada vez más, capacidad para pagar mejores servicios. La brecha ya no separa solamente a quienes están conectados de quienes no lo están. La distancia se incrementa también entre quienes pueden usar sistemas avanzados con criterio y quienes reciben versiones gratuitas, limitadas o diseñadas para otras realidades.
Con las mujeres, las discriminaciones se superponen. Para ellas, las oportunidades que abre la digitalización suele convivir con viejas desigualdades
Capas de exclusión
El investigador brasileño Tarcízio Silva, autor de Racismo algorítmico: inteligencia artificial y discriminación en redes digitales ha estudiado cómo la histórica hipervigilancia de las poblaciones negras y pobres encuentra continuidad en tecnologías como el reconocimiento facial, la vigilancia policial predictiva o los sistemas de puntuación de riesgo,
Con las mujeres, las discriminaciones se superponen. Un sistema de crédito puede penalizar carreras laborales interrumpidas por los cuidados; uno de contratación puede aprender de historiales masculinizados y una aplicación contra la violencia de género puede ignorar a quienes no tienen acceso privado y seguro a un teléfono.
Para ellas, las oportunidades que abre la digitalización suele convivir con viejas desigualdades. El estudio Mujeres en la economía de plataformas: desafíos y oportunidades en Iberoamérica, elaborado por SEGIB, OIT y ONU Mujeres, calcula que, solo en las plataformas de trabajo en línea, trabajan 8,3 millones de personas en la región, de las que 2,8 millones son mujeres. Para muchas de ellas, la flexibilidad y la posibilidad de trabajar a distancia pueden facilitar un acceso al empleo que otros mercados laborales dificultan.
Sin embargo, las cifras del informe de la SEGIB también señalan que el mundo digital no borra las diferencias de partida: las mujeres se concentran en tareas peor remuneradas, realizan menos encargos y obtienen unos ingresos semanales medios de 35,2 dólares, frente a los 58,3 de los hombres.
Detrás aparecen desigualdades conocidas como la mayor carga de cuidados, las brechas en competencias digitales o su menor presencia en ámbitos tecnológicos.
“La escasa presencia femenina en los equipos tecnológicos influye en qué problemas se consideran importantes y cómo se diseñan las soluciones”, advierte la experta colombiana Zinnya del Villar, responsable global de datos e inteligencia artificial de Data-Pop Alliance en una entrevista de ONU Mujeres.
A esas viejas inequidades se suman riesgos propios del nuevo modelo algorítmico, como la irregularidad de los ingresos, la falta de protección social o la opacidad de los sistemas algorítmicos.
Trabajar para la máquina
La socióloga e ingeniera informática argentina Milagros Miceli señala otro tipo de colectivo marginado de la IA que, aún estando profundamente ligado a la cadena de producción de la inteligencia artificial, permanece fuera del relato de quienes la construyen y de quienes se beneficia de ella.
Buena parte de ese trabajo de etiquetado de datos y revisión de contenidos que sostiene los sistemas de IA se externaliza a países del Sur Global en un régimen frecuente de salarios bajos, inestabilidad y escasa protección laboral.
“Es un trabajo invisible, aunque a mí me gusta más llamarlo invisibilizado, y es a propósito”, señalaba Miceli en una entrevista. “En muchos casos, hay daño psicológico por la naturaleza de los contenidos. Hay mucha gente trabajando con datos e imágenes perturbadoras”.
La socióloga visibiliza ese trabajo oculto a través de Data Workers’ Inquiry, una investigación participativa en la que los trabajadores de la economía de datos documentan sus condiciones laborales con testimonios como el de Oskarina Fuentes, que lleva más de una década realizando tareas esenciales para entrenar sistemas de inteligencia artificial en diversas plataformas.
La inteligencia artificial no habla tu lengua
La exclusión se hace literal en las lenguas originarias. El estudio El desempeño de la Inteligencia Artificial en el uso de las lenguas indígenas americanas elaborado por la consultora LLYC (Llorente y Cuenca) con Microsoft y apoyo del Banco Interamericano de Desarrollo, evaluó respuestas en quechua, quiché, maya, guaraní, náhuatl y aimara. Solo el 54% resultaron aparentemente correctas, e incluso entonces eran hasta cuatro veces más cortas que las ofrecidas en lenguas dominantes, además de obtener puntuaciones muy bajas de expresión y comprensión: el quechua alcanzó 3,72 sobre 10 y el maya y quiché, 1,25.
Como señala la UNESCO, las herramientas construidas con las comunidades pueden facilitar la telemedicina, los trámites, la educación y la conservación lingüística y son los pueblos indígenas quienes deben decidir qué conocimientos pueden incorporarse, con qué consentimiento, bajo qué propiedad y para qué usos.
Una lengua transporta categorías, memoria, humor y relaciones con el territorio. No contar con ella deja en vacío su conocimiento
Porque no se trata únicamente de traducir palabras. Una lengua transporta categorías, memoria, humor y relaciones con el territorio y si un modelo responde en guaraní, pero interpreta el mundo desde referentes occidentales, la comunidad estaría presente como vocabulario, pero ausente como conocimiento. Por ello, y sin olvidar las lenguas indígenas, la próxima Cumbre Iberoamericana de Jefas y Jefes de Gobierno y de Estado, espera aprobar la Alianza Iberoamericana en Inteligencia Artificial para trabajar sobre el valor de contar con dos lenguas, portugués y español, y en cuyos modelos de IA ha de resonar todo el acervo cultural propio y compartido para que Iberoamérica pueda contarse a sí misma.
Construcción de alternativas
En su último informe sobre Desarrollo Humano Un llamado a decidir: personas y posibilidades en la era de la Inteligencia Artificial, el PNUD propone desplazar la pregunta desde lo que la inteligencia artificial puede hacer hacia las elecciones y capacidades reales de las personas.
Para las comunidades vulneradas, la inclusión requiere algo más que añadir ejemplos diversos a una base de datos. Exige participar en la definición del problema, poder rechazar determinados usos, conocer cuándo decide un sistema, impugnar sus resultados y obtener reparación. Requiere conectividad y formación, pero también instituciones capaces de auditar modelos y limitar aplicaciones que amenacen derechos.
Tal vez el mayor error sea imaginar que las comunidades vulneradas esperan pasivamente ser incluidas.
En toda Iberoamérica existen organizaciones feministas, indígenas, afrodescendientes, juveniles y de derechos digitales que producen datos comunitarios, auditan tecnologías y construyen alternativas.
No piden únicamente que el algoritmo las contemple mejor. Reclaman el derecho a decidir qué debe mirar, qué no debe convertir en dato y a quién debe rendir cuentas. Un buen ejemplo es la Red Feminista de Inteligencia Artificial en América Latina y el Caribe, que sostiene en sus estatutos que la IA puede construirse al margen de los grandes centros tecnológicos y responder a múltiples formas de entender el progreso. Reúne a organizaciones de la sociedad civil, grupos académicos, activistas y comunidades de distintos países de la región para impulsar una inteligencia artificial basada en los derechos humanos, feminista, antipatriarcal y anticolonial, construida a partir de las necesidades y los conocimientos de las propias comunidades.
La integran organizaciones como Fundación Vía Libre, DataGénero, Datos Contra el Feminicidio o Fundación Datos Protegidos, junto a investigadoras, tecnólogas y activistas de distintos ámbitos. Su propósito es analizar los sesgos o desigualdades que puede reproducir la IA y experimentar con otras formas de crearla y gobernarla, incorporando a quienes habitualmente tienen menos voz en su desarrollo.
El histórico de proyectos es variado en temática y geografía, basta consultar los seis ahora en marcha:
En Argentina, el Centro de Estudios Interdisciplinarios de Estudios en Ciencia, Tecnología e Innovación (CIECTI) y la Red por los Derechos de las Personas con Discapacidad (REDI) pretenden evitar que la IA aplicada a registros clínicos reproduzca representaciones capacitistas, androcéntricas o cisexistas.
En Bolivia, la Fundación CERAI lidera el proyecto Voces de la Tierra, Datos del Cielo, en el que mujeres indígenas chiquitanas combinan conocimientos ancestrales y tecnología para prevenir y monitorizar los incendios del Bosque Chiquitano.
Brasil aporta dos experiencias: el Instituto AzMina impulsa el proyecto QuitérIA, que utiliza procesamiento del lenguaje natural para vigilar la actividad legislativa del Congreso desde una perspectiva de género e interseccional y la iniciativa Cabaça Digital, en la que varias investigadoras y activistas trabajan con comunidades de la Amazonía en nuevas formas de gobernanza de los datos que permitan proteger sus saberes tradicionales frente al racismo ambiental, la presión urbana y el extractivismo de datos.
La colombiana Corporación Acracia se encuentra registrando una Memoria Viva en la IA para mujeres Inga del Putumayo en el que a través de círculos de la palabra y herramientas de IA de código abierto, se conectan conocimientos de las mamitas sabedoras sobre menstruación, embarazo, partos, niñez y plantas medicinales con mujeres jóvenes. La comunidad controla sus datos y decide qué se digitaliza, poniendo la tecnología al servicio de la memoria viva, la transmisión intergeneracional y la soberanía indígena.
En Ecuador, la Fundación Furia y el Observatorio de Plataformas (OdP) trabaja con mujeres trans en el proyecto furIA para cocrear herramientas que permitan documentar violaciones de derechos humanos y facilitar el acceso a apoyo legal y psicosocial.
Por último, un proyecto de la Universidad Autónoma de Querétaro en México pone la tecnología al servicio de una preocupación que acompaña al propio crecimiento de la IA: el consumo de agua de los centros de datos, desarrollando una herramienta colaborativa para documentar sus impactos en un territorio altamente sometido a estrés hídrico.
Una inteligencia artificial justa será, por tanto, la que amplíe capacidades sin convertir la diferencia en anomalía, la pobreza en sospecha ni la cultura en materia prima. Y, especialmente, la que deje a las personas suficiente poder para discutirla.
