Iberoamérica puede tener una voz propia frente a la inteligencia artificial: una posición colectiva y coherente que ponga el bien común por delante, que custodie (proteja) a las personas y las ponga en el centro y lejos de la lógica de los grandes bloques. Así lo planteó el Secretario General Iberoamericano, Andrés Allamand, en un diálogo con el cardenal Víctor Manuel Fernández, prefecto del Dicasterio para la Doctrina de la Fe. Lo hacían en un acto celebrado en la Universidad de Comillas titulado Las lecciones de la Carta Encíclica Magnifica Humanitas. Una IA centrada en las personas, el pasado 30 de octubre.
Ambos coincidieron en que la IA debe proteger la dignidad de las personas. “Iberoamérica podría no ser ni águila ni dragón y buscar una posición coherente y colectiva, en la que cada país impulse el bien común y el conjunto pese más”, afirmó Allamand, subrayando la necesidad de mantener una neutralidad y autonomía geopolítica respecto a las grandes potencias en materia de IA, y asentar una identidad propia.
El cardenal Fernández abrió el evento repasando los grandes ejes de la encíclica, cuyo subtítulo, Sobre la custodia de la esencia humana en los tiempos de la inteligencia artificial, defiende que la persona es irreemplazable y exige que la IA sirva a toda la humanidad y no al poder de unos pocos, con regulación, control humano y prioridad para el trabajo y las personas más vulnerables.
Recordó que el documento advierte de lo poco que se sabe sobre el funcionamiento real de estos sistemas, que “están más cultivados que construidos”. “Pedir prudencia, controles y, en ocasiones, ralentización no significa estar en contra del progreso, sino ejercer un cuidado responsable hacia la familia humana”, señaló el Fernández.
Frente a las corrientes posthumanistas, que dan por caducada a la humanidad y proponen sustituirla, la encíclica responde con hechos históricos nacidos en momentos de crisis como fue la creación de Naciones Unidas y de la Cruz Roja o la Declaración Universal de los Derechos Humanos. Es una humanidad diversa, que se muestra «magnífica» cuando cuida a las personas y que, según la encíclica, «no debe ser reemplazada ni superada».
«El ser humano prospera a través de sus límites: la compasión, la preocupación por el dolor del otro. Para suprimir por completo el dolor habría que suprimir el amor», afirmó.
Fernández habló también del poder, otra de las claves del documento y advirtió de una «normalización» cultural basada en mentiras constantes, pérdida de memoria histórica y un «falso realismo político» que presenta la paz y el diálogo como utopías y la violencia como algo inevitable. “El desarrollo tecnológico imparable, que favorece a quienes tienen mucho poder, nos reta a mirar a los más pobres, que corren el riesgo de convertirse en material de descarte”, alertó.
En un diálogo posterior entre el Prefecto y el Secretario General Iberoamericano, Allamand destacó que la encíclica marca «un antes y un después» en el debate mundial sobre la IA. “Hasta que irrumpe la Iglesia había un duopolio: las empresas, por un lado, y los Estados, por otro. La encíclica custodia algo valioso, la dignidad humana”, sostuvo.
El Secretario General propuso tres claves: proteger a las personas, hacerlo mediante derechos y establecer responsabilidades. “Los derechos nacen de la dignidad humana y el Estado debe reconocerlos. Pero eso no basta: el desarrollo de la IA es tan enorme que hay que crear derechos específicos. Si se inventan amenazas, habrá que inventar contraamenazas”, explicó.
El cardenal, por su parte, compartió ese enfoque y añadió un matiz: además de garantizar derechos, hay que explicar por qué las personas los tienen. Esa reflexión, dijo, es necesaria “para que dentro de diez años los cambios culturales no lo cambien todo”.
Allamand también señaló otro punto del texto del Vaticano en cuanto a la paz y la guerra en un momento en el que el mundo vive el punto más álgido de conflictos y guerras. Frente a quienes defienden que el orden internacional funciona mejor cuando cada país antepone su interés, reivindicó el texto de León XIV al hablar del valor del multilateralismo y de un mundo en el que no primen los intereses particulares.
Durante el turno de preguntas, el cardenal recordó que la encíclica también aborda las nuevas formas de esclavitud, como la trata de personas o las adicciones, ligadas al poder. Allamand alertó de que el ambiente de las redes sociales “está generando una nueva esclavitud” en la que no hay deliberación ni reflexión, y animó al público a leer la encíclica: “En contra de un mundo sin tiempo, regálense esas dos o tres horas”.
El Secretario General vinculó los principios de la encíclica con la Carta Iberoamericana de Principios y Derechos en los Entornos Digitales, aprobada por los 22 países en la Cumbre de Santo Domingo, en 2023. “Iberoamérica puede generar una opinión común en la línea de la encíclica, y lo estamos haciendo con la Carta Digital. Desde hace cuatro años trabajamos para que los países recojan ese espíritu”, afirmó
Entrevista
Víctor Manuel Fernández: “Los valores incorporados a los sistemas de IA no pueden definirlos unos pocos”
Teólogo argentino y Prefecto del Dicasterio para la Doctrina de la Fe.
La primera encíclica de León XIV, Magnifica Humanitas, conecta con el corazón de su tiempo al señalar a qué se expone la humanidad ante una tecnología tan radicalmente disruptiva como la inteligencia artificial.
Licenciado en Matemáticas, el Papa aporta una perspectiva científica que añade profundidad a la pregunta crucial de cómo orientar un avance que permite delegar esa capacidad constitutiva de lo humano que es el pensamiento. El prefecto del Dicasterio para la Doctrina de la Fe, explica para Somos Iberoamérica el mensaje: proteger la dignidad de cada persona, cuidar especialmente a los más vulnerables y evitar que unos pocos decidan el futuro de todos.
Que León XIV haya dedicado su primera encíclica a la persona humana en el tiempo de la inteligencia artificial parece otorgar a esta transformación un lugar especialmente relevante en su magisterio. ¿Qué nos dice esta elección sobre la magnitud del desafío que plantea hoy la inteligencia artificial para la sociedad y para la propia Iglesia?
Es fundamental este acento del subtítulo: “sobre el cuidado de la persona humana”. Si se habla de la inteligencia artificial, entre otros temas, es bajo esta formalidad precisa: cuidar la persona humana. Por consiguiente, especialmente quienes tienen importantes responsabilidades y se preguntan por el uso y la orientación de la inteligencia artificial, están llamados a apasionarse, a obsesionarse por estas preocupaciones: ¿cómo podría la inteligencia artificial ayudar a que las personas concretas, mirando especialmente a los débiles, vivan de acuerdo con su inmensa dignidad?, ¿cómo cuidarles frente a los riesgos que ya podemos prever? Y hablo de “pasión” porque si uno no se apasiona por la dignidad de la gente, las idean no bastan para motivar una dinámica efectiva.
La encíclica y la Carta Iberoamericana de Principios y Derechos en los Entornos Digitales comparten una preocupación por situar a las personas en el centro y evitar que la transformación tecnológica profundice las desigualdades. ¿Cómo pueden estos marcos y principios incidir para que el desarrollo de la inteligencia artificial contribuya efectivamente a reducir las brechas y a incluir a las personas y comunidades?
Evidentemente, si uno habla de “cuidado” debe entenderlo ante todo referido a los más frágiles, a los que no pueden o no saben defenderse frente a los avances descontrolados de diversas formas de poder. A veces no se entiende la insistencia de la Iglesia en los pobres y débiles de la sociedad, o se considera una cuestión política o ideológica. Pero es la opción obvia de quien dice creer en un Dios que ama infinitamente a cada ser humano, y particularmente de quien dice creer en Cristo, hecho pobre entre los pobres.
La macroeconomía tiene su lógica, los intereses empresarios tienen su lógica, las finanzas la suya. Pero quienes tienen un particular poder en estas áreas saben cómo defenderse y generalmente terminan bien parados ante las diversas crisis. ¿Qué sentido tendría para la Iglesia hacer una opción preferencial por ellos? Pero creo que vale lo mismo para un político, llamado a procurar el “bien común” de una sociedad. De los políticos se espera que sean eficaces en la defensa de los más débiles, y esto exige concretamente trabajar intensamente y sin más demora en los marcos legales, procedimientos e intervenciones para incluir y cuidar a los más débiles en este nuevo contexto.
La encíclica advierte sobre la concentración de datos, infraestructuras y capacidad de decisión en pocos actores, y cuestiona que los datos queden exclusivamente en manos privadas. ¿Es posible compatibilizar los actuales modelos de negocio de las grandes plataformas tecnológicas con una inteligencia artificial verdaderamente centrada en la persona y orientada al bien común? ¿Qué tendría que cambiar para hacerlo posible?
Hace falta entender que estamos hablando de un bien social, un bien que debe integrar el bien común y que, por lo tanto, implica pensar en todos, sin excluir a aquellos que aportan poco a los resultados económicos de los más poderosos. Es decir, ya no estamos hablando de un producto para el beneficio de algunas empresas, sino de un bien que, o beneficia a todos, o terminará creando una fuente peligrosísima de violencia y degradación que no beneficiará a nadie.
Se supone entonces que los valores incorporados a los sistemas de inteligencia artificial no pueden ser definidos por unos pocos sino en un inteligente entramado, guiado por la política, dando lugar a empresas, asociaciones intermedias de la sociedad, estructuras del Estado, etc. También la Iglesia puede participar, teniendo en cuenta que su doctrina social se desarrolla en constante diálogo con la filosofía y las ciencias, y que posee una larga experiencia de presencia en los más variados contextos locales.
