A Fundação do Espanhol Urgente (FundéuRAE), promovida pela Agência EFE e pela Real Academia Espanhola, outorgou recentemente o ‘título de palavra do ano 2022’ à expressão inteligência artificial (IA), que toma o relevo de confinamento e vacinas, eleitas em 2020 e 2021.
Isso reflete, uma vez mais, a relevância que os desenvolvimentos de inteligência artificial possuem em nossa vida diária, mais além dos círculos tecnológicos. Hoje a probabilidade de obter crédito, as oportunidades laborais ou as ofertas de comércio eletrônico vêm determinados por ferramentas de inteligência artificial baseadas em dados e algoritmos que predizem autonomamente nossa situação socioeconômica, o êxito de nosso projeto empresarial ou nossos gostos.
A IA pode nos trazer numerosos benefícios, desde aumentar a eficiência da agricultura e a segurança dos produtos alimentares, fortalecer a resiliência frente a desastres naturais, projetar edifícios com eficiência energética ou incrementar a exatidão dos diagnósticos médicos.
Mas 2022 foi também um ano no qual, como refleti em um recente artigo com a professora Mazzucato, surgiram inquietações sérias e perguntas com respeito ao projeto e ao uso das tecnologias, em particular ao redor da IA. Quão completos e de boa qualidade são os dados que estão sendo usados? Como estão sendo controlados os vieses econômicos e sociais que os algoritmos refletem e podem amplificar? Quem tem o controle, não só técnico, senão também político destes desenvolvimentos? e Quem deveria tê-lo?
Muitos dos desenvolvimentos de IA simplesmente reproduzem ou magnificam as desigualdades econômicas e de oportunidades, aprofundando os vieses e ameaçando em criar um mundo muto mais desigual.
Já não se pode ter uma postura não intervencionista baseada na autorregulação. Dar via livre ao fundamentalismo de mercado é condenar o Estado e os cidadãos a reparar, mais tarde, os destroços (como vimos no contexto da crise financeira de 2008 e da pandemia de COVID-19), com os consequentes custos financeiros e cicatrizes sociais imensas e duradouras que acarreta. No caso da IA o risco é ainda maior, porque não sabemos sequer se uma intervenção posterior será suficiente. Como assinalou há pouco The Economist, é comum que até os desenvolvedores de IA se surpreendam pelo poder de suas criações.
Grande parte dos desenvolvimentos de inteligência artificial reproduzem ou magnificam as desigualdades econômicas e de oportunidades. Uma postura não intervencionista baseada na autorregulação já não é possível.
Felizmente, já sabemos como evitar que o laissez faire volte a provocar uma crise. Necessitamos impulsionar uma IA que seja “ética por projeto”, sobre a base de normativas sólidas e do labor de governos aprovisionados das capacidades necessárias. Uma vez plantados estes pilares, o setor privado poderá e desejará se unir ao esforço mais amplo para criar tecnologias mais seguras e justas.
Em particular, é necessária uma supervisão pública eficaz. A UNESCO, por seu mandato de promover o desenvolvimento da ciência e da tecnologia desde enfoques éticos, humanos e de direitos humanos elaborou a Recomendação sobre a Ética da Inteligência Artificial aprovada pelos 193 estados membros em sua Conferência Geral, a finais de 2021.
Tal recomendação abrange todas as etapas do ciclo de vida da IA: desde a pesquisa, o projeto e o desenvolvimento, à implementação, a avaliação, e inclusive, sua terminação. Além disso, incorpora compromissos claros e explícitos no manejo dos dados – acesso e apagamento, direito a controle e conhecimento; em auditoria de algoritmos – prevendo mandatos aos reguladores, em proibição de uso para controle e social scoring e vigilância massiva, assim como aspectos relativos à sustentabilidade meio ambiental, entre outros.
No âmbito de avanço rumo a uma IA mais ética e responsável, a Europa e a Ibero-América são líderes globais. A Espanha adotou, em 2021, a Carta de Direitos Digitais incluindo explicitamente direitos de não discriminação e condições de transparência, audibilidade, explicabilidade, traçabilidade, supervisão humana e governança perante a IA.
A UNESCO lançará, em parceria com o CAF, o Conselho Regional para a América Latina e o Caribe para a implementação da Recomendação sobre a Ética de IA da UNESCO, conformado por países que se comprometem a ser avaliados por seus pares e compartilhar boas práticas. No grupo de países pioneiros já se conta com Argentina, Brasil, Colômbia, Equador, El Salvador, México e Uruguai, e com o Chile como auspiciador da primeira reunião. E proximamente será instaurada, junto com a coliderança da Telefónica e da Microsoft, um conselho empresarial com firmas de lideres na Ibero-América.
Europa e Iberoamérica son líderes globales en el avance hacia una inteligencia artificial más ética y responsable
Qué mejor momento que el comienzo de un nuevo año para empezar a sentar las bases hacia una IA al servicio de toda la humanidad. Y qué espacio más adecuado que el Iberoamericano, que inicia un 2023 con la Cumbre Iberoamericana liderada por SEGIB en República Dominicana – uno de los early adopters de la recomendación de UNESCO – y que vivirá un segundo semestre con la UE presidida por España.
El futuro de nuestras sociedades está en juego. No sólo debemos corregir los problemas y controlar los riesgos de la IA, sino también influir en el rumbo general de la transformación digital y de la IA en particular.
Asegurémonos que 2023 sea el año de la inteligencia artificial ética y responsable. Con hechos y con derechos. Para ello pueden contar con UNESCO.
