Cataluña reivindica una IA ética y responsable basada en valores
Cataluña, a través de la Agencia Catalana de Cooperación al Desarrollo (ACCD), ha organizado la mesa redonda ‘Retos y oportunidades de la inteligencia artificial desde la mirada del Sur Global’.
Cataluña ha defendido el compromiso de la Generalitat para que «el desarrollo tecnológico vaya acompañado del desarrollo de valores»
El objetivo del debate ha sido abordar los desafíos que plantea la inteligencia artificial (IA) en relación con las desigualdades y la promoción de los derechos humanos, pero también su potencial para mejorar el acceso a la educación, la salud y otros servicios esenciales. Han participado voces de referencia desde la perspectiva del Sur Global -a menudo infrarrepresentadas en los debates internacionales sobre la IA-, la consejera delegada de Lelapa AI, Pelonomi Moiloa, y la investigadora independiente Paz Peña, con la moderación del subdirector de la Fundación i2Cat, Artur Serra.
El consejero de Unión Europea y Acción Exterior, Jaume Duch, ha hecho la clausura, durante la cual ha señalado dos de los principales retos que plantea la IA en la vida cotidiana: la privacidad de los datos y los sesgos algorítmicos que pueden perpetuar la discriminación y las desigualdades.
A pesar de estos desafíos, el consejero ha subrayado el potencial de la IA para generar impactos positivos, y ha recordado la existencia del ‘Manifiesto para avanzar hacia una IA fiable’, impulsado por el Gobierno: “La Generalitat de Cataluña, de acuerdo con la legislación europea, ha trabajado con un conjunto de principios rectores que establecen que mocrática, social, verde y feminista”, ha explicado.
“El compromiso del Gobierno con la defensa de los derechos humanos y la democracia es inquebrantable. Por eso organizamos actos como éste, en espacios como éste, porque creemos muy necesario y oportuno mantener una conversación constructiva y fructífera sobre uno de los grandes retos que tenemos como sociedad: conseguir que el desarrollo tecnológico vaya acompañado del desarrollo de valores”, ha remachado Duch.
La mirada del Sur Global
Durante el debate, Pelonomi Moiloa, científica de datos de Johannesburgo, ha señalado que «el objetivo básico de la tecnología, que es conectar a la gente, no se está consiguiendo en todas partes». «En Sudáfrica», ha detallado, «la tecnología no está adaptada a las diversas lenguas locales, lo que vulnera la igualdad de oportunidades de muchas personas en el día a día, cuando necesitan contactar con el banco o con un médico». Por eso cofundó Lelapa AI, un laboratorio de investigación y productos de IA centrado en África que ha desarrollado Vulavula, una herramienta que hace traducciones y transcripciones instantáneas al afrikaans, el zulú y el sesotho, y próximamente lo hará en todas las lenguas oficiales de Sudáfrica y multitud.
Por su parte, Paz Peña, investigadora independiente de El Salvador que ha centrado su investigación en la intersección entre las tecnologías digitales, el feminismo y la justicia social, ha puesto el foco en quien se está beneficiando de estas tecnologías y quien está quedando al margen: “Se habla de la carrera de IA entre Europa, Estados Unidos y China, pero éste es muy peligroso, pero éste es muy peligroso, pero este es muy peligroso.
También ha recordado que la IA requiere minerales que se encuentran en el Sur Global: “Tenemos un rol de simple suministrador. Habría que debatir la relación colonialista que esto significa”. Además, las grandes infraestructuras que hacen funcionar la IA 24 horas también necesitan electricidad y agua. “Los impactos de la IA no paran de crecer y esto no se está debatiendo. Las decisiones se están tomando desde espacios de poder corporativo y el Sur Global no está presente”, ha lamentado Peña.
El ‘Manifiesto para avanzar hacia una IA fiable’
El Gobierno de la Generalitat, a través de la Secretaría de Políticas Digitales y en colaboración con el Observatorio de Ética en Inteligencia Artificial (OEIAC) de la Universidad de Girona, elaboró el Manifiesto para avanzar hacia una IA fiable en el marco de la Estrategia de inteligencia artificial de Catalunya-Catalonia.
El manifiesto, presentado el pasado 6 de noviembre en el marco de la primera Cumbre Anual de la Alianza de Tecnologías Disruptivas y Emergentes (DETA), hace una diagnosis de los retos y oportunidades de la integración de la IA en la vida cotidiana para establecer una serie de compromisos basados en unos valores fundamentales (dignidad humana, democracia y democracia).
El documento también incluye una serie de recomendaciones para fomentar un entorno donde la IA se desarrolle y gobierne de acuerdo con los valores fundamentales y los compromisos establecidos, y acercarse así al objetivo de alcanzar una IA «mejor», que refuerce la justicia social y contribuya a los objetivos más amplios de la Agenda 2030 para el desarrollo sostenible.
