Cataluña analiza los posibles riesgos de la IA en los procesos electorales
El Departamento de Justicia y Calidad Democrática de la Generalidad de Cataluña pone de manifiesto la necesidad de analizar con atención los posibles riesgos asociados al uso de la inteligencia artificial (IA) en el ámbito de los procesos electorales y valora la conveniencia de impulsar medidas que contribuyan a preservar la integridad del sistema democrático.
Un estudio encargado por el Departamento de Justicia señala que determinados usos de la IA podrían acarrear riesgos para los procesos electorales y formula propuestas normativas y tecnológicas.
Esta reflexión se basa en el Estudio sobre los riesgos de la IA en el ámbito de los procesos electorales, elaborado por el Observatorio de Ética en Inteligencia Artificial de Cataluña (OEIAC) por encargo del Departamento. Según el informe, la expansión de la IA podría convertirse en un factor de riesgo relevante en determinados contextos, especialmente en un escenario global en el que, a partir de 2024, varios países han registrado incidencias relacionadas con desinformación o posibles intentos de manipulación electoral mediante estas tecnologías.
Herramientas emergentes y riesgos potenciales para la integridad electoral
El estudio identifica diferentes tipologías de herramientas con potencial de uso indebido, como los deepfakes (vídeos y audios falsos de alto realismo), los grandes modelos de lenguaje (LLM), los botes de amplificación masiva, las técnicas de microsegmentación psicográfica y la suplantación de identidad automatizada.
De acuerdo con el análisis, estas tecnologías podrían facilitar, en algunos casos, la generación y difusión de contenidos engañosos a gran escala, con posibles efectos sobre la confianza ciudadana y el normal desarrollo de los procesos electorales.
El informe examina diferentes casos documentados entre 2023 y 2026 en varios países, que pondrían de relieve la capacidad de la IA para incidir en la esfera electoral. Entre los ejemplos analizados, se incluyen episodios de difusión de audios manipulados en procesos electorales en Turquía, la circulación de deepfakes en Corea del Sur o actuaciones de desinformación en elecciones en Estados Unidos, México y varios estados europeos.
El análisis recoge también algunos episodios detectados en Cataluña que evidencian una cierta exposición a prácticas de manipulación digital, como el uso puntual de imágenes generadas con IA o campañas de desinformación en las redes sociales con un alcance considerable.
Estos elementos apuntarían a la conveniencia de reforzar los mecanismos de prevención y respuesta y continuar anticipándose a nuevas formas de distorsión del debate público.
Propuestas y líneas de trabajo
El estudio plantea diversas líneas de actuación orientadas a reforzar la integridad de los procesos electorales, entre las que se incluyen:
- ·Promover medidas de transparencia en la comunicación política digital
- ·Impulsar mecanismos técnicos de verificación y autenticación de contenidos
- ·Fomentar la formación y la alfabetización digital crítica de la ciudadanía
Asimismo, se propone valorar la elaboración de un código de buenas prácticas para desincentivar el uso de deepfakes engañosos y limitar la microsegmentación basada en datos sensibles, así como estudiar la posible tipificación de nuevas infracciones vinculadas a la interferencia algorítmica.
El Departamento de Justicia y Calidad Democrática analizará estas propuestas con el objetivo de determinar qué actuaciones podrían impulsarse en el marco de las competencias del Govern.
El Departamento subraya que la progresiva incorporación de la IA en el ámbito electoral plantea un reto relevante para la calidad democrática, que probablemente requerirá una respuesta coordinada entre instituciones, reguladores y sociedad civil.
En este sentido, el Departamento manifiesta la voluntad de continuar colaborando con los distintos actores institucionales para identificar riesgos emergentes, reforzar garantías y contribuir a mantener la confianza de la ciudadanía en los procesos electorales.
