Pilotos y realidades: así está usando ya la AAPP la IA
En un webinar celebrado recientemente por ByTIC, ha quedado clara la evolución en la aplicación de inteligencia artificial (IA) en las administraciones públicas
En este encuentro se abordaron la dualidad de roles de las administraciones como reguladoras éticas y consumidoras de IA y hubo tiempo de conocer iniciativas innovadoras y proyectos «de vida real» ya implementados, con enfoques tanto hacia la mejora de servicios digitales como la eficiencia operativa.
El webinar arrancó con las valoraciones de Carlos Canitrot, director de consultoría de AdjudicacionesTIC, quien revelaba que las inversiones de las Administraciones Públicas en inteligencia artificial (IA) “están creciendo a un ritmo impresionante, al igual que las inversiones en servicios en la nube o ciberseguridad». Durante el año 2023, Canitrot señala que «se ha registrado un aumento significativo en la inversión total en Tecnologías de la Información y la Comunicación (TIC), superando los 9.000 millones de euros», con alrededor del «1% destinado específicamente a proyectos relacionados con la IA».
El avance tecnológico, impulsado por algoritmos y servidores potentes, según Canitrot, «brinda a la IA la capacidad de explorar escenarios complejos, descubrir patrones ocultos y generar soluciones innovadoras». El experto destaca que «cada vez más, se emplean soluciones basadas en IA con el objetivo de mejorar la eficiencia y la calidad de los servicios ofrecidos a los ciudadanos».
El buen posicionamiento de España en el último informe DESI de la Unión Europea no pasa desapercibido para Canitrot, quien afirma que «España se sitúa en el séptimo puesto general y alcanza la quinta posición en el indicador de servicios públicos digitales», lo que demuestra el «enfoque de las Administraciones Públicas españolas hacia la implementación de IA para mejorar los servicios ofrecidos».
Principales áreas de aplicación de IA en las AAPP
Al mismo tiempo, Canitrot destacaba que las Administraciones Públicas están utilizando la inteligencia artificial en diversas áreas, como los servicios ciudadanos inteligentes (con el claro ejemplo de los chatbots impulsados por la IA, que “proporcionan asistencia virtual a los ciudadanos en la resolución de consultas comunes, respuestas a preguntas frecuentes y guían a los usuarios a través de procesos administrativos, aportando agilidad en la atención al ciudadano») o para la automatización de procesos, especialmente en tareas rutinarias como la gestión de documentos o la tramitación de formularios puesto que “permite reducir la carga de trabajo manual y que los empleados públicos se centren en actividades de mayor valor».
La predicción y análisis de datos es otra de las áreas donde se usa la IA , lo que ayuda a las AAPP a comprender mejor las necesidades de los ciudadanos, prever la demanda de servicios y optimizar la asignación de recursos, incluso a detectar fraudes. Y, por último, en lo relativo a la mejora de la seguridad. «Los sistemas de seguridad basados en IA se utilizan para detectar actividades sospechosas», menciona Canitrot. Ejemplifica diciendo que «el reconocimiento facial se emplea para identificar a personas buscadas por delitos o se realiza un análisis de comportamientos para detectar actividades delictivas».
Pero estos usos también conllevan una serie de retos y consideraciones éticas ante el uso de IA por las AAPP, según Canitrot, como la transparencia (“es importante que los sistemas de IA utilizados por las AAPP sean transparentes y fáciles de explicar»), la privacidad y protección de datos («el manejo de grandes cantidades de datos personales implica la necesidad de garantizar estrictas normas de privacidad y protección de datos en todo el ciclo de vida de la IA») o la capacitación y conocimientos, lo que puede ser un desafío para las AAPP en términos de atracción y retención de talento especializado.
Además, mencionaba la ética y responsabilidad. «El desafío más importante», según Canitrot, «es establecer principios éticos y marcos legales sólidos para guiar el desarrollo y uso de la IA en las AAPP, garantizando la responsabilidad de los sistemas de IA en caso de errores».
Nuevos acontecimientos
En la órbita actual de la inteligencia artificial, Julia Santos, Regional Sales Director de Dynatrace, destaca una diferencia esencial entre los acontecimientos pasados y los actuales: «Lo que está sucediendo ahora es fundamentalmente diferente de lo que apuntábamos con Javier. Hay cómputo y comunicaciones suficientes para implementar usos mucho más innovadores y con casos de uso diferentes a los del pasado».
Santos subraya el papel dual de las administraciones públicas en este nuevo escenario. Por un lado, señala: «Las administraciones tienen un papel regulador en términos éticos, de control y en cuestiones como la ética, la equidad y la inclusión». Por otro lado, destaca la función de las administraciones como consumidores de inteligencia artificial: «Como usuarios, las administraciones pueden aportar valor tanto a los ciudadanos como al empleado público, el cual sustenta los procesos que finalmente sirven a la ciudadanía».
En relación con las iniciativas existentes, Santos destaca dos tipos principales de proyectos. Por un lado, menciona las iniciativas innovadoras vinculadas a la búsqueda de nuevos casos de uso: «Vemos laboratorios, iniciativas y financiación alrededor de la innovación, lo cual es fenomenal porque busca casos de uso nuevos y no comercializados». Por otro lado, señala proyectos de «vida real» que ya han sido implementados, como la mejora de la resiliencia de los servicios digitales y la eficiencia operativa.
En cuanto a la aplicación práctica de la inteligencia artificial, Santos ilustra con ejemplos concretos: «Vemos aplicaciones que mejoran la resiliencia de los servicios digitales, como la inteligencia artificial aplicada a las operaciones, y también iniciativas de administración orientadas a la ciudadanía, como asistentes generativos y bots para mejorar la interacción con el ciudadano».
Finalmente, en relación con la seguridad, Santos destaca la capacidad de la IA para la priorización de incidentes: «Una IA puede realizar el filtrado de vulnerabilidades alertadas, permitiendo la priorización de incidentes para la prevención antes de que ocurran».
Una buena acogida
Javier Fernández, Jefe de área de Innovación Tecnológica Gerencia Adjunta GISS, enfatiza la acogida positiva de nuevas tecnologías, como la inteligencia artificial (IA), con el objetivo de mejorar la eficiencia y ofrecer servicios al ciudadano. Subraya la importancia de introducir tecnologías de manera cuidadosa, evaluando detalladamente sus impactos: «Cualquier introducción de una nueva tecnología es bienvenida, pero debemos medir muy bien las fuerzas, no dejarnos llevar por cantos de sirena y tener las ideas claras».
Fernández advierte sobre la necesidad de aprender de experiencias pasadas, mencionando el caso del metaverso en la Unión Europea: «Hasta hace muy poco, estábamos oyendo hablar del metaverso, que parece que ha desaparecido. La Unión Europea montó una fiesta en Meta, pero algo falló. No queremos que la implementación de la IA generativa sufra un fracaso, por lo que estamos llevando a cabo pruebas de concepto para asegurar su éxito».
Destaca la importancia de no repetir errores pasados y asegurarse de que la implementación de la IA generativa sea exitosa: «No nos gustaría que la puesta en marcha de una tecnología como la IA generativa fracasara. Estamos haciendo bastantes pruebas de concepto para intentar aterrizarla. Lo que hagamos, dado su impacto, será un éxito».
María Nieto, Responsable de emprendimiento Digital e Innovación Abierta en SANDETEL (Junta de Andalucía), destaca la importancia de la planificación y las pruebas de concepto antes de la incorporación de tecnologías avanzadas como la inteligencia artificial (IA) generativa. Enfatiza la necesidad de no lanzarse a proyectos sin un previo testeo: «No podemos lanzarnos a proyectos que no tengamos mínimamente testados». Nieto informa que están trabajando en el análisis de datos con inteligencia artificial generativa, especialmente en la parte de legislación, dado que manejan un gran volumen de licitaciones con legislación compleja y actualizaciones frecuentes.
Algo más que automatización
Por otro lado, Conchi García, Consultora de Sistemas de la Información en Madrid Digital, resalta el trabajo previo realizado en analítica, monitorización, personalización de servicios inteligentes y automatización de procesos. García destaca el uso de la IA en la plataforma Cornerstone de Capacitación del Empleado público para identificar modelos predictivos y prescriptivos en la formación de empleados. También menciona la aplicación de la IA en plataformas de CRM para anticipar necesidades y proponer resoluciones a los tickets.
García comenta sobre la automatización de tramitación y personalización de servicios públicos inteligentes en la Comunidad de Madrid. Además, señala la aspiración de convertir la administración pública en una organización basada en datos, y destaca la importancia de aplicar la IA en la definición y evaluación de políticas públicas: «Llegar a las políticas públicas aplicando este elemento creo que sería una buena cosa para predecir la necesidad real que se tiene en la sociedad de nuevas políticas y luego cerrar con esa evaluación».
Ambas representantes, María Nieto y Conchi García, coinciden en la importancia de abordar la incorporación de la inteligencia artificial de manera controlada, considerando los retos planteados por otros expertos y siendo conscientes de la responsabilidad que implica.
Julia Santos expone la dualidad de enfoques en el ámbito de la inteligencia artificial (IA), destacando tanto la vertiente innovadora como la aplicativa en procesos operativos. Santos afirma: «Vemos las dos vertientes, la súper innovadora y la aplicación en procesos».
En la aplicación práctica, Santos presenta un proyecto real denominado Davis, una IA causal incorporada en la administración pública. La IA causal, según Santos, permite un análisis eficiente de datos y una anticipación de incidentes en servicios digitales: «Utilizamos la causalidad para filtrar todos los componentes y relaciones que existen en la provisión de un servicio digital, ofreciendo una experiencia más eficiente».
Santos destaca la utilidad de la inteligencia artificial causal en la mejora de la experiencia digital y la eficiencia operativa: «Se mide cómo afectan todas estas cosas a la experiencia del ciudadano y del empleado público en el canal digital». Además, resalta la capacidad de la IA para proporcionar causalidad, permitiendo entender por qué ocurren ciertos eventos y priorizar acciones.
La experta aborda la incorporación de la funcionalidad generativa en Davis, permitiendo el acceso a datos de manera más intuitiva: «La funcionalidad generativa permite utilizar un lenguaje natural para solicitar información, facilitando la monitorización del negocio sin requerir conocimientos técnicos específicos». Santos enfatiza la importancia de hacer accesible la recopilación de datos y la funcionalidad de la IA a usuarios sin formación técnica especializada.
Casos reales
María Nieto comparte insights cruciales sobre la implementación de inteligencia artificial (IA) en su departamento, destacando el enfoque estratégico y la potencia del análisis de datos. Nieto subraya: «Estamos trabajando desde el punto de vista estratégico, con una potencia importante en el análisis de datos, comparativas y benchmarking de proyectos en distintas regiones».
La experta resalta la utilidad de la IA en el ciclo de licitaciones, especialmente en la identificación de errores, modificaciones legislativas y modelos, siendo una herramienta fundamental para planificar proyectos de manera más eficiente. En relación con la privacidad y la ética, Nieto señala: «Vemos un gran desafío en la privacidad y los temas éticos, especialmente en la eliminación de sesgos». Destaca la preocupación por eventos mediáticos relacionados con sesgos en la resolución y evaluación de expedientes, y considera este un reto significativo a resolver.
Nieto reflexiona sobre la importancia del lenguaje natural en la implementación de tecnologías avanzadas, comentando: «Menos mal que tenemos el lenguaje natural para los que no somos tecnólogos, para acercarnos más a estas herramientas». Además, reconoce que la incorporación de la IA en todo el ciclo de relación con la ciudadanía está marcada por desafíos éticos y de privacidad, enfatizando la necesidad de resolverlos para una implementación más natural.
Conchi García, en su análisis sobre la aplicación de inteligencia artificial (IA), destaca la implementación exitosa en el ámbito interno, centrándose en empleados públicos. García afirma: «Estamos aplicándolo en nuestros propios empleados, en el back office y el ciudadano. Creo que se puede aplicar en todas las áreas».
La experta señala la relevancia de las capacidades cognitivas del lenguaje y aborda la necesidad de complementar tecnologías basadas en LLM, como GPT, con otras aproximaciones, como el RAC, para mejorar la interacción con ciudadanos y empleados: «Es importante complementar tecnologías basadas en LLM con otras aproximaciones, como el RAC, para evitar alucinaciones y mejorar la comunicación».
García destaca la importancia de aplicar estas tecnologías en circuitos cerrados antes de implementarlas a nivel ciudadano: «Lo más oportuno es aplicarlo en circuitos más cerrados con nuestros propios empleados públicos y con nuestros propios contenidos». Aborda la cautela en el uso de algoritmos de machine learning y deep learning, subrayando la importancia de la explicabilidad: «Supone una cautela mayor en temas de machine learning y deep learning de trabajo con datos».
En cuanto al desafío de la transparencia, García expresa: «A nivel tecnología se está trabajando bastante en temas de explicabilidad, donde debemos profundizar». Resalta la necesidad de trazar todo el proceso de datos y algoritmos, así como de que los sistemas sean capaces de explicar decisiones de manera comprensible, especialmente en situaciones que involucran riesgos o derechos.
En la Seguridad Social
En el ámbito de la inteligencia artificial, Javier Fernández, de la Seguridad Social, comparte su interés y experiencia en la implementación de esta tecnología. Destaca la utilidad de la inteligencia artificial en diversos aspectos, citando ejemplos concretos de aplicaciones en la Seguridad Social.
Al referirse a la detección de fraude, Fernández resalta que la tecnología ha contribuido a mejorar los controles y, como resultado, aumentar la recaudación. Además, destaca la reducción significativa de horas de trabajo mediante la implementación de automatización robótica de procesos (RPA).
En cuanto a la atención al ciudadano, menciona iniciativas exitosas, como un asistente virtual implementado durante la pandemia que ha generado más de 16 millones de conversaciones. También destaca la implementación de un simulador para el ingreso mínimo vital, facilitando información a los ciudadanos.
Fernández menciona la exploración de la inteligencia artificial generativa, realizando pruebas de concepto para mejorar el asistente virtual y aplicaciones internas. Destaca la intención de permitir preguntas abiertas, por escrito o por voz, en varios idiomas.
Además, se están llevando a cabo proyectos para la búsqueda semántica de sentencias judiciales y el análisis de códigos. Fernández señala la colaboración con proveedores tecnológicos líderes y la futura utilización de CoPilot para ayudar a los funcionarios en el desarrollo.
