La revolución silenciosa de la IA: un futuro invisible pero omnipresente

Llega el último mes del año y, con él, muchas de las predicciones sobre cómo  pueden ser los próximos 12 meses y cómo debemos prepararnos para ellos.

Tras años en los que nos subíamos a la nube y no bajábamos a la tierra, desde hace dos la Inteligencia Artificial viene a copar buen parte de la actualidad informativa. Casi podríamos decir que el panorama tecnológico se encuentra en un punto de inflexión, a punto de ser redefinido por una revolución silenciosa pero omnipresente: la inteligencia artificial (IA). 

Los informes de Globant, IDC, Capgemini y Gartner coinciden en que la IA está trascendiendo su papel como una simple herramienta para convertirse en un agente transformador, redefiniendo la forma en que vivimos, trabajamos e interactuamos con el mundo.

Ya no se trata solo de automatizar tareas o mejorar la eficiencia, sino de crear sistemas inteligentes que actúen de forma autónoma, aprendan de su entorno y aumenten las capacidades humanas.  Este cambio se refleja en la aparición de sistemas de «Agentic AI», capaces de tomar decisiones y ejecutar acciones de forma independiente, así como en el desarrollo de robots «polifuncionales» que pueden realizar múltiples tareas y adaptarse a diferentes situaciones.

IDC pronostica un gasto global de 337.000 millones de dólares en tecnologías que soportan la IA en 2025, con un énfasis en la monetización de la IA y la superación de obstáculos como la escasez de desarrolladores y la infraestructura inadecuada. El informe también analiza temas cruciales como la ciberresiliencia, la modernización de la nube, y la necesidad de plataformas unificadas para la IA compuesta, presentando diez predicciones clave que moldearían el ecosistema empresarial global en los próximos dos años.

La computación cuántica, con su capacidad de procesamiento exponencialmente superior a la de las computadoras tradicionales,  impulsará aún más esta revolución, permitiendo el desarrollo de algoritmos de IA más sofisticados y abriendo nuevas posibilidades en campos como la medicina, la ciencia de materiales y la investigación financiera.

Interacción

Esta revolución silenciosa también está transformando nuestra interacción con la tecnología. Las «Experiencias Invisibles» se están convirtiendo en la norma, con tecnologías como las gafas inteligentes que integran la información digital en nuestro entorno de forma natural e intuitiva.  Al mismo tiempo,  la tecnología se está volviendo más «ambiental»,  integrándose de forma invisible en nuestro entorno para recopilar datos y ofrecer experiencias personalizadas.

Sin embargo, este futuro impulsado por la IA también plantea nuevos desafíos. La ciberseguridad se vuelve aún más crítica, ya que los atacantes también aprovechan la IA para crear amenazas más sofisticadas.   Surge la necesidad de plataformas de gobernanza de la IA para garantizar su uso responsable y ético, abordando cuestiones como la privacidad, la seguridad y la discriminación.

Asimismo, la creciente demanda energética de la IA  impulsa la búsqueda de fuentes de energía limpia y confiable,  reavivando el interés en la energía nuclear.   Las cadenas de suministro también se están transformando,  volviéndose más ágiles, resilientes y sostenibles gracias a la integración de tecnologías como la IA, el blockchain y el internet de las cosas.

A medida que avanzamos hacia 2025 y más allá, la convergencia de estas tendencias tecnológicas tendrá un impacto profundo en la sociedad.  Las empresas deberán adaptarse a este nuevo panorama,  invirtiendo en nuevas tecnologías, redefiniendo sus modelos de negocio y desarrollando nuevas habilidades. Los gobiernos tendrán que actualizar sus marcos regulatorios y éticos para garantizar un desarrollo responsable de la IA.  Y todos, como individuos,  deberemos prepararnos para un futuro en el que la IA desempeña un papel central en nuestras vidas.

Imperativos y riesgos de la IA

El informe de Gartner «Top 10 Strategic Technology Trends for 2025» presenta una visión de la IA como una tecnología de doble filo, llena de promesas y desafíos. En este panorama, los imperativos de la IA convergen con sus riesgos, creando un escenario complejo que requiere una gestión estratégica y responsable.

La IA se posiciona como una fuerza transformadora que impulsa la eficiencia y la innovación. La aparición de la IA Agentic, con su capacidad para planificar y actuar de forma autónoma para alcanzar objetivos predefinidos, promete una «fuerza laboral virtual» capaz de asistir, descargar y aumentar el trabajo de los humanos. Esta automatización avanzada puede liberar a los trabajadores de tareas repetitivas y permitirles concentrarse en actividades de mayor valor.

Otro imperativo clave es el desarrollo de plataformas de gobernanza de la IA, que buscan establecer un marco de control y responsabilidad para el uso de la IA. Estas plataformas permiten a las organizaciones crear, gestionar y aplicar políticas para garantizar un uso ético y responsable de la IA, al mismo tiempo que proporcionan transparencia y explicabilidad para generar confianza.

Los riesgos de la IA

A medida que la IA se integra en cada vez más aspectos de nuestras vidas, los riesgos asociados a su uso se vuelven más prominentes. Gartner identifica la desinformación como una amenaza creciente, impulsada por la capacidad de la IA para generar contenido falso convincente. La seguridad de la desinformación emerge como una categoría tecnológica crucial para discernir la confiabilidad de la información y proteger la reputación de las marcas.

La ciberseguridad es otro frente crucial en la gestión de riesgos de la IA. Si bien la IA puede ser una herramienta poderosa para la defensa, también puede ser utilizada por actores maliciosos para crear ataques más sofisticados. La criptografía post-cuántica (PQC) se presenta como una solución para proteger los datos frente a las amenazas potenciales de la computación cuántica, que podría romper los algoritmos de cifrado actuales.

Gartner también destaca los riesgos relacionados con el aumento de la sinergia humano-máquina. La computación espacial, con sus experiencias inmersivas, plantea preocupaciones sobre la privacidad y la seguridad de los datos, así como la posibilidad de accidentes debido al uso de dispositivos de realidad virtual.  La mejora neurológica, que busca mejorar las capacidades cognitivas mediante tecnologías que interactúan con el cerebro, plantea preocupaciones éticas significativas, incluyendo la posibilidad de manipulación mental y la alteración de la percepción de la realidad.

Transformando la interacción con la administración

Antonio Marín Pastor, director de la unidad de gobierno autonómico de Babel, subraya que 2025 será un año crucial para las AAPP, marcado por varias tendencias tecnológicas que ya están revolucionando la forma en que estas instituciones trabajan para la ciudadanía.

Una de las tendencias más relevantes es la inteligencia artificial (IA), que está transformando aspectos cotidianos de la interacción con la administración. “La personalización de los servicios digitales y la proactividad de la Administración es el camino a seguir,” afirma. Marín Pastor destaca cómo la IA permitirá a la administración enviar mensajes personalizados para informar a los ciudadanos sobre ayudas específicas o citas médicas sin que ellos tengan que solicitarlas. “Esa es la dirección en la que avanzamos, y la IA está ya haciéndolo posible,” señala.

Otra tendencia clave es la gobernanza del dato. Hoy en día, las administraciones públicas manejan más datos que nunca, pero Marín Pastor cuestiona si están aprovechándolos al máximo. “Sin una gestión y gobernanza adecuada, esos datos se convierten en una carga en lugar de un recurso,” advierte. Por ello, muchas instituciones están invirtiendo en sistemas y arquitecturas que aseguren la calidad de los datos y su uso responsable y estratégico.

La migración a la nube es otro aspecto importante, pero Marín Pastor insiste en un enfoque equilibrado. Las administraciones no pueden migrar todo a la nube sin más; necesitan decidir qué servicios funcionan mejor en la nube y cuáles deben permanecer en servidores locales. “Los escenarios de nube híbrida seguirán siendo los protagonistas,” explica, subrayando la necesidad de una planificación cuidadosa en esta transición.

La ciberseguridad también es fundamental. En el contexto actual, donde los servicios digitales son esenciales y las amenazas globales están en aumento, las administraciones públicas son un objetivo atractivo para la ciberdelincuencia organizada. “Las inversiones en ciberseguridad están ahora más justificadas que nunca,” afirma Marín Pastor, destacando la necesidad de extremar los esfuerzos para garantizar la seguridad de los servicios y datos.

A pesar de estos avances, Marín Pastor reconoce que no todas las administraciones están preparadas para afrontar estos cambios. Aunque muchos organismos cuentan con un sólido bagaje en modernización, algunas administraciones están en fases iniciales o no han avanzado al ritmo necesario. “También aquí hay una brecha que, como sociedad, debemos cerrar cuanto antes,” comenta, enfatizando la importancia de garantizar el acceso a servicios digitales de calidad para toda la ciudadanía.

Para ilustrar estos desafíos, Marín Pastor menciona la transición hacia la nube y la capacitación digital. “Hay algunas administraciones con un nivel de adopción muy alto, pero otras muchas todavía se están enfrentando a grandes desafíos para gestionar este cambio,” dice. La capacitación digital no solo implica formar en nuevas herramientas, sino también generar una cultura de cambio que motive a las personas a adoptar estas tecnologías y utilizarlas para innovar.

En cuanto a las recomendaciones para los responsables de tecnología de las AAPP, Marín Pastor destaca la importancia de las personas en este proceso. “La tecnología puede ser impresionante, pero son las personas quienes realmente marcan la diferencia,” asegura. Recomienda centrarse en la gestión del cambio y la capacitación digital, y ser estratégicos con los recursos. “La financiación europea representa una oportunidad única, pero no debemos utilizarla como ‘pólvora del rey’,” advierte, subrayando la necesidad de invertir en proyectos sostenibles a largo plazo.

Además, Marín Pastor insiste en la importancia de avanzar en la gobernanza del dato. “El volumen de información que manejan las administraciones es cada vez mayor, y si no hay mecanismos claros de gobernanza, es imposible convertirlo en un activo productivo,” explica. También recomienda adoptar un enfoque colaborativo, trabajando en la interoperabilidad de los sistemas y la estandarización de los procesos para asegurar un mismo nivel de calidad en los servicios.

Otros retos

En cuanto a los retos y oportunidades, Marín Pastor destaca la necesidad de asegurar que el uso de las nuevas tecnologías realmente aporte valor. “Debemos preguntarnos: ¿estamos resolviendo problemas reales?” señala. La sostenibilidad también es un desafío, ya que muchas tecnologías requieren inversiones económicas significativas a lo largo del tiempo. “Si no diseñamos y planificamos bien, podríamos terminar con proyectos que no podremos mantener en el largo plazo,” advierte.

Otro desafío es la coordinación de esfuerzos, ya que la ausencia de interoperabilidad y estandarización sigue siendo un problema en muchas administraciones. “Esto nos lleva a ineficiencias, duplicidades de esfuerzos y, en último término, a una experiencia desigual para la ciudadanía,” comenta. La ciberseguridad, por supuesto, sigue siendo una preocupación constante, ya que cuanto más dependamos de la tecnología, más atractivas serán las administraciones para los ciberdelincuentes.

A pesar de estos retos, Marín Pastor también ve grandes oportunidades. La demanda de servicios digitales personalizados está creciendo, lo que impulsa la modernización de los sistemas y mejora la experiencia de la ciudadanía. “El marco europeo de identidad digital (eIDAS) es una oportunidad y a la vez palanca de transformación,” explica, señalando que este será un punto de inflexión para facilitar el acceso a servicios más eficientes y seguros.

Finalmente, Marín Pastor destaca el actual marco de financiación disponible para los organismos públicos. “Es una herramienta sin precedentes que, si se utiliza con cabeza, tiene el potencial de transformar nuestras administraciones de una manera que antes era impensable,” afirma. Concluye con un mensaje de optimismo y determinación: “Este es nuestro momento para demostrar que podemos ser innovadores, eficientes y, sobre todo, responsables. Podemos hacerlo. Hagámoslo.”

Seguridad

Sobre las tendencias en ciberseguridad para 2025, Proofpoint, por ejmplo, destaca tres ejes principales: la creciente amenaza planteada por la inteligencia artificial, tanto para los ciberdelincuentes (creando ataques más sofisticados y automatizados) como para las organizaciones (requiriendo nuevas estrategias de gestión de datos y riesgos); la evolución de los vectores de ataque, con un enfoque creciente en los consumidores individuales a través de redes sociales y aplicaciones de mensajería, y la expansión del ciberespionaje impulsada por la geopolítica; y finalmente, la transformación del rol del CISO, quien deberá gestionar la creciente complejidad del panorama de amenazas y la necesidad de consolidar plataformas de seguridad en lugar de soluciones puntuales.

De nuevo, la inteligencia artificial (IA) jugará un papel crucial en la evolución del panorama de las amenazas. Por un lado, los ciberdelincuentes utilizarán la IA para crear ataques más sofisticados. Proofpoint advierte sobre la capacidad de la IA para generar códigos maliciosos y señuelos más convincentes, incluso en idiomas que antes representaban una barrera. Además, la IA permitirá a los atacantes automatizar los ataques y dirigirlos con mayor precisión a individuos y organizaciones.

Uno de los aspectos más preocupantes es la capacidad de los ciberdelincuentes de manipular datos privados utilizados por los Grandes Modelos de Lenguaje (LLM). Daniel Rapp, director de IA y Datos de Proofpoint, señala que los atacantes podrían contaminar los datos que utilizan los LLM para confundir a la IA y llevarla a tomar decisiones perjudiciales. Esto requerirá una mayor vigilancia y medidas de seguridad avanzadas para proteger la integridad de los datos utilizados por la IA.

Por otro lado, la IA también será una herramienta fundamental para la defensa. Proofpoint predice que la IA se convertirá en un «aprendiz» de los desarrolladores, automatizando tareas como la corrección de errores y la optimización del código. Esto permitirá a los desarrolladores concentrarse en tareas más complejas y acelerar los ciclos de lanzamiento de software. La IA también se utilizará para predecir y prevenir posibles cuellos de botella en los procesos de DevOps, mejorando la eficiencia y la seguridad de las operaciones.

Sin embargo, la adopción de la IA en el ámbito empresarial no estará exenta de desafíos. Patrick Joyce, CISO global residente de Proofpoint, destaca que los CISOs (Chief Information Security Officers) están preocupados por el uso de la IA por parte de los empleados y los riesgos que esto puede suponer para la información confidencial. Se espera un mayor escrutinio sobre cómo se están utilizando los LLM y las herramientas de IA, con un enfoque en comprender los riesgos, los beneficios y las garantías de seguridad.

Por eso, las organizaciones (tanto públicas como privadas) deben prepararse para un panorama de amenazas en constante evolución, invirtiendo en tecnologías de seguridad avanzadas, implementando estrategias de gobernanza de la IA y fomentando una cultura de ciberseguridad entre sus empleados.