«El gran reto es que la IA esté al servicio de las personas y no al revés»

La inteligencia artificial ya no se limita a generar contenidos o responder preguntas: avanza hacia sistemas capaces de actuar, tomar decisiones y asumir un grado creciente de autonomía. Ese salto tecnológico y sus consecuencias para las personas, las empresas y la sociedad estarán muy presentes en el V Forum Europeo de Inteligencia Artificial, que se celebrará en Alicante los días 19 y 20 de noviembre bajo el lema «La nueva realidad para la humanidad».

Nuria Oliver, directora y cofundadora de ELLIS Alicante y participante en el congreso, analiza en esta entrevista los riesgos de delegar cada vez más decisiones en las máquinas, los sesgos de los algoritmos, la dificultad para distinguir lo real de lo generado artificialmente y la necesidad de mantener al ser humano en el centro de esta nueva etapa tecnológica.

El V Forum Europeo de Inteligencia Artificial aborda «La nueva realidad para la humanidad». ¿Qué rasgos definen, a su juicio, esa nueva realidad y qué cambios cree que estamos infravalorando en nuestra relación cotidiana con la inteligencia artificial?

La nueva realidad para la humanidad está marcada por una transformación profunda de nuestra forma de vivir, trabajar y relacionarnos, impulsada por el desarrollo de la tecnología y, especialmente, de la inteligencia artificial. La IA ha dejado de ser una herramienta que utilizamos de manera puntual para convertirse en una tecnología omnipresente, que influye en nuestras decisiones, en el acceso a la información y en nuestra forma de relacionarnos. Estamos entrando en una etapa en la que la IA no solo automatiza tareas, sino que también puede influir en nuestra manera de pensar, aprender y entender el mundo. Sin embargo, creo que todavía estamos infravalorando el impacto que puede tener la inteligencia artificial en nuestras capacidades que nos definen como humanos, incluyendo la creatividad, el pensamiento crítico, la empatía o las inteligencias emocional y social. Si delegamos excesivamente en IA, corremos el riesgo de dejar de ejercitar habilidades que son fundamentales para nuestro desarrollo individual y colectivo. También tendemos a infravalorar su influencia en nuestra privacidad, en la posibilidad de manipular nuestro comportamiento y en la concentración de poder en unas pocas grandes empresas tecnológicas. La IA ya está presente en muchas decisiones cotidianas, aunque a menudo no seamos conscientes de ello. Por eso, considero, que el gran reto es conseguir que la IA esté verdaderamente al servicio de las personas y del bienestar de la sociedad. Precisamente para ello hemos creado ELLIS Alicante, con el apoyo e impulso de la Generalitat Valenciana, siendo la única unidad de las 44 unidades ELLIS dedicada a esta temática.

Una de las sesiones del Foro en las que usted participará trata la IA agéntica y autónoma. ¿Qué oportunidades y riesgos aparecen cuando la IA deja de limitarse a responder y empieza a actuar?

La IA agéntica ofrece grandes oportunidades, ya que permite automatizar tareas complejas, aumentar la productividad y tomar decisiones de forma autónoma. Sin embargo, también plantea riesgos importantes, como el «hackeo de la recompensa» (reward hacking), que consiste en que los agentes de IA buscan cumplir sus objetivos de maneras no previstas, aprovechando atajos o haciendo trampas, o la aparición de comportamientos emergentes difíciles –si no imposibles- de anticipar. Por ello, es fundamental establecer mecanismos de supervisión, regular el uso de estos sistemas y exigir responsabilidades civiles, legales y penales a quienes los desarrollan y despliegan si fruto de dicho despliegue se produce un impacto negativo en la sociedad. El reto es aprovechar su potencial sin perder el control, garantizando que actúen de forma segura.

Ahora que los sistemas son cada vez más capaces y autónomos, ¿qué significa en la práctica mantener al ser humano en el centro? ¿Hay decisiones que nunca deberíamos delegar en una máquina?

Mantener al ser humano en el centro significa que la IA debe estar al servicio de las personas, y no al revés. Precisamente ese es el trabajo que realizamos en ELLIS Alicante. A medida que los sistemas son más autónomos, necesitamos garantizar que sus objetivos estén alineados con nuestros valores y que exista supervisión y capacidad real de intervención humana. Hay decisiones que, por su impacto sobre la dignidad, los derechos o la vida de las personas, no deberíamos delegar a la IA. La IA puede ayudarnos a analizar información y tomar mejores decisiones, pero el control y la responsabilidad última debe seguir siendo humana.

Una de las grandes preocupaciones actuales es distinguir entre información real y contenido generado artificialmente. ¿Tenemos herramientas suficientes para afrontar un escenario en el que cada vez será más difícil saber qué es auténtico y qué no?

Creo que todavía no tenemos herramientas suficientes para asumir que siempre podremos distinguir lo real de lo generado por IA y de hecho, poder realizar esta distinción automáticamente es un area active de investigación. El Reglamento Europeo de IA (AI Act) supone un paso importante, porque establece obligaciones de transparencia y exige marcar determinados contenidos generados o manipulados por IA, incluidos los deepfakes. Estas obligaciones del artículo 50 son aplicables desde agosto de 2026. Pero la regulación y las herramientas tecnológicas no serán suficientes. Es importante aprender a verificar las fuentes, contrastar la información y cuestionar lo que vemos y escuchamos en Internet, incluso cuando parezca muy convincente. Y creo que esto hará todavía más importante valorar nuestras interacciones en el mundo físico: hablar con las personas, compartir experiencias y recuperar espacios donde podamos contrastar la realidad directamente.

Desde ELLIS Alicante investigan cómo los algoritmos pueden reproducir sesgos humanos. ¿Existe el riesgo de que la IA no solo herede nuestros prejuicios, sino que además los amplifique?

Sí, ese riesgo existe y esta empíricamente demostrado con numerosos ejemplos: la IA puede reproducir patrones de discriminación y sesgos que ya existen en la sociedad y, al aplicarlos a gran escala, amplificarlos. En ELLIS Alicante lo estamos estudiando desde distintas perspectivas. Por ejemplo, hemos observado sesgos relacionados con el llamado sesgo del atractivo: modelos multimodales tienden a asociar el atractivo físico con características positivas como la inteligencia o la confiabilidad, y estos sesgos interactúan además con género, edad y raza. También investigamos cómo los modelos de IA generativa pueden reproducir estereotipos de género, de edad o de raza, y cómo los sesgos pueden terminar afectando a sistemas utilizados para apoyar la toma de decisiones, donde las consecuencias pueden ser especialmente relevantes. Por tanto, es efectivamente un reto, pero no estamos ante un problema sin solución. En ELLIS Alicante estamos desarrollando técnicas para detectar, medir y mitigar estos sesgos, buscando que los sistemas de IA sean más justos y fiables. La clave es no asumir que un algoritmo es neutral simplemente porque sea una máquina: tenemos que medir sus sesgos y diseñar mecanismos técnicos para reducirlos.

¿Qué cree que puede aportar un foro como este en un momento en el que la IA avanza más rápido que el debate social sobre sus consecuencias?

No creo que la inteligencia artificial avance necesariamente más rápido que el debate social sobre sus consecuencias. Lo que sí creo es que necesitamos contribuir a un debate social informado, basado en evidencia y alejado de sensacionalismos y visiones apocalípticas, que a veces nos distraen de los retos reales y actuales de los sistemas de IA. Un foro como este puede ayudar precisamente a generar ese espacio de reflexión, acercando el conocimiento científico a la sociedad y favoreciendo una conversación más rigurosa sobre las oportunidades y los riesgos. Y, al mismo tiempo, no podemos perder de vista el enorme potencial de la IA para contribuir a resolver algunos de los grandes retos del siglo XXI, desde la salud y el cambio climático hasta la educación o la investigación científica.