España pone en pie el primer gran mapa ético y jurídico de la IA generativa

La Cátedra Internacional ENIA reúne la semana próxima en Madrid a reguladores, académicos y empresas para presentar 16 investigaciones que radiografían cómo la IA generativa ya está afectando a derechos, empleo, salud y democracia, y qué puede hacer Europa para gobernar este nuevo poder tecnológico.

España se juega mucho más que un debate técnico en el congreso que la Cátedra Internacional ENIA celebra los días 10 y 11 de marzo en Madrid. En dos jornadas, el país va a poner sobre la mesa el primer mapa coherente, con datos, de cómo la inteligencia artificial generativa está tocando el corazón mismo de nuestros derechos, de la arquitectura jurídica europea y de la vida cotidiana en el trabajo, en la salud y en la información.

El congreso reúne 16 investigaciones aplicadas que radiografían, con bastante crudeza, qué está pasando cuando modelos generativos escriben borradores de noticias, sugieren diagnósticos médicos, ayudan a decidir créditos o se cuelan en campañas electorales a través de deepfakes. La tesis de fondo es clara: la IA generativa ha dejado de ser un experimento brillante para convertirse en una infraestructura silenciosa que toma decisiones con consecuencias políticas, económicas y personales muy concretas.

Desde el punto de vista de la ética, aparecen ya patrones que se repiten en todos los sectores: sistemas que alucinan con apariencia de rigor, sesgos que dañan siempre a los mismos colectivos, desinformación sintética difícil de rastrear y una responsabilidad cada vez más diluida cuando algo sale mal. Hay estudios específicos sobre discriminación, salud, públicos vulnerables, metaverso y casos de uso que van desde la consulta médica a las urnas.

Quién se sienta a la mesa

La otra clave del encuentro es quién va a discutir estos resultados. La inauguración corre a cargo la Directora General de IA del Minsiterio de Transformación Digital, Aleida Alcaide, que llega con la tarea nada menor de aterrizar el AI Act en la realidad española y de conectar la Estrategia Nacional de IA con los riesgos que describen los informes. Los estudios muestran es que ya no basta con “códigos éticos”, sino que la discusión ha pasado a ser normatividad dura, financiación y capacidad real de supervisión.

Junto a ella estarán la directora de la Cátedra, Idoia Salazar, el socio de Deloitte responsable de la Cátedra, Manel Carpio, y la rectora del CEU San Pablo, Rosa Visiedo, articulando el triángulo Gobierno–universidad–empresa que sostiene el proyecto. Y la conferencia inaugural la firma Lorenzo Cotino, presidente de la Agencia Española de Protección de Datos, precisamente cuando las investigaciones sobre privacidad y entrenamiento de modelos con datos sensibles empiezan a dibujar un escenario de fricción permanente entre innovación y garantías.

En aspecto jurídico se cruzan nombres que llevan años pensando los fundamentos del sistema: Carmen Muñoz y María Luisa Kubica, con su propuesta de responsabilidad objetiva atenuada para daños causados por IA generativa; Cristina Mesa y Borja Adsuara, en el frente caliente de la propiedad intelectual; Luz María Martínez Velencoso, en la intersección delicada entre datos de salud e IA; o María Isabel de la Iglesia, que aterriza la discusión en las ciudades inteligentes y su sostenibilidad social.

El aspecto social conecta todo esto con la calle: Ricardo Palomo y el equipo de Deloitte analizan la “Gran Rotación” del empleo; María Solano y Tamara Vázquez documentan la industrialización de la desinformación; otros trabajos exploran el uso problemático de asistentes generativos y el impacto de los “asistentes universales” en la universidad y en la formación de las nuevas generaciones.

Lo que está en juego para España y Europa

Mirado desde fuera, el congreso es la puesta de largo de un trabajo financiado por la Estrategia Nacional de IA y por fondos del Plan de Recuperación, en alianza entre el CEU San Pablo, Deloitte y OdiseIA. Mirado desde dentro, es algo más ambicioso: un intento de que España no llegue tarde al reparto de papeles en la gobernanza europea de la IA generativa.

En Bruselas, el AI Act ya ha fijado una gramática común, pero su eficacia dependerá de cómo los Estados miembro traduzcan sus capítulos sobre riesgo, transparencia, derechos de los consumidores, protección de datos o modelos de propósito general en procedimientos, sanciones y recursos efectivos.

El conjunto de investigaciones que se presentan en Madrid funciona como un banco de pruebas: muestra dónde aprieta el zapato en salud, en justicia, en empleo o en ciudades inteligentes, y sugiere por dónde habrá que reforzar la letra pequeña si se quiere que la promesa europea de “IA confiable” no se quede en una etiqueta.

Para España, el valor añadido es doble. Por un lado, disponer de evidencias propias (no solo extrapolaciones anglosajonas) sobre cómo se combinan la automatización de tareas junior, las brechas territoriales y de género, la presión competitiva de las grandes plataformas y la fragilidad de ciertos derechos en el entorno digital. Por otro, poder sentarse en el debate europeo con propuestas articuladas: un modelo concreto de responsabilidad civil, criterios de transparencia reforzada para consumidores, ideas sobre cómo proteger a menores y colectivos vulnerables, y experiencias piloto como la plataforma Origin para auditar la ética de los modelos generativos.

Un laboratorio político y cultural

El congreso llega en un momento en el que la conversación pública sobre IA oscila entre el miedo apocalíptico y la fascinación tecnológica. Los organizadores apuestan por otro registro: bajar la discusión al nivel de los contratos, los protocolos clínicos, las reglas de juego del periodismo, los planes de estudio y los derechos que se juegan en cada interacción con un sistema generativo.

Si este “primer mapa ético, jurídico y social” consigue ser escuchado más allá del Aula Magna del CEU, España puede situarse como uno de los lugares donde Europa ensaya, con datos y no solo con grandes principios, cómo domesticar una tecnología que ya está tocando la médula de nuestras democracias.