Fundación Ellis de Alicante: La cara positiva de la inteligencia artificial

El cine y la literatura de ciencia ficción han dejado un buen número de historias con poderosos sistemas de inteligencia artificial (IA) que acaban sojuzgando a la humanidad. Frente a estos clichés, desde Alicante la Fundación Ellis fundada en 2020 trabaja por una inteligencia artificial ética, responsable y para el bien social, que pone el foco en una perspectiva humanista y trata de mejorar la sociedad. Desde esta entidad sin ánimo de lucro que tiene su sede en el Parque Científico de la Universidad de Alicante y que se integra en una red europea mucho mayor, se trabaja en algoritmos que corrijan los efectos perversos de esta herramienta.

Durante el covid, el trabajo de Ellis Alicante se centró en aprovechar los datos y la Inteligencia Artificial para ayudar en la lucha contra la pandemia, trabajo reconocido internacionalmente y con impacto en la sociedad. Superada la crisis sanitaria, la fundación pudo centrarse en estudiar otros proyectos como los efectos positivos y negativos de los filtros que se usan en redes sociales, cómo evitar que los algoritmos censuren obras de arte en las redes sociales o hacer más justos y transparentes los métodos de decisión de la máquina para comprender por qué lo hace y saber que detrás no están los sesgos de los propios programadores que escribieron el algoritmo. Se trata de aplicaciones en definitiva que ponen a la IA al servicio del bien común y evitando algunos de sus riesgos. 

Únete al canal de WhatsApp de INFORMACIÓN

Filtros en redes sociales

 «Los usuarios de las redes sociales como Instagram o TikTok usan filtros de embellecimiento, que utilizan inteligencia artificial modificando la cara para encapsular un canon de belleza. No sabemos quién lo ha definido, pero es el que se usa en las redes», explica a este diario la directora de Ellis Alicante, Nuria Oliver. En el estudio se concluyó que los filtros reducen la diversidad. «No impactan a la recognoscibilidad del sujeto, es decir se le sigue reconociendo, sería una versión embellecida, pero hemos encontrado que tienen un sesgo racial blanco. Es decir, independientemente de tu raza cuando te aplicas el filtro te vuelves más blanco. Es decir, estamos equiparando, ser bello, con ser blanco», explicó.

Así ha sido el II Fórum Europeo de Inteligencia Artificial celebrado en Alicante

Lejos de quedarse en esta connotación negativa, en Ellis Alicante se trabaja ahora en lo contrario. Analizar los efectos positivos de estos filtros. «En el mundo digital potencialmente todos podemos ser bellos, porque todos nos podemos aplicar filtros. Entonces, si todos nos embellecemos en el mundo digital, quiere eso decir que eliminaríamos este sesgo, los guapos ya no se van a beneficiar tanto en comparación con los feos, porque todos nos podemos embellecer. De alguna manera ecualiza la belleza, de alguna manera a todos nos hacen igualmente bellos», asegura Oliver.  

Censura en el arte

Otro de los trabajos recientes de Ellis Alicante ha girado en torno a la censura de desnudos en las obras de arte en redes sociales por los algoritmos. «A estas plataformas se suben millones de contenidos cada día. Cada una de ellas tienen definidas unas reglas de la comunidad. No aceptan que se suba pornografía o contenido que incite a la violencia», señaló. La supervisión de esos contenidos corre a cargo de algoritmos de inteligencia artificial, porque «es inviable tener suficientes humanos para monitorizar los millones y millones y millones de contenidos que se intentan subir». Pero el sistema no es perfecto. «Los algoritmos tienden a censurar el arte humano, si ese arte muestra algún tipo de desnudo artístico. El David de Miguel Ángel, la maja desnuda, o cualquier otro tipo de arte humano, que muestra un desnudo, lo equiparan con la pornografía», alertó. «El desnudo artístico forma parte de la creatividad desde que existe el ser humano», dijo.  

Desde Ellis,  en una colaboración con la iniciativa americana “Do not delete art”, se han recopilado ejemplos de obras arte censuradas por los algoritmos y se ha hecho un estudio con artistas para entender qué impacto tiene esta censura en su expresión artística, su visibilidad y a sus posibilidades de ganarse la vida también. «Y ahora estamos inventando soluciones técnicas para mejorar cómo funcionan estos algoritmos de moderación de contenido, para que respeten y tengan la capacidad de diferenciar el arte, de lo que no es el arte», explicó.

Corregir algoritmos

Uno de los trabajos de Ellis en Alicante consiste en inventar algoritmos que no discriminen. La inteligencia artificial puede ayudar a los humanos a tomar mejores decisiones, en ámbitos como puede ser diagnósticos médicos, sentencias judiciales, concesión de créditos o becas, admisión, etcétera. «Los algoritmos también tienen sesgos en parte porque los datos que se usan para entrenarlos tienen sesgos porque la sociedad está sesgada», explicó. 

Otra línea de trabajo consiste en conseguir algoritmos que preserven la privacidad de las personas al recopilar datos. Los sistemas tienden a la recogida masiva de información y el objetivo de estas correcciones es lograr que el sistema se quede con aquellos que necesita, sin invadir otras esferas de la intimidad.

Un tercer objetivo es la transparencia algorítmica. «Se estima que ChatGPT tiene 175.000 millones de parámetros. No hay ser humano que pueda entender qué significa eso, qué significan esos parámetros, eso se llama opacidad algorítmica», explicó Oliver, que añadió que entender cómo decide el algoritmo es algo fundamental cuando se va a hacer un diagnóstico de un cáncer de pulmón, por ejemplo. «No es suficiente con que me diga usted tiene un tumor. Necesitamos lo que se conoce como algoritmos explicables o algoritmos transparentes», incidió y ésa es otra de las líneas de trabajo de Ellis. Una labor que se completa con una cuarta vía que es precisamente utilizar esta herramienta para identificar sesgos y mitigarlos.

 «Somos un centro de investigación y todo lo que inventamos tiene evidentemente aplicaciones reales. No comercializamos nada y nuestro trabajo queda al servicio de la sociedad,», aseguró Oliver. «La justicia algorítmica en casos de uso considerados de alto riesgo –como son la educación, la medicina o el transporte—va a ser necesaria con la llegada de la regulación europea de la inteligencia artificial », una legislación para la que el propio parlamento europeo llegó a pedir asesoramiento a Ellis Alicante en un encuentro celebrado la pasada primavera. Según estimó Oliver, la tramitación legislativa podría finalizar a finales de este año y entrar en vigor a finales de 2025.

La pandemia

Uno de los trabajos más reconocidos de Ellis Alicante fue durante la pandemia del covid, donde la doctora Oliver lidero un equipo de investigación multidisciplinar formado por más de una veintena de investigadores de distintas universidades y centros de investigación de la Comunidad Valenciana. Su trabajoayudó a la Generalitat a tomar decisiones basadas en los datos y en el conocimiento científico. Fuimos una comunidad piloto desde marzo de 2020 en el análisis de datos agregados y anonimizados de movilidad humana compartidos por el INE para poder entender el impacto de las medidas de confinamiento. "Desarrollamos distintos modelos computacionales epidemiológicos para la evolución de la curva pandémica bajo distintos escenarios de medidas y también modelos de IA para predecir el número de casos las hospitalizaciones, tanto en planta como en cuidados intensivos y desplegamos una gran encuesta ciudadana que nos permitió semana tras semana poder entender el impacto que la pandemia estaba teniendo en la vida de las personas.

Además se desarrolló un sistema inteligente que recomendaba las medidas óptimas en base a la situación pandémica, que medidas, cerrar colegios o no, en reducir los viajes, reducir las reuniones familiares, etcétera. «La Generalitat, a través de la dirección general de Innovación, también ha impulsado Ellis para que forme parte de la estrategia valenciana de IA y pudo surgir gracias al compromiso de financiación sostenida en el tiempo», dijo Oliver.

Ellis de Alicante forma parte de una red mucho más amplia extendida por toda Europa y que busca poner al viejo continente a la altura de China y Estados Unidos en el desarrollo de la Inteligencia Artificial. Desde Ellis se busca talento investigador que contribuya a afianzar el liderazgo europeo en IA.

«Ellis Alicante existe por iniciativa de la Generalitat Valenciana. Forma parte de la estrategia valenciana de Inteligencia Artificial del gobierno valenciano. Pudo surgir gracias al compromiso por parte de la Generalitat de financiación sostenida en el tiempo según los requisitos de Ellis Europa que, tras un proceso competitivo de selección, aprobó la propuesta alicantina junto a otras propuestas hechas por centros de excelencia investigadora de IA en Europa, como son Oxford, Zúrich o Max Planck en Alemania», dijo Oliver. Además, Ellis Alicante cuenta con el apoyo de instituciones de relevancia como son la Fundación Banco de Sabadell, la Fundacion Balearia, Intel y la Comision Europea. 

La unidad Ellis de Alicante es singular dentro de la red porque creó desde cero con el objetivo de atraer talento excelente a la Comunidad y está centrado en la IA ética, responsable y orientada hacia el bien social, ,unos aspectos que han acabado siendo el principal centro de debate sobre los usos de esta nueva herramienta tecnológica.