Las implicaciones éticas de la Inteligencia Artificial se extienden a los sesgos y discriminación que llevan consigo los algoritmos si no se controlan de inicio. Los expertos invitados por la Fundación Ellis al congreso que reúne estos días a cerca de 200 jóvenes doctores de toda Europa en la UA, coinciden en subrayar la necesidad de un control para evitar que por ser mujer los anuncios que salten en tu móvil se limiten a cuestiones que, por ejemplo, no incluyen aspectos de ciencia o de tecnología, lo que implica un claro sesgo de género que, insisten, hay que minimizar lo máximo posible.
Emilia Gómez, investigadora en la Comisión Europea en uno de los pocos centros comunes de investigación con que cuenta la UE para ello, en su caso en Sevilla; junto a Virginia Dignum, de la Universidad UMEA en Suecia; Krishna Gummadi, científico que dirige en Alemania el Instituto Max Planck de sistemas de software; e Irina Shklovski experta en Computación y Comunicación en la Universidad de Copenhagen, plantean que dicho control es uno de los principales retos que debe abordar la investigación en inteligencia artificial, para no ahondar en los prejuicios que tratan de erradicarse en el día a día y que las herramientas tecnológicas reproducen si no se tienen en cuenta.
Coinciden en abrir el abanico de la inteligencia artificial para tener una visión más global que abarque cualquier implicación social, no solo técnica, y estudiar su impacto sobre las personas para minimizar riesgos. "La tecnología tienen un gran impacto social y hay que aprovechar la oportunidades que ofrece, pero también minimizar los riesgos que pueda tener", concreta Gómez.
Impacto
La investigadora apunta a los algoritmos que invaden nuestro día a día en las redes sociales, y que muy personalizados sobre los gustos que ya hemos ido mostrando en nuestras búsquedas, nos recomiendan por ejemplo las películas o la música que tenemos ver; así como los trabajos a los que nos instan a clicar. "Todos estos algoritmos tienen un claro impacto social y los investigadores debemos hacer evaluaciones para que funcionen igual de bien para mujeres que para hombres, y exactamente igual para las distintas nacionalidades también".
Son implicaciones sociales muy importantes cuando estos algoritmos forman parte de un producto, aunque su punto de partida sea el de una área muy técnica, y lo científicos sopesan que es necesario tener en cuenta las posibles discriminaciones antes de lanzarlos. Dignum subraya que la IA no es únicamente un algoritmo en una máquina, que afecta a las personas y que hay que verlos en su contexto.
La cofundadora y vicepresidenta de la Fundación Ellis, Nuria Oliver, que fue dando la palabra y proponiendo el debate, apunta que los retos éticos se pueden abordar colectivamente para que las nuevas generaciones de investigadores entiendan que los modelos que inventan se van a usar en la sociedad de forma amplia, y que por esto mismo deben considerar su dimensión ética también, no solo la técnica.
Emilia Gómez corrobora que hoy en día hay cada vez más investigaciones que aúnan distintas disciplinas, de forma que pueden figurar en un proyecto tanto ingenieros como economistas y psicólogos y, de este modo, al evaluar la tecnología, no solo se tiene en cuenta su adecuado funcionamiento técnico, sino también y al mismo tiempo el impacto social que puede tener.
Plataformas
Tener en cuenta estos parámetros resulta fundamental para los científicos expertos en inteligencia artificial, porque los algoritmos se utilizan ya en todos los ámbitos, ya sea en la medicina como en portales de empleo o en los videojuegos, "es importante tener en cuenta el impacto y poder evaluarlo desde la investigación y el desarrollo, para que funcionen sin discriminar e incluso sin dañar al medio ambiente, lo que dependerá de saber también cuánto consumen".
En concreto desde el centro de investigación de la UE, la ingeniera Emilia Gómez señala que se está definiendo una propuesta de regulación a partir de una base científica y técnica que aportan los expertos, de ahí el lema de este congreso, que es el aprendizaje automático pero pensando en las personas. Y a partir de ahí, las distintas plataformas serán responsables del efecto de sus algoritmos. "Ellis es muy importante porque es una red europea y esta regulación es completamente pionera", concluye.
