Investigadores de la UA detectarán noticias falsas y contenido generado con inteligencia artificial

Detectar noticias falsas, lenguaje nocivo e informaciones y contenidos generados de forma automática por inteligencia artificial (IA). Es la nueva investigación que está liderando la Universidad de Alicante (UA) para poner freno a los principales males de la era digital.

Este estudio se inscribe en la estrategia del Centro de Inteligencia Digital de la provincia de Alicante, Cenid, impulsado conjuntamente por la Universidad de Alicante, la Diputación de Alicante y la Universidad Miguel Hernández de Elche, y responde a su estrategia de abordar diferentes desafíos clave, ajustados a las inquietudes actuales de la sociedad, entre ellos la proliferación de la desinformación, el discurso de odio y el contenido generado por inteligencia artificial. 

En concreto, esta investigación, capitaneada por la directora del departamento de Lenguajes y Sistemas Informáticos y catedrática de la UA, Estela Saquete, analiza distintas tecnologías y herramientas digitales, como el procesamiento del lenguaje natural o técnicas de deep learning, con el objetivo de ayudar a las instituciones públicas a promover un entorno digital seguro.

Como resultado de estas investigaciones, el proyecto propone un modelo tecnológico basado en la creación de un dataset o conjunto de datos estructurado, que permitirá desarrollar modelos de lenguaje avanzados, optimizados para la detección de confiabilidad, violencia y contenido que provenga de inteligencia artificial. 

Además, esta herramienta se entrenará con modelos de lenguaje que se ajustarán progresivamente para mejorar su precisión en cada una de las áreas de análisis. Se diseñará e implementará una interfaz que integre los algoritmos y modelos del sistema, facilitando su aplicación en el entorno digital, con un enfoque inicial en la provincia de Alicante, según han informado desde la institución académica.

Posteriormente, se llevará a cabo una evaluación interna de cada módulo y una prueba experimental en una administración pública de la provincia de Alicante para validar su eficacia. 

El Cenid ultima su herramienta de lectura fácil para personas con discapacidad dirigida a la Administración pública

Varias fases

Para la ejecución del proyecto son varias las actividades planteadas y que está previsto que se lleven a cabo. En primer lugar, el trabajo empezará analizando y determinando cuáles son las amenazas que pueden afectar a los diferentes colectivos de la sociedad. El segundo paso será elaborar un informe que recoja los tipos de violencia sufridos por la ciudadanía y trabajadores de las administraciones. 

En paralelo, se realizará un estudio sobre la aplicación y mejora de la tecnología del procesamiento del lenguaje natural (PLN) para detectar y reducir esas amenazas. A continuación, y como resultado de los estudios anteriormente mencionados, se diseñará un modelo que permita aplicar tecnologías de procesamiento del lenguaje para detectar amenazas en el consumo de información, en especial, dentro de la administración pública local. Por último, se presentará el proyecto en distintas convocatorias nacionales e internacionales, con el objetivo de ampliar su visibilidad e impacto. 

Desde la UA y el Cnid han asegurado que esta iniciativa "representa un avance significativo en la seguridad digital y la protección de la ciudadanía en un entorno cada vez más interconectado a través del uso de tecnologías avanzadas, desarrollando soluciones innovadoras para combatir la desinformación, prevenir riesgos y fortalecer la ciberseguridad".