¿Están los menores en peligro por el mal uso de la Inteligencia Artificial? imágenes de desnudos falsos encienden las alarmas

El pasado sábado, la Inteligencia Artificial volvió a ser noticia en Aragón. Pero, esta vez, la diferencia fue que no se trataba de una curiosa entrevista con ChatGPT o de un avance técnico que anuncia un cambio inminente en el paradigma tecnológico, sino que abarcaba la implicación de hasta 13 menores de edad de Utebo en un delito de difusión (y venta) de imágenes de cinco de sus compañeras de instituto, con desnudos creados a través de la Inteligencia Artificial (IA). Siete de esos menores, además, no llegaban a los 14 años, por lo que todavía conservan su condición de inimputables.

Más allá de lo grave del caso, que ahora pasará a la Justicia, que será quien decida las penas para los implicados a los que sí puede juzgar, la situación lleva a la sociedad a preguntarse cómo se debe abordar la vertiginosa evolución de la Inteligencia Artificial en los últimos años y, especialmente, su implicación en menores de edad.

"Las aplicaciones se han disparado y nos hemos dado cuenta de lo sensibles que somos", afirma Antonio Miguel, docente de la Universidad de Zaragoza e investigador del I3A, instituto dedicado a indagar desde la ingeniería. Miguel, experto en el campo del habla y el lenguaje en IA, cree que lo peculiar del momento actual es que los nuevos avances "permiten que nuestro cerebro se engañe fácilmente y experimente cosas que no son reales".

Un perfeccionamiento que, además, ha ido acompañado de una democratización de las aplicaciones que propicia que no sea necesario ser un experto, ni siquiera tener conocimientos de programación, para poder darles uso. "Lo que está sucediendo es que se están creando sistemas totalmente gratuitos que a la semana ya tienen varias interacciones, algo que antes era impensable", explica Miguel, que incide: "Cada usuario va replicando en el sistema, que pasa de unos a otros, sin necesidad de que sean expertos, y al final alguien mete la pata".

Una sexualización que se "banaliza"

El caldo de cultivo, por tanto, es el perfecto para que se den casos como el de Utebo, con preadolescentes implicados en algo cuyas consecuencias reales seguramente ignoran. En ese sentido, Clara Morgades, psicóloga, achaca algunas de estas actitudes a la "necesidad de reconocimiento". "Estas cosas no suelen hacerse, por lo general, por uno mismo, aunque también habrá casos. En Utebo lo hicieron en grupo, seguramente por la necesidad de ser reconocidos", asevera, a la par que pronostica que este caso, al tratarse de un "delito mayor", se ha hecho más conocido, pero que lo más probable es que haya "muchísimos más".

"Las aplicaciones se han disparado y nos hemos dado cuenta de lo sensibles que somos"

Antonio Miguel

— Docente en la Universidad de Zaragoza e investigador del I3A

En cuanto a las víctimas, Morgades, miembro del Colegio Profesional de Psicólogos de Aragón (Coppa), asegura que podrían sufrir "trastornos de ansiedad, en su autoestima...", similares a los que se producen cuando las fotos difundidas sí son reales. Asimismo, la psicóloga zaragozana también repara en el carácter actual de la sociedad, "muy sexualizada, desde las redes sociales hasta las canciones de moda": "Los jóvenes ven tanta sexualización que se invisibiliza y acaban banalizándola, como sucede, por poner un ejemplo, con la violencia en las guerras".

Formación y prevención

Por su parte, fuentes de la Guardia Civil subrayan que esta tipología delicitiva "está en auge", ya que "es muy fácil el acceso a estas plataformas". "Basta con tener conocimientos básicos de uso de aplicaciones móviles, ya que los diseñadores preparan estas 'apps' para que su uso sea fácil e intuitivo y llegar a un mayor número de posibles usuarios", señalan.

La encargada de investigar el caso de Utebo es el Área de Delitos de la Unidad Orgánica de la Policia Judicial de la Guardia Civil de Zaragoza, desde donde expresan su preocupación por "el acceso prematuro de los menores a los dispsitivos tecnológicos". Así, desde la Guardia Civil consideran "fundamental" que los progenitores "dediquen tiempo al conocimiento de los dispositivos y herramientas que ponen a disposición de sus hijos". Además, también creen en la importancia de la "formación y divulgación" en el ámbito escolar, donde el cuerpo participa en el Plan Director.

Una visión holística del problema

Una opinión compartida desde el campo de la psicología, quienes opinan que las charlas y talleres en colegios e institutos deberían empezar antes e implicar más a los alumnos. "Hay que abordarlo ya desde los 3 o 4 años, pero antes de la adolescencia es vital hablar a los jóvenes sobre la inteligencia emocional", dice Morgades, quien, con todo, matiza: "No es lo mismo una charla de una hora que actividades dinámicas de grupo". "Incluso sería bueno crear grupos en los que pudiesen compartir experiencias las víctimas con los perpretadores, como sucede con otro tipo de agresiones", añade.

"Antes de la adolescencia es vital hablar a los jóvenes sobre la inteligencia emocional. No es lo mismo una charla de una hora que hacer actividades dinámicas de grupo"

Clara Morgades

— psicóloga

También Antonio Miguel, desde su posición como docente universitario, tiene un pensamiento en la misma línea: "El control debe ser a todos los niveles. Antes se hacían muchas campañas, como las antidrogas o las de no beber si conducías, y calaban". Un problema en el que, sea como fuere, todos los actores coinciden en que debe abordarse de forma holística, o los acontecimientos desbordarán la situación como la propia IA está desbordando la tecnología.

Suscríbete para seguir leyendo