Educación
El uso de la inteligencia artificial multiplica el acoso escolar y la violencia sexual en Alicante
La prohibición de las plataformas digitales a los adolescentes genera división: especialistas advierten de que es vital la concienciación
PI STUDIO
Alumnas que repentinamente ven imágenes o vídeos suyos en las que aparecen desnudas creadas con inteligencia artificial (IA) circular por los grupos de Whatsapp o incluso publicadas en las redes sociales. Es una de las principales maldades que los adolescentes están cometiendo con compañeras, mucho más que bromas de mal gusto que se cometen fuera de las aulas que están generando muchos problemas en la convivencia escolar. Buena parte de los casos acaban judicializados.
El uso de esta tecnología ha multiplicado y cambiado los métodos para perpetrar acoso escolar y violencia sexual. La IA también se está empleando para meterse con colectivos vulnerables, especialmente con niños con necesidades especiales. «Está aumentando la normalización de violencia sexual en los centros educativos, ya era brutal con la pornografía desde hace ocho o nueve años. Ahora, estamos en un cambio de paradigma, es muy nuevo, y ya prácticamente está pasando en todos los centros educativos», afirma Agustín Zaragoza Granell, profesor de Filosofía, agente de Igualdad y experto en la prevención del consumo de pornografía.
Esta realidad también ha sido constatada por la Asociación Valenciana contra el Acoso Escolar (Avalcae), que ha advertido de que uso de herramientas para crear imágenes, vídeos o audios degradantes y falsos (deepfakes) ha aparecido por primera vez como una causa relevante de denuncia. La entidad medió solo el pasado año en 200 casos de alumnos que denunciaron bullying en la provincia.
El problema, detectado en la provincia de Alicante, al igual que en el resto de la Comunidad, sigue la tendencia a nivel nacional. Según el último informe de la Fundación Mutua Madrileña y la Fundación ANAR, el uso de la IA está presente en el 14,2% de los casos de ciberacoso.
De hecho, el estudio ha alertado de que en más de la mitad de los casos en los que se emplea la IA con fines de bullying corresponden a la creación de vídeos falsos a partir de la manipulación de una foto, vídeo o audio de la víctima y un 32,2% a la suplantación de la identidad de un compañero o compañera
Zaragoza, que imparte al año más de 200 talleres sobre prevención de la pornografía y masculinidad en toda la Comunidad Valenciana, ha constatado que en los centros educativos están aumentando alarmantemente los conflictos en el aula por lo que está ocurriendo por las tardes. Y deja un mensaje claro: «No son bromas, son actitudes delictivas hacia chicas», advierte. Además, apunta a que cuando los chicos se dan cuenta de que lo han hecho reaaccionan con miedo, tristeza y algunos no eran conscientes de lo que lo estaban haciendo es un delito.
Un cartel que prohíbe los móviles en el IES Doctor Balmis de Alicante, anterior al decreto autonómico / Jose Navarro
Hay un cambio de paradigma, tras el porno, ahora se está normalizando la violencia sexual con la IA
Un acoso escolar amplificado
Desde la Fundación Cibervoluntarios, que enseña a más de 2.000 niños y adolescentes de la provincia cada año a detectar noticias falsas, cuidar su privacidad en las redes, y en definitiva, a hacer un uso responsable de la tecnología, han corroborado que la inteligencia artificial no ha creado un problema nuevo, sino que está amplificando dinámicas que ya preexisten. «La diferencia ahora es la facilidad, la rapidez y la escala. Hoy no hace falta tener conocimientos técnicos avanzados para producir un contenido aparentemente verosímil. Eso puede multiplicar su alcance y su impacto», explica Antonio Pulido, responsable de Incidencia social y cultural de la entidad.
No obstante, el especialista sostiene que es importante no simplificar el análisis. "El acoso tiene raíces sociales profundas: desigualdades, estigmas, dinámicas de grupo, falta de educación emocional o situaciones de vulnerabilidad. Estas realidades existen dentro y fuera del entorno digital», señala.
La IA está amplificando dinámicas que ya preexisten por el alcance que tiene y su facilidad de uso
Pero, para los expertos, la principal razón de que se hayan multiplicado las incidencias negativas, es que el uso de estas tecnologías se ha extendido de forma muy rápida y generalizada.» La inteligencia artificial ya forma parte del día a día de muchas personas jóvenes, como también del conjunto de la ciudadanía», agrega.
Acceso precoz a la IA
Una de las grandes preocupaciones es que la IA ya no solo es utilizada entre los chavales de insituto, entre adolescentes de 12 y 16 años, sino que se ha adelantado ya a la edad escolar. «En una de mis charlas en el último curso de Prmaria, me encontré con que todos los conocían el Chat GPT o el Gemini, cuando la edad legal para hacerse una cuenta es de 13 años», advierte David Tomás, profesor del Departamento de Lenguajes y Sistemas Informáticos de la Universidad de Alicante (UA) e impulsor de un proyecto, reconocido por el Gobierno, par introducir la IA en los colegios.
Prohibir no sirve de nada, hay que crear entornos seguros de IA para adolescentes, con limitaciones
Frente a ese fugaz avance de la tecnología en edades cada vez más tempranas y para prevenir situaciones extremas con la IA, los especialistas ponen el foco en la formación tanto del profesorado, como del alumnado, una asignatura que sigue siendo todavía pendiente porque el alcance de las charlas continúa siendo limitado. Como ejemplo, 2.150 profesores de la provincia de Alicante han comenzado este mes a formarse para enseñar en las aulas a utilizar la inteligencia artificial de forma responsable y para tratar de poner freno a los peligros. De la Comunidad son, en total, son 6.200 docentes, de los 80.000 a los que va dirigido.
Una charla sobre prevención de la pornografía en un instituto de la provincia / INF
Expertos advierten de que vetar las redes a los menores no es (la única) solución
Ante la oleada de problemas que están sufriendo los niños y adolescentes como consecuencia del mal uso de las redes sociales y de la inteligencia artificial, el plan del Gobierno de prohibir el acceso a plataformas digitales a menores de 16 años ha generado una fuerte discusión en la comunidad educativa. Hay opiniones a favor y en contra de vetar a los niños el uso de esta tecnología, pero, sí que hay una gran coincidencia: la formación, la sensibilización o la coeducación es vital para atajar esta crisis.
«Hace años el cinturón no era obligatorio, se podía fumar en los centros públicos, ahora ya nadie debate por qué no se conduce con 14 años. La restricción de las plataformas digitales es urgente que el límite sea a los 16 años es incluso debatible», sostiene Agustín Zaragoza, miembro de la Asociación por la Coeducación. Lo cree así porque «en primero de la ESO, la inmensa mayoría tiene Instagram y el 80 % ya tiene móvil. En segundo de la ESO, los padres apenas les miran el móvil y en tercero, ya han perdido el control sobre el móvil» , afirma.
El especialista reivindica apostar por la coeducación para trabajar en igualdad antes de que tengan el móvil y puedan entender que hay que usar la tecnología de forma razonable y sana, en lugar, de legitimar la violencia sexual.
Para Antonio Pulido, de la Fundación Cibervoluntarios, «fijar límites de edad debe formar parte del marco regulatorio, especialmente para exigir mayor responsabilidad a las plataformas». Sin embargo, deja claro que «si esos límites no van acompañados de formación, acompañamiento familiar y preparación docente, el problema de fondo no desaparece. Se puede retrasar el acceso, pero no necesariamente mejorar las competencias cuando ese acceso llegue», advierte.
El experto sostiene que la protección debe ir acompañada del derecho a la educación, a la información y a la participación en los entornos que forman parte de su vida cotidiana.
Riesgos de restringir
De hecho, avisa de que un enfoque exclusivamente restrictivo corre el riesgo de generar nuevas desigualdades sin resolver los riesgos estructurales. «La clave está en combinar regulación responsable con capacitación progresiva y espacios reales de participación juvenil en el diseño de entornos digitales más seguros», puntualiza. Frente a ello, existen posturas más contundentes contra la prohibición del acceso a las plataformas digitales a los menores de 16 años. «Es muy difícil poner puertas al campo, prohibir no sirve de nada, está prohibido que los jóvenes consuman alcohol y pasa lo mismo», advierte David Tomás, profesor de Lenguajes y Sistemas Informáticos de la Universidad de Alicante (UA), que imparte charlas de IA a los escolares. El investigador alerta de que hay diversos de modelos de IA que se pueden descargar en el ordenador, sin la necesidad de usar el móvil, de forma gratuita y son mucho más peligrosos.
Para este especialista todo pasa por la educación y por desarrollar una inteligencia artificial segura para los jóvenes, ya no solo porque la estén utilizando para cometer acoso escolar o violencia sexual, sino también «porque se están utilizando algunas herramientas como psicólogos o como adolescentes amigos con IA que siempre te dan la razón», añade.
Suscríbete para seguir leyendo
- Barcala suspende su agenda tras la detención de Carlos Baño por la gestión del bono comercio en Alicante
- Carlos Baño, detenido por la gestión de los bono comercio de la Diputación de Alicante cuando Mazón la presidía
- Actuación urgente por falta de seguridad en las nuevas pérgolas del paseo de San Juan
- Cinco colegios de Alicante entre los 100 mejores de España, según la revista Forbes
- La Aemet mantiene el aviso amarillo en Alicante por lluvias persistentes en la provincia
- Estos son los animales que se han 'mudado' a Playa de San Juan tras la dana
- Tráfico en Alicante hoy: dos accidentes en la N-332 y la N-332a y 51 incidencias en 18 carreteras
- Derrumbe en la residencia de personas discapacitadas CAMP Santa Faz de Alicante
