Desde escolares hasta
superestrellas como Taylor Swift o Rosalía están siendo víctimas de
pornografía falsa generada con deepfake, una tecnología que opera con
Inteligencia Artificial (IA) con la que se producen videos, imágenes o
audios que permiten la manipulación y desarrollo de contenido multimedia
falso, pero muy realista.
La
pornografía que se genera con el deepfake es increíblemente dañina para
la salud mental de los niños y jóvenes, y las mujeres son quienes se
han convertido en las principales víctimas. Así lo demuestra una
investigación realizada por Sensity AI (software que detecta
manipulación o alteraciones en IA), que cita un artículo de la revista
del Instituto Tecnológico de Massachusetts que revela que el 95% de los
vídeos deepfake en línea, son pornografía sin consentimiento; y en el
90% de los casos las protagonistas son mujeres.
Ser
víctima de estos ataques, como sucedió con las alumnas de un reconocido
colegio de la capital, donde algunos alumnos varones crearon y
viralizaron imágenes de sus compañeras desnudas, tiene el potencial de
infligir cuadros de ansiedad reactivos a las víctimas que pueden llegar a
ser graves.
Pero
la pornografía no solamente afecta a las víctimas, sino que también a
los usuarios: los últimos metaanálisis han demostrado una intensa
liberación de Dopamina en el cerebro, similar a lo que se produce con el
uso de drogas adictivas, y en algunos estudios incluso se ha informado
una disminución en el volumen del área estriatal del cerebro, que
estaría asociada a los efectos neurotóxicos; además de los numerosos
estudios que demuestran que la pornografía afecta negativamente en el
comportamiento sexual de los adolescentes.
Desgraciadamente
este fenómeno es un problema a nivel global, y durante los últimos días
nos hemos enterado de situaciones similares en colegios de Australia y
EEUU. La gran diferencia es que en esos países la legislación está mucho
más avanzada: el gobierno australiano ha presentado una ley que
criminaliza la distribución de pornografía deepfake, con penas de hasta
seis años de prisión por compartir material sin permiso, y hasta siete
años si el infractor creó el contenido.
Por
todo lo anterior, resulta crucial proporcionar educación a nuestros
niños y adolescentes sobre la seguridad en internet y concientizar sobre
las consecuencias asociadas al mal uso de la tecnología y uso de
pornografía.
Las
plataformas digitales y los legisladores deben además tomar medidas
para proteger a las víctimas, desarrollando tecnologías para detectar y
eliminar rápidamente el contenido realizado con deepfakes, e
implementando leyes contra la creación y distribución de éstos.
¡Y recuerden #ConversarDeSaludMental puede salvar vidas!