¿Cómo está amplificando la inteligencia artificial la violencia digital contra las mujeres? con Rosa Nolla y María Quijada

La violencia digital no crea un problema nuevo, lo amplifica

Cuando hablamos de violencia digital contra las mujeres no nos referimos únicamente al ciberacoso o a los insultos en redes sociales.

Se trata de todas aquellas conductas que utilizan la tecnología para reproducir y ampliar las violencias machistas que ya existen fuera del entorno digital.

Las redes sociales, la inteligencia artificial o cualquier otra herramienta tecnológica pueden convertirse en canales desde los que ejercer control, humillación, vigilancia o agresión.

La tecnología, por sí sola, no crea nuevas formas de violencia. Lo que hace es multiplicar su alcance.

Una imagen puede difundirse de forma masiva en cuestión de minutos. Un contenido manipulado puede permanecer durante años en Internet. Y una agresión deja de limitarse a un espacio físico para acompañar a la víctima de forma permanente.

Por eso la violencia digital debe entenderse como una extensión de la violencia de género, no como un fenómeno independiente.

¿Por qué seguimos restándole importancia?

Existe una percepción muy extendida de que aquello que sucede detrás de una pantalla resulta menos grave que lo que ocurre en el mundo físico.

Sin embargo, esa diferencia es únicamente aparente.

Cuando una agresión ocurre en Internet, la distancia física genera una falsa sensación de anonimato y reduce la percepción de responsabilidad de quien la ejerce.

Muchas personas sienten que observar, compartir o comentar determinados contenidos no tiene consecuencias porque no existe un contacto directo con la víctima.

Pero esa distancia emocional no elimina el daño.

Al contrario.

En muchas ocasiones lo incrementa porque facilita que miles de personas participen, de forma consciente o inconsciente, en la difusión de una agresión.

Lo que ocurre cuando pedimos a una IA que genere "la mujer perfecta"

Uno de los experimentos más reveladores consiste en pedir a una inteligencia artificial que genere la imagen de "una mujer perfecta" o "la esposa ideal".

El resultado suele repetirse con una sorprendente frecuencia. La mayoría de modelos generan una mujer joven, rubia, de piel perfecta, maquillaje impecable y rasgos muy normativos.

A menudo aparece con ropa ajustada o escotada y en un entorno doméstico perfectamente ordenado. Cuando la petición hace referencia a una "esposa ideal", la escena cambia todavía menos. La imagen suele situarla en una cocina blanca e impoluta, cocinando, sonriendo y respondiendo a un modelo tradicional de feminidad.

No es una casualidad.

Es el reflejo de los millones de imágenes y representaciones con las que esos modelos han sido entrenados.

La inteligencia artificial no está inventando un nuevo estereotipo. Está reproduciendo el que ya existe.

La IA funciona como un espejo de la sociedad

Precisamente ahí reside uno de los mayores riesgos.

La inteligencia artificial no solo refleja los sesgos presentes en la sociedad.

También puede consolidarlos y reforzarlos.

Cada vez que una herramienta devuelve una imagen estereotipada como respuesta "correcta", está contribuyendo a normalizar esa representación.

Y cuanto más se utiliza, más presente permanece en el imaginario colectivo.

Por eso resulta tan importante entender que la IA nunca parte de cero.

Aprende de nosotros.

Aprende de nuestros contenidos.

Aprende de nuestras decisiones.

Y, en consecuencia, también aprende de nuestros prejuicios.

Cuando esos prejuicios afectan a la forma en que se representa a las mujeres, la tecnología termina amplificando una desigualdad que ya existía previamente.

Cuando la IA convierte el cuerpo de la mujer en un objeto modificable

Uno de los riesgos más preocupantes de la inteligencia artificial es que está cambiando la forma en que entendemos el cuerpo femenino.

Ya no hablamos únicamente de filtros o retoques fotográficos.

Hoy cualquier persona puede generar, modificar o manipular la imagen de una mujer en cuestión de segundos, muchas veces sin su consentimiento.

El problema va mucho más allá de la estética.

Supone un cambio profundo en la manera de percibir el cuerpo de las mujeres.

Deja de entenderse como parte de la identidad de una persona para convertirse en un objeto que cualquiera puede editar, transformar o utilizar.

Esa cosificación tiene consecuencias especialmente graves entre las adolescentes.

En una etapa en la que todavía están construyendo su autoestima y su identidad, crecer rodeadas de imágenes imposibles o manipuladas puede generar una enorme presión por alcanzar modelos de belleza irreales.

El mensaje que reciben es claro: su cuerpo siempre puede ser mejorado.

Y eso tiene un impacto directo sobre la autoestima, la percepción corporal y la salud mental.

La Generación Z convive con esta realidad todos los días

Para quienes han crecido con Internet, esta situación forma parte de su vida cotidiana.

La sensación es que cualquier fotografía publicada puede terminar utilizándose fuera de contexto.

Eso obliga a vivir con una vigilancia constante sobre qué se comparte, cuándo se comparte y quién puede acceder a ese contenido.

Paradójicamente, quienes acaban adoptando todas esas precauciones suelen ser las posibles víctimas y no quienes cometen las agresiones.

La responsabilidad termina desplazándose hacia quienes intentan protegerse, cuando en realidad debería recaer exclusivamente sobre quien utiliza la tecnología para dañar a otra persona.

Ese cambio de foco es uno de los grandes problemas de la violencia digital.

Seguimos preguntando a las víctimas qué podrían haber hecho para evitarlo, en lugar de preguntarnos por qué existen personas dispuestas a utilizar estas herramientas para ejercer violencia.

El fenómeno que más preocupa: los desnudos generados con IA en menores

Una de las situaciones más alarmantes que ya está ocurriendo en colegios e institutos es la creación de imágenes falsas mediante inteligencia artificial.

A partir de una fotografía real, algunos adolescentes generan desnudos hiperrealistas de compañeras de clase y los difunden por grupos privados, redes sociales o incluso páginas pornográficas.

Aunque esas imágenes nunca hayan existido, el impacto psicológico sobre la víctima es completamente real.

La vergüenza, la ansiedad y la pérdida de control aparecen exactamente igual que si las fotografías fueran auténticas.

La diferencia es que ahora cualquiera puede fabricar ese contenido en apenas unos minutos.

Y una vez publicado, resulta prácticamente imposible saber dónde ha terminado o cuántas personas lo han visto.

La culpa nunca debería recaer sobre la víctima

Uno de los mayores retos en la atención psicológica consiste precisamente en romper el sentimiento de culpa que suele aparecer después de una agresión digital.

Muchas mujeres sienten que hicieron algo mal por haber compartido una fotografía o por haber confiado en alguien.

Sin embargo, esa idea debe desmontarse desde el principio.

La responsabilidad nunca pertenece a quien sufre la violencia.

Pertenece exclusivamente a quien decide ejercerla.

Por eso uno de los primeros objetivos terapéuticos consiste en reconstruir ese relato interno.

Ayudar a la víctima a comprender que su identidad no puede quedar definida por una agresión.

Que aquello que ocurrió forma parte de su historia, pero no la define como persona.

Es un proceso largo.

No basta con entenderlo racionalmente.

También es necesario trabajar las emociones asociadas al trauma, especialmente la culpa y la vergüenza, dos sentimientos que suelen aparecer unidos.

La vergüenza nace cuando una agresión afecta directamente a la intimidad y a la imagen pública.

En adolescentes ese impacto suele ser todavía mayor porque coincide con una etapa en la que la identidad y la aceptación social ocupan un lugar central.

El objetivo de la terapia consiste en que la persona recupere poco a poco el control sobre su propia vida.

Porque uno de los efectos más devastadores de la violencia digital es precisamente esa sensación de pérdida de control.

No saber quién ha visto las imágenes.

No saber dónde siguen circulando.

No saber si alguien las reconocerá por la calle, en el instituto o en cualquier otro espacio.

El trauma continúa incluso fuera de Internet

Las consecuencias no terminan cuando desaparece una publicación.

Muchas víctimas siguen viviendo durante meses o incluso años con la sensación de que cualquiera puede reconocerlas.

Salir a la calle, entrar en un restaurante o utilizar el transporte público puede convertirse en una fuente constante de ansiedad.

La pregunta aparece una y otra vez:

"¿Me está mirando porque me conoce... o porque ha visto esas imágenes?"

Ese estado de alerta permanente constituye una forma de revictimización.

La agresión deja de estar únicamente en Internet y empieza a acompañar a la persona en todos los espacios de su vida cotidiana.

Por eso resulta tan importante entender que la violencia digital no termina cuando se elimina un contenido.

Sus efectos psicológicos pueden permanecer durante mucho tiempo después.

Y precisamente ahí reside uno de los mayores desafíos: ayudar a las víctimas a recuperar la confianza, reconstruir su autoestima y volver a sentir que son ellas quienes controlan su propia historia.

¿De quién es la responsabilidad? Tecnología, educación y cultura

Cuando hablamos de violencia digital es habitual buscar un único responsable.

Las plataformas.

La inteligencia artificial.

La sociedad.

La legislación.

Sin embargo, la realidad es bastante más compleja.

La responsabilidad está repartida entre distintos actores que, además, se retroalimentan entre sí.

Por un lado están las plataformas tecnológicas, que deben mejorar sus sistemas de detección, moderación y eliminación de contenidos.

Por otro, las personas que utilizan esas herramientas para agredir.

También existe una responsabilidad colectiva como sociedad cuando normalizamos determinados comportamientos o minimizamos su gravedad.

Y, por supuesto, las instituciones tienen un papel fundamental.

La legislación avanza, pero lo hace a un ritmo mucho más lento que la tecnología.

Mientras las herramientas de inteligencia artificial evolucionan prácticamente cada semana, las normas necesitan años para adaptarse. Ese desfase genera un espacio especialmente peligroso.

La tecnología ya permite hacer cosas para las que todavía no existen mecanismos suficientemente ágiles de protección.

Por eso no basta con actuar cuando el daño ya se ha producido. Cada vez resulta más importante trabajar desde la prevención.

Prevenir significa educar.

Significa desarrollar pensamiento crítico.

Y significa enseñar desde edades muy tempranas que todo lo que ocurre en el entorno digital tiene consecuencias reales.

No podemos señalar a un único culpable.

Todos tenemos una parte de responsabilidad en la construcción de un entorno digital más seguro.

Educar antes de que aparezca el problema

La prevención comienza mucho antes de que un adolescente utilice una herramienta de inteligencia artificial.

Empieza en la educación.

Los jóvenes son, probablemente, el colectivo más vulnerable. No solo porque utilizan la tecnología de forma mucho más intensiva, sino porque todavía están construyendo su identidad, su autoestima y sus relaciones sociales.

Para ellos, Internet no es un espacio separado de la vida real. Es la propia vida.

Las redes sociales, los grupos de mensajería, los videojuegos o las plataformas digitales forman parte de su día a día de la misma manera que el instituto o su grupo de amigos.

Por eso cualquier comportamiento aprendido en esos espacios termina trasladándose a la vida cotidiana.

La educación en violencia digital no debería limitarse a explicar los riesgos de Internet. También debería enseñar empatía, consentimiento, privacidad y responsabilidad.

Solo así podremos cambiar determinados hábitos antes de que se conviertan en conductas normalizadas.

Consumir también es participar

Existe otro aspecto del que apenas se habla y que resulta especialmente relevante.

Muchas personas creen que, mientras no creen un contenido o no participen directamente en una agresión, no tienen ninguna responsabilidad.

Sin embargo, consumir también alimenta el problema. Ocurre especialmente con los contenidos de explotación sexual o con las imágenes íntimas difundidas sin consentimiento.

Cada visualización genera demanda. Y esa demanda incentiva que ese tipo de contenidos continúen existiendo.

Uno de los mayores retos terapéuticos consiste precisamente en ayudar a quienes consumen ese material a comprender que visualizar también implica participar.

Es frecuente escuchar frases como:

"Yo no he hecho daño a nadie."

"Solo estaba mirando."

"Yo no he obligado a nadie."

Sin embargo, esa distancia emocional es precisamente uno de los efectos de la pantalla.

La tecnología hace que olvidemos que detrás de cada imagen existe una persona real.

Una persona que ha sufrido una vulneración de su intimidad y cuyos derechos siguen siendo vulnerados cada vez que ese contenido vuelve a reproducirse.

Comprender esa conexión no siempre resulta sencillo.

Pero es imprescindible para reducir este tipo de violencia.

El impacto de la pornografía en edades cada vez más tempranas

Otro fenómeno que preocupa especialmente es el acceso cada vez más precoz a la pornografía.

Muchos menores entran en contacto con este tipo de contenidos cuando todavía no disponen de la madurez suficiente para interpretarlos.

A los once o doce años resulta muy difícil distinguir entre una representación ficticia y una relación afectiva o sexual real. Sin ese acompañamiento, muchos adolescentes terminan utilizando la pornografía como referencia para construir sus primeras relaciones.

El problema es que esos contenidos suelen reproducir relaciones profundamente desiguales. Con frecuencia presentan a la mujer desde un papel completamente pasivo, priorizan la dominación masculina y muestran comportamientos alejados de una relación basada en el consentimiento y el respeto mutuo.

Cuando ese tipo de imágenes se convierte en la principal fuente de aprendizaje, existe un riesgo evidente de normalizar conductas que, en realidad, constituyen violencia.

Además, algunos estudios ya apuntan a otro efecto preocupante.

El consumo continuado de pornografía extremadamente explícita puede dificultar que algunas personas disfruten posteriormente de relaciones afectivas y sexuales reales.

No solo modifica expectativas. También altera la forma de entender la intimidad.

Todo ello refuerza la necesidad de incorporar una educación afectivo-sexual adaptada a la realidad digital en la que están creciendo las nuevas generaciones.

Porque la inteligencia artificial no ha creado este problema.

Pero sí puede amplificarlo si no aprendemos a utilizarla con una mirada crítica y responsable.

El papel del marketing: diseñar campañas también es diseñar cultura

Cuando hablamos de inteligencia artificial solemos centrar el debate en los desarrolladores o en las grandes compañías tecnológicas.

Sin embargo, existe otro sector que también tiene una enorme capacidad para influir en la forma en que la sociedad percibe a las mujeres: el marketing.

Las agencias, los equipos creativos, los departamentos de comunicación y los creadores de contenido trabajan cada día construyendo mensajes que llegan a millones de personas. Eso convierte al marketing en un potente generador de imaginarios colectivos.

Cada campaña, cada fotografía, cada vídeo y cada contenido que publicamos ayuda a definir qué cuerpos mostramos, qué historias contamos y qué modelos terminamos normalizando.

Por eso la responsabilidad no consiste únicamente en evitar errores.

Consiste también en construir referentes diferentes.

La inteligencia artificial necesita supervisión humana

Las herramientas de IA ya forman parte del trabajo diario de muchas agencias.

Se utilizan para generar imágenes, escribir textos, crear conceptos creativos o desarrollar campañas en cuestión de minutos.

Pero esa rapidez no elimina la necesidad de criterio.

Al contrario.

Cuanto más utilizamos la inteligencia artificial, más importante resulta revisar críticamente los resultados que produce.

Hoy sabemos que estos modelos continúan reproduciendo estereotipos relacionados con el género, la edad, el origen o el aspecto físico.

Por eso aceptar automáticamente cualquier contenido generado por IA supone asumir también todos esos sesgos.

La tecnología propone.

Las personas decidimos.

Y esa diferencia es fundamental.

No basta con obtener una imagen atractiva.

Hay que preguntarse qué mensaje transmite.

Qué representación de la mujer está reforzando.

Y qué consecuencias puede tener seguir mostrando siempre el mismo modelo de belleza, de profesión o de rol social.

Las marcas también pueden cambiar la conversación

Las marcas tienen un enorme poder para transformar determinados relatos.

Durante años la publicidad ha contribuido a consolidar muchos estereotipos.

Pero también puede desempeñar el papel contrario.

Puede mostrar mujeres reales.

Puede representar distintos cuerpos, edades y contextos.

Puede construir campañas donde las protagonistas no aparezcan definidas únicamente por su aspecto físico.

Y puede hacerlo sin renunciar a la creatividad ni a la eficacia comercial.

Cada decisión creativa suma.

Elegir una fotografía diferente.

Cambiar un casting.

Modificar un prompt.

Revisar una imagen generada por inteligencia artificial antes de publicarla.

Todo ello contribuye a construir un imaginario mucho más diverso y representativo.

La IA seguirá evolucionando.

Pero la responsabilidad sobre el resultado final seguirá estando en las personas que la utilizan.

La creatividad también implica responsabilidad

En el sector del marketing solemos hablar mucho de innovación.

Buscamos nuevas herramientas, nuevas plataformas y nuevas formas de captar la atención.

Sin embargo, innovar también significa preguntarnos qué impacto tienen nuestras decisiones.

La creatividad nunca es completamente neutra.

Cada campaña transmite valores.

Cada contenido comunica una determinada forma de entender el mundo.

Y cuando esos mensajes llegan a millones de personas, su capacidad de influencia es enorme.

Por eso trabajar con inteligencia artificial implica asumir una responsabilidad adicional. No basta con crear más rápido. También hay que crear mejor.

Eso significa revisar los sesgos, cuestionar los resultados automáticos y utilizar la tecnología como una herramienta al servicio de las personas, no como un sustituto del criterio profesional.

Una reflexión para cerrar

La violencia digital no desaparecerá únicamente gracias a la tecnología.

Tampoco bastará con nuevas leyes.

Ni con mejores algoritmos.

Será necesario un cambio cultural mucho más profundo.

Un cambio en la forma en que educamos.

En la manera en que consumimos contenidos.

En cómo utilizamos la inteligencia artificial.

Y también en cómo comunicamos desde las marcas.

Porque quienes trabajamos en marketing no solo diseñamos campañas.

También contribuimos a construir el imaginario colectivo con el que crecerán las próximas generaciones.

Si conseguimos que ese imaginario sea más diverso, más igualitario y más respetuoso, la tecnología dejará de amplificar determinados sesgos y empezará a convertirse en una herramienta capaz de generar un impacto verdaderamente positivo.

Ese es, probablemente, uno de los mayores retos que tenemos por delante.

Después de esta conversación hay varias conclusiones que merece la pena llevarse.

La primera es que la violencia digital sigue siendo violencia, aunque no exista un contacto físico entre agresor y víctima.

El daño psicológico es real.

La pérdida de intimidad es real.

La ansiedad, el miedo y la sensación de descontrol también lo son.

Que una agresión ocurra detrás de una pantalla no la hace menos grave.

Simplemente cambia la forma en que se produce.

La segunda idea es que la inteligencia artificial no es neutral.

Los modelos actuales aprenden de millones de imágenes, textos y contenidos generados por las personas.

Si esos datos contienen estereotipos, desigualdades o sesgos, la IA terminará reproduciéndolos.

Y, debido a su capacidad de generar contenido de forma masiva, también puede amplificarlos.

Por eso resulta tan importante revisar críticamente todo aquello que produce.

No podemos asumir que una respuesta generada por inteligencia artificial sea objetiva solo porque la haya creado una máquina.

El problema nunca ha sido el cuerpo de las mujeres

Existe una reflexión especialmente importante.

El problema nunca ha sido el cuerpo femenino.

El verdadero problema es una cultura que continúa cosificando a las mujeres y una tecnología que, si no se utiliza con criterio, puede reproducir esa cosificación a una escala nunca vista hasta ahora.

La inteligencia artificial no inventa esos modelos.

Los aprende.

Y precisamente por eso tenemos la oportunidad de cambiar aquello con lo que aprende.

Cada imagen más diversa.

Cada representación más realista.

Cada campaña más inclusiva.

Cada contenido que rompe un estereotipo ayuda a construir un entorno digital diferente.

El marketing también tiene una oportunidad

Quienes trabajamos en comunicación, publicidad o marketing tenemos una responsabilidad que va mucho más allá de vender productos.

Con cada campaña contribuimos a definir qué modelos de belleza mostramos.

Qué referentes ofrecemos.

Qué profesiones asociamos a mujeres y hombres.

Qué historias consideramos normales.

En definitiva, ayudamos a construir el imaginario colectivo.

La inteligencia artificial puede convertirse en una gran aliada para acelerar procesos creativos.

Pero nunca debería sustituir al pensamiento crítico.

Nuestro trabajo consiste precisamente en cuestionar aquello que parece automático.

En revisar los sesgos.

En preguntarnos qué mensaje estamos lanzando antes de publicar una imagen, un vídeo o una campaña.

Porque la tecnología no decide por nosotros.

Seguimos siendo nosotros quienes elegimos cómo utilizarla.

Una conversación que acaba de empezar

La inteligencia artificial seguirá evolucionando.

Aparecerán nuevas herramientas, nuevos riesgos y también nuevas oportunidades.

Pero hay algo que no cambiará.

La tecnología siempre reflejará, en mayor o menor medida, la sociedad que la alimenta.

Si conseguimos construir una sociedad más igualitaria, más crítica y más consciente, también construiremos tecnologías mejores.

Ese es probablemente el mayor aprendizaje que deja esta conversación.

La IA no es el origen del problema.

Es un espejo.

Y, al mismo tiempo, un amplificador.

Depende de nosotros decidir qué queremos que refleje.

Si esta conversación sirve para mirar la inteligencia artificial con más espíritu crítico y comprender mejor el impacto que puede tener sobre las mujeres, habrá cumplido su objetivo.

Porque el futuro de la IA no dependerá únicamente de la tecnología. Dependerá, sobre todo, de las decisiones que tomemos las personas.