RFI (Radio France Internationale) - radio francesa de actualidad, difundida a escala mundial en francés y en 15 idiomas más*, mediante 156 repetidores de FM en ondas medias y cortas en una treintena de satélites a destino de los cinco continentes, en Internet y en aplicaciones conectadas, que cuenta con más de 2.000 radios asociadas que emiten sus progra...
Informe de Jean-Baptiste Breen
“Todo lo que existe tiene necesariamente su versión porno”. Conocida como la regla número 34 de Internet, esta frase nunca ha parecido tan cierta. Aparecida en los inicios de la red moderna, esta máxima da testimonio de la omnipresencia de la pornografía en línea.
Ahora que Malasia, Indonesia y Filipinas acaban de bloquear el uso de Grok, esta regla, tristemente irónica, cobra todo su sentido. Desde hace unos meses, muchos internautas utilizan y abusan de la inteligencia artificial de la red social X para desnudar digitalmente a numerosas personas sin su consentimiento. Como era de esperar, la inmensa mayoría de las víctimas son mujeres.
Pero Grok no es más que la fachada mediática de una tendencia mucho más amplia. Desde hace casi seis años, el número de deepfakes —imágenes que utilizan el rostro de una persona con fines pornográficos— se ha disparado. “Se estima que entre 2019 y 2023 el número de deepfakes pornográficos se ha multiplicado por cinco”, afirma Camille Salinesi, codirectora del Observatorio de la IA.
Las investigaciones de la empresa de ciberseguridad Security Heroes revelan un aumento del 550 % en los vídeos que utilizaron esta tecnología durante ese periodo. Estas imágenes, realizadas casi exclusivamente sin el consentimiento de la persona afectada, vulneran gravemente la integridad de los individuos representados.
Deepfakes y desnudos virtuales
Grok no ha inventado nada nuevo. Desde hace varios años, proliferan los programas y aplicaciones que permiten desnudar virtualmente a personas a partir de una simple foto. “Entre 2017 y 2019, se necesitaban buenos conocimientos de IA, una tarjeta gráfica y bastante tiempo para producir un deepfake convincente”, señala Camille Salinesi. Pero el rápido perfeccionamiento de estas tecnologías ha cambiado las reglas del juego. “Desde 2023, y más aún hoy en día, cualquiera puede generar una imagen sexualizada en Internet a partir de una simple foto y una indicación. Solo se necesitan unos segundos y un smartphone”, agrega.
Al principio, los creadores de este tipo de contenido utilizaban aplicaciones de “faceswappin”, que permitían intercambiar el rostro de una persona por otro y aplicar esta rápida manipulación a escenas pornográficas. Una forma dudosa de desviar el uso de este software, que rápidamente quedó obsoleta con la aparición de aplicaciones específicas.
Denominadas “nudify apps”, muchas de ellas son accesibles con solo unos clics a través de un motor de búsqueda tradicional y registran decenas de millones de visitantes cada mes. Y no es de extrañar, ya que sus desarrolladores no escatiman en medios para promocionar sus creaciones. Así, se promocionan en plataformas como X o Reddit, pero también en Instagram, tal y como reveló la CBS en junio de 2025.
“Muchos de estos anuncios se dirigían específicamente a hombres de entre 18 y 65 años y estaban activos en Estados Unidos, la Unión Europea y el Reino Unido”, señalaba el medio estadounidense.
Ciertos sitios ofrecen funciones adicionales para brindar a sus clientes una gama más amplia de posibilidades en la generación de imágenes pornográficas. Todo ello a cambio de dinero. Un mercado aparentemente lucrativo con repercusiones perversas.
Difusión masiva
Estas tecnologías rápidamente traspasaron el ámbito del uso privado. Gracias a ellas, muchos pudieron crear desde cero contenidos pornográficos de un género completamente nuevo. De los diez principales sitios web para adultos, Security Heroes contabilizó siete que alojaban deepfakes en 2023. Otros incluso los convirtieron en su negocio principal.
“Los sitios web especializados agregan, clasifican y monetizan estos contenidos, en particular con publicidad, pero también con sistemas de suscripción e incluso con pedidos personalizados”, insiste Camille Salinesi. “Se dan las mismas dinámicas económicas que en la pornografía en línea”, precisa.
Cerrado en mayo de 2025, uno de los peces gordos de esta industria, Mr. Deepfakes, alojaba más de 70.000 vídeos de este tipo. Pero esto sigue siendo muy poco en comparación con la totalidad del contenido disponible, que crece a un ritmo vertiginoso cada año. La mayoría de las personas afectadas son mujeres famosas del mundo de la música o del cine.
“Esta economía explota dinámicas que conocemos bien: misoginia, cultura del acoso, impunidad en línea y fascinación por el cuerpo de las celebridades”, enumera Camille Salinesi. Pero esta pérdida total de control sobre la propia imagen ya va mucho más allá del mero ámbito de la notoriedad.
Ahora es posible “crear una imagen desnuda bastante convincente a partir de cualquier foto recuperada en Internet o en las redes sociales, sin ningún control ni verificación del consentimiento de la persona en cuestión”, explica el investigador. Quienes las crean o difunden “ignoran por completo la violencia real que sufren las personas afectadas”.
“El derecho al olvido no existe”
Algunos casos llegan incluso a la extorsión, el chantaje o la venganza pornográfica (“revenge porn”). En mayo de 2025, un hombre de 20 años fue condenado a dos años de prisión condicional por el tribunal de Coutances, en el noroeste de Francia, por difundir en Instagram fotos obscenas, generadas por IA, de una estudiante de secundaria de 14 años con el pretexto de que ella se negaba a enviarle imágenes desnuda.
“Se subestima por completo el daño psicológico, que es enorme para las víctimas”, señala Claire Poirson, abogada especializada en inteligencia artificial y autora del libro blanco ‘Démêler le vrai du faux à l’ère des deepfakes : est-ce encore possible ?’ (Desentrañar lo verdadero de lo falso en la era de los deepfakes: ¿es aún posible?).
Las secuelas causadas “son muy graves en los jóvenes, especialmente en las chicas: ansiedad, estrés postraumático, pero también trastornos alimentarios”, continúa la jurista. “En Internet, el derecho al olvido no existe y estas chicas viven con el estrés permanente de que algún día vuelva a salir a la luz”, explica.
La inmensa mayoría de las víctimas son mujeres
En 2023, del total de deepfakes pornográficos creados, “el 99 % de las personas afectadas eran mujeres”, explica Camille Salinesi. Claire Poirson coincide con ella, al tiempo que destaca otra tendencia alarmante. Estos contenidos se dirigen cada vez más a menores. Prueba de ello es el caso de Coutances.
Para despistar y que no fuera posible localizarlo, el hombre que difundía imágenes desnudas de la colegiala hizo otras 12 víctimas, la más joven de 12 años. Su condena es la primera aplicación de una ley que Francia ha promulgado para intentar luchar contra estas prácticas.
Aprobada en mayo de 2024, la ley SREN (Seguridad y regulación del espacio digital) prevé “dos delitos específicos relacionados con montajes generados por un tratamiento algorítmico con o sin carácter sexual”, precisa Claire Poirson. Sin embargo, se plantea la cuestión de las pruebas.
Con el perfeccionamiento cada vez mayor de los deepfakes, la dificultad de diferenciar lo verdadero de lo falso no hace más que aumentar. La justicia deberá dotarse de herramientas capaces de demostrar que una imagen o un vídeo es realmente una construcción virtual para juzgar adecuadamente a los culpables.
* Pulzo.com se escribe con Z
LO ÚLTIMO
.svg)
