Grok, la IA de Elon Musk, envuelta en la polémica de los deepfakes sexuales

Indonesia, Reino Unido, Francia... numerosos países han iniciado investigaciones y restringido el acceso a Grok, un chatbot que genera imágenes de mujeres desnudas generadas por inteligencia artificial a partir de imágenes de personas reales. La Alta Comisionada francesa para la Infancia, Sarah El Haïry, contactó este martes 13 de enero con la Comisaria Europea de Soberanía Digital.

La indignación es internacional y sigue creciendo. Durante varias semanas, Grok, el chatbot asociado a la red X del multimillonario Elon Musk, ha sido blanco de críticas de varios gobiernos. El problema radica en una función que permite a los usuarios generar imágenes falsas de desnudos de personas reales, a veces menores de edad, a partir de fotografías de ellas y luego distribuirlas.

El último episodio de esta ola de protestas es la remisión al Comisario Europeo de Soberanía Digital anunciada el martes 13 de enero por la Alta Comisionada francesa para la Infancia, Sarah El Haïry, con la posibilidad de sanciones contra X.

“Me he puesto en contacto con la justicia francesa, así como con Arcom (el regulador audiovisual) y Pharos [la plataforma para denunciar contenidos ilegales en internet], porque hay contenido que debe eliminarse de inmediato. Sobre todo, me he puesto en contacto con el Comisario Europeo de Soberanía Digital, ya que se rige por el Reglamento Europeo de Servicios Digitales (Digital Services Act) y el Reglamento sobre Mercados Digitales (DMA)”, explica en una entrevista publicada en el diario ‘Le Parisien’.

La fiscalía de París ya abrió en julio una investigación sobre los algoritmos de la plataforma y acaba de ampliarla a la avalancha de imágenes ilícitas difundidas por Grok.

“¡Es legal! Tenemos la impresión de que es tan poderoso que no podemos prohibirlo, eso está mal. Una IA que desnuda a niños no es un juego: es ilegal”, insistió Sarah El Haïry.

“Si X no puede controlar a Grok, lo haremos nosotros”

Esta opinión es compartida por la Comisión Europea, que promete sanciones en caso de incumplimiento de la normativa de la UE. Sin mencionar directamente a X ni a Grok, Ursula von der Leyen declaró el lunes, en una entrevista con el diario italiano ‘Corriere della Sera’, que la Comisión «no externalizará la protección de la infancia y el consentimiento a Silicon Valley. Si ellos no actúan, nosotros lo haremos».

Un disparo de advertencia desde Bruselas llegó mientras el Reino Unido también endurecía su postura contra la red social de Elon Musk con la apertura de una investigación por parte de Ofcom, el regulador británico.

“Si X no puede controlar a Grok, lo haremos nosotros, y lo haremos rápidamente”, advirtió el martes el primer ministro Keir Starmer, quien añadió que en ese caso la red social “pierde el derecho a autorregularse”.

Este procedimiento podría resultar en una multa de hasta el 10 % de los ingresos globales de la empresa. Ofcom también podría emprender acciones legales para solicitar el bloqueo del sitio web en el Reino Unido.

La regulación de los gigantes tecnológicos es objeto de crecientes tensiones entre Donald Trump y Europa, en particular con la Unión Europea, acusada de sofocar el desarrollo de las empresas estadounidenses.

Leer tambiénMalasia suspende el acceso a la IA de Elon Musk por generar contenido pornográfico

Un fenómeno de gran magnitud

Durante varias semanas, numerosos gobiernos han tomado medidas contra las características cuestionables de Grok. El pasado fin de semana, Indonesia se convirtió en el primer país en bloquear temporalmente la IA de Elon Musk para proteger a mujeres y niños. Malasia siguió su ejemplo rápidamente. Desde entonces, Australia y varios países europeos, como Alemania e Italia, han expresado su preocupación.

Ante esta indignación mundial, X habría comenzado a eliminar imágenes problemáticas. India, por ejemplo, declaró el domingo que la red había eliminado miles de contenidos y eliminado cientos de cuentas accesibles en el país.

“Se bloquearon alrededor de 3.500 contenidos y se eliminaron más de 600 cuentas”, declaró a AFP una fuente del gobierno indio bajo condición de anonimato. “En el futuro, X ya no permitirá imágenes obscenas”, añadió la fuente, sin especificar si las cuentas afectadas pertenecían a usuarios indios.

Sin embargo, estas eliminaciones parecen estar lejos de ser suficientes para abordar la magnitud de este fenómeno de sexualización de imágenes. Un estudio de la ONG europea AI Forensics, que revisó 20.000 imágenes generadas por Grok entre el 25 de diciembre y el 1 de enero, revela que la mitad de ellas mostraban a personas parcialmente desnudas. 

El estudio precisa que “el 2% de las imágenes mostraban a personas que parecían tener 18 años o menos, según el modelo de visión Gemini de Google“.

Ante las críticas, la IA desactivó el viernes su función de creación de imágenes para los usuarios que no pagan. «Un primer paso», consideró Roland Lescure, responsable de soberanía digital. «Insuficiente e hipócrita», denunció Anne Le Hénanff, ministra delegada de Asuntos Digitales, quien acusó a X de monetizar este escándalo.

Además, la actitud de Elon Musk, que transmite masivamente un discurso masculinista, demuestra la plena ambivalencia de X. Si bien la red reconoce “defectos” y afirma querer cumplir, el jefe de SpaceX y Tesla  minimizó recientemente los efectos potencialmente dañinos de su herramienta para las víctimas al compartir su propia imagen en bikini.

Desde su lanzamiento en noviembre de 2023, Grok se ha visto envuelto en escándalos. La herramienta acapara titulares con frecuencia al difundir imágenes violentas, noticias falsas y comentarios antisemitas. La IA de Musk aspira a ser más permisiva que  ChatGPT y a estar libre de las salvaguardas implementadas por sus competidores. Esta IA se adapta a la visión del mundo del antiguo colaborador cercano del presidente Trump y traspasa los límites de la legalidad sin reparos en nombre de la libertad de expresión ilimitada.

Leer tambiénIndonesia bloquea IA de Elon Musk por generar imágenes pornográficas falsas

Este artículo fue adaptado de su versión original en francés