La UE investiga al chatbot Grok de Musk por imágenes de desnudo creadas con IA

La Comisión Europea abrió este lunes 26 de enero una investigación sobre el chatbot de inteligencia artificial Grok por la producción de imágenes de desnudo explícitas. Grok, integrado en la plataforma de redes sociales X, se ha visto envuelto en una polémica en las últimas semanas por haber accedido a las peticiones de los usuarios de producir imágenes sexualizadas de personas, incluidos niños.

La UE inició este lunes una investigación sobre el chatbot de IA de Elon Musk, por la generación de imágenes ‘deepfake’–creadas con inteligencia artificial– sexualizadas de mujeres y menores, en un nuevo paso de las autoridades contra la polémica herramienta.

Grok se enfrenta a la indignación tras descubrirse que los usuarios podían sexualizar imágenes de mujeres y niños mediante simples indicaciones de texto como “ponle un bikini” o “quítale la ropa”.

“En Europa, no toleraremos comportamientos impensables, como el desnudo digital de mujeres y niños”, declaró la jefa de la Comisión Europea, Ursula von der Leyen.

“Es simple: no cederemos el consentimiento ni la protección infantil a las empresas tecnológicas para que las violen y moneticen. El daño causado por las imágenes ilegales es muy real”, declaró en un comunicado.

Por su parte, la comisaria de tecnología de la UE, Henna Virkkunen, afirmó que la investigación “determinará si X ha cumplido con sus obligaciones legales” en virtud de la Ley de Servicios Digitales (DSA) del bloque, diseñada para supervisar a los gigantes de internet.

Añadió que los derechos de las mujeres y los niños en la UE no deberían ser “daños colaterales” de los servicios de X.

Bruselas afirmó que estaba investigando si X había mitigado adecuadamente los “riesgos relacionados con la difusión de contenido ilegal en la UE, como imágenes sexualmente explícitas manipuladas, incluido contenido que podría constituir material de abuso sexual infantil”.

Tres millones de imágenes

Según una investigación publicada el pasado jueves 22 de enero por el Centro para la Lucha contra el Odio Digital (CCDH), un organismo de control sin ánimo de lucro, Grok generó aproximadamente tres millones de imágenes sexualizadas de mujeres y niños en cuestión de días.

Como parte de la nueva investigación, la UE anunció la ampliación de una investigación existente sobre X, destinada a abordar la difusión de contenido ilegal y la manipulación de la información.

La plataforma de redes sociales de Musk, anteriormente conocida como Twitter, ha sido objeto de una investigación desde diciembre de 2023 en virtud de las normas de contenido digital de la UE.

Bruselas impuso una multa de 120 millones de euros (140 millones de dólares) a X en diciembre por incumplir las obligaciones de transparencia de la DSA, lo que desencadenó la indignación del gobierno del presidente estadounidense Donald Trump.

Las infracciones incluyeron el diseño engañoso de su “marca de verificación azul” para cuentas supuestamente verificadas y la falta de acceso a datos públicos para investigadores.

La UE ha insistido en que aplicará sus normas a pesar de la presión de Washington.

Este artículo ha sido adaptado de su versión original en inglés

Con Reuters