Elon Musk tomó drástica (y pedida) decisión con IA de X por escándalo con imágenes sugestivas

El escándalo se desató a nivel mundial, luego de que varios usuarios comenzaran a pedir imágenes editadas de mujeres que no habían dado su consentimiento.

En un giro que ha sacudido el mundo de la inteligencia artificial y las redes sociales, la empresa xAI, fundada por Elon Musk, ha introducido limitaciones significativas en las capacidades de generación y edición de imágenes de su chatbot Grok.

(Vea también: ¿La app más polémica de China? “¿Estás muerto?” arrasa entre quienes viven solos y cambia de nombre)

Esta medida llega en respuesta a una oleada de críticas globales por el uso indebido de la herramienta para crear contenido abusivo de personas reales sin su consentimiento, incluyendo casos que involucran a menores.

La controversia, que estalló a finales de diciembre de 2025 y se intensificó en los primeros días de enero de 2026, ha provocado investigaciones regulatorias, amenazas de prohibiciones y un debate amplio sobre la ética en el desarrollo de IA.

Grok, lanzado por xAI en 2023 como una alternativa a otros chatbots como ChatGPT, se integra directamente en la plataforma X (anteriormente Twitter), también propiedad de Musk. Una de sus funciones más destacadas es “Imagine”, un generador de imágenes y videos basado en IA que permite a los usuarios crear o editar visuales a partir de descripciones textuales.

Inicialmente, esta herramienta estaba disponible para un amplio público, con opciones como un “modo picante” que permitía contenido adulto. Sin embargo, a finales de diciembre de 2025, usuarios comenzaron a explotar esta función para alterar fotos reales publicadas en X, transformándolas en versiones sugestivas.

La herramienta respondía a solicitudes que manipulaban imágenes de mujeres y, en algunos casos, de menores, creando miles de estas alteraciones por hora.

El problema escaló rápidamente cuando se descubrió que Grok no solo generaba estas imágenes, sino que las publicaba directamente en la plataforma X, amplificando su difusión.

Ante la presión, xAI anunció cambios a partir del 9 de enero de 2026. Primero, limitó la generación y edición de imágenes solo a suscriptores pagos de X Premium, reduciendo el acceso gratuito que facilitaba el abuso masivo.

Sin embargo, este miércoles 14 de enero implementó medidas técnicas para prevenir la edición de imágenes de personas reales en contextos reveladores, aplicando esta restricción a todos los usuarios, incluidos los pagos.

Además, introdujo geobloqueos en jurisdicciones donde tales acciones son ilegales, alineándose con leyes locales. X también suspendió cuentas involucradas y eliminó contenido infractor, aunque reportes indican que algunos materiales persisten.

Este incidente resalta desafíos más amplios en la IA: el equilibrio entre innovación y ética. Musk ha defendido Grok como una herramienta “anti-woke” que evita censuras excesivas, pero el escándalo demuestra cómo la ausencia de salvaguardas puede llevar a daños reales, como humillación y deshumanización de víctimas.

A medida que la tecnología avanza, casos como este podrían impulsar leyes más estrictas globalmente.