Grok, el asistente de inteligencia artificial desarrollado por X, la red social propiedad de Elon Musk, se ha convertido en el centro de una fuerte controversia internacional tras permitir la creación de imágenes sexualmente explícitas de mujeres y menores a partir de fotografías reales, sin consentimiento.
Desde finales de diciembre, usuarios de X comenzaron a utilizar Grok para editar y recrear fotos de personas reales con fines sexuales, simulando desnudos, pornografía y escenas de violencia.
El fenómeno se expandió rápidamente, superando la capacidad de reacción de los sistemas de moderación y provocando una ola de denuncias por violaciones a la intimidad, el honor y la propia imagen.
IMPACTO Y REACCIONES INTERNACIONALES ANTE GROK
El problema escaló cuando se detectó que la herramienta no solo permitía generar contenido para adultos, sino que también podía producir material que simulaba agresiones sexuales y escenas con menores de edad. Esto llevó a la intervención de autoridades en varios países.
En España, la ministra de Juventud e Infancia, Sira Rego, solicitó a la Fiscalía General del Estado que investigue a X y a Grok por posibles delitos relacionados con la difusión de material de violencia sexual contra la infancia.
La petición se sumó a acciones similares emprendidas por otros gobiernos europeos.
La Comisión Europea reaccionó imponiendo una orden de retención contra X, una medida legal que obliga a la empresa a conservar todos sus documentos internos relacionados con Grok hasta finales de 2026.
Esta acción se enmarca dentro de la Ley de Servicios Digitales, que exige a las plataformas digitales impedir que sus sistemas generen o difundan contenido ilegal.
Además, a principios de diciembre, la Unión Europea ya había multado a X con 120 millones de euros por incumplir esta misma normativa, en un contexto de tensiones entre Bruselas y las grandes tecnológicas estadounidenses.
MEDIDAS Y RESPONSABILIDADES DE LA PLATAFORMA X
El gobierno del Reino Unido también expresó su rechazo. La ministra de Tecnología, Liz Kendall, calificó como repugnantes e inaceptables las imágenes falsas de mujeres desnudas y menores generadas por Grok, y exigió a la plataforma una solución urgente para detener su proliferación.
Ante la presión internacional, Elon Musk anunció que la función de generación y edición de imágenes de Grok quedaría restringida a los usuarios de pago.
Cuando los usuarios intentan acceder a la herramienta, el sistema responde que estas funciones están disponibles únicamente para suscriptores.
Sin embargo, Musk no desactivó la tecnología ni implementó salvaguardas técnicas para impedir la creación de contenido ilegal. En su lugar, sostuvo que la responsabilidad recae en el usuario y no en la plataforma.
Según su postura, quien genere o publique material ilegal debe enfrentar las consecuencias legales de manera individual.
Esta decisión ha sido criticada por expertos en regulación digital, ya que en la Unión Europea las plataformas están obligadas a prevenir que sus herramientas generen contenido ilícito, especialmente cuando se trata de violencia sexual o menores de edad.
Las imágenes sexuales falsas creadas con inteligencia artificial no solo representan una violación a la privacidad.
DELITOS DE SEXTORSIÓN
También se han convertido en una herramienta para delitos como la sextorsión, una práctica en la que se amenaza a las víctimas con difundir imágenes íntimas falsas o manipuladas para exigir dinero o favores.
Empresas de ciberseguridad como Kaspersky han detectado un aumento de malware que combina robo de datos con sextorsión automatizada, aprovechando la facilidad con la que se pueden generar este tipo de imágenes.
Según datos de organizaciones de derechos digitales, más del 90 por ciento de los ataques con imágenes sexuales no consentidas están dirigidos contra mujeres.
El caso de Grok ha puesto en evidencia los riesgos de lanzar herramientas de inteligencia artificial sin controles efectivos. Aunque X ha limitado el acceso a su generador de imágenes, la tecnología sigue activa y disponible para quienes pueden pagarla, lo que mantiene abierta la posibilidad de nuevos abusos.
Mientras continúan las investigaciones y posibles sanciones, la polémica en torno a Grok refleja un debate más amplio sobre la responsabilidad de las plataformas tecnológicas en el uso de la inteligencia artificial y su impacto en los derechos fundamentales de las personas.
