El empresario Elon Musk, propietario de la red social X y de la plataforma de inteligencia artificial Grok, anunció la restricción de las funciones de generación y edición de imágenes de esta herramienta, luego de una avalancha de denuncias por la creación y difusión de pornografía no consentida, imágenes sexualizadas y contenidos violentos, principalmente contra mujeres y niñas.
A partir de ahora, dichas funciones solo estarán disponibles para suscriptores de pago debidamente identificados, a quienes Musk atribuye la responsabilidad legal por cualquier contenido ilícito que se genere o publique mediante la plataforma. El anuncio fue realizado directamente por el magnate a través de su cuenta oficial en X.
Presión institucional y amenazas de sanciones
La decisión se produce tras un creciente cuestionamiento por parte de Gobiernos y organismos reguladores, particularmente en Europa, donde se han planteado investigaciones, sanciones e incluso la posible prohibición de la plataforma por presuntas violaciones a derechos fundamentales.
En el caso de España, la ministra de Juventud e Infancia, Sira Rego, solicitó formalmente a la Fiscalía General del Estado que investigue a X y a Grok por posibles delitos de difusión de material de violencia sexual contra la infancia, en un contexto en el que la generación de imágenes pornográficas sin consentimiento se propagó con rapidez a finales de 2025, superando la capacidad de respuesta de los organismos reguladores.
Una medida limitada y controvertida
En su comunicado, Musk se limitó a señalar: “La generación y edición de imágenes actualmente está limitada a suscriptores de pago”. No obstante, expertos han advertido que esta medida no incorpora salvaguardas técnicas ni legales suficientes para impedir que la inteligencia artificial continúe produciendo contenidos ilícitos, sino que traslada la responsabilidad exclusivamente a los usuarios.
“El deber de mantener la legalidad no corresponde a la plataforma, sino a la persona que crea o sube el contenido”, sostuvo Musk, al tiempo que aseguró que quienes utilicen Grok o X para fines ilegales enfrentarán consecuencias.
Esta postura ha sido objeto de críticas por parte de especialistas en derecho digital, quienes señalan que las plataformas tecnológicas tienen obligaciones legales de prevención y control sobre los contenidos que facilitan.
Advertencias de expertos en privacidad y derechos digitales
El director de la Cátedra de Privacidad y Transformación Digital de la Universidad de Valencia, Ricard Martínez, recordó que la sexualización de imágenes sin consentimiento constituye un acto ilícito, incluso cuando se trate de recreaciones generadas por inteligencia artificial.
“No se puede sexualizar sin consentimiento ninguna imagen. El derecho a la propia imagen, a la vida privada y al honor está plenamente reconocido, también en los entornos digitales. Utilizar la imagen de alguien para sexualizarla sin permiso es ilegal”, subrayó.
Martínez cuestionó además el planteamiento de Musk respecto a la responsabilidad final, al señalar que esta recae tanto en los creadores de contenido como en las plataformas, las cuales están obligadas por ley a analizar, prevenir y mitigar activamente la difusión de materiales ilícitos.
Riesgos adicionales: sextorsión y violencia digital
Más allá de la vulneración de derechos fundamentales, la proliferación de imágenes sexuales no consentidas alimenta prácticas delictivas como la sextorsión, una modalidad de extorsión que combina la amenaza de difusión de contenido íntimo con exigencias económicas.
La empresa de ciberseguridad Kaspersky alertó sobre un incremento de malware tipo Stealerium, el cual combina el robo de datos personales con sextorsión automatizada, fenómeno que se ha intensificado desde finales del año pasado.
Diversos estudios coinciden en que más del 90% de las agresiones sexuales mediante imágenes no consentidas afectan a mujeres. Al respecto, Mary Anne Franks, profesora de la Universidad George Washington y presidenta de Cyber Civil Rights, advirtió que el abuso de la inteligencia artificial representa un riesgo creciente para la democracia y la seguridad digital.
“Las mujeres son las canarias en la mina frente al abuso de la inteligencia artificial. No solo serán niñas o celebridades, también políticas, líderes y procesos electorales. Aún estamos a tiempo de mitigar el daño, pero llegamos tarde”, alertó.
La restricción impuesta por Musk, aunque significativa, no disipa las preocupaciones sobre el uso irresponsable de la inteligencia artificial ni sobre la responsabilidad legal y ética de las grandes plataformas de tecnología frente a la proliferación de contenidos dañinos.