El multimillonario Elon Musk, propietario de la red social X y su inteligencia artificial Grok, ha limitado la generación de imágenes sexualizadas y violentas de mujeres y niñas exclusivamente a sus suscriptores de pago. Esta decisión llega tras masivas quejas y amenazas de Gobiernos europeos, que incluso barajaron la prohibición de X. Musk, sin embargo, descarga la responsabilidad legal de los contenidos en los usuarios, lo que reaviva el debate sobre la ética de las plataformas y la protección de los derechos individuales.
El magnate de la disrupción, Elon Musk, parece haber encontrado un tope —o al menos, una pausa obligada— a su visión de la libertad digital ilimitada. Su plataforma X, y la inteligencia artificial (IA) Grok, que hasta hace poco permitía la creación y recreación de imágenes sexualizadas y violentas de mujeres y niñas, ahora exhibe una restricción: la generación de este material es solo para suscriptores de pago. La medida, anunciada por el propio Musk en X, se produce tras una avalancha de quejas y las enérgicas advertencias de varios Gobiernos, incluyendo el español, que puso en el ojo de la tormenta a la compañía.
La polémica no es menor. A finales del año pasado, las posibilidades de generar videos pornográficos sin consentimiento, así como simulaciones de agresiones y feminicidios, se propagaron en X con una velocidad vertiginosa. Fue tal la escalada que los organismos reguladores quedaron, una vez más, a contramano de la realidad. La ministra española de Juventud e Infancia, Sira Rego, no dudó en solicitar a la Fiscalía General del Estado una investigación sobre X y su IA por presuntos «delitos de difusión de material de violencia sexual contra la infancia». Una acción que se sumó a las de otros Gobiernos europeos, quienes, ni cortos ni perezosos, incluso barajaron la prohibición de X y la imposición de duras sanciones.
Musk y la delgada línea de la responsabilidad
Frente a la encrucijada, Musk reaccionó. Pero su respuesta, como casi todo lo que lo rodea, no está exenta de controversia. «La generación y edición de imágenes actualmente está limitada a suscriptores de pago», publicó. Lejos de establecer salvaguardas legales proactivas que impidan la creación de contenidos ilícitos, el magnate optó por restringir la función a quienes pagan por ella, lo que, en la práctica, significa que dichos contenidos pueden seguir generándose, aunque bajo la responsabilidad del usuario.
Aquí reside el nudo gordiano de la cuestión, y un punto que genera más preguntas que respuestas. Musk considera que la obligación de mantener los contenidos dentro de la legalidad no recae en la plataforma, sino en el individuo. «Cualquiera que use Grok para crear contenido ilegal o use X para publicar contenido ilegal afrontará consecuencias. La responsabilidad legal sigue siendo de la persona que crea o sube el contenido», sentenció. Un planteo que, para muchos, suena a un ingenioso pase de factura, donde la herramienta se deslinda de los usos perversos que permite.
Es pertinente recordar que, cuando el problema se generalizó en diciembre, Musk intentó minimizarlo, llegando a publicar una imagen suya en bikini para sugerir que la función era, en el fondo, inofensiva. Sin embargo, la reacción global demostró que no lo era, llevando a esta limitación que, al menos por ahora, permite identificar más fácilmente a los responsables de los contenidos generados.
Cuando la ética choca con el algoritmo: la voz de los expertos
¿Es suficiente esta delegación de responsabilidades? Ricard Martínez, director de la cátedra de Privacidad y Transformación Digital y profesor de la Universidad de Valencia, ya había advertido sobre la ilegalidad flagrante de la erotización no consentida de contenidos. «No se puede sexualizar sin consentimiento ninguna imagen, aunque se especifique que es una recreación. Todos y cada uno de nosotros tenemos reconocido el derecho a la propia imagen, a la vida privada y al honor. Utilizar sin permiso la imagen de alguien para sexualizarla constituye un comportamiento ilícito», afirmó Martínez.
El especialista discrepa con el enfoque de Musk. Para Martínez, la responsabilidad final en la difusión de este tipo de material no es unívoca. Implica tanto al creador —para quien reclama educación digital y sexual— como, y esto es clave, a las plataformas prestadoras de servicios digitales. Estas últimas, al facilitar la creación y difusión, tienen una obligación legal de analizar y evitar proactivamente dichos contenidos. No es un tema menor: la pasividad de la plataforma puede ser, en sí misma, una complicidad velada.
Más allá de la vulneración de la intimidad, el honor y la propia imagen, la generación de estas imágenes sexualizadas representa un terreno fértil para la extorsión, una práctica delictiva conocida como _sextorsión_. De hecho, la compañía de ciberseguridad Kaspersky ha detectado un repunte de _Stealerium_, un _malware_ que combina el robo de datos con _sextorsión_ automatizada, marcando un inquietante avance en el lado oscuro de la tecnología.
Mujeres, IA y un futuro incierto
La cuestión de fondo, y quizás la más alarmante, es el impacto desproporcionado. Más del 90% de las agresiones sexuales con imágenes no consentidas van dirigidas contra la población femenina. Un dato que, para Mary Anne Franks, profesora de la Universidad George Washington y presidenta de Derechos Civiles Cibernéticos, nos coloca ante una dura realidad. «Las mujeres son las canarias en la mina en relación con el abuso de la inteligencia artificial. No va a ser solo la niña de 14 años o Taylor Swift, van a ser las políticas, las líderes mundiales, las elecciones. Somos demasiado pocos y llegamos demasiado tarde, pero aún podemos tratar de mitigar el desastre que está surgiendo», advierte Franks.
Esta perspectiva no solo subraya la urgencia del problema, sino que también plantea un futuro digital donde los avances tecnológicos, si no son regulados con firmeza y ética, podrían exacerbar las desigualdades y vulnerabilidades existentes. La pelota, ahora, parece estar en la cancha de los usuarios que pagan. Queda por verse si la «responsabilidad» que Musk les atribuye será suficiente para contener un fenómeno que ya demostró su capacidad de desbordar cualquier barrera.
