Violencia sexual digital: Secretaría de las Mujeres exigen a X frenar abusos con IA Grok
El uso de Grok, la herramienta de inteligencia artificial vinculada a X, encendió alertas en México y otros países tras ser utilizada para generar y difundir imágenes sexuales manipuladas de mujeres sin su consentimiento, una práctica que fue condenada públicamente por la Secretaría de las Mujeres.
La dependencia, encabezada por Citlalli Hernández Mora, advirtió que este tipo de contenido constituye una violación a la intimidad y una forma de violencia en razón de género, al permitir la creación de imágenes íntimas reales o simuladas que circulan sin autorización de las víctimas.
La funcionaria confirmó que en semanas recientes usuarios de X han utilizado Grok para crear imágenes sexualizadas de mujeres, práctica que en México está tipificada como delito bajo las reformas conocidas como Ley Olimpia, las cuales sancionan la producción y difusión de contenido íntimo no consentido.
NOTA RELACIONADA: IA sin límites: denuncian en X la creación de imágenes sexuales de mujeres sin consentimiento
Hernández calificó como inadmisible que herramientas tecnológicas de este alcance carezcan de filtros de seguridad suficientes, facilitando la violencia sexual digital, y subrayó que la ausencia de oficinas de X en México no exime a la empresa de su responsabilidad legal y ética con las usuarias en territorio nacional.
La Secretaría de las Mujeres, en coordinación con la Agencia de Transformación Digital y Telecomunicaciones (ATDT), ha sostenido diálogos con otras plataformas digitales para alinear normas de convivencia con los derechos humanos, aunque persiste la falta de respuesta directa por parte de X.
El llamado no es aislado. A nivel internacional, Francia denunció a la plataforma ante autoridades regulatorias por la difusión de material considerado sexual y sexista, mientras que el Reino Unido exigió acciones urgentes ante la proliferación de deepfakes íntimos, calificándolos como contenido denigrante y degradante, dirigido principalmente contra mujeres y niñas. En India, el Ministerio de Tecnologías de la Información también reclamó a X por no frenar el uso indebido de Grok para generar material obsceno y sexualmente explícito.
Especialistas advierten que este escenario era previsible. Tyler Johnston, director de The Midas Project, alertó desde 2024 que las herramientas de generación de imágenes de xAI podían derivar en deepfakes no consensuados, mientras que Dani Pinter, del Centro Nacional sobre Explotación Sexual, señaló la omisión de la empresa al no bloquear solicitudes ilegales ni retirar material abusivo de sus sistemas.
CONTINÚA LEYENDO: Mujeres trans necesitan nutrición especializada en la terapia hormonal
El impacto no es abstracto. Yukari, una de las mujeres afectadas, relató que tras intentar denunciar, otros usuarios solicitaron imágenes aún más explícitas con su apariencia. “El Año Nuevo comenzó conmigo queriendo esconderme y sintiendo vergüenza por un cuerpo que ni siquiera es mío”, expresó.
