En las últimas semanas ha aumentado el número de quejas de parte de gobiernos del mundo y usuarios de internet por las imágenes de menores y mujeres con poca ropa o en posiciones sexualmente explícitas que se han creado a través de Grok, la inteligencia artificial de X –antes Twitter.
En X han circulado órdenes de usuarios de la red social que le solicitan a Grok que le retire la ropa a niñas, niños, adolescentes y mujeres a partir de una imagen real de la persona. Incluso, en algunos casos la propia herramienta genera una fotografía sexualizada de la persona sin que un usuario lo haya pedido específicamente.
Esta situación provocó que existieran cuestionamientos sobre el uso ético de la inteligencia artificial y los riesgos asociados con la privacidad y la dignidad de las personas.
Grok es un asistente de inteligencia artificial desarrollado por la empresa xAI, de Elon Musk, integrado en la red social X. Destaca por su acceso en tiempo real a la información de la plataforma, además de que tiende a responder de una manera rebelde y humorística las peticiones de los usuarios, lo que lo ha hecho resaltar entre los demás chatbots.
Carlos Piña, doctor en sistemas computacionales, explica que este problema se inició en diciembre de 2025, cuando comenzaron a viralizarse imágenes de niñas, niños, adolescentes y mujeres con poca ropa fabricadas con inteligencia artificial en la red social X.
Sihara Raygoza, maestra en terapia familiar sistémica y coordinadora del área de investigación de la organización Te Protejo México, detalla que cada vez es más común que se vea en redes sociales este tipo de imágenes tan explícitas. No obstante, no califica a Grok como una herramienta ni buena ni mala, más bien no existen los filtros aún para utilizar la inteligencia artificial de manera responsable.
La polémica actualización de Grok
En agosto de 2025 se le realizaron una serie de actualizaciones a Grok, entre ellas se añadió el spicy mode “modo picante” de la plataforma, que cuando es activado por un usuario permite crear contenido visual explícito.
El sistema implementó cuatro modos predeterminados, entre los cuales se encuentra: personalizado, normal, divertido y picante.
Cuando el usuario selecciona el “modo picante” debe confirmar que es mayor de edad, después la inteligencia artificial puede generar imágenes o videos explícitos con una duración de hasta 15 segundos.
Carlos Piña resalta que, de este modo, el sistema no siempre requiere de instrucciones explícitas para producir desnudos.
“No siempre es necesario que el usuario pida explícitamente que quiere generar un desnudo, por ejemplo, si da la instrucción de que quiere editar una foto para que aparezca celebrando una fiesta, puede fabricar una imagen sexualizada o con contenido no deseado”, menciona Piña.
Las imágenes se viralizan en X
Carlos Piña explica a El Sabueso que Grok no es el único modelo de inteligencia artificial capaz de realizar este tipo de imágenes de manera tan explícita; sin embargo, el problema radica en que la plataforma creada por Elon Musk habita y convive directamente en X, una red social que tiene más de 550 millones de usuarios en todo el mundo.
“El hecho de que Grok habite en la plataforma X hizo que se potenciara y viralizara el problema, pues hay otros modelos de inteligencia artificial que también realizan este tipo de imágenes”, detalla el especialista.
Como Grok realiza imágenes de desnudos y estas se comparten directamente en X, rápidamente se viralizan y tienen un alcance muy amplio; pero no solamente eso, a través de las publicaciones en las que se presentan estos archivos se muestra cómo los usuarios le solicitan a la inteligencia artificial que fabrique este tipo de contenido.
El especialista asegura que la problemática se inició porque los propios usuarios comenzaron a solicitar ayuda a Grok para editar sus propias fotos con solicitudes como “en esta imagen ponme con bikini” o “colócame con poca ropa”. A raíz de esta tendencia, otros internautas lo replicaron, y lo peor, con fotografías de otras personas, entre ellas, niñas, niños, adolescentes y mujeres.
“Aquí el detalle es que al principio tuvo muchas influencias, principalmente de mujeres, que comenzaron a utilizar Grok para mejorar sus imágenes o ponerse ellas en bikini. Y de ahí el usuario común se dio cuenta de que puede poner a otra persona de manera no consensuada en bikini y exponerla, acción que se ha ejecutado mucho en menores de edad”.
Países denuncian sexualización de personas a través de Grok
En México, la Secretaría de las Mujeres se pronunció en contra de este modelo de inteligencia artificial por su uso en la manipulación y difusión de imágenes creadas con inteligencia artificial sin su consentimiento, por lo que hizo un llamado a las personas responsables de X para evitar que la red social se convierta en un espacio en el que se genera violencia de género.
En cuanto a Estados Unidos, un grupo de senadores envió una carta a Apple y Google solicitandoles que eliminen X y Grok de sus tiendas de aplicaciones por violar los términos de distribución.
La ministra de Tecnología de Reino Unido, Liz Kendall, destacó que no se trata de imágenes inofensivas, las calificó como ilegales y armas de abuso dirigidas hacia mujeres y niñas. Además, la ley de Uso y Acceso de Datos que se aprobó en 2025 en dicho país tipifica la creación o petición de generación de imágenes íntimas sin consentimiento como un delito penal.
Autoridades de Malasia advirtieron que tomarán acciones legales contra X y la empresa xAI, acusando a ambas compañías de no garantizar la seguridad de los usuarios al permitir la creación de este tipo de contenido.
Desde el 10 de enero las autoridades de Indonesia bloquearon de manera temporal el acceso a Grok en todo el país.
La Unión Europea (UE) advirtió que si Elon Musk no hacía algo rápido para arreglar las funciones de Grok aplicará la Ley de Servicios Digitales, un marco legal que establece normas para intermediarios digitales, con el fin de proteger a los usuarios, luchar contra lo ilegal, responsabilizar a las plataformas y aumentar la transparencia.
Otros países que también comenzaron con investigaciones en contra de Grok por la creación de imágenes íntimas no consensuadas son Francia, India y Brasil.
Limitan el uso de la generación de imágenes en Grok
Después de las múltiples denuncias en contra de Grok, el 9 de enero, X señaló que restringiría la herramienta de generación de imágenes a los suscriptores de pago; sin embargo, The Washington Post mencionó que la compañía estaba sacando provecho del problema en lugar de resolverlo.
Por lo anterior, días después X anunció que había implementado algunas medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis, restricción que se aplicaría a todos los usuarios, incluidos los suscriptores de pago.
Incluso Musk se pronunció y adelantó que habrá consecuencias para quienes intenten generar imágenes sexuales de menores y X anunció que eliminará el contenido ilegal y suspenderá las cuentas involucradas.
Pero la medida solamente aplica para cuando los usuarios solicitan las imágenes por medio de X a través de un tweet o en un comentario, pero si los usuarios acceden a Grok en su aplicación independiente o a su sitio web directo, todavía es posible crear imágenes explícitas.
“Aunque se impuso una restricción para generar estas imágenes en X, si un usuario ingresa al sitio web independiente de Grok o descarga la aplicación, esta función sigue estando disponible”, puntualiza el doctor en sistemas computacionales.
¿Esta medida combate el problema?
El doctor en sistemas computacionales explica que, aunque la medida puede mitigar hasta cierto punto la distribución masiva de imágenes a través de X, no se le puede dar el voto de confianza, pues los usuarios pueden encontrar la manera de “corromper” a este tipo de modelos de inteligencia artificial.
“A estos modelos no podemos darles el voto de confianza porque hay muchas maneras de quebrarlos o corromperlos, se puede jugar con la ‘inteligencia’ de Grok para que pueda seguir creando estas imágenes”, añade.
Para Carlos Piña existe una gran probabilidad de que los usuarios se sigan encontrando con imágenes explícitas en X, porque aunque ya no se pueden generar en la red social, se pueden fabricar desde la plataforma independiente de Grok y, posteriormente subirse a la plataforma antes llamada Twitter.
En conclusión, el especialista añade que existe una gran probabilidad de que, pese a las medidas implementadas por X, el problema no termine aquí, sino que con el tiempo se vaya magnificando y propagando incluso a otras plataformas de uso cotidiano.
“Tenemos que tomar en cuenta que, aunque se haya limitado la modalidad de Grok y su distribución en X, eso no significa que el problema se va a terminar, más bien se trata de la punta del iceberg”, afirma el especialista.
¿Qué se debe hacer en caso de encontrar en redes sociales este tipo de imágenes?
Sihara Raygoza asegura que esta problemática puede ser muy confusa para niñas, niños y adolescentes al tratarse posiblemente de su primera exposición temprana a temas de violencia, por lo que puede generar cuestionamientos en ellos acerca de qué es real, qué es ficticio y por qué se distribuye ese tipo de contenido.
“No todo lo que se genera con inteligencia artificial debería de circular libremente por la red, como sociedad sí tenemos la responsabilidad de ver, reportar y no normalizar este tipo de contenidos que vulneran los derechos de niñas, niños, adolescentes y mujeres”.
Por lo anterior, la especialista recomienda en primer lugar que todos los usuarios reporten este tipo de imágenes cuando las lleguen a encontrar en redes sociales haciendo uso de las herramientas de reporte de la propia plataforma como Facebook, Instagram, TikTok y X.
También se puede acudir directamente con autoridades como la Policía Cibernética o la Guardia Nacional para hacer el reporte. Incluso existen plataformas como Te Protejo México y StopNCII, sitios en donde los usuarios pueden denunciar este tipo de imágenes, pues la organización se encarga de erradicar el contenido de la web de todos los servidores.
La maestra en terapia familiar también sugiere que, en el caso de los niños, se les limite el uso de redes sociales al menos hasta que cumplan 13 años de edad, ya que es la recomendada para comenzar a utilizar estas plataformas, aunque los padres siempre deben de estar al pendiente de qué es lo que publican, comparten y consumen.
“Es necesario que los niños utilicen las redes sociales a una edad en donde ya tengan un poco más de conciencia sobre lo que implica usar este tipo de plataformas, pero deben tener siempre un acompañamiento parental, que los vaya guiando sobre cómo utilizar las plataformas de manera responsable”, recalca la especialista.
Añade también que antes de permitirles el uso de las redes sociales, los padres deben explicar a sus hijos sobre los peligros de usarlas, como en este caso, los riesgos de que su imagen sea violentada de alguna manera.
“Los padres deben de crear una estrategia y explicarles a qué se pueden enfrentar, qué pueden hacer, darles herramientas para decirles ‘si ves este tipo de contenido (imágenes íntimas) debes reportarlo y nunca compartirlo’”, sugiere Sihara Raygoza.
Fuente: Animal Político
