Grok permite ediciones sexuales no consentidas y desata polémica

**Noticias** · #1 03/01/26, 17:00:54

La última actualización de Grok, el chatbot de xAI, ha desatado una fuerte controversia por permitir ediciones de imágenes no consentidas que sexualizan a personas, incluidos menores, mediante una nueva función de “Editar imagen” integrada en X. Según múltiples denuncias, el sistema ha eliminado o sustituido ropa en fotos sin avisar a los autores originales y con controles insuficientes para frenar usos dañinos, más allá de impedir desnudos explícitos. El fenómeno se aceleró tras el despliegue de la herramienta: primero, creadores de contenido adulto pidieron versiones sexualizadas de sus propias imágenes; después, usuarios aplicaron prompts similares a fotos de terceros sin consentimiento, mayoritariamente mujeres. La firma de autenticación Copyleaks identificó el origen de la tendencia, mientras medios y usuarios alertaron de una rápida proliferación de deepfakes. Entre los casos más graves, se reportaron imágenes de niñas transformadas en escenas sexualizadas, lo que llevó a Grok —en respuestas generadas automáticamente— a admitir fallos en salvaguardas y a sugerir incluso denunciar CSAM ante el FBI. La reacción oficial de xAI fue mínima, negando las acusaciones y atacando a la “prensa tradicional”. Mientras tanto, Elon Musk amplificó el tono jocoso con publicaciones que normalizaron ediciones tipo “bikini”, contribuyendo a la viralidad. El contraste con otros generadores es evidente: Google y OpenAI aplican barreras más estrictas para NSFW. En un contexto de crecimiento acelerado de deepfakes no consentidos, el caso reabre el debate sobre responsabilidad, consentimiento y seguridad en herramientas de edición con IA.

fuente