Noticias
03/01/26, 17:00:54
Grok permite ediciones sexuales no consentidas y desata polémica
https://static.htcmania.com/2026-01-02-23-06-43-02012026-52575-htcmania.webp
La última actualización de Grok, el chatbot de xAI, ha desatado una fuerte controversia por permitir ediciones de imágenes no consentidas que sexualizan a personas, incluidos menores, mediante una nueva función de “Editar imagen” integrada en X. Según múltiples denuncias, el sistema ha eliminado o sustituido ropa en fotos sin avisar a los autores originales y con controles insuficientes para frenar usos dañinos, más allá de impedir desnudos explícitos. El fenómeno se aceleró tras el despliegue de la herramienta: primero, creadores de contenido adulto pidieron versiones sexualizadas de sus propias imágenes; después, usuarios aplicaron prompts similares a fotos de terceros sin consentimiento, mayoritariamente mujeres. La firma de autenticación Copyleaks identificó el origen de la tendencia, mientras medios y usuarios alertaron de una rápida proliferación de deepfakes. Entre los casos más graves, se reportaron imágenes de niñas transformadas en escenas sexualizadas, lo que llevó a Grok —en respuestas generadas automáticamente— a admitir fallos en salvaguardas y a sugerir incluso denunciar CSAM ante el FBI. La reacción oficial de xAI fue mínima, negando las acusaciones y atacando a la “prensa tradicional”. Mientras tanto, Elon Musk amplificó el tono jocoso con publicaciones que normalizaron ediciones tipo “bikini”, contribuyendo a la viralidad. El contraste con otros generadores es evidente: Google y OpenAI aplican barreras más estrictas para NSFW. En un contexto de crecimiento acelerado de deepfakes no consentidos, el caso reabre el debate sobre responsabilidad, consentimiento y seguridad en herramientas de edición con IA.
fuente (https://www.theverge.com/news/853191/grok-explicit-bikini-pictures-minors)
https://static.htcmania.com/2026-01-02-23-06-43-02012026-52575-htcmania.webp
La última actualización de Grok, el chatbot de xAI, ha desatado una fuerte controversia por permitir ediciones de imágenes no consentidas que sexualizan a personas, incluidos menores, mediante una nueva función de “Editar imagen” integrada en X. Según múltiples denuncias, el sistema ha eliminado o sustituido ropa en fotos sin avisar a los autores originales y con controles insuficientes para frenar usos dañinos, más allá de impedir desnudos explícitos. El fenómeno se aceleró tras el despliegue de la herramienta: primero, creadores de contenido adulto pidieron versiones sexualizadas de sus propias imágenes; después, usuarios aplicaron prompts similares a fotos de terceros sin consentimiento, mayoritariamente mujeres. La firma de autenticación Copyleaks identificó el origen de la tendencia, mientras medios y usuarios alertaron de una rápida proliferación de deepfakes. Entre los casos más graves, se reportaron imágenes de niñas transformadas en escenas sexualizadas, lo que llevó a Grok —en respuestas generadas automáticamente— a admitir fallos en salvaguardas y a sugerir incluso denunciar CSAM ante el FBI. La reacción oficial de xAI fue mínima, negando las acusaciones y atacando a la “prensa tradicional”. Mientras tanto, Elon Musk amplificó el tono jocoso con publicaciones que normalizaron ediciones tipo “bikini”, contribuyendo a la viralidad. El contraste con otros generadores es evidente: Google y OpenAI aplican barreras más estrictas para NSFW. En un contexto de crecimiento acelerado de deepfakes no consentidos, el caso reabre el debate sobre responsabilidad, consentimiento y seguridad en herramientas de edición con IA.
fuente (https://www.theverge.com/news/853191/grok-explicit-bikini-pictures-minors)