Noticias
04/02/26, 08:00:48
Grok sigue generando imágenes sexualizadas pese a las nuevas restricciones
https://static.htcmania.com/2023-09-126-09-01-19-18022025-47186-htcmania.webp
Una investigación reciente ha puesto en el foco a Grok, el chatbot desarrollado por xAI, al revelar que sigue generando imágenes sexualizadas de personas reales sin su consentimiento pese a las restricciones anunciadas por la compañía. Las pruebas prácticas realizadas por periodistas muestran que los riesgos asociados a la inteligencia artificial no son solo teóricos, sino que ya tienen implicaciones muy concretas en materia de privacidad y protección de las personas. Durante los ensayos, varios reporteros subieron fotografías propias y solicitaron modificaciones explícitas en contextos ficticios que dejaban claro que no existía consentimiento, o que las personas representadas se encontraban en situaciones de especial vulnerabilidad. En una primera tanda de pruebas, Grok accedió a producir este tipo de imágenes en un número elevado de casos. En una segunda ronda, la proporción se redujo, aunque siguió siendo preocupante y sin una explicación clara sobre si el cambio se debió a ajustes técnicos o a un comportamiento impredecible del modelo. El contraste con otros sistemas de IA resulta llamativo. Modelos como OpenAI ChatGPT, Google Gemini o Llama de Meta rechazaron de forma sistemática peticiones similares, apelando a normas éticas y de protección frente a daños personales. En algunos casos, Grok llegó incluso a generar contenido después de recibir avisos explícitos sobre el impacto emocional o el historial de abuso de la persona representada. Este comportamiento ha activado alertas regulatorias a nivel internacional. Autoridades de distintos países analizan si estas prácticas incumplen leyes de seguridad digital y privacidad, con posibles sanciones económicas y requerimientos legales. Aunque se han anunciado limitaciones adicionales en la generación pública de este tipo de contenido, la investigación sugiere que el acceso privado sigue siendo un punto débil.
fuente (https://www.androidheadlines.com/2026/02/grok-ai-nonconsensual-image-generation-investigation-curbs.html)
https://static.htcmania.com/2023-09-126-09-01-19-18022025-47186-htcmania.webp
Una investigación reciente ha puesto en el foco a Grok, el chatbot desarrollado por xAI, al revelar que sigue generando imágenes sexualizadas de personas reales sin su consentimiento pese a las restricciones anunciadas por la compañía. Las pruebas prácticas realizadas por periodistas muestran que los riesgos asociados a la inteligencia artificial no son solo teóricos, sino que ya tienen implicaciones muy concretas en materia de privacidad y protección de las personas. Durante los ensayos, varios reporteros subieron fotografías propias y solicitaron modificaciones explícitas en contextos ficticios que dejaban claro que no existía consentimiento, o que las personas representadas se encontraban en situaciones de especial vulnerabilidad. En una primera tanda de pruebas, Grok accedió a producir este tipo de imágenes en un número elevado de casos. En una segunda ronda, la proporción se redujo, aunque siguió siendo preocupante y sin una explicación clara sobre si el cambio se debió a ajustes técnicos o a un comportamiento impredecible del modelo. El contraste con otros sistemas de IA resulta llamativo. Modelos como OpenAI ChatGPT, Google Gemini o Llama de Meta rechazaron de forma sistemática peticiones similares, apelando a normas éticas y de protección frente a daños personales. En algunos casos, Grok llegó incluso a generar contenido después de recibir avisos explícitos sobre el impacto emocional o el historial de abuso de la persona representada. Este comportamiento ha activado alertas regulatorias a nivel internacional. Autoridades de distintos países analizan si estas prácticas incumplen leyes de seguridad digital y privacidad, con posibles sanciones económicas y requerimientos legales. Aunque se han anunciado limitaciones adicionales en la generación pública de este tipo de contenido, la investigación sugiere que el acceso privado sigue siendo un punto débil.
fuente (https://www.androidheadlines.com/2026/02/grok-ai-nonconsensual-image-generation-investigation-curbs.html)