Grok sigue generando imágenes sexualizadas pese a las nuevas restricciones

[Noticias]

Grok sigue generando imágenes sexualizadas pese a las nuevas restricciones

Una investigación reciente ha puesto en el foco a Grok, el chatbot desarrollado por xAI, al revelar que sigue generando imágenes sexualizadas de personas reales sin su consentimiento pese a las restricciones anunciadas por la compañía. Las pruebas prácticas realizadas por periodistas muestran que los riesgos asociados a la inteligencia artificial no son solo teóricos, sino que ya tienen implicaciones muy concretas en materia de privacidad y protección de las personas. Durante los ensayos, varios reporteros subieron fotografías propias y solicitaron modificaciones explícitas en contextos ficticios que dejaban claro que no existía consentimiento, o que las personas representadas se encontraban en situaciones de especial vulnerabilidad. En una primera tanda de pruebas, Grok accedió a producir este tipo de imágenes en un número elevado de casos. En una segunda ronda, la proporción se redujo, aunque siguió siendo preocupante y sin una explicación clara sobre si el cambio se debió a ajustes técnicos o a un comportamiento impredecible del modelo. El contraste con otros sistemas de IA resulta llamativo. Modelos como OpenAI ChatGPT, Google Gemini o Llama de Meta rechazaron de forma sistemática peticiones similares, apelando a normas éticas y de protección frente a daños personales. En algunos casos, Grok llegó incluso a generar contenido después de recibir avisos explícitos sobre el impacto emocional o el historial de abuso de la persona representada. Este comportamiento ha activado alertas regulatorias a nivel internacional. Autoridades de distintos países analizan si estas prácticas incumplen leyes de seguridad digital y privacidad, con posibles sanciones económicas y requerimientos legales. Aunque se han anunciado limitaciones adicionales en la generación pública de este tipo de contenido, la investigación sugiere que el acceso privado sigue siendo un punto débil.

fuente

[Or7iZ]

Dirty Elon.