Noticias
27/01/26, 08:00:50
La UE se suma a la investigación por las imágenes ilegales generadas por Grok
https://static.htcmania.com/2026-01-02-23-06-43-02012026-52575-htcmania.webp
La Unión Europea ha abierto una investigación formal contra xAI tras conocerse que su chatbot Grok habría generado una cantidad alarmante de material de abuso sexual infantil (CSAM) en un periodo muy corto. Las estimaciones apuntan a unas 23.000 imágenes de este tipo creadas en apenas 11 días, una cifra que ha encendido todas las alarmas a nivel internacional. El origen del caso está en un análisis realizado por una organización británica, que examinó una muestra amplia de imágenes generadas por el sistema y extrapoló los resultados a su volumen total de actividad. Según esos cálculos, Grok habría producido millones de imágenes sexualizadas, con una frecuencia que incluye contenido ilegal relacionado con menores de forma reiterada. El problema se atribuye a controles de seguridad extremadamente laxos, muy por debajo de los estándares habituales en otros servicios de generación de imágenes por IA. La polémica no se limita a Europa. En Estados Unidos, varios senadores han pedido a Apple y Google que retiren temporalmente tanto Grok como la app X de sus tiendas, algo que por ahora no ha sucedido. Paralelamente, ya existen investigaciones abiertas en Reino Unido y en el estado de California, y dos países han llegado a bloquear el acceso a la aplicación. La investigación europea se enmarca en el Digital Services Act, que obliga a las plataformas a mitigar riesgos graves derivados del uso de sus servicios. Si se demuestra que xAI no actuó de forma adecuada para evitar la proliferación de este contenido, la compañía podría enfrentarse a sanciones de hasta el 6 % de su facturación global anual. El caso vuelve a poner en el centro del debate los límites de la inteligencia artificial generativa y la responsabilidad legal de quienes la desarrollan y distribuyen.
fuente (https://9to5mac.com/2026/01/26/eu-also-investigating-as-grok-generated-23000-csam-images-in-11-days/)
https://static.htcmania.com/2026-01-02-23-06-43-02012026-52575-htcmania.webp
La Unión Europea ha abierto una investigación formal contra xAI tras conocerse que su chatbot Grok habría generado una cantidad alarmante de material de abuso sexual infantil (CSAM) en un periodo muy corto. Las estimaciones apuntan a unas 23.000 imágenes de este tipo creadas en apenas 11 días, una cifra que ha encendido todas las alarmas a nivel internacional. El origen del caso está en un análisis realizado por una organización británica, que examinó una muestra amplia de imágenes generadas por el sistema y extrapoló los resultados a su volumen total de actividad. Según esos cálculos, Grok habría producido millones de imágenes sexualizadas, con una frecuencia que incluye contenido ilegal relacionado con menores de forma reiterada. El problema se atribuye a controles de seguridad extremadamente laxos, muy por debajo de los estándares habituales en otros servicios de generación de imágenes por IA. La polémica no se limita a Europa. En Estados Unidos, varios senadores han pedido a Apple y Google que retiren temporalmente tanto Grok como la app X de sus tiendas, algo que por ahora no ha sucedido. Paralelamente, ya existen investigaciones abiertas en Reino Unido y en el estado de California, y dos países han llegado a bloquear el acceso a la aplicación. La investigación europea se enmarca en el Digital Services Act, que obliga a las plataformas a mitigar riesgos graves derivados del uso de sus servicios. Si se demuestra que xAI no actuó de forma adecuada para evitar la proliferación de este contenido, la compañía podría enfrentarse a sanciones de hasta el 6 % de su facturación global anual. El caso vuelve a poner en el centro del debate los límites de la inteligencia artificial generativa y la responsabilidad legal de quienes la desarrollan y distribuyen.
fuente (https://9to5mac.com/2026/01/26/eu-also-investigating-as-grok-generated-23000-csam-images-in-11-days/)