La UE se suma a la investigación por las imágenes ilegales generadas por Grok

[Noticias]

La UE se suma a la investigación por las imágenes ilegales generadas por Grok

La Unión Europea ha abierto una investigación formal contra xAI tras conocerse que su chatbot Grok habría generado una cantidad alarmante de material de abuso sexual infantil (CSAM) en un periodo muy corto. Las estimaciones apuntan a unas 23.000 imágenes de este tipo creadas en apenas 11 días, una cifra que ha encendido todas las alarmas a nivel internacional. El origen del caso está en un análisis realizado por una organización británica, que examinó una muestra amplia de imágenes generadas por el sistema y extrapoló los resultados a su volumen total de actividad. Según esos cálculos, Grok habría producido millones de imágenes sexualizadas, con una frecuencia que incluye contenido ilegal relacionado con menores de forma reiterada. El problema se atribuye a controles de seguridad extremadamente laxos, muy por debajo de los estándares habituales en otros servicios de generación de imágenes por IA. La polémica no se limita a Europa. En Estados Unidos, varios senadores han pedido a Apple y Google que retiren temporalmente tanto Grok como la app X de sus tiendas, algo que por ahora no ha sucedido. Paralelamente, ya existen investigaciones abiertas en Reino Unido y en el estado de California, y dos países han llegado a bloquear el acceso a la aplicación. La investigación europea se enmarca en el Digital Services Act, que obliga a las plataformas a mitigar riesgos graves derivados del uso de sus servicios. Si se demuestra que xAI no actuó de forma adecuada para evitar la proliferación de este contenido, la compañía podría enfrentarse a sanciones de hasta el 6 % de su facturación global anual. El caso vuelve a poner en el centro del debate los límites de la inteligencia artificial generativa y la responsabilidad legal de quienes la desarrollan y distribuyen.

fuente

[Or7iZ]

xAI se les ha ido de las manos.

[leela]

Alguien más que odie todo lo relacionado con la IA?

[nogarder]

Grok habría producido millones de imágenes sexualizadas. Grok habría generado una cantidad alarmante de material de abuso sexual infantil (CSAM) en un periodo muy corto.


O faltan partes importantes de la noticia, o no veo que problema hay con producir imagenes INVENTADAS, repito INVENTADAS.

Los japos llevan decenas de años, DIBUJANDO todo tipo de perversiones no basadas en personas reales y nadie los ha demandado....es mas, es parte de su cultura.

Otra cuestion es que no sean inventadas, y se basen en personas reales.....

[pepolacas]

Esas imágenes denunciadas se hacen a partir de fotografías reales, no se hacen de la nada.