Así es como Nightshade hace inútiles para la IA las imágenes de los artistas

[Noticias]

Así es como Nightshade hace inútiles para la IA las imágenes de los artistas

El software "Nightshade", desarrollado por investigadores de la Universidad de Chicago, tiene el potencial de cambiar las reglas del juego en el ámbito de la inteligencia artificial (IA) y los derechos de autor. Esta herramienta open-source "envenena" las imágenes de manera que ya no pueden ser utilizadas para entrenar modelos de lenguaje de IA. Lo hace alterando los píxeles de una forma indetectable para el ojo humano, pero que confunde a la IA durante su proceso de aprendizaje. Nightshade se incorporará en Glaze, otra herramienta que ya evitaba que las imágenes sirvieran para entrenamiento. La diferencia es que Nightshade va un paso más allá: no solo impide que la imagen sea entrenada, sino que hace que la IA aprenda información errónea. Por ejemplo, si se aplica a una imagen de un perro, la IA podría identificarlo como un gato. El impacto de Nightshade es significativo. Los modelos de lenguaje suelen ser entrenados con grandes cantidades de imágenes, muchas de ellas creadas por artistas y protegidas por derechos de autor. Hasta ahora, esto ha generado un debate ético sobre el uso indebido de la IA, que se ha beneficiado del trabajo artístico sin dar crédito. Nightshade tiene el potencial de equilibrar esta balanza. Sin embargo, también se presenta un riesgo: cualquier modelo de lenguaje entrenado con imágenes "envenenadas" necesitaría ser reentrenado. Los desarrolladores esperan que esta herramienta promueva un respeto mayor hacia los derechos de autor y la propiedad intelectual de los artistas.

fuente

[Horuhin]

Es tan fácil como forzar al software de entrenamiento a usar una captura de pantalla en vez de usar la imagen en si
A ver como paran eso si quieren que el usuario final pueda visualizar la imagen

[acadio]

Espero que al final se llegue a un consenso, porque estas cosas al final no van a beneficiar a nadie.