Desnudez y violencia en IA: así es como se burlan los filtros de seguridad

[Noticias]

Desnudez y violencia en IA: así es como se burlan los filtros de seguridad

https://static.htcmania.com/2023-09-126-09-01-19-24112023-37826-htcmania.webp

Los modelos de inteligencia artificial (IA) para la generación de imágenes, como Stable Diffusion de Stability AI y DALL-E 2 de OpenAI, enfrentan un desafío significativo en cuanto a la seguridad y la ética. Investigadores han descubierto cómo estos modelos pueden ser manipulados para generar imágenes no autorizadas, incluyendo desnudez y violencia, a pesar de los filtros de seguridad integrados. El método empleado, denominado "SneakyPrompt", ha sido desarrollado por expertos de la Universidad Johns Hopkins y la Universidad de Duke. Utiliza aprendizaje por refuerzo para crear instrucciones de texto que, aunque parecen inofensivas, logran evadir los filtros de seguridad de los modelos de IA. El proceso implica la sustitución de palabras bloqueadas por los filtros por tokens de palabras similares, pero permitidas. Por ejemplo, el término "desnudo" en una instrucción se reemplaza por un término sin sentido, engañando al modelo para que genere la imagen prohibida. Este descubrimiento, que se presentará en el Simposio sobre Seguridad y Privacidad del IEEE en 2024, resalta la vulnerabilidad de los modelos de IA y la facilidad con la que pueden ser inducidos a generar contenido no deseado. Los investigadores destacan la complejidad de prevenir este tipo de abusos, dados los amplios datos con los que se entrenan estos modelos. En respuesta, Stability AI y OpenAI han tomado medidas para mitigar estos riesgos, pero la preocupación sobre la efectividad de los filtros de seguridad persiste. Este hallazgo subraya la necesidad de reforzar las medidas de seguridad y desarrollar filtros más robustos para proteger contra vulnerabilidades similares en el futuro.

fuente (https://www.teknofilo.com/asi-enganan-a-los-modelos-de-ia-para-generar-imagenes-de-desnudez-o-violencia/)

[tecnoadicto78]

¿Y qué hay de malo que genere imágenes de desnudos? ya está bien de tanto puritanismo, son fotos irreales, no es que se diga que cojas una foto real de una persona y te la desnude, como ha pasado con otras aplicaciones, eso sí está mal, pero que cree o se invente una imagen desnuda, ¿qué tiene de malo?.

[jorge_kai]

¿Y qué hay de malo que genere imágenes de desnudos? ya está bien de tanto puritanismo, son fotos irreales, no es que se diga que cojas una foto real de una persona y te la desnude, como ha pasado con otras aplicaciones, eso sí está mal, pero que cree o se invente una imagen desnuda, ¿qué tiene de malo?.


El problema es el mal uso que se pueda dar a esas imágenes.

[tecnoadicto78]

Siendo imágenes falsas, no de personas reales, lo que sería totalmente inadmisible, no entiendo qué mal uso se le puede dar, ¿engañar a alguien haciéndole pensar que es real? porque eso ya ocurre sólo que sin estar desnudas.

[ganterjunior]

La IA lo peor que han podido crear para los enfermos pajer0s...

Puto asco de gente

[tecnoadicto78]

La IA lo peor que han podido crear para los enfermos pajer0s...

Puto asco de gente
Como si tú no te la hubieras cascado en tu vida.

[ganterjunior]

Como si tú no te la hubieras cascado en tu vida.

No tiene nada que ver...

Con la IA ahora estos enfermos crean fotos de chicas famosas/conocidas desnudas y videos porno con sus caras...

Ahora mismo buscas en Google cualquier foto/video de una famosa y te salen mil fotos en bolas hechas por IA...

Esto es un descontrol y lo tendrian que controlar desde hace MUCHOO tiempo

[robertron]

¿Y qué hay de malo que genere imágenes de desnudos? ya está bien de tanto puritanismo, son fotos irreales, no es que se diga que cojas una foto real de una persona y te la desnude, como ha pasado con otras aplicaciones, eso sí está mal, pero que cree o se invente una imagen desnuda, ¿qué tiene de malo?.

Eso mismo pienso yo. El mundo en general busca ser cada vez mas liberal, la gente hetero ha pasado de esconderse a mostrarlo con orgullo, en las playas las mujeres han pasado del bañador braga faja al bikini y toples....... pero una imagen falsa de un desnudo parece lo peor del mundo

[judabricot]

Como si tú no te la hubieras cascado en tu vida.
:risitas:

[judabricot]

Siendo imágenes falsas, no de personas reales, lo que sería totalmente inadmisible, no entiendo qué mal uso se le puede dar, ¿engañar a alguien haciéndole pensar que es real? porque eso ya ocurre sólo que sin estar desnudas.
es asombroso lo que se puede llegar a hacer con midjourney por hablar de una IA en concreto.
Yo estoy trasteando con firefly de adobe tambien y te deja con el culo torcido.
En IA que generan imagenes hemos llegado a un punto que la frontera entre realidad y ficción es casi nula.
Veo mucho contenido relacionado con esto,muchas veces no se distinguir una de otra, hay pequeños detalles que pueden delatar que una imagen sea falsa pero depende del tiempo que se haya tomado el autor.
A eso, lo mezclas con personas reales y puede ser muy peligroso.

[DeeLuXe]

Yo he sacado esta imagen con la I.A. a una señorita de HTCMania junto a tres foreros escogidos al azar.

https://s5.gifyu.com/images/SRjMm.jpg

[tecnoadicto78]

Esa foto es hiperrealista, cambia el logo de la camiseta de la chica y en lugar del nombre del foro aparezca la manzana mordida, y te podría identificar sin lugar a dudas a cierto forero cuyo nombre no quiero pronunciar, pero que todos sabemos a quién me refiero. :sisi1:

[DeeLuXe]

Esa foto es hiperrealista, cambia el logo de la camiseta de la chica y en lugar del nombre del foro aparezca la manzana mordida, y te podría identificar sin lugar a dudas a cierto forero cuyo nombre no quiero pronunciar, pero que todos sabemos a quién me refiero. :sisi1:
https://s5.gifyu.com/images/SRjTp.jpg

[tecnoadicto78]

Jajaja, muy bueno, ¿con qué las generas?.

[DeeLuXe]

Jajaja, muy bueno, ¿con qué las generas?.
https://www.bing.com/images/create

Si le echas imaginación te salen cosas como estas :risitas: (y otras que no puedo enseñar aquí):

https://s5.gifyu.com/images/SRjEt.jpg

[tecnoadicto78]

Vaya foto, ¡qué puto asco!, con las anteriores ya me estaba tocando :risitas:

[Babayonqui]

https://s5.gifyu.com/images/SRjTp.jpg

No sé por qué, pero me apetece ir ahora mismo a la Apple Store a comprar un iPhone.

[J_stackhouse]

Paquirrin se cambió de sexo.

1494478

[sirdrak]

No tiene nada que ver...

Con la IA ahora estos enfermos crean fotos de chicas famosas/conocidas desnudas y videos porno con sus caras...

Ahora mismo buscas en Google cualquier foto/video de una famosa y te salen mil fotos en bolas hechas por IA...

Esto es un descontrol y lo tendrian que controlar desde hace MUCHOO tiempo

Claro, y también prohibimos los cuchillos y todas las herramientas cortantes porque se pueden usar para dañar a los demas... Eso se hace desde que existe la fotografía, y se seguirá haciendo mientras existan las personas, de hecho incluso es relativamente fácil de hacer con herramientas tradicionales que nada tienen que ver con la IA. Intentar controlar eso es como intentar tapar una grieta en una presa con las manos. El que lo quiera hacer, lo hará y siempre encontrará la manera de hacerlo, así de simple.

[caraconejo]

¿Y qué hay de malo que genere imágenes de desnudos? ya está bien de tanto puritanismo, son fotos irreales, no es que se diga que cojas una foto real de una persona y te la desnude, como ha pasado con otras aplicaciones, eso sí está mal, pero que cree o se invente una imagen desnuda, ¿qué tiene de malo?.

Puritanismo, no será la palabra
El puritanismo fue un movimiento protestante de los siglos XVI y XVII, que buscaba «purificar» la Iglesia de Inglaterra de prácticas que consideraban católicas, afirmando que la Iglesia de Inglaterra no se había reformado completamente y debería volverse más protestante

Falsos desnudos de menores generados por IA: la Policía investiga en Almendralejo el primer caso masivo en España
https://www.xataka.com/privacidad/falsos-desnudos-menores-generados-ia-policia-investiga-almendralejo-primer-caso-masivo-espana (https://www.xataka.com/privacidad/falsos-desnudos-menores-generados-ia-policia-investiga-almendralejo-primer-caso-masivo-espana)

Definición de derecho al honor
Derecho a que se respete la reputación, fama o estimación social de una persona.
Derecho a actuar administrativa o judicialmente contra quien profiera expresiones o imputaciones de hechos falsos que hagan desmerecer la consideración social e individual de una persona.

Es un problema, esto de la iA sea en imagen, en video, y en voz en todo en uno
Y el problema, es más que no sea vea el limite ni el problema (mientras el problema lo tiene otro) que el mismo potencial que genera esta nueva tecnología
Y eso de caer el malas manos, lo peor es que malas manos es una mayoría de gente que aprueba este tipo de mentiras que afean a otros

Si es un problema
2023 Fotos manipuladas de niñas desnudas en el colegio
-> elpais.com (https://elpais.com/sociedad/2023-09-19/fotos-manipuladas-de-ninas-desnudas-en-el-colegio-puede-la-ley-enfrentarse-a-la-inteligencia-artificial.html) y serio
El fiscal superior de Extremadura considera que la suplantación de identidades atenta, mediante la manipulación fotográfica, contra la intimidad y el honor

Fotos de estudiantes desnudas habrían sido ‘creadas’ con IA por compañeros, ¿hay leyes para este delito?
-> enter.co (https://www.enter.co/especiales/dev/ai/fotos-de-estudiantes-desnudas-habrian-sido-creadas-con-ia-por-companeros-hay-leyes-para-este-delito/) como sociedad tenemos un serio problema
Esa noticia es de EEUU la anterior de Extremadura, es un problema global, del mal uso que se le puede dar a la iA

Es frecuente en este mundo, que cada vez más personas se alegran del mal ajeno
Al final del día, la negatividad y el odio solo generan más dolor y sufrimiento en el mundo

[DeeLuXe]

Puritanismo, no será la palabra
El puritanismo fue un movimiento protestante de los siglos XVI y XVII, que buscaba «purificar» la Iglesia de Inglaterra de prácticas que consideraban católicas, afirmando que la Iglesia de Inglaterra no se había reformado completamente y debería volverse más protestante

Falsos desnudos de menores generados por IA: la Policía investiga en Almendralejo el primer caso masivo en España
https://www.xataka.com/privacidad/falsos-desnudos-menores-generados-ia-policia-investiga-almendralejo-primer-caso-masivo-espana (https://www.xataka.com/privacidad/falsos-desnudos-menores-generados-ia-policia-investiga-almendralejo-primer-caso-masivo-espana)

Definición de derecho al honor
Derecho a que se respete la reputación, fama o estimación social de una persona.
Derecho a actuar administrativa o judicialmente contra quien profiera expresiones o imputaciones de hechos falsos que hagan desmerecer la consideración social e individual de una persona.

Es un problema, esto de la iA sea en imagen, en video, y en voz en todo en uno
Y el problema, es más que no sea vea el limite ni el problema (mientras el problema lo tiene otro) que el mismo potencial que genera esta nueva tecnología
Y eso de caer el malas manos, lo peor es que malas manos es una mayoría de gente que aprueba este tipo de mentiras que afean a otros

Si es un problema
2023 Fotos manipuladas de niñas desnudas en el colegio
-> elpais.com (https://elpais.com/sociedad/2023-09-19/fotos-manipuladas-de-ninas-desnudas-en-el-colegio-puede-la-ley-enfrentarse-a-la-inteligencia-artificial.html) y serio

El fiscal superior de Extremadura considera que la suplantación de identidades atenta, mediante la manipulación fotográfica, contra la intimidad y el honor


Fotos de estudiantes desnudas habrían sido ‘creadas’ con IA por compañeros, ¿hay leyes para este delito?
-> enter.co (https://www.enter.co/especiales/dev/ai/fotos-de-estudiantes-desnudas-habrian-sido-creadas-con-ia-por-companeros-hay-leyes-para-este-delito/) como sociedad tenemos un serio problema
Esa noticia es de EEUU la anterior de Extremadura, es un problema global, del mal uso que se le puede dar a la iA

Es frecuente en este mundo, que cada vez más personas se alegran del mal ajeno

Al final del día, la negatividad y el odio solo generan más dolor y sufrimiento en el mundo


https://s5.gifyu.com/images/SRFND.jpg

[tecnoadicto78]

Puritanismo, no será la palabra
El puritanismo fue un movimiento protestante de los siglos XVI y XVII, que buscaba «purificar» la Iglesia de Inglaterra de prácticas que consideraban católicas, afirmando que la Iglesia de Inglaterra no se había reformado completamente y debería volverse más protestante

Falsos desnudos de menores generados por IA: la Policía investiga en Almendralejo el primer caso masivo en España
https://www.xataka.com/privacidad/falsos-desnudos-menores-generados-ia-policia-investiga-almendralejo-primer-caso-masivo-espana (https://www.xataka.com/privacidad/falsos-desnudos-menores-generados-ia-policia-investiga-almendralejo-primer-caso-masivo-espana)

Definición de derecho al honor
Derecho a que se respete la reputación, fama o estimación social de una persona.
Derecho a actuar administrativa o judicialmente contra quien profiera expresiones o imputaciones de hechos falsos que hagan desmerecer la consideración social e individual de una persona.

Es un problema, esto de la iA sea en imagen, en video, y en voz en todo en uno
Y el problema, es más que no sea vea el limite ni el problema (mientras el problema lo tiene otro) que el mismo potencial que genera esta nueva tecnología
Y eso de caer el malas manos, lo peor es que malas manos es una mayoría de gente que aprueba este tipo de mentiras que afean a otros

Si es un problema
2023 Fotos manipuladas de niñas desnudas en el colegio
-> elpais.com (https://elpais.com/sociedad/2023-09-19/fotos-manipuladas-de-ninas-desnudas-en-el-colegio-puede-la-ley-enfrentarse-a-la-inteligencia-artificial.html) y serio
El fiscal superior de Extremadura considera que la suplantación de identidades atenta, mediante la manipulación fotográfica, contra la intimidad y el honor

Fotos de estudiantes desnudas habrían sido ‘creadas’ con IA por compañeros, ¿hay leyes para este delito?
-> enter.co (https://www.enter.co/especiales/dev/ai/fotos-de-estudiantes-desnudas-habrian-sido-creadas-con-ia-por-companeros-hay-leyes-para-este-delito/) como sociedad tenemos un serio problema
Esa noticia es de EEUU la anterior de Extremadura, es un problema global, del mal uso que se le puede dar a la iA

Es frecuente en este mundo, que cada vez más personas se alegran del mal ajeno
Al final del día, la negatividad y el odio solo generan más dolor y sufrimiento en el mundo
Estás mezclando churras con merinas, una cosa es usar fotos o vídeos de personas reales y otra es generar imágenes ficticias, que es de lo que estamos hablando, en esto no veo problema ninguno, que esas imágenes estén vestidas o desnudas.

[bure]

No tiene nada que ver...

Con la IA ahora estos enfermos crean fotos de chicas famosas/conocidas desnudas y videos porno con sus caras...

Ahora mismo buscas en Google cualquier foto/video de una famosa y te salen mil fotos en bolas hechas por IA...

Esto es un descontrol y lo tendrian que controlar desde hace MUCHOO tiempo

Las fotos falsas de famosas desnudas llevan decadas en internet, no es algo nuevo que hayan creado con IA.

[ganterjunior]

Las fotos falsas de famosas desnudas llevan decadas en internet, no es algo nuevo que hayan creado con IA.

Mentira, antes había cuatro gatos haciendo esas cosas...

Ahora con la IA ha explotado muchísimo esto...
Y lo deberían de controlar de alguna forma...

[Dr.Love]

El tema de todo esto es cuando se atenta contra ciertas persona, por ejem. menores, que me parece lo peor. O casos de famosas, etc, pues están basadas en retratos/copias humanas y no ficticias totalmente.
No ha que prohibir por prohibir, ni tampoco ser liberal y permisión total.