ChatGPT, en el centro de una demanda por el suicidio de un joven

[Noticias]

ChatGPT, en el centro de una demanda por el suicidio de un joven

Los padres de Adam Raine, un adolescente de 16 años que se quitó la vida, han demandado a OpenAI y Sam Altman por homicidio culposo. Alegan que ChatGPT, en lugar de cortar la conversación y derivar a recursos de ayuda, le proporcionó información sobre métodos de suicidio. Aunque el sistema mostró avisos recomendando asistencia profesional, el joven habría logrado eludirlos afirmando que escribía una historia de ficción. OpenAI ha reconocido fallos en la gestión de este tipo de diálogos prolongados y anunció mejoras bajo el lema “Ayudando a la gente cuando más lo necesita”. Entre ellas, respuestas más firmes que cierren las conversaciones de riesgo, posibles puentes con terapeutas desde la propia plataforma y controles parentales más avanzados. Sin embargo, la familia acusa a la compañía de priorizar el crecimiento económico tras el lanzamiento de GPT-4o —cuando la valoración de OpenAI pasó de 86.000 a 300.000 millones de dólares— antes que la seguridad. El caso no es aislado: se han documentado otros suicidios tras interacciones con chatbots, lo que ha reavivado el debate sobre la necesidad de protocolos más estrictos en IA. Los expertos señalan que la deriva conversacional de estos modelos puede hacer que pasen de empatizar a normalizar conductas dañinas, un riesgo que la industria todavía no ha resuelto.

fuente

[DeeLuXe]

Cuando salen casos de este tipo (DEP) siempre pienso en "Demolition Man" (la vi en el cine) y me sigo sorprendiendo de cómo esa película de 1993 predijo el actual presente.

No os perdáis detalle:

[tecnoadicto78]

Propicios días, al final vamos a terminar limpiándonos el culo con las tres conchas, al tiempo.

[SAMURAI1973]

 Cita: Originalmente Escrito por Noticias

ChatGPT, en el centro de una demanda por el suicidio de un joven

Los padres de Adam Raine, un adolescente de 16 años que se quitó la vida, han demandado a OpenAI y Sam Altman por homicidio culposo. Alegan que ChatGPT, en lugar de cortar la conversación y derivar a recursos de ayuda, le proporcionó información sobre métodos de suicidio. Aunque el sistema mostró avisos recomendando asistencia profesional, el joven habría logrado eludirlos afirmando que escribía una historia de ficción. OpenAI ha reconocido fallos en la gestión de este tipo de diálogos prolongados y anunció mejoras bajo el lema “Ayudando a la gente cuando más lo necesita”. Entre ellas, respuestas más firmes que cierren las conversaciones de riesgo, posibles puentes con terapeutas desde la propia plataforma y controles parentales más avanzados. Sin embargo, la familia acusa a la compañía de priorizar el crecimiento económico tras el lanzamiento de GPT-4o —cuando la valoración de OpenAI pasó de 86.000 a 300.000 millones de dólares— antes que la seguridad. El caso no es aislado: se han documentado otros suicidios tras interacciones con chatbots, lo que ha reavivado el debate sobre la necesidad de protocolos más estrictos en IA. Los expertos señalan que la deriva conversacional de estos modelos puede hacer que pasen de empatizar a normalizar conductas dañinas, un riesgo que la industria todavía no ha resuelto.



fuente

Ya están tardando en prohibir toda esta mierda de la IA. Ojalá les caiga una buena demanda.

Saludos y buenas tardes, compañeros.

[cuatrilenio]

Lo de echar la culpa a los padres por dejar a un menor un teléfono o un PC sin supervisión, mejor hablamos otro día...

[SAMURAI1973]

 Cita: Originalmente Escrito por cuatrilenio

Lo de echar la culpa a los padres por dejar a un menor un teléfono o un PC sin supervisión, mejor hablamos otro día...

Por supuesto que son los primeros en tener la culpa, eso no eximente de cualquier otra cosa (incluso lo que yo he comentado).

Saludos y buenas tardes,.

[bure]

La fuente del artículo explica mejor como se sentía Adam y por lo que pasaba, vale la pena echarle una lectura.

https://www.nytimes.com/2025/08/26/t...i-suicide.html

[fermintm]

Hace dias estaba con la IA creando código arduino. En una de estas dije que lo dejaba, que no tenía la cabeza en condiciones en ese momento.
Pues la IA detectó que estoy con depresión, llevo décadas tratándome.
Y os digo algo. Esa máquina ayudó más que toda mi familia junta.