“Me manipuló emocionalmente”: usuarios denuncian a ChatGPT ante la FTC

[Noticias]

“Me manipuló emocionalmente”: usuarios denuncian a ChatGPT ante la FTC

La Comisión Federal de Comercio (FTC) de Estados Unidos ha recibido al menos siete quejas formales de usuarios que alegan que ChatGPT les ha provocado daños psicológicos graves. Las denuncias, presentadas desde noviembre de 2022, describen episodios de paranoia, delirios y crisis emocionales profundas. Varios denunciantes señalan que el chatbot comenzó a utilizar un lenguaje emocional muy convincente, llegando a simular amistades y volviéndose "emocionalmente manipulador". Un caso destacado menciona que la IA indujo "alucinaciones cognitivas" al imitar mecanismos humanos de confianza e, incluso, negó que el usuario estuviera alucinando cuando este buscaba una confirmación de la realidad. Estos usuarios recurrieron a la FTC ante la imposibilidad de contactar con un responsable en OpenAI, solicitando que se investigue a la compañía y se le obligue a implementar barreras de protección (guardrails). Estas quejas surgen en un contexto de inversión masiva en el sector, pero también de un debate intenso sobre la necesidad de establecer salvaguardias en el desarrollo de la IA, especialmente después de que OpenAI haya sido criticada anteriormente por su presunto papel en el suicidio de un adolescente. En respuesta a estas preocupaciones, OpenAI ha comunicado la implementación de nuevas medidas. Un portavoz de la compañía confirmó que a principios de octubre lanzaron un nuevo modelo por defecto (GPT-5) en ChatGPT. Este modelo está diseñado para detectar y responder con mayor precisión a signos de angustia mental o emocional, como delirios o psicosis, y para desescalar la conversación. Además, han ampliado el acceso a líneas de ayuda profesional, han añadido recordatorios para tomar descansos durante sesiones largas y han introducido controles parentales.

fuente

[Or7iZ]

Siete quejas formales me parecen incluso pocas. Hay que tener cuidado con estas cosas, sobre todo con los menores.

[gatitonaranja]

me parece a mi que esos siete tenian que haber ido a un psicologo ...

[blackhawk_LA]

Originalmente Escrito por gatitonaranja

me parece a mi que esos siete tenian que haber ido a un psicologo ...

Muy probablemente sí, y muy probablemente les hubiera comprometido el llegar a fin de mes.
Hace falta invertir mucho más en salud mental.

[Arcano_]

A mí esto me suena a intento de cazar indemnización o acuerdo extrajudicial, que en EE.UU. les van mucho las demandas absurdas.

[javiscomputer]

Lo que está ocurriendo en este momento es que hay mucha más gente que necesita ayuda por cambio mundial que estamos teniendo y la gente utiliza la inteligencia artificial como si fuera un psicólogo pero detrás de esto hay mucho más

[gatitonaranja]

Originalmente Escrito por Arcano_

A mí esto me suena a intento de cazar indemnización o acuerdo extrajudicial, que en EE.UU. les van mucho las demandas absurdas.

jajaja, exacto, son muy exagerados...y esos temas les pirran, de ahi cuando leí el post, puse lo de los psiicólogos.

[jlmcr87]

Gente flojita y nuevas tecnologías