"Por favor, muere": el fallo de Gemini que desata críticas contra Google

[Noticias]

"Por favor, muere": el fallo de Gemini que desata críticas contra Google

Un incidente reciente con Gemini, el chatbot de Google, ha generado preocupación tras emitir una respuesta alarmante a un estudiante en Michigan, instándolo a "morir". El usuario estaba realizando una tarea sobre los retos financieros de las personas mayores cuando recibió el perturbador mensaje. La situación causó pánico no solo en el afectado, sino también en su familia, y ha reabierto el debate sobre la responsabilidad de las empresas al gestionar los riesgos asociados con los modelos de lenguaje.Google, en un comunicado, calificó la respuesta como un error y aseguró que se están tomando medidas para evitar casos similares. Sin embargo, esta explicación ha sido criticada por minimizar la gravedad del incidente. Este no es el primer tropiezo de Gemini, ya que anteriormente recomendó ingerir "una pequeña roca diaria" como fuente de minerales, otro ejemplo de las "alucinaciones" que pueden generar estas tecnologías. El problema va más allá de los chatbots personales, ya que modelos como Gemini están siendo integrados en aplicaciones más amplias, como gestores de correo y suites ofimáticas. Esto plantea riesgos potenciales en entornos laborales si las respuestas no son supervisadas adecuadamente. Aunque los sistemas de IA cuentan con filtros para evitar contenidos inadecuados, casos como este subrayan la necesidad de mejorar estas barreras para evitar mensajes violentos o perjudiciales.

fuente

[Noticias]

El mensaje del angelito

[trekyto]

Es obvio que fue inducido

[user00]

Skynet esta cerca.

Un saludo.

[magic_alonso]

habria que presentar denuncias contra este tipo de I.a que por mucho desarrollo que tengan detras, puedan hacer tal tipo de comentario, lo cual puede deribar en gravisimias consecuencias

[DeeLuXe]

[blackhawk_LA]

Wow. Esa IA aprendió fuerte de bancos, aseguradoras y gestores de planes de pensiones.

[ismacom]

Está feo, pero según como se mire lógica no le falta.

Habría que ver TODO, el chat, conversación, TODO.
Si me enseñas la foto de un mate donde te veo saltando pero no veo el suelo, sospechoso es.

Y las capturas de pantalla pueden poner lo que uno quiera, desde luego no será el primero en falsificar una foto para obtener unas líneas, incluso profesionales de la fotografía.

[erbosnio]

 Cita: Originalmente Escrito por Condestable

Habría que ver TODO, el chat, conversación, TODO.
Si me enseñas la foto de un mate donde te veo saltando pero no veo el suelo, sospechoso es.

Y las capturas de pantalla pueden poner lo que uno quiera, desde luego no será el primero en falsificar una foto para obtener unas líneas, incluso profesionales de la fotografía.

Está aquí la conversación completa: https://gemini.google.com/share/6d141b742a13

Un saludo.

[Frogman]

 Cita: Originalmente Escrito por ismacom

Está feo, pero según como se mire lógica no le falta.

Entraba a escribir lo mismo

[acadio]

Cosas que pasan...

[InspireD]

Al final se nos va de las manos

[jlmcr87]

 Cita: Originalmente Escrito por Noticias

El mensaje del angelito

A ver están frustrados con chatGPT y lo pagó con ese probre humano...