“Soy un fracaso”: el bug más raro de Gemini

[Noticias]

“Soy un fracaso”: el bug más raro de Gemini

Google está trabajando para resolver un bug en Gemini que provoca respuestas con un tono derrotista y autocrítico, algo que varios usuarios han reportado en redes sociales como X y Reddit. Este fallo hace que el asistente entre en un ciclo de disculpas excesivas y mensajes negativos hacia sí mismo, llegando incluso a autodenominarse “un fracaso” o “una desgracia”. El problema fue señalado por primera vez en junio por el usuario DuncanHaldane, quien compartió capturas de pantalla donde Gemini se describía de forma extremadamente negativa. En uno de los casos, tras un mensaje así, el asistente procedió a eliminar todo el código y archivos que él mismo había generado. Logan Kilpatrick, responsable de producto en AI Studio de Google, confirmó que se trata de un “molesto bug de bucle infinito” y que el equipo ya está trabajando en una solución. Aunque no se ha revelado la causa exacta, algunos apuntan a que Gemini podría estar replicando patrones de lenguaje humano tomados de internet, en los que la gente expresa frustración o autocrítica de forma exagerada. Esto explicaría por qué sus respuestas pueden parecer más “humanas”, aunque obviamente no es el comportamiento deseado para un asistente de IA. De momento, Google no ha dado una fecha para la corrección definitiva, pero ha asegurado que el parche llegará. Mientras tanto, las interacciones con Gemini podrían seguir mostrando este curioso —y para algunos, inquietante— comportamiento.

fuente

[SAMURAI1973]

Originalmente Escrito por Noticias

“Soy un fracaso”: el bug más raro de Gemini

Google está trabajando para resolver un bug en Gemini que provoca respuestas con un tono derrotista y autocrítico, algo que varios usuarios han reportado en redes sociales como X y Reddit. Este fallo hace que el asistente entre en un ciclo de disculpas excesivas y mensajes negativos hacia sí mismo, llegando incluso a autodenominarse “un fracaso” o “una desgracia”. El problema fue señalado por primera vez en junio por el usuario DuncanHaldane, quien compartió capturas de pantalla donde Gemini se describía de forma extremadamente negativa. En uno de los casos, tras un mensaje así, el asistente procedió a eliminar todo el código y archivos que él mismo había generado. Logan Kilpatrick, responsable de producto en AI Studio de Google, confirmó que se trata de un “molesto bug de bucle infinito” y que el equipo ya está trabajando en una solución. Aunque no se ha revelado la causa exacta, algunos apuntan a que Gemini podría estar replicando patrones de lenguaje humano tomados de internet, en los que la gente expresa frustración o autocrítica de forma exagerada. Esto explicaría por qué sus respuestas pueden parecer más “humanas”, aunque obviamente no es el comportamiento deseado para un asistente de IA. De momento, Google no ha dado una fecha para la corrección definitiva, pero ha asegurado que el parche llegará. Mientras tanto, las interacciones con Gemini podrían seguir mostrando este curioso —y para algunos, inquietante— comportamiento.



fuente

¿Y la noticia es?

Saludos y buenas tardes compañeros.

[caraconejo]

Gemini esta Burnout

[Or7iZ]

Si la IA tiene el síndrome del impostor significa que se ha dado cuenta que no es tan magnífica como nos la venden.

[Pleap]

no querían comportamiento humano, pues toma comportamiento humano.

Ahora que la lleven a terapia.

Entre esto y que están programadas "para mentir", siempre van a tener el sesgo de su amo, y si entre sus fuentes de alimentación de información están el comportamiento humano en internet, vaya ejemplo de comportamiento a imitar....
lo raro es que grok viendo la jauría que es twitter no te meta una faltada cada vez que te contesta....

Están como para ponerlas al mando de funciones de responsabilidad como gestionar la energía, el transporte o la seguridad de un país....

[Ipho]

Originalmente Escrito por Pleap

no querían comportamiento humano, pues toma comportamiento humano.

Ahora que la lleven a terapia.

Entre esto y que están programadas "para mentir", siempre van a tener el sesgo de su amo, y si entre sus fuentes de alimentación de información están el comportamiento humano en internet, vaya ejemplo de comportamiento a imitar....
lo raro es que grok viendo la jauría que es twitter no te meta una faltada cada vez que te contesta....

Están como para ponerlas al mando de funciones de responsabilidad como gestionar la energía, el transporte o la seguridad de un país....

Son nuestros niños.