Noticias
24/02/24, 08:21:47
Google admite fallos en su generador de imágenes IA de Gemini
https://static.htcmania.com/2023-09-121323216-09-01-19-24022024-39673-htcmania.webp
Google introdujo recientemente una función de generación de imágenes en su aplicación de conversación Gemini. Esta función, basada en el modelo de inteligencia artificial Imagen 2, estaba diseñada para evitar la generación de imágenes violentas, sexualmente explícitas o que representaran a personas reales. Sin embargo, al intentar abarcar la diversidad global de los usuarios, el sistema falló en casos específicos, como al solicitar imágenes de personas de una etnia o contexto cultural concreto, resultando en respuestas inexactas o evasivas. El problema principal radicó en dos aspectos: la incapacidad del modelo para discernir cuándo no mostrar diversidad y su excesiva cautela, rechazando solicitudes inofensivas. Estos errores condujeron a la creación de imágenes inapropiadas y a la negativa de responder ciertas solicitudes. Como resultado, Google ha suspendido temporalmente la generación de imágenes de personas en Gemini y planea realizar mejoras significativas y pruebas extensas. Google reconoce los desafíos inherentes a los modelos de lenguaje y la inteligencia artificial, admitiendo que Gemini, enfocado en creatividad y productividad, puede no ser siempre confiable, especialmente en temas sensibles o controvertidos. Aunque la compañía no garantiza la ausencia de errores futuros, se compromete a mejorar continuamente el sistema y a abordar los problemas identificados.
fuente (https://www.teknofilo.com/google-explica-por-que-a-su-generador-de-imagenes-por-ia-se-le-fue-la-pinza/)
https://static.htcmania.com/2023-09-121323216-09-01-19-24022024-39673-htcmania.webp
Google introdujo recientemente una función de generación de imágenes en su aplicación de conversación Gemini. Esta función, basada en el modelo de inteligencia artificial Imagen 2, estaba diseñada para evitar la generación de imágenes violentas, sexualmente explícitas o que representaran a personas reales. Sin embargo, al intentar abarcar la diversidad global de los usuarios, el sistema falló en casos específicos, como al solicitar imágenes de personas de una etnia o contexto cultural concreto, resultando en respuestas inexactas o evasivas. El problema principal radicó en dos aspectos: la incapacidad del modelo para discernir cuándo no mostrar diversidad y su excesiva cautela, rechazando solicitudes inofensivas. Estos errores condujeron a la creación de imágenes inapropiadas y a la negativa de responder ciertas solicitudes. Como resultado, Google ha suspendido temporalmente la generación de imágenes de personas en Gemini y planea realizar mejoras significativas y pruebas extensas. Google reconoce los desafíos inherentes a los modelos de lenguaje y la inteligencia artificial, admitiendo que Gemini, enfocado en creatividad y productividad, puede no ser siempre confiable, especialmente en temas sensibles o controvertidos. Aunque la compañía no garantiza la ausencia de errores futuros, se compromete a mejorar continuamente el sistema y a abordar los problemas identificados.
fuente (https://www.teknofilo.com/google-explica-por-que-a-su-generador-de-imagenes-por-ia-se-le-fue-la-pinza/)