Google corrige su IA en el buscador para evitar errores con contenido satírico

**Noticias** · 31/05/24, 20:00:42

Google ha respondido a las críticas recibidas por su buscador potenciado por IA generativa, tras varios errores en las respuestas a consultas que se volvieron virales. AI Overviews, presentado en el I/O 2024, es una funcionalidad que utiliza inteligencia artificial para proporcionar respuestas directas en las búsquedas, intentando mejorar la experiencia del usuario comparado con la tradicional búsqueda en múltiples páginas de resultados. Sin embargo, AI Overviews ha fallado en varias ocasiones debido a tres problemas principales: malinterpretación de las consultas, errores en la comprensión de matices del idioma y falta de acceso a información valiosa sobre el tema. Un ejemplo destacado es la respuesta incorrecta a la pregunta "Cuántas rocas debería de comer", que mostró cómo la IA no maneja adecuadamente el contenido satírico. Google ha explicado que AI Overviews no solo genera respuestas basadas en datos de entrenamiento, sino que también integra enlaces relevantes para que el usuario pueda profundizar en la investigación. Este sistema pretende evitar las "alucinaciones" o invenciones comunes en otros modelos de lenguaje de gran tamaño (LLM). Para abordar estos problemas, Google ha anunciado varias mejoras. Se han actualizado los sistemas para limitar el uso de contenido generado por el usuario que podría ofrecer consejos inapropiados y se han añadido restricciones para evitar respuestas inútiles de AI Overviews. Además, se han implementado nuevas medidas de seguridad en temas de noticias y salud, asegurando que no se utilice IA para resumir noticias importantes y añadiendo restricciones adicionales para consultas de salud. Pese a estos problemas, Google sostiene que la mayoría de las respuestas de AI Overviews mantienen una alta calidad, similar a los fragmentos enriquecidos que el buscador ha ofrecido durante años.

fuente