Los resúmenes con IA de Google desaparecen en algunas consultas de salud por ser incorrectos

[Noticias]

Los resúmenes con IA de Google desaparecen en algunas consultas de salud por ser incorrectos

Google ha comenzado a retirar los AI Overviews de algunas búsquedas médicas tras detectarse que estos resúmenes generados por inteligencia artificial podían ofrecer información incompleta o potencialmente engañosa. La decisión llega después de una investigación periodística que puso el foco en consultas relacionadas con análisis clínicos, donde las respuestas no tenían en cuenta variables clave como edad, sexo, etnia o contexto médico, lo que podía llevar a interpretaciones erróneas sobre el estado de salud. En concreto, determinadas búsquedas sobre rangos normales en pruebas hepáticas dejaron de mostrar resúmenes automáticos, aunque otras formulaciones similares seguían activando contenidos generados por IA. Sin embargo, pruebas posteriores indicaron que incluso estas variaciones ya no devolvían AI Overviews, lo que sugiere un ajuste más amplio en los resultados. Aun así, Google continúa ofreciendo la posibilidad de reformular estas consultas dentro de su modo de búsqueda con IA, lo que indica que la función no ha sido desactivada por completo. Desde la compañía explican que no comentan retiradas concretas, pero que trabajan de forma continua en mejoras generales del buscador. También señalan que un equipo interno de clínicos revisó las consultas señaladas y concluyó que, en muchos casos, la información no era incorrecta y estaba respaldada por fuentes fiables. Pese a ello, el debate sobre el uso de IA en búsquedas de salud sigue abierto. Organizaciones especializadas han valorado positivamente la retirada puntual, pero advierten de un problema más profundo: la presencia de resúmenes automáticos en temas médicos puede generar una falsa sensación de seguridad en los usuarios. La medida se interpreta como un paso en la dirección correcta, aunque insuficiente para abordar los riesgos estructurales de aplicar IA generativa en un ámbito tan sensible como la salud.

fuente