Puntos clave:
- Una investigación reveló que los resúmenes de IA de Google mostraron consejos médicos incorrectos en los primeros resultados de búsqueda.
- Expertos advierten que los errores pueden llevar a decisiones que afectan diagnósticos y tratamientos.
- Google afirma que la mayoría de la información es precisa y recomienda consultar siempre a profesionales de la salud.
Una investigación publicada por The Guardian puso en el centro del debate a la función AI Overviews de Google, al señalar que el sistema ha presentado información médica inexacta y, en algunos casos, potencialmente peligrosa.
El principal problema es que estos resúmenes aparecen en la parte superior de los resultados de búsqueda, lo que aumenta la probabilidad de que los usuarios los sigan sin contrastarlos.
El informe identificó situaciones en las que la inteligencia artificial ofreció orientaciones contrarias a las recomendaciones médicas aceptadas.
En uno de los casos más preocupantes, pacientes con cáncer de páncreas recibieron el consejo de evitar alimentos ricos en grasa, exactamente lo opuesto a lo que suele indicarse para ayudar a mantener el peso y tolerar tratamientos intensivos.
Recomendaciones equivocadas con alto impacto
Especialistas señalan que seguir este tipo de indicaciones puede comprometer seriamente la capacidad del paciente para afrontar quimioterapia o cirugías.
Anna Jewell, investigadora de la Pancreatic Cancer UK, advirtió que consejos así pueden dificultar el consumo suficiente de calorías, afectando directamente la eficacia del tratamiento y la recuperación.
El riesgo aumenta porque muchos usuarios confían de forma automática en las respuestas destacadas, sin tener claro que se trata de resúmenes generados por sistemas de IA y no de recomendaciones médicas personalizadas.
Fallos en pruebas médicas y salud mental
La investigación también detectó errores en otros temas sensibles.
En búsquedas sobre cáncer vaginal, el sistema mencionó de forma incorrecta la prueba de Papanicolau como examen para este tipo de cáncer, cuando en realidad se utiliza para el cribado del cuello uterino. Organizaciones de salud calificaron la información como completamente errónea.
También se encontraron problemas en la interpretación de análisis de sangre del hígado, sin considerar factores como edad, sexo o etnia.
Esto podría llevar a que personas con enfermedades graves crean, de forma equivocada, que están sanas. En el ámbito de la salud mental, se identificaron orientaciones confusas sobre trastornos como la psicosis y los trastornos alimentarios.
La defensa de Google y el debate sobre la IA
Google respondió afirmando que invierte de manera significativa en la calidad de las vistas generales de IA, especialmente en temas de salud, y aseguró que la gran mayoría de las respuestas son fiables.
La empresa señaló que algunos ejemplos difundidos correspondían a capturas incompletas y destacó que el sistema enlaza a fuentes reconocidas y recomienda buscar asesoramiento profesional.
Aun así, el caso refuerza las preocupaciones sobre el uso de contenido generado por inteligencia artificial en áreas críticas.
Investigaciones recientes ya habían señalado problemas similares en consejos financieros y resúmenes de noticias, lo que subraya la necesidad de cautela y verificación cuando la tecnología asume un papel central en el acceso a la información.
