Google ha anunciado una nueva actualización para la función AI Overviews, permitiendo que la inteligencia artificial ofrezca información sobre salud directamente en la búsqueda.
La empresa afirma que los modelos Gemini, que alimentan esta funcionalidad, han experimentado mejoras significativas y que ahora el sistema puede cubrir miles de temas médicos con mayor precisión.
Sin embargo, los expertos advierten que el historial de errores de la herramienta plantea dudas sobre la fiabilidad de estas respuestas.
Una de las novedades más polémicas de esta actualización es la introducción de la función «Lo Que la Gente Sugiere», que traerá recomendaciones basadas en comentarios de usuarios de internet.
La función, que ya está disponible para dispositivos móviles en los Estados Unidos, aún no ha sido accesada por algunos usuarios y medios de prensa que intentaron probarla.
Google no ha detallado cómo planea filtrar y validar estas sugerencias para evitar la difusión de información incorrecta.
Desde su lanzamiento, AI Overviews ha sido objeto de críticas por ofrecer respuestas erróneas y, en algunos casos, absurdas. La herramienta ya afirmó que los elefantes bebés caben en la palma de la mano e incluso recomendó el uso de pegamento en pizzas.
Un estudio del Tow Center for Digital Journalism de la Universidad de Columbia señaló que la IA de Google erró aproximadamente el 60% de las respuestas a preguntas básicas.
Hasta ahora, la empresa no ha explicado cómo planea corregir esta alta tasa de errores, especialmente cuando el tema involucra la salud.
Curiosamente, Google alguna vez tuvo una división de salud robusta, con cientos de especialistas dedicados a garantizar información confiable. Sin embargo, en 2021, la empresa desactivó esta área y redistribuyó o despidió a estos profesionales.
Los analistas señalan que las empresas de tecnología tienen dificultades para revolucionar el sector de la salud, que exige precisión y regulaciones rigurosas.
Google asegura que su IA tiene «protecciones para evitar respuestas de baja calidad», pero, dado el historial de la herramienta, muchos se preguntan: ¿será seguro confiar en la inteligencia artificial para cuidar de nuestra salud?
