El Google está nuevamente en el centro de una polémica que involucra el AI Overviews, su sistema de respuestas generadas por inteligencia artificial en la Búsqueda.
Esta vez, el problema surgió después de un trágico accidente con un avión de Air India, ocurrido recientemente en India.
Según relatos de usuarios, al buscar información sobre el caso, la IA de Google comenzó a afirmar, de manera equivocada, que el avión involucrado era un Airbus. En realidad, la aeronave era un Boeing 787.
El error llamó la atención de los internautas, especialmente porque, en los últimos años, el público se ha mostrado más atento al modelo de aviones involucrados en accidentes, en gran parte debido a problemas anteriores con la línea 737 de Boeing.
La confusión fue reportada por un usuario en Reddit, que buscaba accidentes que involucraban aviones de Airbus y se encontró con la respuesta incorrecta de AI Overviews.
En algunas pruebas realizadas por otros usuarios, la IA llegó a presentar respuestas aún más confusas, mezclando los nombres de las dos fabricantes en la misma información.
El problema está relacionado con la forma en que la IA de Google funciona. Como la tecnología se basa en la generación de texto de manera no determinista, el contenido presentado puede variar en cada nueva búsqueda, incluso cuando la consulta es idéntica.
Aparentemente, AI Overviews se confundió al intentar resumir contenidos de noticias que, al mencionar el accidente, citaban a Airbus solo como competidora de Boeing. Con esto, la IA terminó construyendo una respuesta incorrecta, vinculando el nombre de Airbus al desastre.
Google respondió al caso en un comunicado enviado al sitio Ars Technica. La empresa confirmó que el error ya fue corregido manualmente y afirmó:
«Como ocurre con todas las funciones de Búsqueda, hacemos mejoras constantes y utilizamos ejemplos como este para actualizar nuestros sistemas. Esta respuesta ya no aparece. Mantenemos un estándar de calidad elevado en todas las funciones de Búsqueda, y la tasa de precisión de AI Overviews está al mismo nivel que otras funcionalidades como los Featured Snippets.»
Aun así, el episodio refuerza la importancia de verificar siempre más de una fuente al buscar información crítica, especialmente cuando la respuesta proviene de una IA.
