Google Books está indexando libros de baja calidad generados por IA que aparecen en los resultados de búsqueda, potencialmente afectando Google Ngram Viewer, una herramienta esencial para que los investigadores rastreen el uso del lenguaje a lo largo del tiempo.
Utilizando técnicas previas para identificar contenido generado por IA, se encontraron varios libros en Google Books que contienen la frase «En mi última actualización de conocimiento», asociada con ChatGPT.
Algunos de estos libros tratan sobre IA y discuten sobre ChatGPT, mientras que otros parecen ser generados por IA y no están relacionados con el tema.
Por ejemplo, el libro «Bears, Bulls, and Wolves: Stock Trading for the Twenty-Year-Old» presenta un análisis superficial de eventos financieros complejos, como la oferta pública inicial de Facebook y la crisis financiera de 2008.
«A pesar de los problemas iniciales, las acciones de Facebook eventualmente encontraron su lugar en el mercado. En los años siguientes a la salida a bolsa, el precio de las acciones de la empresa experimentó fluctuaciones, pero también demostró resiliencia, reflejando la naturaleza dinámica de la industria tecnológica. Hasta mi última actualización de conocimiento en enero de 2022, Facebook había evolucionado a Meta Platforms, Inc., reflejando su expansión más allá de las redes sociales hacia la realidad virtual y el metaverso.»
Expertos expresaron preocupación por el hecho de que Google no etiqueta estos libros como generados por IA, ya que esto podría confundir a los usuarios e impactar la confiabilidad de Google Ngram Viewer.
Esta herramienta rastrea la frecuencia de palabras y frases en libros publicados, y la inclusión de contenido generado por IA puede distorsionar los resultados.
En respuesta, Google afirmó que ninguno de los libros generados por IA identificados actualmente está influyendo en los resultados de Ngram Viewer.
«Nuestros sistemas automatizados tienen como objetivo mostrar libros relevantes y de alta calidad para una búsqueda determinada, y los libros en cuestión aparecieron para una consulta de búsqueda poco común y específica», dijo un portavoz de Google. «Ninguno de los libros identificados ha influido en los resultados del Visor de Ngram.»
Sin embargo, la empresa no se comprometió a filtrar estos libros en el futuro, lo que plantea preocupaciones sobre el impacto potencial en la investigación histórica y cultural.