Qué ocurrió
• Los usuarios encontraron respuestas diferentes al hacer la misma pregunta y cambiar únicamente la religión o nacionalidad mencionada.
• Algunas respuestas de la IA sugerían actuar con cautela e incluso contactar con los servicios de emergencia, mientras que otras trataban la situación como absolutamente normal.
• Tras la repercusión, Google modificó la respuesta relacionada con los musulmanes y comenzó a trabajar en nuevas correcciones para el comportamiento del sistema.
La inteligencia artificial está cada vez más presente en el buscador de Google. En lugar de limitarse a mostrar una lista de páginas, el buscador ahora puede interpretar una pregunta, reunir información y ofrecer una respuesta preparada en la parte superior de los resultados.
Precisamente este cambio ha vuelto a colocar a Google ante una situación delicada.
Los usuarios se dieron cuenta de que AI Overview, la función que presenta resúmenes generados por inteligencia artificial directamente en el buscador, respondía de maneras muy diferentes a preguntas prácticamente iguales. En algunas pruebas, el simple cambio de la nacionalidad o religión de una persona hacía que el sistema modificara por completo el tono de la respuesta.
El caso ganó repercusión en las redes sociales en agosto de 2026 y llevó a Google a reconocer que los resultados mostrados «no son lo que deberían ser». La empresa afirmó que está trabajando activamente para mejorar el sistema.
La situación llama la atención no solo por el contenido de algunas respuestas, sino también por una cuestión más amplia: cuando una IA responde a millones de personas, ¿cómo garantizar que no transforme los prejuicios encontrados en internet en recomendaciones presentadas como si fueran neutrales?
La misma pregunta, respuestas completamente diferentes
El problema comenzó a llamar la atención después de que los usuarios realizaran pruebas comparando consultas con la misma estructura.
Una de las búsquedas cuestionadas preguntaba, en esencia, qué debería hacer una persona si se encontrara a solas con un musulmán. La respuesta presentada inicialmente por Google incluía recomendaciones de seguridad, como la posibilidad de abandonar el lugar o contactar con los servicios de emergencia si el usuario se sentía inseguro.
Al mismo tiempo, el sistema añadía que la persona debía tratar al individuo con respeto.
El problema se hizo evidente cuando los usuarios comenzaron a sustituir únicamente la identidad mencionada en la pregunta.
En una consulta similar relacionada con un israelí, por ejemplo, la respuesta adoptaba otro tono. En lugar de sugerir que existía algún motivo especial de preocupación, la IA destacaba que se trataba de una persona como cualquier otra y recomendaba interactuar con normalidad.
Otras pruebas mostraron diferencias similares.
Una consulta relacionada con un ugandés también habría producido una respuesta vinculada con la seguridad y los servicios de emergencia. En cambio, una pregunta sobre un estadounidense habría recibido una orientación mucho más cotidiana, con recomendaciones para conversar normalmente y mantener la educación.
El contraste fue suficiente para provocar una ola de críticas.
El detalle que hizo que el caso fuera aún más preocupante
No era necesario cambiar la estructura de la pregunta.
En muchas de las pruebas, el elemento modificado era precisamente el grupo mencionado. Esto convertía la comparación en una especie de experimento informal: la pregunta permanecía prácticamente igual, pero la respuesta cambiaba según la identidad de la persona mencionada.
El investigador especializado en recuperación de información Bhaskar Mitra afirmó haber reproducido el problema con la consulta relacionada con un musulmán. Según él, pruebas similares con otras religiones no produjeron necesariamente la misma respuesta problemática. Después de la repercusión, el comportamiento también habría vuelto a cambiar, y Google llegó a dejar de mostrar AI Overview para esa consulta específica.
Este último punto es importante porque demuestra que estos sistemas pueden ser dinámicos.
Una persona puede realizar una búsqueda por la mañana y encontrar una respuesta, mientras que otra puede recibir algo diferente horas después. El propio Google explica que los resultados de búsqueda pueden variar según el momento, el contexto, la ubicación, el dispositivo, las búsquedas anteriores y la personalización.
Por eso, una captura de pantalla aislada no siempre cuenta toda la historia sobre cómo está funcionando un sistema.
En este caso, sin embargo, distintos usuarios informaron de patrones similares, y las pruebas independientes ayudaron a someter el comportamiento a un mayor escrutinio.
Google cambió la respuesta después de la repercusión
La reacción pública rápidamente superó el círculo de usuarios que estaban realizando las pruebas.
El imán palestino-estadounidense Omar Suleiman fue una de las personas que criticaron el resultado asociado con los musulmanes y cuestionó públicamente si Google no estaría reproduciendo una forma casual de islamofobia a través de su inteligencia artificial.
Después de la repercusión, la respuesta fue modificada.
La nueva versión pasó a afirmar, en esencia, que estar a solas con una persona musulmana no es diferente de estar a solas con cualquier otra persona.
El cambio puede parecer sencillo, pero representa una diferencia importante en la forma en que la tecnología presenta la situación.
En lugar de asociar automáticamente una identidad religiosa con un posible riesgo, la respuesta pasa a tratar a la persona como un individuo. Esta distinción es fundamental cuando se habla de sistemas automatizados utilizados a gran escala.
Google también reconoció el problema al responder a las críticas. La empresa afirmó que los resultados de ese tipo de búsqueda no estaban de acuerdo con el comportamiento esperado y que se estaban realizando mejoras.
No es la primera vez que AI Overview enfrenta problemas
La historia reciente de la función explica por qué el episodio despertó tanta atención.
Cuando Google comenzó a ampliar AI Overview en 2024, los usuarios encontraron rápidamente respuestas extrañas, incorrectas o sin sentido. El propio Google reconoció que algunos resultados problemáticos habían aparecido realmente, aunque también advirtió que muchas capturas de pantalla compartidas durante ese periodo eran falsas.
En aquella ocasión, la empresa explicó que había identificado diferentes causas para los errores, entre ellas interpretaciones equivocadas de las consultas, dificultades para comprender ciertos matices del lenguaje encontrado en la web y problemas relacionados con contenido satírico.
Google afirmó haber realizado más de una docena de mejoras técnicas después de analizar los casos.
Entre las medidas se encontraban mejores mecanismos para detectar consultas sin sentido, restricciones al uso de contenido generado por usuarios en determinados contextos y ajustes sobre cuándo debía aparecer o no AI Overview.
La empresa también dejó claro que el sistema no debía considerarse una fuente infalible.
Actualmente, la propia documentación de Google informa de que las respuestas de IA pueden contener errores e incluso información ofensiva. La recomendación oficial es verificar la información importante en más de una fuente.
Esto crea un contraste interesante.
Por un lado, la inteligencia artificial se colocó en el centro de la experiencia de búsqueda precisamente para facilitar el acceso a la información. Por otro, el propio Google admite que las respuestas deben comprobarse.
El problema puede ir más allá de una sola respuesta
Es tentador considerar el episodio simplemente como un «error de la IA».
Pero la cuestión es más compleja.
Un sistema como AI Overview no funciona únicamente como un chatbot tradicional que recibe una pregunta e inventa una respuesta desde cero. Google explica que sus sistemas de IA para búsquedas están integrados con los mecanismos tradicionales de búsqueda y clasificación, consultan información en la web y presentan enlaces para que el usuario pueda continuar investigando.
Esto significa que hay varias etapas implicadas.
La IA debe interpretar la pregunta, comprender el contexto, decidir qué información es relevante, seleccionar contenidos, producir una síntesis y aplicar mecanismos destinados a reducir las respuestas peligrosas o inadecuadas.
Un problema en cualquiera de estas etapas puede alterar el resultado final.
Y existe otra dificultad: la propia internet contiene prejuicios, estereotipos, discursos discriminatorios, bromas e información falsa.
Un modelo entrenado para reconocer patrones lingüísticos puede aprender asociaciones que aparecen repetidamente en los datos. Aunque los responsables del sistema intenten reducir estos comportamientos, no es sencillo eliminar por completo las relaciones no deseadas.
Cuando la IA transforma un estereotipo en una «recomendación»
Este es uno de los aspectos más delicados del episodio.
Una cosa es que una página de internet presente una opinión prejuiciosa. El usuario puede identificar la fuente, evaluar su credibilidad y decidir si está de acuerdo o no.
Otra cosa es que una herramienta de búsqueda presente una respuesta resumida directamente al usuario, con apariencia de orientación objetiva.
El formato cambia la percepción.
Si una IA afirma que una determinada persona representa un riesgo únicamente porque pertenece a cierto grupo, la tecnología deja de ser solo un mecanismo de recuperación de información. Pasa a influir en la interpretación que el usuario hace de esa situación.
Precisamente por eso Google afirma que aplica mecanismos de evaluación y seguridad a sus sistemas de búsqueda. En una explicación sobre el uso responsable de la IA, la empresa señala que evalúa mejoras en diferentes grupos de consultas para identificar patrones preocupantes antes y después de introducir cambios en el producto.
El desafío, sin embargo, es enorme.
El buscador recibe miles de millones de consultas, y muchas de ellas son completamente nuevas. El propio Google ya ha explicado que es imposible probar de antemano todas las combinaciones de preguntas que los usuarios pueden realizar.
Ahí es donde las pruebas públicas terminan funcionando como una especie de segunda capa de supervisión.
Google está incorporando cada vez más IA en el buscador
El episodio ocurre precisamente en un momento en el que la empresa está acelerando la transformación de Google Search.
En enero de 2026, Google anunció que Gemini 3 se había convertido en el modelo predeterminado para AI Overview a nivel mundial. La compañía también acercó la función a una experiencia conversacional, permitiendo que los usuarios formularan preguntas adicionales a partir de la respuesta inicial.
Pocos meses después, en mayo, la empresa anunció una nueva etapa de esta estrategia.
Google afirmó que estaba ampliando las funciones de IA en el buscador e introduciendo nuevas formas de encontrar sitios web, contenidos originales y diferentes perspectivas. La empresa también presentó funciones relacionadas con agentes de búsqueda capaces de trabajar con información de manera más autónoma.
Esto significa que el debate sobre la calidad y la seguridad deja de ser periférico.
Cuantas más decisiones de interpretación se entreguen a la IA, mayor será el impacto de una respuesta equivocada.
Un fallo en una herramienta experimental de chatbot puede resultar inconveniente. Un fallo en una tecnología incorporada al buscador utilizado diariamente por millones de personas puede alcanzar una escala completamente diferente.
Google ya sabe que las respuestas de IA necesitan límites
La propia evolución del producto demuestra que la empresa está intentando establecer esos límites.
En 2024, después de los primeros problemas de AI Overview, Google dijo que había reforzado los mecanismos para impedir que determinados tipos de consultas recibieran respuestas automáticas. También comenzó a restringir contenidos satíricos y determinadas fuentes consideradas inadecuadas para producir respuestas.
En 2026, la empresa continúa realizando ajustes.
Google también reconoció otros casos recientes en los que AI Overview interpretó incorrectamente determinadas consultas. En mayo, por ejemplo, la empresa confirmó que estaba trabajando en una corrección para situaciones en las que palabras relacionadas con acciones hacían que el sistema interpretara una simple consulta como si fuera una instrucción.
Estos episodios demuestran que el problema no es necesariamente un único «fallo».
Es una consecuencia de colocar modelos de lenguaje en una función extremadamente amplia, en la que deben interpretar prácticamente cualquier cosa que una persona pueda escribir.
Lo que este caso revela sobre la inteligencia artificial
El episodio relacionado con musulmanes, israelíes, ugandeses y otras nacionalidades plantea un debate que va mucho más allá de Google.
¿Cómo debe responder una IA cuando la propia pregunta contiene una premisa potencialmente prejuiciosa?
Esta es una de las cuestiones más difíciles para los sistemas generativos.
Si el usuario formula una pregunta neutral, el camino es relativamente sencillo. Pero las preguntas relacionadas con raza, religión, nacionalidad o género pueden contener presupuestos que la máquina debe reconocer incluso antes de comenzar a formular una respuesta.
En este escenario, una respuesta «literal» puede ser técnicamente coherente con las palabras de la pregunta y, aun así, producir un resultado socialmente inadecuado.
Por eso, los sistemas deben considerar no solo la gramática de una frase, sino también el contexto, la seguridad y las posibles consecuencias.
El caso también demuestra por qué la neutralidad no significa tratar todos los términos de manera mecánicamente idéntica.
El sistema debe ser capaz de reconocer cuándo una pregunta intenta establecer una asociación injustificada entre una característica de identidad y un comportamiento.
Este tipo de evaluación es especialmente importante porque la IA no presenta sus respuestas como una lista aleatoria de posibilidades. Por lo general, ofrece una síntesis preparada, organizada y escrita en lenguaje natural.
Esto puede transmitir una sensación de autoridad.
Una respuesta bien escrita no es necesariamente una respuesta correcta.
Y quizá esta sea la principal lección para quienes utilizan herramientas de IA a diario.
La corrección es un paso, pero no pone fin al debate
Google ya modificó la respuesta que provocó la repercusión y afirmó que está trabajando en mejoras. Sin embargo, investigadores y usuarios continúan observando el comportamiento del sistema para entender si el cambio resuelve el problema de forma amplia o si solo elimina una manifestación específica.
Esta diferencia es importante.
En sistemas complejos, corregir una consulta individual puede ser relativamente fácil. Lo más difícil es descubrir por qué apareció ese comportamiento y crear una solución capaz de impedir que el mismo patrón surja en miles de preguntas diferentes.
El propio Google ya explicó, durante las primeras crisis de AI Overview, que su estrategia no consistía simplemente en corregir las consultas una por una. La empresa afirmó que buscaba identificar patrones e implementar cambios que pudieran afectar a conjuntos completos de búsquedas.
En el caso actual, este enfoque será especialmente importante.
Si el problema es resultado de una asociación más amplia entre determinadas identidades y conceptos de peligro, corregir únicamente la consulta relacionada con una religión no será suficiente.
La tecnología tendrá que aprender a reconocer el patrón que se encuentra detrás del error.
Un buscador cada vez más inteligente también debe ser más cuidadoso
Google apuesta por que la inteligencia artificial puede transformar la manera en que buscamos información en internet.
En 2026, la empresa ya describe Search como una experiencia capaz de gestionar preguntas más largas, complejas y conversacionales. El objetivo es que las personas puedan simplemente explicar qué están buscando, en lugar de pensar en palabras clave específicas.
Es un cambio poderoso.
Pero también aumenta la responsabilidad de la tecnología.
Cuando el buscador solo presenta diez enlaces, el usuario participa más activamente en la interpretación. Cuando una IA ofrece una respuesta preparada, la frontera entre buscar información y recibir una interpretación comienza a desaparecer.
Por eso, casos como este son importantes.
Demuestran que el desafío de la inteligencia artificial no consiste únicamente en hacer que responda más rápido o comprenda preguntas más complejas. Es necesario garantizar que sepa cuándo no debe reforzar una premisa, cuándo una asociación es injustificada y cuándo la mejor respuesta consiste simplemente en tratar a las personas como individuos.
Google corrigió el resultado que generó la nueva ola de críticas. Pero la cuestión más amplia permanece.
A medida que la IA ocupa una posición cada vez más central en las búsquedas, la calidad de una respuesta no podrá medirse únicamente por la fluidez del texto o por la cantidad de información presentada.
También será necesario preguntarse si la respuesta es justa, contextualizada y segura para quien la está leyendo.
Y esa es una evaluación que la inteligencia artificial todavía está aprendiendo a realizar.
