Los investigadores de seguridad han descubierto una vulnerabilidad en Google Gemini, la inteligencia artificial utilizada en Workspace para crear resúmenes automáticos de correos electrónicos.
Esta falla permite que los atacantes oculten mensajes maliciosos dentro del texto del correo electrónico, que son invisibles para el usuario, pero son reconocidos por la IA al generar el resumen del mensaje.
Como resultado, la herramienta puede mostrar alertas falsas o instrucciones peligrosas que dirigen a las personas a sitios de phishing, incluso sin contener adjuntos o enlaces aparentes.
El ataque funciona insertando comandos ocultos en el cuerpo del correo electrónico, con letras blancas y tamaño cero, que no aparecen cuando se abre el correo.
Cuando el usuario le pide a Gemini que resuma el contenido, la IA interpreta estos comandos ocultos y crea un resumen que puede contener información falsa, como alertas de seguridad falsas, incluyendo números de teléfono para «soporte».
Al ser una funcionalidad oficial de Google Workspace, muchas personas pueden confiar en estos mensajes sin sospechar del engaño.
Para minimizar los riesgos, los expertos recomiendan que los equipos de seguridad implementen filtros que detecten textos invisibles o palabras de alerta dentro de los resúmenes generados por la IA.
También es importante que los usuarios sepan que el resumen de Gemini no debe ser considerado una fuente oficial para avisos de seguridad, y que siempre deben verificar directamente en el servicio original antes de tomar cualquier acción.
En respuesta, Google ha informado que está trabajando para fortalecer sus defensas contra este tipo de ataque, con entrenamientos específicos para la IA y filtros que serán implementados pronto.
La empresa ha garantizado que no hay evidencia de casos reales de explotación de esta falla hasta el momento.
