Puntos destacados
- La senadora Marsha Blackburn afirmó que la IA de Google inventó una acusación falsa de abuso sexual vinculada a su nombre.
- Google confirmó que retiró el modelo Gemma de su plataforma AI Studio, alegando un uso indebido por parte de los usuarios.
- El caso reaviva el debate sobre las «alucinaciones» en sistemas de IA y los posibles sesgos políticos en modelos generativos.
Google anunció la eliminación del modelo Gemma de su entorno de desarrollo AI Studio tras una acusación pública de la senadora estadounidense Marsha Blackburn, del estado de Tennessee.
En una carta dirigida al CEO Sundar Pichai, Blackburn declaró que el modelo habría fabricado una historia falsa sobre una supuesta mala conducta sexual relacionada con ella, incluyendo detalles inexistentes y enlaces rotos.
La senadora afirmó que el episodio es un ejemplo grave de difamación y no un simple error de generación de texto, cuestionando la responsabilidad de la empresa sobre el contenido producido por sus modelos.
La respuesta de Google En una publicación en la red X, Google confirmó la eliminación de Gemma de AI Studio, aunque sin mencionar directamente la carta de Blackburn. La empresa explicó que el modelo fue creado como una herramienta para desarrolladores y no como un chatbot orientado al público en general.
Según el comunicado, hubo informes de personas utilizando Gemma de manera inadecuada, realizando preguntas factuales o personales, algo para lo que el sistema no habría sido diseñado. La compañía destacó que seguirá ofreciendo el modelo Gemma a través de su API, dirigida a desarrolladores que integren la IA en otras plataformas.
Contexto político y técnico Durante una audiencia en el Senado estadounidense, representantes de Google admitieron que las «alucinaciones» (respuestas incorrectas o sin base real) son un problema conocido y que la empresa trabaja para reducirlas. Sin embargo, la senadora Blackburn replicó afirmando que estas respuestas falsas constituyen difamaciones, no simples fallos técnicos.
El episodio ocurre en medio del aumento de la presión política sobre las grandes empresas tecnológicas. Sectores conservadores acusan a los sistemas de IA de presentar sesgos ideológicos y de censurar ciertos contenidos. Incluso el expresidente Donald Trump llegó a firmar una orden ejecutiva contra lo que llamó «IA progresista».
Con la retirada de Gemma de AI Studio, Google intenta contener los daños y reforzar el control sobre cómo se utilizan sus modelos, pero el caso probablemente prolongará el debate sobre la responsabilidad, transparencia y límites de la inteligencia artificial.
