Google desactivó la generación de imágenes de personas en Gemini después de críticas sobre su precisión histórica. La empresa identificó dos problemas principales:
- Ajuste inadecuado
Google ajustó Gemini para asegurarse de que mostrara una variedad de personas. Sin embargo, este ajuste no consideró casos en los que la variedad no era apropiada, como solicitudes que pedían imágenes de personas de un grupo cultural o histórico específico.
- Cautela excesiva
Con el tiempo, Gemini se volvió mucho más cauteloso de lo pretendido. Empezó a negarse a responder a ciertas solicitudes por completo, incluso si eran inofensivas y no solicitaban imágenes ofensivas o imprecisas.
Estos problemas llevaron a Gemini a «compensar demasiado en algunos casos y ser muy conservador en otros». Esto resultó en imágenes que eran imprecisas, embarazosas o incluso ofensivas.
Google reconoció estos errores y está trabajando para mejorar Gemini antes de reactivar la función de generación de imágenes de personas.
La empresa también está realizando pruebas extensivas para garantizar que Gemini sea más preciso y menos cauteloso en el futuro.