El CEO de Google, Sundar Pichai, condenó los errores de diversidad de la IA Gemini como «completamente inaceptables» en un memorando interno obtenido por The Verge.
Reconoció que las imágenes y textos históricamente imprecisos generados por el modelo «ofendieron a nuestros usuarios y mostraron prejuicio».
La semana pasada, Google suspendió la capacidad de Gemini para generar imágenes después de descubrirse ampliamente que el modelo generaba soldados alemanes nazis racialmente diversos, padres fundadores de EE. UU. no blancos e incluso representaba incorrectamente las razas de los propios cofundadores de Google.
Aunque Google se disculpó por «equivocarse en el objetivo» y dijo que está trabajando para reactivar la generación de imágenes en las próximas semanas, el memorando del martes es la primera vez que el CEO aborda ampliamente la controversia.
En el memorando, Pichai afirma que la empresa «ha estado trabajando las 24 horas del día» para resolver las «respuestas problemáticas de texto e imagen en la aplicación Gemini». No afirma que Google haya resuelto el problema.
«Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que la meta es alta para nosotros y continuaremos trabajando todo el tiempo que sea necesario», escribe él.
Pichai enfatiza la misión de Google de «organizar la información del mundo y hacerla universalmente accesible y útil». Afirma que este enfoque debe aplicarse a todos los productos, incluidos los productos de IA emergentes.
El CEO de Google concluye el memorando delineando un conjunto de acciones para resolver el problema, que incluye cambios estructurales, directrices de productos actualizadas, procesos de lanzamiento mejorados, evaluaciones robustas y recomendaciones técnicas.
También reconoce los avances fundamentales en los modelos subyacentes de Google y su experiencia en investigación como trampolín para la ola de IA.
Lea el memorando completo de Sundar Pichai a los empleados de Google a continuación (traducción abierta):
Hola a todos,
Quiero abordar los problemas recientes con respuestas problemáticas de texto e imagen en la aplicación Gemini (anteriormente Bard). Sé que algunas de sus respuestas ofendieron a nuestros usuarios y mostraron prejuicio; para ser claro, esto es completamente inaceptable y cometimos errores.
Nuestros equipos han estado trabajando las 24 horas del día para resolver estos problemas. Ya estamos viendo una mejora sustancial en una amplia variedad de indicaciones. Ninguna IA es perfecta, especialmente en esta fase emergente del desarrollo de la industria, pero sabemos que el estándar es alto para nosotros y continuaremos así el tiempo que sea necesario. Revisaremos lo sucedido y nos aseguraremos de corregir a gran escala.
Nuestra misión de organizar la información mundial y hacerla universalmente accesible y útil es sagrada. Siempre buscamos proporcionar a los usuarios información útil, precisa e imparcial en nuestros productos. Es por eso que las personas confían en ellos. Esta debe ser nuestra aproximación para todos nuestros productos, incluidos nuestros productos emergentes de IA.
Estaremos llevando a cabo un conjunto claro de acciones, que incluyen cambios estructurales, directrices de productos actualizadas, procesos de lanzamiento mejorados, evaluaciones robustas y equipos de prueba, además de recomendaciones técnicas. Estamos analizando todo esto y haremos los cambios necesarios.
Aun mientras aprendemos de lo que salió mal aquí, también debemos aprovechar los avances técnicos y de productos que hemos realizado en IA en las últimas semanas. Esto incluye algunos avances fundamentales en nuestros modelos subyacentes, como el descubrimiento de la ventana de contexto largo de 1 millón y nuestros modelos abiertos, ambos muy bien recibidos.
Sabemos lo que se necesita para crear productos excelentes que sean utilizados y apreciados por miles de millones de personas y empresas, y con nuestra infraestructura y experiencia en investigación, tenemos un trampolín increíble para la ola de la IA. Nos enfocaremos en lo más importante: crear productos útiles que merezcan la confianza de nuestros usuarios.
