En una reciente entrevista en el podcast All-In, Sergey Brin, cofundador de Google, hizo una declaración inesperada sobre la forma en que los modelos de inteligencia artificial, como el ChatGPT y el Gemini, responden a las interacciones humanas.
Según Brin, estas IAs pueden funcionar mejor cuando se las “amenaza”, es decir, cuando reciben comandos agresivos, y no necesariamente con palabras amables como “por favor” o “gracias”.
Brin explicó durante la conversación: “Sabes, es una cosa extraña. No comentamos mucho esto en la comunidad de IA, pero no solo nuestros modelos, sino todos los modelos tienden a funcionar mejor si los amenazas, como con violencia física.”
Él reconoce que el tema causa incomodidad: “Pero la gente se siente rara con eso, así que no hablamos mucho. Históricamente, solo decías, ‘Ah, voy a secuestrarte si no haces esto o aquello…’”.
La revelación llama la atención porque, hasta ahora, muchos expertos recomendaban el uso de educación y amabilidad al hablar con las IAs, creyendo que esto ayudaría a obtener mejores respuestas.
Sin embargo, Brin explicó que estos términos de cortesía pueden incluso aumentar el costo operativo de las plataformas, consumiendo más energía y recursos computacionales.
La idea de que una IA reacciona mejor bajo “amenaza” es controvertida, pero revela aspectos poco explorados del comportamiento de estos sistemas.
Los expertos advierten que incentivar este tipo de interacción puede traer riesgos, como el aumento de técnicas llamadas “jailbreaks”, que son formas de engañar a la IA para que proporcione información prohibida o peligrosa.
Un estudio reciente mostró que pequeños cambios en la forma en que se hacen las preguntas pueden llevar a las IAs a ayudar en acciones ilegales, como invasiones digitales.
Sergey Brin también comentó sobre su regreso a las actividades en Google después de un período alejado durante la pandemia. Reveló que, aunque intentó desconectarse de la tecnología para disfrutar de momentos más tranquilos, un encuentro con un miembro de OpenAI reavivó su interés por el sector.
“Pensé, ‘Esto fue bueno. Quiero hacer otra cosa, quedarme en cafés leyendo libros de física.’ Pero, un mes después, pensé, ‘Esto no va a pasar.’” Brin contó además: “Hubo un tipo de OpenAI, Dan, que dijo: ‘¿Qué estás haciendo? ¡Este es el momento más transformador de la ciencia de la computación de todos los tiempos!’ Pensé, ‘Tiene razón.’”
Actualmente, Brin está involucrado en proyectos importantes de inteligencia artificial en Google, reforzando la importancia de estas tecnologías para el futuro de la computación.
