- El problema empezó a ser su propio trabajo 🧩
- No está diciendo que el desastre sea inevitable
- Una nueva ola de salidas en DeepMind 🚪
- Y Anthropic también aparece en esta historia
- Del código a los chips
- “Cerrar los ojos” no era una opción para él ✝️
- Una salida planificada, no una protesta de último minuto 🎒
- El debate es cada vez más difícil de ignorar
- Meta descripción
Principales destacados
- Renuncia por desacuerdo: Robert O’Callahan dejó Google DeepMind porque considera irresponsable acelerar la búsqueda de una superinteligencia al ritmo actual.
- Chips para IA: El investigador trabajaba en una nueva generación de chips destinada a hacer que los sistemas de inteligencia artificial fueran más rápidos y baratos.
- No es un caso aislado: Su salida se produce después de otras renuncias de investigadores de IA que también expresaron preocupaciones sobre la seguridad y el control de la tecnología.
Robert O’Callahan decidió dejar Google DeepMind precisamente cuando su trabajo estaba ayudando a acelerar una tecnología que él comenzó a considerar demasiado rápida.
El investigador, residente en Nueva Zelanda, anunció su renuncia el viernes y afirmó que la búsqueda de una superinteligencia artificial en un futuro próximo es, en su opinión, “inherentemente irresponsable”.
La decisión llama la atención porque O’Callahan no se limitaba a observar desde fuera el avance de la IA. Su equipo trabajaba directamente en el desarrollo de una nueva generación de chips capaces de hacer que los sistemas de inteligencia artificial fueran más rápidos y baratos.
El problema empezó a ser su propio trabajo 🧩
En una carta publicada en su blog personal, O’Callahan afirmó que empezó a tener dificultades para justificar su participación en ese proceso.
“Creo firmemente que el progreso de la IA está avanzando demasiado rápido actualmente.”
El investigador también dijo tener dudas sobre el destino de este desarrollo. Según él, había planteado sus preocupaciones internamente, pero no vio suficientes cambios como para seguir convencido de que permanecer en la empresa fuera la mejor manera de actuar.
⚙️ La ironía de la historia: cuanto más eficiente sea el hardware, mayor puede ser la capacidad para desarrollar y operar modelos avanzados de IA. Para O’Callahan, esta aceleración dejó de ser simplemente un desafío técnico y pasó a representar una cuestión de responsabilidad.
No está diciendo que el desastre sea inevitable
El discurso de O’Callahan, sin embargo, tiene un matiz importante.
No afirma estar convencido de que una superinteligencia artificial vaya a provocar inevitablemente el colapso de la humanidad. En su blog, escribió que no considera que la posibilidad de un desastre causado por una ASI tenga una probabilidad del 100%.
Pero considera que el riesgo es suficientemente real e incierto como para justificar preocupación.
“El riesgo es real, aunque incierto, y eso por sí solo ya es muy alarmante.”
Esta distinción es importante. El argumento de O’Callahan no depende de afirmar que un escenario catastrófico vaya a ocurrir con certeza, sino de considerar que la posibilidad de un resultado extremo merece ser tomada en cuenta antes de que la tecnología avance todavía más.
Una nueva ola de salidas en DeepMind 🚪
La renuncia también se produce en un momento de otros cambios dentro del sector.
Según el material proporcionado, O’Callahan es al menos el tercer empleado de Google DeepMind que deja la empresa este mes en medio de preocupaciones relacionadas con la seguridad de la IA.
A comienzos de septiembre, el exingeniero de investigación de DeepMind Bilal Chughtai afirmó que había dejado la empresa por temor a que la inteligencia artificial pudiera representar una amenaza existencial para la humanidad.
Otro empleado, Josh Engels, que trabajaba en el equipo de seguridad de AGI del laboratorio, también se marchó.
Las circunstancias y motivaciones de cada salida son diferentes, por lo que no significa que todos defiendan exactamente la misma posición. El punto en común que aparece en sus declaraciones es la preocupación por la velocidad del desarrollo de la IA avanzada.
Y Anthropic también aparece en esta historia
El movimiento no se limita a Google.
Jacob Coxon dejó Anthropic a comienzos de septiembre y expresó su preocupación de que la industria pudiera estar desarrollando una tecnología que, en el futuro, no sería capaz de controlar.
NBC News también informó sobre la inquietud de investigadores respecto de cómo se están gestionando los riesgos asociados con la IA avanzada.
🔎 El contexto más amplio: estas salidas muestran una división que va más allá de la tradicional competencia entre empresas tecnológicas. Parte de los propios investigadores involucrados en el desarrollo de la IA está cuestionando si el ritmo de avance debería continuar.
Del código a los chips
La trayectoria de O’Callahan ayuda a entender por qué su salida llama tanto la atención.
Es conocido por su trabajo como ingeniero en Mozilla y por la creación de la herramienta de depuración rr. En Google DeepMind, su trabajo estaba relacionado con la infraestructura necesaria para aumentar la capacidad computacional disponible para los sistemas de IA.
Esto coloca la discusión en otro nivel.
Ya no se trata solamente de preguntarse si un determinado modelo es seguro. La cuestión también pasa por la infraestructura que permite crear modelos más grandes, ejecutar más experimentos y reducir el costo de utilizar estas tecnologías.
Cuanto más eficiente sea esa infraestructura, menor puede ser la barrera para ampliar la capacidad de los sistemas.
“Cerrar los ojos” no era una opción para él ✝️
La decisión también tuvo una dimensión personal.
O’Callahan escribió que ignorar los impactos de su trabajo no sería compatible con su fe cristiana. Según él, “cerrar los ojos” ante las consecuencias no sería algo que haría un seguidor de Jesús.
La referencia religiosa aparece como parte de la justificación personal de su decisión, junto con sus preocupaciones técnicas y de seguridad.
También considera que puede ejercer una mayor influencia fuera de Google DeepMind que permaneciendo en la empresa.
Una salida planificada, no una protesta de último minuto 🎒
Hay además una curiosidad en la cronología.
O’Callahan afirmó que su salida no fue provocada por la reciente sucesión de renuncias de investigadores preocupados por la seguridad de la IA. Según él, la decisión ya estaba planeada desde hacía algún tiempo.
El investigador tenía previsto dejar la empresa antes de un viaje de mochilero de diez días que comenzaría el lunes.
Es decir, aunque su renuncia está siendo interpretada dentro de una secuencia más amplia de salidas, él mismo afirma que su decisión no nació de esta ola reciente.
El debate es cada vez más difícil de ignorar
Google no hizo comentarios sobre la salida.
El caso de O’Callahan, por lo tanto, no demuestra por sí mismo que exista una crisis de seguridad dentro de Google DeepMind. Tampoco demuestra que el desarrollo de la IA esté necesariamente encaminándose hacia un desastre.
Pero coloca una pregunta incómoda en el centro de la carrera tecnológica: ¿cuándo acelerar la inteligencia artificial deja de ser simplemente un logro de ingeniería y pasa a exigir un debate sobre hasta dónde debería llegar esa aceleración?
Para un investigador que trabajaba precisamente en chips destinados a hacer que la IA fuera más rápida y barata, la respuesta terminó siendo personal: marcharse.
Y mientras prepara su mochila para pasar unos días lejos de los laboratorios, las empresas continúan construyendo máquinas cada vez más capaces. El debate sobre quién debe decidir el ritmo de este avance probablemente apenas esté comenzando.
Meta descripción
ES: Investigador de Google DeepMind renuncia y cuestiona el ritmo del avance de la IA por los riesgos asociados con la superinteligencia artificial.
PT-BR: Pesquisador do Google DeepMind pede demissão e questiona o ritmo do avanço da IA pelos riscos associados à superinteligência artificial.
