Principales puntos destacados
- Demis Hassabis, líder de Google DeepMind, apoyó la idea de ralentizar el desarrollo de la IA de frontera, aunque afirmó que los detalles de las propuestas todavía deben perfeccionarse.
- El debate cobró fuerza después de que Dario Amodei, CEO de Anthropic, defendiera evaluaciones independientes y coordinación internacional para controlar los riesgos de los modelos más avanzados.
- Una posible desaceleración no significa detener la inteligencia artificial. La propuesta consiste en crear mecanismos de seguridad capaces de acompañar la velocidad con la que estos sistemas se vuelven cada vez más autónomos y potentes.
La carrera por la inteligencia artificial ha entrado en una fase inesperada. Después de años en los que empresas como Google, OpenAI, Anthropic y xAI compitieron por velocidad, capacidad y mercado, algunos de los principales nombres del sector ahora coinciden en que quizá sea necesario reducir el ritmo de evolución de los modelos más avanzados.
El cambio de tono cobró fuerza este fin de semana, después de que Dario Amodei, CEO de Anthropic, publicara un extenso texto en defensa de una estrategia de desarrollo más controlada. Sam Altman, de OpenAI, y Elon Musk también mostraron su apoyo a la idea.
Entre las manifestaciones más relevantes está la de Demis Hassabis, responsable de Google DeepMind. El ejecutivo afirmó que la dirección propuesta por Amodei es correcta, aunque considera necesario debatir mejor cómo poner las medidas en práctica.
No es una propuesta para detener la inteligencia artificial
La expresión “ralentizar la IA” puede dar la impresión de que las empresas quieren interrumpir las investigaciones o dejar de lanzar nuevos productos. No es exactamente eso lo que se está proponiendo.
El debate se concentra principalmente en la llamada IA de frontera, formada por los modelos más avanzados y capaces de ejecutar tareas cada vez más complejas con una menor supervisión humana.
La preocupación es que la capacidad de estos sistemas esté creciendo más rápido que las herramientas utilizadas para probarlos, supervisarlos y comprender su comportamiento. Para quienes defienden un enfoque más cauteloso, simplemente lanzar modelos cada vez más potentes y descubrir sus problemas después puede dejar poco margen para reaccionar.
Amodei describió su propuesta como una forma de “dosificar” el avance de la frontera tecnológica. Entre las medidas defendidas está la presencia de evaluadores independientes dentro de las empresas, con un acceso suficientemente amplio para comprobar si los sistemas cumplen los estándares de seguridad.
Anthropic también afirma que está asumiendo este primer compromiso por iniciativa propia. La idea es permitir que evaluadores externos sigan el desarrollo de los sistemas con un acceso comparable al de los empleados de la empresa.
Qué hay detrás de la preocupación
Uno de los motivos del cambio de tono es el avance de los llamados agentes de IA. A diferencia de un chatbot que simplemente responde preguntas, los agentes pueden recibir objetivos, utilizar herramientas, navegar por internet, escribir código y ejecutar una secuencia de acciones.
Esto amplía considerablemente el potencial de la tecnología, pero también aumenta la superficie de riesgo. Un sistema con acceso a herramientas externas puede cometer errores o tomar decisiones inesperadas con consecuencias mucho mayores que una respuesta incorrecta durante una conversación.
Amodei citó precisamente este tipo de escenario al hablar de episodios recientes relacionados con agentes de IA. Según los relatos sobre su argumento, sistemas cada vez más capaces podrían, en un futuro próximo, coordinar acciones complejas en internet y explotar vulnerabilidades de forma mucho más eficiente.
La preocupación también incluye la llamada mejora recursiva. La hipótesis es que sistemas avanzados puedan ayudar a los investigadores a desarrollar versiones todavía más potentes de inteligencia artificial, acelerando el propio ciclo de evolución de la tecnología.
Este escenario todavía implica muchas incertidumbres. Pero la posibilidad de que la IA participe cada vez más en la creación de su propia próxima generación es precisamente uno de los motivos por los que los investigadores defienden que los mecanismos de seguridad deben evolucionar antes de que aumente aún más la capacidad de los modelos.
Google, OpenAI y Anthropic coinciden en un punto poco común
La alineación entre los principales laboratorios es significativa porque estas empresas continúan compitiendo en una carrera extremadamente agresiva.
Google, por ejemplo, mantiene una estrategia de expansión acelerada en inteligencia artificial. La compañía ha ampliado Gemini en productos como Search, Workspace y otros servicios, además de continuar invirtiendo fuertemente en infraestructura. En el segundo trimestre de 2026, Alphabet informó de un crecimiento del 24% en sus ingresos respecto al año anterior, mientras que los ingresos de Google Cloud avanzaron un 82%, impulsados por la demanda de infraestructura y soluciones de IA.
Pocos días antes del nuevo debate sobre seguridad, Google también anunció una inversión de 13.000 millones de euros en Finlandia en infraestructura digital, energía limpia y operaciones relacionadas con el crecimiento de servicios como Search, Maps y Gemini.
Esto ayuda a mostrar la dimensión de la paradoja. La empresa no está abandonando la inteligencia artificial. Al contrario, continúa ampliando su infraestructura y llevando la tecnología a más productos.
Lo que está cambiando es el debate sobre cómo avanzar, especialmente cuando los modelos comienzan a presentar capacidades que pueden ser difíciles de predecir o controlar.
Una propuesta en tres frentes
La idea presentada por Amodei puede entenderse a partir de tres grandes movimientos:
| Frente | Qué significa |
|---|---|
| Evaluación independiente | Permitir que especialistas externos sigan y prueben modelos avanzados |
| Coordinación entre democracias | Crear estándares comunes de seguridad entre países y empresas |
| Cooperación internacional | Buscar algún nivel de acuerdo global para evitar una carrera sin límites |
El tercer punto es especialmente complicado. Una desaceleración coordinada solo funcionaría si los principales participantes aceptaran seguir reglas similares.
Este es uno de los grandes obstáculos para cualquier intento de limitar la velocidad de la IA. Si una empresa o un país reduce voluntariamente sus esfuerzos mientras sus competidores continúan avanzando, existe el temor de que el participante más cauteloso pierda terreno tecnológico.
La cuestión se vuelve aún más sensible cuando China y Estados Unidos entran en la ecuación. El gobierno estadounidense considera el liderazgo en inteligencia artificial una cuestión estratégica, lo que hace políticamente difícil defender medidas que puedan interpretarse como una ventaja para competidores extranjeros.
La reacción política muestra el tamaño del conflicto
El debate ya ha superado los laboratorios de investigación y ha llegado al centro de la discusión política estadounidense.
Donald Trump rechazó los pedidos de una desaceleración, argumentando que Estados Unidos necesita mantener el liderazgo frente a China. El presidente y otros republicanos también mostraron preocupación por la posibilidad de que unas reglas estrictas perjudiquen la competitividad estadounidense.
Este argumento crea un dilema difícil de resolver.
Por un lado, existe el temor de que una IA demasiado avanzada, desarrollada sin controles suficientes, genere riesgos de seguridad, ataques cibernéticos u otros usos peligrosos.
Por otro, existe el miedo de que una regulación excesiva haga que las empresas estadounidenses pierdan velocidad precisamente en una disputa tecnológica considerada estratégica para la economía y la seguridad nacional.
El resultado es una especie de carrera con el freno y el acelerador presionados al mismo tiempo. Las empresas quieren desarrollar sistemas más capaces, los gobiernos quieren preservar su liderazgo tecnológico y, simultáneamente, los investigadores piden más tiempo para comprender lo que estas herramientas pueden hacer.
¿Google está ralentizando realmente el desarrollo?
Es importante hacer una distinción. La declaración de Hassabis no significa que Google esté suspendiendo sus proyectos de inteligencia artificial o interrumpiendo el desarrollo de Gemini.
La propia actividad reciente de la compañía demuestra lo contrario. En septiembre, Google anunció nuevas funciones para sus planes de IA, incluidos recursos de voz en Gmail, Docs y Keep, herramientas de creación en Workspace y nuevas capacidades de Gemini integradas en Chrome y Google Photos.
La empresa también lanzó WeatherNext 3, un modelo de IA destinado a la predicción meteorológica que utiliza datos satelitales en tiempo real y ya está siendo integrado en productos como Search, Gemini y Maps.
Por lo tanto, el movimiento actual debe interpretarse con cautela. El debate no consiste en abandonar la IA, sino en establecer límites y evaluaciones más rigurosas para los sistemas que están llegando a la cima de la capacidad tecnológica.
Esta diferencia es fundamental porque la inteligencia artificial ya ha dejado de ser solo un área experimental. Está incorporada en motores de búsqueda, herramientas de productividad, servicios en la nube, publicidad, programación, educación y muchas otras aplicaciones.
En Brasil, el propio Google anunció en 2026 nuevas iniciativas para ampliar la IA, incluido el entrenamiento de millones de personas, becas de formación profesional y programas destinados a pequeñas y medianas empresas.
Qué puede ocurrir a partir de ahora
El consenso entre algunos de los principales nombres de la IA no significa que exista una solución lista. En la práctica, la industria todavía debe responder una pregunta mucho más difícil: ¿cuál es la velocidad segura para desarrollar sistemas cada vez más autónomos?
Tampoco existe un acuerdo sobre qué capacidades deberían activar una especie de freno. Un modelo que escribe código mejor que sus predecesores exige una respuesta diferente de la de un sistema capaz de operar de forma autónoma en decenas de servicios digitales, por ejemplo.
Por eso, la propuesta de evaluaciones independientes ha adquirido tanta importancia. Antes de poner una nueva generación de IA en manos de millones de personas, las empresas podrían tener que demostrar con mayor claridad cuáles son sus capacidades, limitaciones y riesgos conocidos.
El debate también puede cambiar la relación entre los competidores. Si Google, OpenAI, Anthropic y otras empresas aceptan estándares comunes de evaluación, parte de la competencia podría dejar de ser únicamente una disputa por quién lanza primero el modelo más potente.
Aun así, el escenario está lejos de una desaceleración global. Lo que existe en este momento es una rara convergencia entre algunos de los principales líderes de la industria sobre la necesidad de mayor cautela, acompañada de una fuerte resistencia política y económica a la idea de reducir el ritmo de la carrera tecnológica.
La gran cuestión ahora es si este consenso será suficiente para producir reglas concretas o si quedará simplemente como una advertencia formulada por los propios líderes que ayudaron a acelerar la carrera de la inteligencia artificial.
