Principales destacados
- Ng rechaza el apocalipsis: El pionero de la IA calificó las alertas sobre la extinción humana como más cercanas a la ciencia ficción que a la ciencia.
- La industria está dividida: Ejecutivos e investigadores discrepan sobre si acelerar o desacelerar el desarrollo de modelos cada vez más avanzados.
- La regulación entró en la disputa: Ng afirma que el discurso sobre riesgos existenciales puede favorecer a los grandes laboratorios y crear barreras para competidores más pequeños.
Andrew Ng no compró la idea de que la inteligencia artificial esté a punto de poner a la humanidad frente a un botón rojo.
En una entrevista con Bloomberg TV el 17 de septiembre, el pionero de la IA calificó las alertas de que la tecnología podría provocar la extinción humana como “mucho más ciencia ficción que ciencia”.
La declaración llega justo cuando figuras importantes del sector han vuelto a elevar el tono sobre los riesgos de modelos cada vez más poderosos.
“Estoy bastante consternado” 😬
Ng, cofundador de Google Brain y Coursera, dijo estar “bastante consternado durante las últimas dos semanas” por la nueva ola de alertas provenientes de ejecutivos e investigadores.
Para él, no se trata solamente de una discusión técnica.
🗣 La sospecha de Ng: El investigador afirmó que esta ola de relaciones públicas probablemente resurgió “por las mismas razones” que en episodios anteriores, sugiriendo que la industria ya ha utilizado escenarios catastróficos para influir en las regulaciones y generar publicidad.
La crítica resulta especialmente relevante porque Ng no está defendiendo una IA sin riesgos.
Reconoce problemas concretos, incluidas las amenazas a la ciberseguridad. La diferencia está en dónde poner el foco.
En lugar de concentrar los esfuerzos en escenarios de extinción, defiende un enfoque más cercano a la ingeniería tradicional: probar los sistemas, colocarlos en entornos controlados y corregir las fallas a medida que aparecen.
💡 El giro de Ng: el problema, según él, debería tratarse como un conjunto de desafíos prácticos de ingeniería y no como una predicción del fin de la humanidad.
Y la industria está hablando a dos velocidades ⚡
El momento elegido para la declaración no es trivial.
El sector de la IA está cada vez más dividido sobre la velocidad a la que deberían seguir evolucionando los llamados modelos de frontera.
Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció públicamente este mes. Acusó a ambas empresas de “correr hacia una IA superinteligente” y de “jugar con nuestras vidas”.
Después, Dario Amodei, CEO de Anthropic, y Sam Altman, CEO de OpenAI, defendieron esfuerzos coordinados para desacelerar el desarrollo.
🔎 El escenario más extremo: Amodei llegó a advertir que enjambres de agentes de IA podrían, en cuestión de meses, “ser capaces de tomar el control de toda internet con una botnet persistente”.
Geoffrey Hinton, ganador del Nobel, también pidió cautela. En una entrevista con CBS News el 17 de septiembre, afirmó que la IA “se saldrá de control a menos que hagamos algo”.
Por un lado, aparecen las alertas sobre sistemas que podrían adquirir capacidades difíciles de controlar.
Por otro, Ng ve el riesgo de convertir esas posibilidades en una justificación para frenar una tecnología que todavía necesita ser desarrollada y probada.
Desacelerar también puede perjudicar la seguridad 🧪
Este es uno de los puntos más interesantes del argumento.
Para Ng, pedir una desaceleración general del desarrollo no necesariamente significa dedicar más recursos a la seguridad. Puede ocurrir exactamente lo contrario.
⚙️ La lógica es sencilla: si el desarrollo de IA avanzada se desacelera en su conjunto, la propia investigación destinada a probar, evaluar y hacer que estos sistemas sean más seguros también puede perder ritmo.
Por eso, defiende un enfoque incremental basado en pruebas, sandboxing y correcciones iterativas.
Es una diferencia importante de filosofía.
La pregunta deja de ser solamente “¿y si la IA se sale de control?” y pasa a incluir otra: ¿cómo construir mecanismos de control antes de que sistemas más avanzados sean utilizados en situaciones reales?
Pero existe otro problema: ¿quién escribe las reglas? 💰
Aquí es donde la discusión deja de ser puramente tecnológica.
Ng presentó las alertas sobre la extinción también como una posible herramienta de captura regulatoria.
La lógica que plantea es que, al convencer a los gobiernos de que la IA representa una amenaza existencial, los grandes laboratorios podrían contribuir a crear reglas de cumplimiento tan pesadas que las empresas más pequeñas tendrían dificultades para competir.
🏛️ La disputa regulatoria: Según este argumento, una regulación diseñada en torno a los riesgos de los modelos más grandes podría elevar los costos y las barreras de entrada, fortaleciendo precisamente a las compañías que ya cuentan con más capital e infraestructura.
No es una preocupación aislada.
El inversor Steve Eisman, conocido por anticipar la crisis financiera de 2008, formuló una crítica similar en CNBC. Calificó la narrativa de crisis como una “tontería” y afirmó que las grandes empresas de IA estarían intentando fabricar una crisis que desembocaría en regulación.
Sin embargo, esta interpretación es cuestionada por el propio debate dentro de la industria, ya que investigadores y ejecutivos que defienden la cautela también señalan riesgos técnicos específicos.
Jensen Huang y Zuckerberg entran en el debate 🧩
Otros líderes del sector también rechazan la idea de una desaceleración generalizada.
Jensen Huang, CEO de Nvidia, y Mark Zuckerberg, CEO de Meta, argumentaron que las fuerzas del mercado y la responsabilidad corporativa ya generan incentivos para que las empresas desarrollen IA de manera segura.
Esta posición lleva el debate hacia otro eje: en lugar de una coordinación internacional para limitar el ritmo de los avances, la seguridad podría abordarse mediante incentivos económicos, competencia y responsabilidad individual de las empresas.
El problema es que los modelos de frontera no permanecen confinados al laboratorio.
Cuantas más capacidades incorporan estos sistemas, mayor tiende a ser la importancia de las reglas sobre pruebas, implementación, seguridad y responsabilidad.
Y Washington tiene su propia lectura 🇺🇸
El presidente Donald Trump también rechazó los temores sobre la IA, calificándolos de “una farsa” y argumentando que una eventual desaceleración de Estados Unidos podría beneficiar a China.
Esta posición añade una dimensión geopolítica a la discusión.
Ya no se trata solamente de preguntar cuánto riesgo está dispuesta a asumir una empresa. También existe una disputa sobre quién desarrollará las tecnologías más avanzadas y a qué velocidad.
En este contexto, una política que limite el desarrollo estadounidense puede ser vista por sus críticos como una ventaja estratégica para otros países.
“¿Un cartel con otro nombre”? 🔐
Aidan Gomez, CEO de Cohere, presentó otra crítica similar en un ensayo publicado el 13 de septiembre.
Calificó la elaboración de reglas liderada por los actores establecidos como “un cartel con otro nombre” y defendió un marco internacional de riesgo en lugar de límites coordinados al desarrollo.
La diferencia parece pequeña sobre el papel, pero cambia bastante el resultado.
Un enfoque puede intentar controlar el ritmo del desarrollo. Otro puede centrarse en medir los riesgos y establecer requisitos proporcionales a lo que cada sistema es capaz de hacer.
• Desaceleración: limita o coordina el ritmo de avance de los modelos.
• Gestión de riesgos: concentra las reglas en pruebas, evaluación, seguridad y mitigación de daños.
• Regulación por capacidad: establece requisitos diferentes según el potencial y el uso de cada sistema.
Ninguno de estos enfoques resuelve por sí solo la disputa sobre quién debería establecer las reglas.
Ahora la pelea llega a los reguladores ⚖️
El debate gana peso porque Estados Unidos, Reino Unido y la Unión Europea están trabajando en reglas para modelos de frontera.
Eso significa que la discusión iniciada dentro de los laboratorios podría terminar influyendo en las leyes, los costos operativos e incluso en quién puede competir en el mercado.
🌍 El punto de presión: los reguladores tendrán que lidiar simultáneamente con riesgos reales, incertidumbres sobre las capacidades futuras, competencia internacional y el posible impacto de las propias reglas sobre las empresas más pequeñas.
Es precisamente en este cruce donde chocan las dos narrativas.
Para Ng, imaginar la extinción humana como una consecuencia probable de la IA lleva la conversación demasiado lejos de la evidencia científica disponible. Para Hinton, Amodei y otros investigadores y ejecutivos, ignorar los riesgos de los sistemas futuros también puede ser peligroso.
En medio de esta disputa queda una pregunta bastante concreta: ¿cuánto del futuro de la IA debería ser decidido por los ingenieros, cuánto por las empresas y cuánto por los gobiernos?
Por ahora, la carrera continúa. Y mientras algunos ven un freno de emergencia, Andrew Ng parece estar mirando el tablero y buscando algo más familiar: pruebas, correcciones e ingeniería. El próximo capítulo será escrito, en buena medida, por las reglas que surjan de esta pelea.
