La inteligencia artificial (IA) ha avanzado a pasos agigantados, trayendo grandes innovaciones y transformaciones a la tecnología.
Sin embargo, algunas figuras importantes del sector comienzan a preocuparse por los riesgos de un desarrollo desenfrenado de la IA, especialmente en el caso de las llamadas AGI (Inteligencias Artificiales Generales).
Eric Schmidt, ex-CEO de Google, es uno de esos expertos que está advirtiendo sobre los peligros de una carrera global por las AGI, recordando los riesgos de una situación que podría tener serias repercusiones internacionales.
Recientemente, Schmidt se unió a otros expertos como Alexandr Wang, CEO de Scale AI, y Dan Hendrycks, director del Center for AI Safety, para firmar un documento de políticas que advierte sobre la posibilidad de represalias si Estados Unidos intenta liderar el desarrollo de las AGI.
El estudio, titulado «Superintelligence Strategy», señala que países tecnológicamente poderosos, como China, podrían reaccionar a esta carrera con ciberataques, lo que provocaría una gran inestabilidad en las relaciones internacionales y podría incluso aumentar la tensión entre las naciones.
La idea de crear una «superarma» a través de las AGI, que otorgaría control global, se compara con el Proyecto Manhattan, el programa secreto de Estados Unidos que desarrolló la bomba atómica.
El documento sugiere que, al igual que en el caso de las armas nucleares, el desarrollo de AGI podría desencadenar una serie de represalias y aumentar aún más los riesgos de un conflicto global.
Según el estudio, algo que comienza como una búsqueda de más poder y control puede rápidamente transformarse en un peligroso juego de escalada de tensiones.
La recomendación del estudio es que Estados Unidos adopte una postura más defensiva, monitoreando y, si es necesario, desactivando proyectos de IA considerados amenazantes en otros países. Esto incluiría expandir el arsenal de ciberataques para protegerse contra estas tecnologías y limitar el acceso a chips avanzados y modelos de IA.
El cambio de opinión de Schmidt, quien anteriormente defendía una competencia agresiva en el campo de la IA, refleja una preocupación creciente de que la búsqueda de AGI debe hacerse con mucha cautela, para evitar una carrera desenfrenada que pueda poner en riesgo al mundo.
