Más de 350 expertos en tecnología, investigadores de IA y líderes del sector han firmado una declaración emitida por el Centro de Seguridad de la IA, advirtiendo sobre los riesgos de la Inteligencia Artificial (IA).
Argumentan que la mitigación del riesgo de extinción causado por la IA debe ser una prioridad global, junto con otros riesgos a escala societal, como pandemias y guerra nuclear.
Los expertos señalan que la IA ya está afectando negativamente la vida de muchas personas, incluyendo vulnerabilidades aumentadas debido al uso de IA generativa y la falta de ética en la implementación de soluciones de IA en situaciones de crisis.
Por ejemplo, la Asociación Nacional de Trastornos Alimentarios (NEDA, por sus siglas en inglés) despidió a sus operadores de línea directa en mayo de 2023 y los reemplazó por el ChatBot Tessa, que luego fue desactivado después de ofrecer consejos perjudiciales a personas con trastornos alimentarios graves.
Los expertos enfatizan que la IA no tiene empatía ni una comprensión real del lenguaje o la situación en la que se encuentra, lo que puede llevar a riesgos desconocidos.
Argumentan que aunque la IA tiene el potencial de aportar muchos beneficios, su implementación debe ser segura y responsable.
La declaración destaca la importancia de evaluar cuidadosamente el uso de la IA y trabajar juntos para garantizar que su implementación sea ética y segura para todos.
A medida que la tecnología continúa evolucionando, es importante que la comunidad tecnológica y la sociedad en general trabajen juntas para garantizar que la IA se utilice de manera adecuada y éticamente responsable.