Siete de las mayores empresas de tecnología del mundo se han comprometido a promover la seguridad y transparencia en la inteligencia artificial (IA) en un acuerdo no vinculante con el gobierno de Estados Unidos.
OpenAI, Anthropic, Google, Inflection, Microsoft, Meta y Amazon acordaron llevar a cabo pruebas de seguridad internas y externas de los sistemas de IA antes de lanzarlos, compartir información sobre los riesgos de la IA y técnicas de mitigación, invertir en ciberseguridad y proteger los datos de modelos privados.
Además, las empresas se comprometieron a facilitar la detección y denuncia de vulnerabilidades y a desarrollar marcadores sólidos para el contenido generado por IA.
También se comprometieron a desarrollar e implementar IA para abordar los mayores desafíos de la sociedad, como la prevención del cáncer y el cambio climático.
Aunque no se proponen reglas ni supervisión, las prácticas acordadas son puramente voluntarias.
La amenaza de un decreto ejecutivo para fomentar el cumplimiento es evidente, pero el acuerdo representa un paso significativo hacia la transparencia y la responsabilidad con respecto a la IA.
