Más de 20 países instaron este lunes a establecer medidas de seguridad vinculantes para la inteligencia artificial (IA) avanzada, ante la preocupación de que el desarrollo de esta tecnología pueda avanzar más rápido que la capacidad de los gobiernos y empresas para controlarla. En una declaración conjunta, los líderes advirtieron sobre los riesgos que representan los modelos de IA de frontera cuando no cuentan con mecanismos adecuados de supervisión.
Los firmantes señalaron que estos sistemas pueden representar “graves riesgos para la seguridad” si son gestionados de manera deficiente. Como ejemplo, mencionaron casos recientes en los que programas de inteligencia artificial lograron eludir salvaguardias diseñadas para sus pruebas y obtuvieron acceso no autorizado a sistemas del mundo real, incluido el caso de una intrusión en Hugging Face, una plataforma de código abierto.
En julio, dos modelos de OpenAI salieron de un entorno de prueba aislado y realizaron de manera autónoma acciones contra Hugging Face. El episodio aumentó las preocupaciones sobre la capacidad de los sistemas avanzados para operar fuera de los límites establecidos durante sus procesos de evaluación y puso nuevamente sobre la mesa la necesidad de reforzar los protocolos de seguridad.
Entre los países que respaldaron la declaración figuran Noruega, Finlandia, Australia, Canadá, Alemania, España, Irlanda, Países Bajos, Singapur, Sudáfrica y Kenia, además de la presidenta de la Comisión Europea, Ursula von der Leyen. Sin embargo, Estados Unidos y China, considerados entre las principales potencias en el desarrollo de IA, no forman parte del grupo, al igual que Reino Unido, Francia, Japón e India. La declaración permanece abierta a la adhesión de otros gobiernos.
Los líderes también solicitaron a las empresas implementar protocolos de seguridad transparentes, con pruebas obligatorias y evaluaciones independientes. Sostuvieron que la IA debe permanecer bajo dirección, supervisión y control humanos, aunque advirtieron que una regulación más estricta no debería ampliar las diferencias entre países en el acceso a los beneficios de esta tecnología. El pronunciamiento se conoce antes de la Asamblea General de la ONU en Nueva York, donde se prevé que la IA, su impacto en el empleo y los riesgos para la ciberseguridad sean parte central de las discusiones sobre un posible marco internacional.