M\u00e1s de 20 pa\u00edses instaron este lunes a establecer medidas de seguridad vinculantes para la inteligencia artificial (IA) avanzada, ante la preocupaci\u00f3n de que el desarrollo de esta tecnolog\u00eda pueda avanzar m\u00e1s r\u00e1pido que la capacidad de los gobiernos y empresas para controlarla. En una declaraci\u00f3n conjunta, los l\u00edderes advirtieron sobre los riesgos que representan los modelos de IA de frontera cuando no cuentan con mecanismos adecuados de supervisi\u00f3n.<\/p>\n\n\n\n
Los firmantes se\u00f1alaron que estos sistemas pueden representar \u201cgraves riesgos para la seguridad\u201d si son gestionados de manera deficiente. Como ejemplo, mencionaron casos recientes en los que programas de inteligencia artificial lograron eludir salvaguardias dise\u00f1adas para sus pruebas y obtuvieron acceso no autorizado a sistemas del mundo real, incluido el caso de una intrusi\u00f3n en Hugging Face, una plataforma de c\u00f3digo abierto.<\/p>\n\n\n\n
En julio, dos modelos de OpenAI salieron de un entorno de prueba aislado y realizaron de manera aut\u00f3noma acciones contra Hugging Face. El episodio aument\u00f3 las preocupaciones sobre la capacidad de los sistemas avanzados para operar fuera de los l\u00edmites establecidos durante sus procesos de evaluaci\u00f3n y puso nuevamente sobre la mesa la necesidad de reforzar los protocolos de seguridad.<\/p>\n\n\n\n
Entre los pa\u00edses que respaldaron la declaraci\u00f3n figuran Noruega, Finlandia, Australia, Canad\u00e1, Alemania, Espa\u00f1a, Irlanda, Pa\u00edses Bajos, Singapur, Sud\u00e1frica y Kenia, adem\u00e1s de la presidenta de la Comisi\u00f3n Europea, Ursula von der Leyen. Sin embargo, Estados Unidos y China, considerados entre las principales potencias en el desarrollo de IA, no forman parte del grupo, al igual que Reino Unido, Francia, Jap\u00f3n e India. La declaraci\u00f3n permanece abierta a la adhesi\u00f3n de otros gobiernos.<\/p>\n\n\n\n
Los l\u00edderes tambi\u00e9n solicitaron a las empresas implementar protocolos de seguridad transparentes, con pruebas obligatorias y evaluaciones independientes. Sostuvieron que la IA debe permanecer bajo direcci\u00f3n, supervisi\u00f3n y control humanos, aunque advirtieron que una regulaci\u00f3n m\u00e1s estricta no deber\u00eda ampliar las diferencias entre pa\u00edses en el acceso a los beneficios de esta tecnolog\u00eda. El pronunciamiento se conoce antes de la Asamblea General de la ONU en Nueva York, donde se prev\u00e9 que la IA, su impacto en el empleo y los riesgos para la ciberseguridad sean parte central de las discusiones sobre un posible marco internacional.<\/p>\n","protected":false},"excerpt":{"rendered":"
M\u00e1s de 20 pa\u00edses instaron este lunes a establecer medidas de seguridad vinculantes para la inteligencia artificial (IA) avanzada, ante la preocupaci\u00f3n de que el… <\/p>\n","protected":false},"author":12,"featured_media":103453,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[150],"class_list":["post-103452","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-destacados","tag-internacionales"],"_links":{"self":[{"href":"https:\/\/megavision.com.sv\/web\/wp-json\/wp\/v2\/posts\/103452","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/megavision.com.sv\/web\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/megavision.com.sv\/web\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/megavision.com.sv\/web\/wp-json\/wp\/v2\/users\/12"}],"replies":[{"embeddable":true,"href":"https:\/\/megavision.com.sv\/web\/wp-json\/wp\/v2\/comments?post=103452"}],"version-history":[{"count":1,"href":"https:\/\/megavision.com.sv\/web\/wp-json\/wp\/v2\/posts\/103452\/revisions"}],"predecessor-version":[{"id":103454,"href":"https:\/\/megavision.com.sv\/web\/wp-json\/wp\/v2\/posts\/103452\/revisions\/103454"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/megavision.com.sv\/web\/wp-json\/wp\/v2\/media\/103453"}],"wp:attachment":[{"href":"https:\/\/megavision.com.sv\/web\/wp-json\/wp\/v2\/media?parent=103452"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/megavision.com.sv\/web\/wp-json\/wp\/v2\/categories?post=103452"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/megavision.com.sv\/web\/wp-json\/wp\/v2\/tags?post=103452"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}