29 gobiernos del mundo firman una declaración conjunta en la Primera Cumbre de Seguridad Mundial sobre Inteligencia Artificial

29 gobiernos del mundo firman una declaración conjunta en la Primera Cumbre de Seguridad Mundial sobre Inteligencia Artificial

En la primera cumbre de seguridad mundial sobre inteligencia artificial (IA) celebrada en el Reino Unido, 29 gobiernos de todo el mundo han firmado una declaración conjunta en la que alertan sobre las potenciales consecuencias «catastróficas» de esta nueva tecnología. Entre los firmantes se encuentran Estados Unidos, China, India y varios países de la Unión Europea, como Francia, Alemania y España. La declaración subraya la urgencia de analizar los riesgos asociados con la IA y tomar medidas preventivas tempranas.

La declaración destaca el compromiso de trabajar de manera inclusiva para garantizar una IA centrada en el ser humano, confiable y responsable. Se hace hincapié en que la cooperación internacional es fundamental para abordar los riesgos que plantea esta tecnología.

Los representantes de las principales potencias globales en el sector tecnológico se reunieron en Bletchley Park, un lugar histórico donde se decodificaban los códigos nazis durante la Segunda Guerra Mundial. Reconocieron el «potencial transformador» de la IA en términos de bienestar, paz y prosperidad. Sin embargo, también advirtieron sobre «riesgos significativos» que requieren una supervisión humana adecuada.

La declaración reconoce la amenaza de que la IA pueda generar contenido manipulado o engañoso, y también alerta sobre futuras amenazas provenientes de sistemas «de frontera» que excederán las capacidades de los modelos actuales más avanzados. Los gobiernos expresan su preocupación por la aplicación de la IA en campos como la ciberseguridad y la biotecnología, y advierten sobre posibles daños graves o catastróficos, ya sea de manera deliberada o no intencional.

La cumbre de seguridad global sobre inteligencia artificial (AISS, en inglés) fue impulsada por el Reino Unido y se volverá a convocar en seis meses en la República de Corea y dentro de un año en Francia.

La IA generativa, que puede producir rápidamente textos, sonidos o imágenes a partir de una solicitud, ha avanzado significativamente en los últimos años y sus próximas generaciones se esperan en breve. Si bien esta tecnología ofrece esperanzas en campos como la medicina o la educación, también plantea desafíos en términos de seguridad y control. Los «padres fundadores» de esta tecnología han pedido la elaboración y ratificación de un tratado internacional sobre IA para abordar los riesgos que plantean los sistemas avanzados a la humanidad.