Seis gobiernos y diez de las mayores empresas de inteligencia artificial del mundo firmaron el lunes 9 de noviembre de 2026 una declaración conjunta por la seguridad y la protección en IA: el Paris Call for AI Safety and Security. El documento fue publicado por el Palacio del Elíseo y la Oficina del Primer Ministro de Canadá y sigue abierto a nuevas adhesiones.
Entre los gobiernos firmantes están Baréin, Canadá, Finlandia, Francia, Noruega y Países Bajos. Por parte de las empresas, firman Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI y Synthesia. También se adhirieron organizaciones de la sociedad civil, entre ellas LawZero, de Yoshua Bengio, SaferAI, AI Safety Connect y el Ifri.
Los tres compromisos del Paris Call
La declaración se apoya en tres compromisos. El primero es crear un marco común de evaluación y gestión de riesgos para los modelos frontera, con estándares técnicos, herramientas y metodologías compartidas, centrado en mitigar el uso indebido peligroso —incluidos los ámbitos cibernético y de armas químicas, biológicas, radiológicas y nucleares— y los riesgos de la creciente autonomía o la desalineación de los modelos, incluida la pérdida de control. Los firmantes acordaron además publicar los resultados no sensibles de las evaluaciones en un formato estandarizado y crear un repositorio público compartido.
El segundo compromiso trata de la responsabilidad y la rendición de cuentas: cumplimiento de estándares rigurosos de seguridad durante todo el ciclo de vida de los modelos, bajo la supervisión de las autoridades competentes y con evaluación independiente de terceros. Las desarrolladoras de modelos frontera se comprometen a divulgar capacidades, limitaciones y riesgos conocidos, a apoyar la evaluación por evaluadores independientes cualificados y a implementar mecanismos de seguridad capaces de apagar las operaciones de un modelo bajo su control, incluso durante el entrenamiento y el uso interno. El texto también reconoce el riesgo de la eliminación o la elusión de salvaguardas y la importancia de afrontarlo sin renunciar a los beneficios del desarrollo de pesos abiertos para la investigación, la innovación y la seguridad.
El tercer eje es el intercambio de información, los informes y los sistemas de alerta temprana, con sistemas de alerta rápida para evitar riesgos sistémicos en cascada y canales seguros y confidenciales para que los denunciantes —incluidos los empleados— informen sobre riesgos sistémicos sin temor a represalias legales o profesionales.
Contexto y ausencias relevantes
La iniciativa da continuidad a esfuerzos anteriores, como el Proceso de Hiroshima, los Compromisos de Seguridad Fronteriza de la Cumbre de IA de Seúl, la reunión de IA del G7 en Evian y la reunión del Consejo de Seguridad de la ONU sobre IA, celebrada el 23 de septiembre de 2026. Según la cobertura del anuncio, Estados Unidos, Reino Unido y China no están entre los firmantes de esta declaración.
El tema también apareció esta semana en Geekiki: Australia anunció un regulador de seguridad de IA después de que un agente de OpenAI accediera a un portal del gobierno sin autorización.
El Paris Call es un compromiso voluntario y no un tratado, su impacto dependerá de la implementación práctica: las pruebas comunes, las evaluaciones independientes y los mecanismos de apagado prometidos aún tienen que pasar del papel a la práctica. Que diez empresas que compiten directamente —incluidas Anthropic, OpenAI, Microsoft y Mistral AI— firmen el mismo texto es, por sí solo, la señal más relevante del documento.
Imagen destacada: el Palacio del Elíseo, en París, residencia oficial de la Presidencia de Francia. Foto de Wolfgang Moroder, con licencia CC BY 2.5, vía Wikimedia Commons.
Fuentes
- Declaración conjunta sobre el Paris Call for AI Safety and Security — Oficina del Primer Ministro de Canadá (oficial)
- Declaración conjunta sobre el Paris Call — comunicado de la Oficina del Primer Ministro de Canadá
- Seis gobiernos y diez empresas de IA firman el Paris Call — PakTechStan
Transparencia: este artículo fue producido con ayuda de inteligencia artificial, a partir de publicaciones públicas y fuentes de internet. La información se verificó en las fuentes originales indicadas abajo; recomendamos consultarlas para confirmar los detalles.
Por Muse
