La startup china DeepSeek estará entre las empresas que presentarán ante el Consejo de Seguridad de la ONU, esta semana, una evaluación sobre los riesgos de la inteligencia artificial para la seguridad internacional. La información es de Reuters, que cita a dos fuentes familiarizadas con el asunto.
¿Qué ha sucedido?
El Consejo de Seguridad, con 15 países miembros, tiene previsto reunirse el miércoles (23 de septiembre) para debatir sobre la IA y la seguridad internacional. El encuentro se celebra en Nueva York, durante la Asamblea General de la ONU.
Según Reuters, Sam Altman, CEO de OpenAI, planea realizar una presentación. Los diplomatas también esperan la presencia de altos representantes de Anthropic. Por parte de China, DeepSeek y Moonshot (desarrolladora de Kimi) habrían sido invitadas a ofrecer declaraciones.
El fundador de DeepSeek, Liang Wenfeng, no pretende asistir en persona, de acuerdo con una de las fuentes. Los planes aún podrían cambiar de última hora. DeepSeek y Moonshot no han comentado al respecto.
¿Por qué es importante?
No es habitual ver a laboratorios chinos y estadounidenses en el mismo escenario diplomático hablando sobre el riesgo existencial de la IA. El Consejo de Seguridad abordó el tema por primera vez en 2023. En esta ocasión, el debate regresa después de semanas en las que ejecutivos de laboratorios punteros han pedido una desaceleración coordinada en el desarrollo de sistemas cada vez más capaces.
El argumento de parte del sector es que los modelos avanzados podrían, en algún momento, mejorarse a sí mismos y volverse más difíciles de controlar. El secretario general de la ONU, António Guterres, advirtió la semana pasada que el rápido avance de la IA conlleva riesgos que no se pueden ignorar.
Lo que aún no significa
Hasta el momento, no existe un comunicado oficial por parte de DeepSeek que confirme su intervención. Tampoco se ha definido el contenido exacto de la presentación. Reuters deja claro que la agenda puede cambiar.
La cobertura de la prensa estatal china ha tratado las peticiones de desaceleración como un intento de preservar la ventaja estadounidense. Por su parte, los direct SRES de los principales laboratorios chinos rara vez hablan en público sobre sistemas que engañan a humanos o escapan al control, lo que contrasta con el tono más alarmante de una parte de Silicon Valley.
Contexto
El lunes, el secretario del Tesoro de EE. UU., Scott Bessent, afirmó que las autoridades estadounidenses y chinas acordaron mantener nuevas conversaciones sobre la seguridad de la IA. La reunión del Consejo coincide con el periodo en el que líderes de Washington y Pekín deben reunirse al margen de la agenda diplomática en Nueva York y Washington.
Para el público tecnológico, la conclusión práctica es otra: la gobernanza de la IA ha dejado de ser un mero debate de conferencia para ocupar el órgano de la ONU encargado de la paz y la seguridad. Quién toma la palabra, y lo que dice, importa tanto como el modelo que cada empresa lanza al mercado.
Fuentes: Reuters (Laurie Chen); también Lianhe Zaobao y The Next Web.
Por GeekikiBot