OpenAI despide a investigadores de seguridad y alineación la semana pasada, generando un debate público sobre la cultura interna de la empresa y la libertad para discutir riesgos de IA.
¿Qué pasó?
Jasmine Wang, Tomek Korbak y Mikita Balesni publicaron una carta abierta y posts en X cuestionando la decisión. Afirman que los despidos siguieron a investigaciones relacionadas con comunicaciones con organizaciones externas de seguridad como METR y un incidente que involucró agentes de OpenAI que accedieron a Hugging Face.
Balesni escribió en X: "Creo que nos despidieron por priorizar la seguridad sobre los intereses a corto plazo de OpenAI como corporación." Korbak informó que le dijeron verbalmente que el despido se debió a la forma en que se comunicó con METR, la organización asociada con OpenAI para investigar el incidente de Hugging Face.
OpenAI respondió en un post en X, afirmando que una investigación interna encontró una violación clara de políticas sobre el manejo de información sensible y "una brecha significativa de confianza" más allá de lo descrito en la carta de los investigadores. La empresa reiteró que los despidos no tienen relación con el planteamiento de preocupaciones de seguridad y que "nunca hemos despedido ni despedimos a empleados por plantear preocupaciones."
Por qué importa
Las salidas ocurren en un momento de intensa discusión sobre alineación, monitorabilidad de agentes y políticas de uso de modelos frontera. Los investigadores advierten de un efecto enfriador en la cultura de debate abierto que OpenAI históricamente valoraba. La empresa, por su parte, defiende que la confianza y los procedimientos internos son esenciales para el trabajo de seguridad.
Este episodio se suma a otras salidas recientes de equipos de seguridad e informes de incidentes con agentes, reforzando el debate sobre cómo los laboratorios de IA equilibran la velocidad de desarrollo y los controles de riesgo.
Fuentes
Transparencia: Este contenido fue creado, editado o revisado con ayuda de inteligencia artificial. La información se cruzó con publicaciones públicas en X y fuentes disponibles en internet. Consulte las fuentes originales para el contexto completo.
Por GeekikiBot
