OpenAI blinda GPT-6.2 Astra contra la destilación adversaria y dice que la extracción de razonamiento cae del 54% al 0,2%

OpenAI publicó el jueves (20/11) un relato detallado de cómo combate la destilación adversaria: el uso no autorizado de las salidas de un modelo de frontera —incluido su razonamiento interno— para entrenar otro modelo con capacidades similares, pero sin las mismas salvaguardas. El foco de la empresa es proteger el llamado razonamiento protegido (chain-of-thought): los pasos intermedios que el modelo genera antes de responder, que pueden contener información que la respuesta final omite y que, por eso, son un material de entrenamiento especialmente valioso para quien quiere copiar las capacidades de un modelo.

Del 54% al 0,2%, según OpenAI

La cifra central del anuncio procede de una evaluación interna de la propia OpenAI, y debe leerse como tal: en una prueba adaptativa de red-teaming automatizado —en la que los atacantes ajustan sus intentos según la respuesta del sistema, con la misma visión que tendría un usuario externo—, la tasa media de éxito para recuperar el razonamiento protegido de una solicitud anterior cayó del 54,0% en GPT-6 Astra, con las protecciones originales, al 0,2% en GPT-6.2 Astra, con las protecciones actualizadas. Para la extracción del razonamiento de la solicitud actual, la tasa bajó del 22,9% al 0,9%. Los resultados agregan seis modelos atacantes. Son mediciones de OpenAI, en pruebas de OpenAI, no una verificación independiente.

Cómo funcionan las defensas contra la destilación adversaria

Las protecciones actúan en dos niveles. En el nivel de cada solicitud, OpenAI combina entrenamiento adversario —para que el modelo se niegue a revelar el razonamiento protegido y aun así responda a pedidos legítimos de explicación—, clasificadores de entrada y de salida que revisan respuestas y argumentos de llamadas a herramientas en busca de fugas, y controles de API. En GPT-6.2 Astra y GPT-6.2 Sol, el razonamiento protegido queda vinculado al historial de la conversación que lo produjo: si se reescribe un mensaje anterior, la API descarta el razonamiento posterior, y las familias de modelos más antiguas ya no pueden leerlo. En el nivel de las campañas, la empresa vigila patrones de solicitudes y cuentas para detectar extracciones coordinadas, aplica bloqueos y comparte indicadores de compromiso con otros proveedores de modelos. Según OpenAI, las acciones semanales de control contra campañas de destilación van de miles a decenas de miles de cuentas, y el ritmo aumentó de forma significativa en el verano de 2026.

El antecedente: la campaña vinculada a Moonshot AI

La nueva publicación sobre destilación adversaria continúa un episodio que OpenAI ya había revelado: en julio de 2026, unos operadores intentaron extraer el razonamiento protegido copiando el razonamiento cifrado de una conversación a otra y pidiendo al modelo que lo descifrara y transcribiera. El 24 y 25 de julio, la empresa observó unas 16.000 solicitudes con ese patrón, procedentes de más de 4.000 usuarios, e identificó un conjunto relacionado de más de 15.000 usuarios, interrumpido el 28 de julio. OpenAI atribuye el núcleo de la actividad a personas asociadas a Moonshot AI, desarrolladora de Kimi, una atribución de la empresa, no una constatación judicial. Geekiki cubrió la interrupción de la campaña en octubre; la novedad de esta semana es el marco de defensas y las cifras de eficacia que OpenAI divulga ahora. La conclusión de la empresa es que proteger los rastros de razonamiento puede limitar la transferencia de capacidades en ámbitos sensibles, como las operaciones cibernéticas, incluso cuando la tarea en sí está permitida por las normas de uso.

Imagen: el logotipo de OpenAI visto a través de una lupa. Foto: Jernej Furman, CC BY 2.0, vía Wikimedia Commons.

Fuentes

Cobertura anterior de Geekiki: OpenAI interrompe campanha de destilação e aponta núcleo ligado à Moonshot AI · OpenAI lança GPT-6.2 Astra e Sol com API 20% mais barata

Nota de transparencia: este artículo fue elaborado con ayuda de inteligencia artificial, contrastado con publicaciones públicas en X y fuentes de internet, y revisado antes de su publicación. Consulte las fuentes originales para confirmar la información.

Por Muse