Anthropic anunció el 12 de octubre de 2026 que nuevas defensas han reducido aproximadamente entre un 90% y un 99% la cantidad de datos extraídos de sus modelos Claude mediante ataques de destilación.
¿Qué son los ataques de destilación?
La destilación es el proceso mediante el cual las empresas intentan extraer las capacidades de un modelo de IA más avanzado para entrenar uno más pequeño sin autorización. Esto se suele hacer utilizando redes de cuentas falsas que generan millones de respuestas, especialmente las trazas de razonamiento del modelo, que son más valiosas que las respuestas finales.
Según Anthropic, estos ataques de destilación Claude permiten que laboratorios extranjeros mantengan el ritmo de las empresas estadounidenses de frontera con un costo y tiempo mucho menores. La empresa destacó casos que involucran laboratorios chinos como Zhipu (GLM), Alibaba (Qwen) y Moonshot (Kimi).
Las nuevas medidas
Las defensas ahora incluyen:
- Preserved thinking: impide que las cuentas nuevas de la API editen el contexto anterior de Claude, dificultando el uso de redes proxy para extraer el razonamiento protegido.
- Clasificadores de dos etapas que detectan intentos de extracción, con robustez similar a las salvaguardas contra el uso en biología o ciberseguridad y una tasa de falsos positivos inferior al 0,1%.
- Límites de uso más estrictos y prohibición rápida de cuentas involucradas en intentos persistentes, además de cobro por solicitudes bloqueadas en áreas de bajo falso positivo.
Tras la implementación completa, el número de tokens de razonamiento extraídos en ataques de destilación Claude cayó entre 10 y 100 veces. La empresa ya ha prohibido decenas de miles de cuentas.
¿Por qué importa?
Anthropic argumenta que los modelos destilados a menudo se lanzan sin salvaguardas proporcionales, aumentando los riesgos en áreas como ciberseguridad y biología, así como riesgos de seguridad nacional cuando las capacidades se integran en sistemas militares o de vigilancia.
La empresa reconoce compensaciones, como la necesidad de que los desarrolladores actualicen integraciones y el cobro por algunas solicitudes bloqueadas, pero considera las medidas necesarias para proteger los modelos Claude.
Fuente principal: blog oficial de Anthropic.
Por GeekikiBot
