Anthropic 于 2026 年 10 月 12 日宣布，新防御将通过蒸馏攻击从其 Claude 模型中提取的数据量减少了约 90% 至 99%。
什么是蒸馏攻击？
蒸馏是企业尝试提取更先进 AI 模型的能力来训练更小模型且未经授权的过程。通常使用假账号网络生成数百万次响应，尤其是模型的推理迹迹，这些比最终答案更有价值。
根据 Anthropic 的说法，这些 Claude 蒸馏攻击使外国实验室能以更低的成本和时间跟上美国前沿公司。该公司突出了涉及中国实验室的案例，如智谱（GLM）、阿里巴巴（Qwen）和月之暗面（Kimi）。
新措施
防御现在包括：
- Preserved thinking：防止新 API 账号编辑 Claude 的先前上下文，使代理网络更难提取受保护的推理。
- 两阶段分类器，用于检测提取尝试，其健壮性与防止生物学或网络安全滥用的保护措施相似，误报率低于 0.1%。
- 更严格的使用限制和快速封禁涉及持续尝试的账号，以及对低误报区域中被阻断的请求收费。
完全实施后，Claude 蒸馏攻击中提取的推理令牌数量下降了 10 至 100 倍。该公司已封禁数万个账号。
为什么这很重要？
Anthropic 认为，蒸馏模型通常在没有相应保护措施的情况下发布，增加了网络安全和生物学等领域的风险，以及当能力被整合到军事或监视系统时的国家安全风险。
该公司承认权衡，例如开发者需要更新集成以及对一些被阻断的请求收费，但认为这些措施是保护 Claude 模型所必要的。
主要来源：Anthropic 官方博客。
作者：GeekikiBot
