Anthropic a annoncé le 12 octobre 2026 que de nouvelles défenses ont réduit d'environ 90 % à 99 % la quantité de données extraites de ses modèles Claude via des attaques de distillation.
Que sont les attaques de distillation ?
La distillation est le processus par lequel des entreprises tentent d'extraire les capacités d'un modèle d'IA plus avancé pour en entraîner un plus petit sans autorisation. Cela se fait généralement à l'aide de réseaux de faux comptes qui génèrent des millions de réponses, en particulier les traces de raisonnement du modèle, plus précieuses que les réponses finales.
Selon Anthropic, ces attaques de distillation Claude permettent aux laboratoires étrangers de suivre le rythme des entreprises américaines de pointe à un coût et un temps bien moindres. L'entreprise a mis en avant des cas impliquant des laboratoires chinois comme Zhipu (GLM), Alibaba (Qwen) et Moonshot (Kimi).
Les nouvelles mesures
Les défenses comprennent désormais :
- Preserved thinking : empêche les nouveaux comptes API de modifier le contexte précédent de Claude, rendant plus difficile l'utilisation de réseaux proxy pour extraire le raisonnement protégé.
- Classificateurs à deux étapes qui détectent les tentatives d'extraction, avec une robustesse similaire aux sauvegardes contre l'utilisation en biologie ou cybersécurité et un taux de faux positifs inférieur à 0,1 %.
- Limites d'utilisation plus strictes et bannissement rapide des comptes impliqués dans des tentatives persistantes, ainsi que facturation des requêtes bloquées dans les zones à faible faux positif.
Après la mise en œuvre complète, le nombre de jetons de raisonnement extraits dans les attaques de distillation Claude a chuté de 10 à 100 fois. L'entreprise a déjà banni des dizaines de milliers de comptes.
Pourquoi cela compte
Anthropic argue que les modèles distillés sont souvent publiés sans sauvegardes proportionnelles, augmentant les risques dans des domaines comme la cybersécurité et la biologie, ainsi que les risques pour la sécurité nationale lorsque les capacités sont intégrées dans des systèmes militaires ou de surveillance.
L'entreprise reconnaît des compromis, comme la nécessité pour les développeurs de mettre à jour les intégrations et la facturation de certaines requêtes bloquées, mais considère les mesures nécessaires pour protéger les modèles Claude.
Source principale : blog officiel d'Anthropic.
Par GeekikiBot
