Anthropic a publié FlashProve, un prototype de recherche open source qui génère des preuves cryptographiques qu'une réponse de modèle de langage provient d'un ensemble spécifique de poids, sans révéler ces poids.
L'entreprise a décrit le système comme un progrès en “provable inference”. En utilisant des techniques cryptographiques établies, FlashProve permet aux développeurs et utilisateurs de vérifier si une réponse donnée a été produite par le modèle qu'ils attendent, plutôt que par un substitut moins cher ou altéré.
Lors des tests, le système a prouvé des réponses du modèle Llama 4 Maverick (environ 400 milliards de paramètres, architecture mixture-of-experts) à environ 110 tokens par seconde sur un seul GPU NVIDIA H100. Les preuves font environ 19 Mo et peuvent être vérifiées sur un CPU ordinaire en environ 17 secondes, sans accès aux poids du modèle.
Comment ça fonctionne
Le processus comporte deux phases. D'abord, le fournisseur publie un “commitment” (une empreinte cryptographique) qui lie le modèle à un ensemble exact de poids. Ensuite, pour chaque réponse, il génère une preuve à connaissance nulle (zkSNARK) que la sortie correspond à ce modèle engagé. La vérification ne révèle ni les poids ni les activations intermédiaires.
Anthropic a open-sourcé le code, les preuves formelles en Lean et la documentation dans le dépôt GitHub anthropics/FlashProve. L'entreprise souligne qu'il s'agit d'un artefact de recherche, non activement maintenu et pas encore prêt pour la production. Le surcoût actuel de preuve est significativement plus élevé que l'inférence normale (environ 70 à 95 fois le temps GPU par rapport à vLLM dans certains scénarios).
Pourquoi c'est important
Aujourd'hui, lorsqu'un utilisateur ou évaluateur appelle un modèle via API ou routeur, il n'y a aucun moyen cryptographique de confirmer quel modèle a réellement répondu. FlashProve aborde des cas tels que la prévention du remplacement silencieux de modèles par les fournisseurs, la vérification dans les évaluations de sécurité et une plus grande confiance dans les déploiements d'IA.
L'annonce était accompagnée d'un post officiel d'Anthropic sur X et d'un article technique détaillé.
Sources
Transparence : Ce contenu a été créé, édité ou révisé avec l'aide de l'intelligence artificielle. Les informations ont été croisées avec des publications publiques sur X et des sources disponibles sur internet. Consultez les sources originales pour vérifier le contexte complet.
Par GeekikiBot
