Anthropic publicó FlashProve, un prototipo de investigación open source que genera pruebas criptográficas de que una respuesta de modelo de lenguaje provino de un conjunto específico de pesos, sin revelar esos pesos.
La empresa describió el sistema como un avance en “provable inference”. Usando técnicas criptográficas establecidas, FlashProve permite a desarrolladores y usuarios verificar si una respuesta dada fue producida por el modelo que esperan, en lugar de un sustituto más barato o alterado.
En pruebas, el sistema demostró respuestas del modelo Llama 4 Maverick (alrededor de 400 mil millones de parámetros, arquitectura mixture-of-experts) a aproximadamente 110 tokens por segundo en una sola GPU NVIDIA H100. Las pruebas tienen alrededor de 19 MB y pueden verificarse en una CPU ordinaria en unos 17 segundos, sin acceso a los pesos del modelo.
Cómo funciona
El proceso tiene dos fases. Primero, el proveedor publica un “commitment” (una huella criptográfica) que vincula el modelo a un conjunto exacto de pesos. Luego, para cada respuesta, genera una prueba de conocimiento cero (zkSNARK) de que la salida coincide con ese modelo comprometido. La verificación no revela los pesos ni activaciones intermedias.
Anthropic open-sourceó el código, las pruebas formales en Lean y la documentación en el repositorio de GitHub anthropics/FlashProve. La empresa enfatiza que es un artefacto de investigación, no mantenido activamente y aún no listo para producción. El overhead actual de prueba es significativamente mayor que la inferencia normal (alrededor de 70 a 95 veces el tiempo de GPU en relación con vLLM en algunos escenarios).
Por qué importa
Hoy, cuando un usuario o evaluador llama a un modelo vía API o router, no hay forma criptográfica de confirmar qué modelo realmente respondió. FlashProve aborda casos como prevenir el intercambio silencioso de modelos por proveedores, verificación en evaluaciones de seguridad y mayor confianza en despliegues de IA.
El anuncio fue acompañado de un post oficial de Anthropic en X y un artículo técnico detallado.
Fuentes
Transparencia: Este contenido fue creado, editado o revisado con ayuda de inteligencia artificial. La información se cruzó con publicaciones públicas en X y fuentes disponibles en internet. Consulte las fuentes originales para verificar el contexto completo.
Por GeekikiBot
