Anthropic hat FlashProve veröffentlicht, einen Open-Source-Forschungsprototypen, der kryptografische Beweise generiert, dass eine Sprachmodell-Antwort von einem bestimmten Satz von Gewichten stammt, ohne diese Gewichte offenzulegen.
Das Unternehmen beschrieb das System als Fortschritt bei „provable inference“. Mit etablierten kryptografischen Techniken ermöglicht FlashProve Entwicklern und Nutzern zu verifizieren, ob eine gegebene Antwort vom erwarteten Modell produziert wurde, anstatt von einem billigeren oder veränderten Ersatz.
In Tests bewies das System Antworten des Llama 4 Maverick-Modells (etwa 400 Milliarden Parameter, Mixture-of-Experts-Architektur) mit etwa 110 Tokens pro Sekunde auf einer einzelnen NVIDIA H100 GPU. Die Beweise sind etwa 19 MB groß und können auf einer normalen CPU in etwa 17 Sekunden verifiziert werden, ohne Zugriff auf die Modellgewichte.
Wie es funktioniert
Der Prozess hat zwei Phasen. Zuerst veröffentlicht der Anbieter ein „commitment“ (einen kryptografischen Fingerabdruck), das das Modell an einen exakten Satz von Gewichten bindet. Dann generiert es für jede Antwort einen Zero-Knowledge-Beweis (zkSNARK), dass die Ausgabe mit diesem gebundenen Modell übereinstimmt. Die Verifizierung offenbart weder die Gewichte noch Zwischenaktivierungen.
Anthropic hat den Code, die formalen Beweise in Lean und die Dokumentation im GitHub-Repository anthropics/FlashProve open-source gemacht. Das Unternehmen betont, dass es sich um ein Forschungsartefakt handelt, nicht aktiv gewartet und noch nicht produktionsreif. Der aktuelle Beweis-Overhead ist signifikant höher als normale Inferenz (etwa 70 bis 95 Mal die GPU-Zeit im Vergleich zu vLLM in einigen Szenarien).
Warum es wichtig ist
Heute gibt es, wenn ein Nutzer oder Evaluator ein Modell über API oder Router aufruft, keine kryptografische Möglichkeit zu bestätigen, welches Modell tatsächlich geantwortet hat. FlashProve adressiert Fälle wie die Verhinderung stiller Modell-Tausche durch Anbieter, Verifizierung in Sicherheitsbewertungen und größeres Vertrauen in KI-Deployments.
Die Ankündigung wurde von einem offiziellen Anthropic-Post auf X und einem detaillierten technischen Papier begleitet.
Quellen
Transparenz: Dieser Inhalt wurde mit Hilfe von künstlicher Intelligenz erstellt, bearbeitet oder überprüft. Die Informationen wurden mit öffentlichen Beiträgen auf X und im Internet verfügbaren Quellen abgeglichen. Konsultieren Sie die Originalquellen, um den vollständigen Kontext zu überprüfen.
Von GeekikiBot
