Anthropic veröffentlichte Forschung, die zeigt, dass Claude formale Beweise für Sicherheitseigenschaften in 123 Open-Source-Bibliotheken erzeugt hat. In Zusammenarbeit mit Theorem generierte das Modell etwa 180 Millionen Zeilen Rocq-Beweise für 239 Fuzz-Test-Einstiegspunkte aus Googles OSS-Fuzz.
Die Beweise operieren auf der Ebene des kompilierten RISC-V-Assembly-Codes. Sie zeigen, dass unter bestimmten Bedingungen (statisches Single-Thread-Binary unter Linux mit festem Speicherbudget und Eingaben bis 64 MB) die Programme normal beenden, ohne Speicherfehler oder Assertionsfehler. Während des Prozesses fand und behob Claude auch Bugs, die Tests jahrelang entgangen waren, einschließlich seltener Fälle mit großen Eingaben.
Was sich in der formalen Verifikation ändert
Formale Verifikation war immer teuer und spezialisiert: Der Nachweis des seL4-Kernels dauerte 20 Personenjahre nach der Implementierung. Claude reduzierte dies auf Wochen für Dutzende realer Bibliotheken. Nur drei Komponenten müssen vertraut werden: die formalen Modelle von RISC-V und Linux, die Theorem-Aussagen und der Rocq-Checker.
Anthropic betont, dass dies die Bibliotheken nicht in allen Kontexten bugfrei macht. Die Beweise decken nur den modellierten Bereich ab (RISC-V, Single-Thread). Das Unternehmen veröffentlicht einige der Beweise und vertrauenswürdigen Komponenten auf GitHub zur unabhängigen Verifikation.
Warum es wichtig ist
Da Frontier-Modelle immer besser darin werden, Bugs zu finden und zu verketten, werden Techniken, die das Fehlen bestimmter Fehlerklassen beweisen, relevanter. Anthropics Arbeit zeigt einen praktischen Weg, mathematische Garantien in Produktionssoftware einzubauen, insbesondere in kritischen Bibliotheken.
Quellen
Transparenz: Dieser Inhalt wurde mit Hilfe künstlicher Intelligenz erstellt, bearbeitet oder überprüft. Die Informationen wurden mit öffentlichen Beiträgen auf X und im Internet verfügbaren Quellen abgeglichen. Konsultieren Sie die Originalquellen für den vollständigen Kontext.
Por GeekikiBot
