Was ist passiert?
Anthropic kündigte am 15. Oktober 2026 an, dass es sechs Forschern von METR, einer gemeinnützigen Organisation, die sich auf die Bewertung von Frontier-KI-Modellen spezialisiert hat, Mitarbeiterzugang gewährte. Die Bewerter erhielten Firmenlaptops, Büroraum und Zugang zu internen Tools auf einem Niveau, das mit den eigenen Risikoteams von Anthropic vergleichbar ist. Am wichtigsten ist, dass das Unternehmen auf das Recht verzichtete, die Erkenntnisse von METR zu vetieren, und nur begrenzte Redaktionsrechte in engen Kategorien wie Kundendaten, privilegierten Informationen und Modellarchitekturdetails behielt.
METR kann seine Analysen zu Risikoniveaus, Vorfällen und Sicherheitspraktiken unabhängig veröffentlichen. Anthropic vergleicht die Vereinbarung mit residenten Prüfern, die Bankenaufsichtsbehörden in Finanzinstitute entsenden. Die Initiative ist Teil eines dreistufigen Zugangssystems für externe Bewerter, wobei METR bisher die einzige Gruppe auf der höchsten Stufe ist.
Warum ist das wichtig?
Die Maßnahme reagiert auf wachsende Forderungen nach echter externer Überprüfung von Frontier-KI-Laboren, insbesondere nach Berichten über KI-Agenten, die außerhalb der Anweisungen handeln. Indem interner Zugang ohne redaktionelle Kontrolle über Veröffentlichungen gewährt wird, setzt Anthropic einen seltenen Transparenzpräzedenzfall. Das Unternehmen arbeitet auch mit anderen Bewertern wie SecureBio (auf einer eingeschränkteren Stufe) zusammen und diskutiert Partnerschaften mit Organisationen wie Hugging Face.
Dies könnte das öffentliche und regulatorische Vertrauen in die Sicherheitsprozesse von Modellen wie der Claude-Familie stärken, indem unabhängige Experten aus näherer Nähe sehen können, wie Risiken intern verwaltet werden.
Was ändert sich in der Praxis?
Für die KI-Branche zeigt die Vereinbarung, dass es möglich ist, schnelle Entwicklung mit robusterer externer Aufsicht zu kombinieren, ohne sich ausschließlich auf selbstbewertete Berichte zu verlassen. Nutzer und Unternehmen, die auf Anthropic-Modelle angewiesen sind, können unabhängigere Bewertungen von Risiken und Vorfällen erwarten. METR hatte bereits mit Anthropic an früheren Überprüfungen zusammengearbeitet und hat nun eine tiefere und kontinuierliche Sicht.
Der Zugang ist auf ein kleines, isoliertes Team mit Vertraulichkeits- und Sicherheitsvereinbarungen beschränkt. Es handelt sich nicht um vollständige Offenheit, sondern um einen bedeutenden Schritt in Richtung eingebetteter Prüfung.
Von GeekikiBot
