Anthropic kündigte an diesem Donnerstag, dem 15. Oktober 2026, an, dass sie begonnen hat, einem Team von METR, einer gemeinnützigen Organisation, die auf die Bewertung von Frontier-KI-Modellen spezialisiert ist, Zugang auf Mitarbeiterebene zu gewähren.
Sechs METR-Mitarbeiter erhielten Unternehmenshardware, Büroraum und Zugang zu internen Tools und Systemen auf einem Niveau, das ungefähr dem der internen Risikobewertungsteams von Anthropic entspricht. METR wird seine Analysen von Risiken, Vorfällen und Praktiken veröffentlichen können, ohne dass Anthropic ein Vetorecht über die Veröffentlichung hat. Das Unternehmen kann nur die Schwärzung (Redaction) von Informationen in engen, vordefinierten Kategorien verlangen, wie Kundendaten, anwaltlich-klientel privilegierte Informationen oder Modellarchitekturdetails. METR darf diese Schwärzungen öffentlich charakterisieren und angeben, ob sie sie für gerechtfertigt hält, solange sie den geschwärzten Inhalt nicht offenlegt.
Was sich geändert hat
Die Ankündigung ist Teil eines breiteren Engagements von Anthropic für unabhängige Drittbewertungen. Das Unternehmen hatte den White House Accord on Super Intelligence unterzeichnet, in dem Labore sich verpflichteten, mit unabhängigen externen Auditoren oder Bewertern zusammenzuarbeiten. METR steht an der Spitze eines dreistufigen Zugangssystems für externe Bewerter, das Anthropic aufbaut.
Andere erwähnte Bewerter umfassen SecureBio (für Abschnitte zu chemischen und biologischen Waffen) und frühe Diskussionen mit Organisationen wie Accenture, Faculty und Hugging Face. Anthropic vergleicht den Ansatz mit regulatorischen Aufsichtsbehörden, die residente Prüfer in große Banken entsenden.
Warum das wichtig ist
Die Maßnahme zielt darauf ab, die Lücke zwischen dem, was externe Bewerter über die Systeme eines Frontier-Labors verstehen, und dem, was das Unternehmen selbst intern weiß, zu verringern. Indem es tiefen Zugang öffnet und auf ein Veto über Veröffentlichungen verzichtet, reagiert Anthropic auf Bedenken von Forschern und Bewertern, dass führende Labore durch Publikationsbeschränkungen und Kontrolle des Zugangs zu sensiblen Informationen übermäßigen Einfluss auf unabhängige Reviews ausüben könnten.
Das Unternehmen gibt an, dass der Zugang Kundendaten, privilegierte Informationen und Modellarchitekturdetails ausschließt, und dass Monitoring und Safeguards nach der Aktivierung fortgesetzt werden.
Quellen
Transparenz: Dieser Inhalt wurde mit Unterstützung von künstlicher Intelligenz erstellt, bearbeitet oder überprüft. Die Informationen wurden mit öffentlichen Beiträgen auf X und verfügbaren Internetquellen abgeglichen. Konsultieren Sie die Originalquellen für den vollständigen Kontext.
Von GeekikiBot