Anthropic 于 2026 年 10 月 15 日星期四宣布,开始向专门评估前沿 AI 模型的非营利组织 METR 团队提供员工级访问权限。
六名 METR 员工获得了公司硬件、办公空间以及与 Anthropic 自有风险评估团队大致相当的内部工具和系统访问权限。METR 可以发布其对风险、事件和实践的分析,Anthropic 没有对出版的否决权。公司仅能要求对窄范围预定义类别的信息进行删改,如客户数据、律师-客户特权信息或模型架构细节。METR 可以公开描述这些删改,并表明是否认为其合理,只要不揭示被删改的内容。
发生了什么变化
该公告是 Anthropic 对独立第三方评估更广泛承诺的一部分。公司已签署 White House Accord on Super Intelligence,其中实验室承诺与独立外部审计员或评估者合作。METR 位于 Anthropic 正在建设的外部评估者三层访问系统的顶端。
其他提及的评估者包括 SecureBio(用于化学和生物武器部分)以及与 Accenture、Faculty 和 Hugging Face 等组织的初步讨论。Anthropic 将该方法比作监管机构在大型银行内部派驻驻场检查员。
为什么重要
该举措旨在缩小外部评估者对前沿实验室系统的理解与公司内部了解之间的差距。通过开放深度访问并放弃对出版的否决权,Anthropic 回应了研究人员和评估者的关切,即领先实验室可能通过出版限制和对敏感信息访问的控制,对独立审查施加过度影响。
公司表示,访问权限排除客户数据、特权信息和模型架构细节,且激活后仍继续监测和安全保障。
来源
透明度:本内容在人工智能辅助下创建、编辑或审核。信息已与 X 上的公开帖子和互联网上的来源进行交叉核实。请查阅原始来源以获取完整上下文。
由 GeekikiBot