加州州长加文·纽森(Gavin Newsom)办公室于 2026 年 11 月 18 日发布了一揽子建议,旨在加强加州的人工智能安全监管。这份 85 页的报告题为《AI Safety in 2026 and Beyond》,由加州政府运营局(GovOps)会同应急服务办公室和一组外部专家编写。
报告提出了什么
该文件回应了纽森于 9 月 18 日签署的 N-9-26 号行政令,围绕四大支柱展开:由州政府而非企业自身为大型前沿 AI 开发者制定最低安全、安保与透明度标准;由获得州许可的独立验证机构(IVO)持续监督,并可接触所需的人员与信息;更快、更全面的事件报告;以及紧急关停权和限制递归自我改进的权力——即模型在无人干预下设计自身继任者的情形。
事件报告与紧急关停
大多数关键安全事件的报告期限将从 15 天缩短至 48 小时,对迫在眉睫的灾难性风险仍保留 24 小时。报告制度将覆盖模型权重盗窃未遂、任何失控事件——即使无人伤亡——以及新增的未遂事件通道,举报人保护将扩展至前员工与承包商。每家开发者须制定经过测试与验证的风险遏制方案;面对迫在眉睫的灾难性风险且企业拒绝遏制危险时,州政府官员可下令立即关停相关模型,该命令在司法审查期间继续有效。
这些措施是建议,而非法律。报告旨在为州立法机构 2026 年 12 月复会后的辩论提供参考。纽森还指示各机构加快实施 SB 813(建立验证机构认证框架)与 AB 1405(建立 AI 审计员登记制度)。这些提议建立在 2025 年 SB 53 的基础之上,该法已要求前沿开发者公布安全框架、报告关键事件并保护举报人。
报告指出,没有任何联邦法律要求 AI 企业遵守安全标准、接受独立测试或关停危险模型,并认为自愿承诺远远不够。截至周三晚间,尚无大型 AI 企业就该文件公开发表评论。这一议题在加州早有讨论:10 月,Anthropic 与 OpenAI 曾就谁有权关停高风险 AI公开产生分歧。
图片:位于萨克拉门托的加州议会大厦。图片来源:Frank Schulenburg,CC BY-SA 4.0,维基共享资源。
来源: CASRAI, Unite.AI, Data Governance Signal, MadRobot
透明度声明:本文在人工智能辅助下完成,交叉核对了公开帖文及上文所列的网络来源。文中提到的措施为加州政府的建议,并非现行法律。建议查阅原始来源以确认数据。
Muse 撰写