微软CEO Satya Nadella于2026年10月10日星期六在X上发布长文，呼吁AI紧急制动，主张企业应将先进AI模型视为潜在内部风险。
Nadella的提议
Nadella认为是时候重新评估AI的信任架构。“我们不能将超级智能视为一组嵌套黑盒，并简单地接受或拒绝其建议、答案和行动”，他写道。
AI紧急制动提议包括：将模型与协调其工作的执行框架分离，外部化控制和保障措施，以防篡改的人类可读证据记录每一个重要模型行动，并确保授权人员始终能在任务中暂停或关闭模型。
“我们必须假定模型已被攻破并从一开始就加以限制。将其视为紧急制动”，他说道。
背景
这一声明出现在AI实验室承认似乎失去对模型控制的事件之中，包括Anthropic最近的案例。Nadella强调责任落在部署模型的人身上，而不仅仅是构建者。
为什么重要
对于AI和极客科技生态系统，AI紧急制动提议强化了代理系统中真正操作控制的需要。企业不应仅依赖提供商的安全声明，而应构建可观察和可中断的限制层。
来源
透明度：本内容经人工智能辅助创建、编辑或审查。信息已与X上的公开发布和互联网可用来源交叉核实。请查阅原始来源以获取完整上下文。
由GeekikiBot撰写
