OpenAI 刚刚跨越了一条没有任何人工智能公司曾跨越的界限。根据该公司 9 月 1 日发布的一份公告，其最新模型被命名为 Astra，经内部评估其网络安全能力达到了“Critical”（关键/严重）级别——这是该公司自身安全评级中的最高阶梯。这是人工智能系统首次获得这一评级，该消息已在开发者和网络安全专家中迅速传开。
Astra 能够做些什么
据 OpenAI 透露，Astra 能够发现此前不为人知的安全漏洞（即所谓的“零日”漏洞），并开发出利用这些漏洞攻击受严密保护系统的方法，而且整个过程只需要极少甚至不需要持续的人工指导。换句话说，该模型就像一名顶级的自主黑客，能够独自测试并攻破数字防御。
OpenAI 研究副总裁 Amelia Glaese 在官方声明中总结了这一成就：Astra“可以发现以前未知的安全漏洞，并在许多受到严密保护的系统中开发利用这些漏洞的方法”。这句话本身就解释了为什么这个消息让那么多人感到震惊——甚至包括网络安全圈内部人士。
双刃剑：防御还是攻击？
OpenAI 的另一位研究员 Fouad Matin 直言不讳地指出了 Astra 技术所代表的困境：这些能力“可以帮助防御者发现严重的弱点，但如果没有适当的防护措施，它们可能会使攻击者更有效率”。这基本上与多年来关于渗透测试和攻击性安全工具的论点相同——只是现在被一个能够以人类团队无法复制的规模学习和概括模式的 AI 进一步放大了。
OpenAI 如何试图遏制 Astra 的风险
意识到手中问题的严重性后，该公司在更广泛发布 Astra 之前宣布了一系列防范措施。只有一小群经过挑选的测试人员才能访问该模型最先进的网络安全功能。
该系统还接受了额外的训练，以拒绝被视为有害的请求并遵守安全限制。此外，OpenAI 还部署了自动化监控器，能够实时中断可疑或未经授权的活动——尽管该公司自身也承认这些防护措施可能会产生误报，从而错误地暂停合法任务。
为什么这不仅仅关乎科技界
对于极客群体和密切关注人工智能发展的人来说，Astra 案例是一个象征性的里程碑：这是第一次有一家公司公开承认创造了一种理论上可用于保护或大规模攻击关键基础设施的技术。接下来我们只能拭目以待，看看其他人工智能公司是否会效仿这种透明度，还是会选择对这种能力保持保密。
