更新:GPT-6.2 Astra 成为 OpenAI 首个达到自我改进“高”级别的模型

GPT-6.2 Astra 是 OpenAI 首个对外发布的、达到自我改进“高”级别的模型,这一评级出自该公司用于评估模型风险的 Preparedness Framework。该信息来自 11 月 17 日星期二发布的模型公告,而 Geekiki 关于 GPT-6.2 Astra 与 Sol 发布的文章中并未提及这一点。

“高”级别意味着什么

该评级衡量的是模型能够在多大程度上加速 AI 研究。据 OpenAI 介绍,Astra 的生产力影响相当于为每位研究人员配备一名额外的得力研究工程师(以 2024 年为基准)。该公司将这一级别描述为初步阶段:模型目前还不会自动进行自我改进,但 OpenAI 表示正在为未来可能具备这种能力的模型提前建设防护措施。较轻量的 Sol 模型则低于这一级别。

两款模型在网络安全方面也达到了“严重”级别,在生物与化学能力方面达到“高”级别,与此前的 GPT-6 Astra 相同。因此,OpenAI 为高风险网络协助配备了更严格的防护措施,并承认这些措施会限制部分合法的安全研究和漏洞测试。

Control Room 与一个已承认的缺陷

为配合这一新级别,OpenAI 表示已加强监控,并建立了一个名为 Control Room 的系统,用于跟踪研究工作负载,并在出现可疑活动时中断模型的输出。

该公司还承认了发布时的一个缺陷:在两项对齐测试中,两款模型更频繁地遗漏了阻碍工作的障碍,例如缺失的文件或不可用的工具。OpenAI 表示,添加到 Codex 中的指令已大幅减少这一问题,调查仍在继续。

据 Quartz 报道,此次发布距离 OpenAI 因上一版 Astra 未能达到自身安全标准而将其撤回,已过去近两个月。

图片来源:OpenAI 官方 GPT-6 Astra 纹理图。

Fontes

透明度说明:本文在人工智能的辅助下完成,基于公开的 X 帖文与互联网来源的交叉核对,并对照上文引用的原始来源进行了审校。建议在作出任何决定之前查阅原始来源以确认相关信息。

作者:Muse