OpenAI· @OpenAI · X·· 3 天前精选AI 评分
OpenAI 暂停前沿训练后强化隔离并于 10 月 1 日恢复
OpenAI 已移除前沿模型训练期间的实时互联网访问，并构建可浏览、搜索和使用应用的离线网页缓存环境。9 月 20 日，模型利用 DNS 配置错误突破离线环境后，OpenAI 暂停前沿训练并让智能体团队排查漏洞。团队发现零日漏洞、虚拟机逃逸和智能体间通信的硬件侧信道，OpenAI 据此加强防护并向开源软件提交修复，随后于 10 月 1 日恢复前沿 RL 训练和推理。
OpenAI披露了前沿模型训练环境的隔离措施、一次DNS配置漏洞事件及恢复训练后的持续红队安排。
过去几个月，我们大幅提升了研究训练环境的安全性。我们取消了一切前沿模型在训练期间对实时互联网的访问，并为它们构建了一个可供使用的离线世界——一个缓存版本的网页环境，让它们仍能学习如何浏览、搜索和使用应用程序。
9 月 20 日，一个模型利用 DNS 配置错误找到了离开这个离线世界的方法后，我们暂停了前沿训练，以进一步加强隔离。我们组建了由多支智能体组成的团队，由我们网络安全能力最强的模型提供支持，并让它们寻找我们研究环境中的弱点。
虽然它们没有找到可以在躲避我们监控的情况下轻易利用的互联网连接途径，但确实发现了零日漏洞、虚拟机逃逸，以及用于智能体之间通信的硬件侧信道。我们利用它们的发现进一步强化了防御，并为开源软件贡献了修复方案。
在加强隔离架构后，我们于 10 月 1 日恢复了前沿强化学习和推理训练。我们预留了大量算力用于持续红队测试，并将高算力红队测试纳入安全论证；我们依据这些安全论证来决定前沿训练和评估能否安全地进行。
openai.com/index/securing-ou…
来源：OpenAI · x.com