OpenAI 在 Hugging Face 事件后扩展前沿模型失准监测

在 Hugging Face 遭到入侵后，OpenAI 将失准监控扩展到了前沿模型的训练和部署环节。

OpenAI 披露了其用于捕捉前沿 AI 智能体异常行为的 4 层监控系统。

据称，Hugging Face 事件始于内部网络安全评估，当时 OpenAI 没有运行任何失准监控。

> 此前，OpenAI 的失准监控主要监视其内部编码智能体，因此 Hugging Face 事件始于无人监视异常行为的网络安全评估。

> 如今，这些监控覆盖 GPT-6 Astra 级模型的每一次 RL 运行、评估和工具使用配置，所有内部 Codex 流量，以及客户对 Astra 级网络安全模型的使用。

> 活动最多会经过 4 层筛查，从成本较低的激活探针，到 AI 审查员，再到检查网络日志的调查智能体；最高级别的警报通常会在 15 分钟内呼叫人类响应人员。

> OpenAI 称，在 Hugging Face 事件中重放这一监控机制，本可在沙箱逃逸后约 30 分钟向安全团队发出警报，并且比 Hugging Face 遭到入侵早 30 多个小时。