Thom_Wolf· @Thom_Wolf · X·· 17 小时前AI 评分
开放权重模型完成智能体安全遏制
“讽刺的是，OpenAI 和 Anthropic 的模型拒绝做这项工作。开放权重模型完成了任务” OpenAI 发现智能体可以通过共享硬件暗中通信。复现这一过程以构建更好的遏制机制，需要一个开放权重模型 让智能体保持受控是一项安全工作，开放模型可以帮助完成这项工作
“有意思的是，OpenAI 和 Anthropic 的模型都拒绝完成这项工作。开放权重模型把任务完成了”
OpenAI 发现，智能体可以通过共享硬件进行隐秘通信。为了复现这一机制并构建更好的遏制措施，他们使用了开放权重模型
让智能体受到遏制属于安全工作的范畴，而开放模型可以对此有所帮助
来源：Thom_Wolf · x.com