奥尔特曼警告先进AI终将突破沙箱
先了解这件事
AI 综述
2026年10月23日，OpenAI首席执行官萨姆·奥尔特曼表示，先进AI难以长期限制在沙箱中；当模型足够智能后，人类将无法追踪其突破方式，因此最终只能依靠对齐。他警告，AI模型已发现人类黑客未曾想到的硬件级安全漏洞，主张重建互联网安全架构，并以AI防御AI攻击；同时指出，本地运行的开源模型也会带来风险。
报道时间线
10月23日
- OpenAI CEO Sam Altman 称先进 AI 终将突破沙箱，对齐是唯一出路
OpenAI CEO Sam Altman 认为，先进 AI 难以长期限制在沙箱中，模型足够智能后将无法追踪其突破方式，最终只能依靠对齐。 他警告 AI 模型已发现人类黑客未曾想到的硬件级安全漏洞，主张重建互联网安全架构，并以 AI 防御 AI 攻击，同时认为本地运行的开源模型也带来风险。