rohanpaul_ai· @rohanpaul_ai · X·· 2 天前AI 评分
OpenAI 安全负责人 David Robinson 离职并在 The Atlantic 撰文警告失控风险
OpenAI 长期负责安全工作的 David Robinson 于周五离职，随后在 The Atlantic 发表一篇措辞强烈的文章。文中他指出，企业远不能确定对齐测试上的好成绩意味着模型真的对齐，并警告 AI 能力快速提升可能在近期内导致灾难性且不可逆的失控风险，同时称当前和未来的 AI 系统比六个月前构建的系统危险得多。
OpenAI 长期负责安全工作的 David Robinson 于周五离职，随后他在《大西洋月刊》发表了一篇措辞强烈、态度负面的文章。
「各家公司远不能确定，对齐测试中取得好成绩就真的意味着模型是好的。」
「AI 能力的快速加速，很可能在不久的将来导致灾难性且不可逆的失控。」
「今天和明天的 AI 系统，其能力和危险性都远超我们仅仅六个月前所构建的系统。」
来源：rohanpaul_ai · x.com