微软 Nadella 称 AI 模型需要一个紧急刹车

微软 CEO Satya Nadella 在 X 上发帖称，是时候退一步评估 AI 的信任架构，不能把超级智能当作一组嵌套黑箱来接受或拒绝其建议。他主张将模型与编排其工作的 harness 分离、把控制与安全措施外部化，用防篡改且人类可读的证据记录每一次有意义的模型动作，并确保授权人员随时能在任务中途暂停或关闭模型，就像紧急刹车一样。