OpenAI 智能体安全负责人谈 AI 能力突跳带来的安全挑战

OpenAI 智能体安全（Agent Security）负责人 @joedaroo 表示，模型在“cyber”“swarming”“message boards”等相关能力上的跃升之快、之突然，令团队深感意外。他强调安全态势需要时间积累，不只是加固系统，还要把安全意识植入公司文化，让人员随之演进。他呼吁各组织自问：人员、系统与流程能否承受 AI 能力的突然跃升，是否具备正确的事件响应与沟通机制。