_marwanad· @_marwanad · X·· 16 小时前AI 评分
Cohere 招聘工程师构建 AI 智能体安全系统
Cohere 正在招聘工程师，构建无需信任模型本身的 AI 智能体安全系统，涵盖跨长时会话的意图漂移检测、eBPF 运行时遥测与智能体行为关联、能力范围身份及在 harness 之下强制执行安全边界等方向。该工作聚焦系统工程、安全与 AI 的交叉领域。
萨提亚说得完全正确。有趣的工程问题不只是让模型乖乖听话，而是构建从一开始就不需要信任它们的系统。
我们在 @cohere 正在研究一些相当有趣的问题，包括检测长时间运行的智能体会话中的意图漂移、将 eBPF 运行时遥测数据与智能体行为进行关联、能力范围限定的身份标识，以及在 harness 之下强制执行安全边界。
系统工程、安全与 AI 的交叉领域有很多有趣的工作。
我们正在招聘想要构建这些东西的工程师 :)
来源：_marwanad · x.com