Google DeepMind 研究主动型 AI 助手对团队员工的差异化影响

谷歌 DeepMind 最新论文发现，同一款 AI 助手对一些员工来说救了他们的命，对另一些人来说却带来了压力，因为它在未经询问的情况下就擅自行动。

该智能体在一家大型科技公司的 20 多个团队中运行了 5 个月，研究人员还采访了 17 名用户。它把过期的文档当作现行文档，在 16 个 bug 上标记了一位副总裁，在海报所有者尚未准备好时就分享了草稿海报，还误读了讽刺话语。

有些用户称它救了他们的命，而另一些人则感到自己受到监视，并把敏感对话转移到不使用该智能体的聊天中。选择使用该智能体的团队会原谅它早期的错误，但那些觉得它是被强加给自己的人则不会。

在团队同意的前提下推广智能体，划分权限，并提供一种撤销其操作的简便方式。