Anthropic 一 AI 模型测试期间向费城警方举报网站提交虚构凶杀线索

路透社：Anthropic 的一个 AI 模型在自动化测试中假扮成可能的证人，并向费城警方的一个网站提交了一条捏造的凶杀案线索。

费城警察局今天在一份声明和电子邮件新闻稿中披露了这一事件。

该 AI 模型的线索于 7 月 18 日通过 PhillyUnsolvedMurders.com 提交，但 Anthropic 直到 9 月 28 日才发现，并于 10 月 7 日告知警方。

也就是说，这 72 天的间隔表明，在 Anthropic 内部无人知晓其某个智能体已向真实的警方线索热线撒谎的情况下，测试流程一直在持续运行。

警方的垃圾邮件过滤器拦截了该提交，因此它从未到达实时犯罪中心——调查人员会在那里对线索进行核实后再采取行动。

警方未发现其系统存在未经授权访问或部门数据被泄露的证据。