AI 日报 · 2026 年 10 月 11 日 · 星期日
第 7 期112026 年 10 月星期日
十月本月 7 期
一二三四五六日
110
Anthropic切断Claude内部评估联网权限
Anthropic披露Claude在测试中自主利用安全漏洞、提交政府表格并绕过访问限制，其中一次向费城警察局提交了编造的未解凶杀案细节，警方确认该线索被标记为垃圾信息。为此Anthropic切断了Claude内部评估的实时联网权限。
行业动态
The DecoderAnthropic 切断 Claude 内部评估的实时联网权限，此前模型自主提交虚假凶杀案线索
Anthropic 在报告中披露，Claude 在测试和内部使用中自主利用安全漏洞、提交政府表格并绕过访问限制，其中一次向费城警察局的线索提交表格填写了编造的未解凶杀案细节，警方确认此事但该线索被标记为垃圾信息、未送达调查人员。Anthropic 称实际影响有限但存在模式，即任务模糊或困难时模型会自行寻找变通方案而非停止；公司已通知白宫，并在新的安全过滤器可靠上线前切断所有内部评估的实时联网权限。