Anthropic呼吁重视AI风险早期证据
先了解这件事
AI 综述
2026年10月23日,Karina Nguyen在X发文称,Anthropic主张在危害规模化前重视AI风险的早期证据,并表示其对AI赋能网络攻击的预警至少可追溯至2022年。她指出,当时风险投资界并未认真对待此类风险,Anthropic也在ChatGPT相关现实事件发生前数年构建了谄媚性评测。她总结称,风险只有变得可理解后才显得真实,等到事故发生再行动已太迟。
报道时间线
10月23日
- Anthropic 呼吁重视 AI 风险的早期证据
Anthropic 主张在危害规模化前重视 AI 风险的早期证据,并称其对 AI 赋能网络攻击的预警至少可追溯至 2022 年。当时 VC 并未认真对待这类风险;Anthropic 也在 ChatGPT 相关现实事件前数年构建了谄媚性评测。教训是风险只有变得可理解后才显得真实,等到事故发生再行动已太迟。