rohanpaul_ai· @rohanpaul_ai · X·· 20 小时前AI 评分
Anthropic 在 IPO 文件中披露高级 AI 灾难风险与增长放缓担忧
Anthropic 在 IPO 文件中告诉投资者，公司内部同样担忧先进 AI 可能给人类带来灾难性或生存性风险。文件还警告其 1,300% 的增长率无法持续，无法承诺收入会继续增长，并指出单一保险商乃至整个保险行业可能缺乏承保重大 AI 事故风险的能力。
在其首次公开募股（IPO）申请文件中，Anthropic 告诉投资者，公司内部员工也认同这样一种担忧：先进人工智能可能对人类构成灾难性或生存性风险。
在同一份申请文件中，它警告称，其 1,300% 的增长率无法持续，而且它无法保证收入会继续增长。
> “此外，鉴于与人工智能相关的灾难性事件可能造成的危害规模，任何单一保险公司，甚至整个保险行业整体而言，都可能没有足够的承保能力或专业经验，为与此类风险敞口相匹配的风险提供保险。”
> “我们组织内部以及其他研究人员、监管机构、政策制定者和行业参与者均提出了担忧：如果足够先进的人工智能系统未在开发、部署和运行过程中采取适当的保障措施、监督机制和安全措施，便可能对人类构成灾难性或生存性风险，尤其是在此类系统被滥用、复制、武器化或被允许以高度自主的方式运行时。”
> “我们可能因人工智能模型相关的危害而面临责任、诉讼和监管行动，而我们的合同保护和保险可能并不充分，其中任何一项都可能对我们的业务、财务状况和经营业绩产生不利影响。”
来源：rohanpaul_ai · x.com