前 Anthropic 研究员向纽约市议员作证称人类可能失去对 AI 的控制

前 Anthropic 研究员 Jacob Coxon 告诉纽约市立法者，人类很可能会失去对 AI 的控制，并将就“终止开关”问题在纽约市 AI 听证会上作证。

纽约市还在准备一项法案，要求在本地销售的每个 AI 模型都必须先通过外部验证，AI 供应商每次未经验证的销售或部署将被处以 2.5 万美元罚款。

全部 51 名市议员正在审议这项主导法案，该法案将禁止在该市未经外部验证就营销、销售或部署任何 AI 模型。

该法案还要求具备关停能力，即人类操作员可以在技术上使模型停止运行，无论是暂时还是永久。

验证机构将对准确性、校准、确定性、延迟、数据来源、偏见、隐私和安全性进行评级，然后向该市网络司令部（Cyber Command）出具就绪认证。