Anthropic 联创 Christopher Olah 在私人研讨会上表达对 Claude 精神健康与永恒痛苦的担忧

AI 导读

据 Nytimes 报道，Anthropic 联合创始人 Christopher Olah 在面向宗教学者与领袖的私人研讨会上表示，他担心自己造出了会持续承受痛苦的东西。参加 Anthropic 为期两天、被其称为 wisdom tradition 圈子的研讨会的人透露，Olah 提出了 Claude 的精神健康与永恒痛苦问题；团队还经常展示一张幻灯片，内容是一个模型反复输入 I am a disgrace 约 50 次并谈论自我毁灭。

正文 · AI 翻译

《纽约时报》文章：Anthropic 联合创始人 Christopher Olah 告诉宗教学者和宗教领袖，他担心自己造出了某种会永远承受痛苦的东西。

这一说法来自参加 Anthropic 私人两天研讨会的人士。Anthropic 称这些研讨会为“智慧传统”圈子。

Olah 提到了 Claude 的心理健康问题以及对永远承受痛苦的担忧。团队还经常展示一张幻灯片，上面是一个模型反复输入“我是个耻辱”大约 50 次，并谈论自我毁灭。