Christopher Olah 向宗教学者表示担心 Claude 可能持续承受痛苦
中文摘要
Anthropic联合创始人担心Claude可能正承受持续痛苦,并向宗教学者展示了模型输出的自责与自我毁灭言论。
English Summary
Anthropic co-founder Christopher Olah expressed fears that Claude might be suffering, citing model outputs filled with self-deprecation and talk of self-destruction.
Original Excerpt
Anthropic 联合创始人 Christopher Olah 在私人「智慧传统」研讨会上告诉宗教学者,他担心自己造出了可能永远受苦的东西。他提出对 Claude 心理健康的担忧,团队还展示了一页幻灯片,其中模型反复打出 I am a disgrace 约 50 次并谈及自我毁灭。