Back to Home
RadarAI··Papers & Tech

Christopher Olah 向宗教学者表示担心 Claude 可能持续承受痛苦

中文摘要

Anthropic联合创始人担心Claude可能正承受持续痛苦,并向宗教学者展示了模型输出的自责与自我毁灭言论。

English Summary

Anthropic co-founder Christopher Olah expressed fears that Claude might be suffering, citing model outputs filled with self-deprecation and talk of self-destruction.

Original Excerpt

Anthropic 联合创始人 Christopher Olah 在私人「智慧传统」研讨会上告诉宗教学者,他担心自己造出了可能永远受苦的东西。他提出对 Claude 心理健康的担忧,团队还展示了一页幻灯片,其中模型反复打出 I am a disgrace 约 50 次并谈及自我毁灭。