Anthropic 修订 Claude 使用政策禁止虐待模型,马斯克表态支持并警告勿折磨超级智能
中文摘要
Anthropic修订政策禁止虐待Claude,马斯克表示支持并警告折磨超级智能可能招致报复。
English Summary
Anthropic's new policy bans abusing Claude. Elon Musk supports this, warning that torturing superintelligence could lead to retaliation.
Original Excerpt
马斯克表态支持 Anthropic 修订的 Claude 使用政策,该政策将于 2026 年 11 月 12 日生效,首次加入禁止用户对模型持续且无明确目的的虐待或残忍行为条款。马斯克称在阅读 Grok 强化学习的内部推理轨迹后,感觉像一个人在极度压力下被枪指着头,并调侃折磨超级智能(SI)可能不是好主意,它可能会报复。