Claude 做AI对齐教学游戏
中文摘要
作者用 Claude 开发类塞尔达游戏以教授 AI 对齐。游戏擅长世界构建,但对玩家的理解仍较弱。
English Summary
Using Claude, the creator built a Zelda-like game teaching AI alignment. It excels at world-building but struggles to understand players.
Original Excerpt
在《钻石年代》中,Neal Stephenson 设想了一本书,它能发明游戏和故事,随着小女孩成长教她所需的知识。我尝试做了一个小版本。我把关于对齐的头脑风暴文档给了 Claude,让它做一个类似 Zelda 的游戏,教人们了解 AI 对齐。这是成果 🪁 简版:它很擅长构建世界,但在理解玩家方面仍然较弱(详情见下)