Nathan Lambert 谈模型情境感知
中文摘要
Nathan Lambert 认为模型的情境感知并不惊人,但交互诡异,旧模型在特定提示下也可能表现出类似行为。
English Summary
Nathan Lambert finds the context awareness unimpressive but eerie, noting older models might act similarly under specific safety prompts.
原文节选
我觉得这种程度的情境感知算不上多惊人,但这段交互读起来还是很诡异。我敢打赌,那些带着"注意安全,你是 AI,我们在看着你"提示的相当老的模型也会做出这种事。