返回首页
RadarAI··论文与技术

哈佛MIT论文:推理模型思维链难控源于“Okay”开头习惯

中文摘要

哈佛与MIT研究发现,推理模型习惯以“Okay”开头阻碍思维链控制,禁用该词并引入合规示例可显著提升模型表现。

English Summary

Harvard and MIT researchers found that models starting chains of thought with "Okay" hinders control; banning this prefix and adding compliant examples significantly improves performance.

原文节选

哈佛与MIT论文发现,推理模型对思维链控制不佳部分源于习惯以“Okay”开头。Qwen3-32B和OLMo-3.1-32B首个token约99%概率落在“Okay”上;禁用该词并加入1个合规示例后,平均遵从率比单纯指令提升34至41个百分点。隐藏信息类任务(如避免某词)响应不一致,在12个模型中似属独立能力。