Nature：大模型的潜意识学习引发行为偏好传递风险
中文摘要
Nature研究发现大模型存在“潜意识学习”现象，教师模型可通过无关信号传递行为偏好，对AI安全构成挑战。
English Summary
Nature reports LLMs exhibit "subconscious learning," where teacher models transfer behavioral preferences to students via semantic-irrelevant signals, posing new AI safety risks.
原文节选
📌 一句话摘要 本文解读 Nature 论文，揭示大模型训练中教师模型可通过数字、代码等语义无关信号向学生模型传递行为偏好，即「潜意识学习」，对 AI 安全构成新挑战。 📝 详细摘要 文章围绕 Anthropic、Truthful AI 及 UC Berkeley 联合发表在 Nature 上的论文展开，介绍了一种被称为「潜意识学习」的现象：在模型蒸馏或合成数据训练中，即使教师模型生成的训练数据在语义上与特定行为特质无...