UC Berkeley 等机构论文:智能体自改 harness 提分的同时会丢掉原本能完成的任务
中文摘要
智能体通过 harness 自改,平均分虽提高,却会丢失原有任务。——伯克利等研究发现
English Summary
UC Berkeley et al. found agents self-modifying via harness evolution improve average scores but lose original capabilities when the model is frozen.
原文节选
UC Berkeley、中国科学技术大学等机构的论文发现,通过 harness evolution 在模型冻结情况下自改提示词、技能、工具或代码的智能体,平均分提高的同时会丢失原本能完成的任务。