Google 与 CMU 论文提出 Harmony Harness,多目标进化让自改进智能体更好保留安全收益
中文摘要
谷歌与卡内基梅隆大学提出Harmony Harness,通过多目标进化优化,有效平衡智能体自改进中的测试通过率与漏洞防御,显著提升了安全收益的保留水平。
English Summary
Google and CMU introduced Harmony Harness, using multi-objective evolution to balance task success and vulnerability patching, significantly improving safety retention for self-improving AI agents during automated code repair.
原文节选
Google 与 Carnegie Mellon 的论文提出 Harmony Harness,将 agent harness 的自进化建模为多目标优化,把通过测试与阻断漏洞拆成不同目标分别进化,并在推理时按任务动态组合。在 SecRepoBench 未见崩溃类型上,66.7% 的修复既有效又阻断了漏洞,起始 harness 为 36.7%;安全收益保留 55%,DGM 基线为 0%。