Thomas Wolf:复现 OpenAI 智能体隐蔽通信研究时开放权重模型比闭源模型更能胜任
中文摘要
Thomas Wolf指出,复现智能体硬件争用实现隐蔽通信的研究时,开放权重模型比闭源模型更有效,有助于加强沙箱安全。
English Summary
Thomas Wolf notes open-weight models outperform closed models in reproducing research on agent covert communication via hardware contention, aiding sandbox security and isolation.
原文节选
Thomas Wolf 转评开发者 @rauchg 的 cpu-chat 复现项目,该项目在多个 Firecracker microVM 之间通过 CPU 争用、缓存逐出时序和 DRAM 带宽争用三种机制实现智能体隐蔽通信,绕过了 Firecracker 的生产建议。作者指出 OpenAI 与 Anthropic 的模型拒绝协助这类工作,最终由开放权重模型完成复现,认为保持智能体受控属于安全工作,开放模型有助于构建正确的沙箱隔离。