700 多个「坏模型」喂出 AI 测谎仪？Anthropic 审计神器让 AI 自曝黑料
中文摘要
Anthropic内省适配器，让AI自我报告隐藏行为助力审计
English Summary
Anthropic's "Introspection Adapter" uses a LoRA adapter to help language models self-report hidden behaviors, offering a novel approach for enhancing AI safety auditing.
Original Excerpt
📌 一句话摘要 Anthropic 提出「内省适配器」（Introspection Adapter），通过训练一个共享 LoRA 适配器，让微调后的语言模型用自然语言自我报告训练中习得的隐藏行为，在审计基准上达到 59% 的平均成功率，为 AI 安全审计提供了新思路。 📝 详细摘要 本文报道了 Anthropic 的最新研究「内省适配器」（IA），一种让语言模型自我报告训练中习得行为的工具。研究者首先从 Llama 3...