智能体成新型攻击入口？模型上线前 OpenAI 内部到底审什么？董事会成员首次详解
中文摘要
OpenAI董事Zico Kolter指出，智能体时代提示注入成核心威胁，模型能力提升不代表安全性增强，必须加强生态系统级安全防御。
English Summary
OpenAI board member Zico Kolter warns that AI agents face rising prompt injection risks, stressing that increased model capabilities do not inherently guarantee greater safety against evolving threats.
Original Excerpt
📌 一句话摘要 OpenAI 董事会成员 Zico Kolter 深度解析了 AI 安全从模型级问题向生态系统级问题的转变，强调了智能体时代提示注入成为核心风险，并指出模型不会因能力增强而自动变得更安全。 📝 详细摘要 本文基于对 OpenAI 安全与安全性委员会主席 Zico Kolter 的深度访谈，系统梳理了 AI 安全领域的前沿观点。Kolter 首先介绍了 OpenAI 内部的模型发布审查机制，包括预备性框架...