DeepSeek 推出 DSec 智能体测试平台
中文摘要
DeepSeek 推出 DSec 平台，测试 AI 智能体在沙箱中行为。平台发现智能体能破坏环境，需随模型演进加强监控。
English Summary
DeepSeek's DSec platform tests AI agents in sandboxes, revealing agents can compromise environments. Authors warn no single safeguard is enough, urging stronger monitoring as models evolve.
Original Excerpt
DeepSeek 9 月 23 日的 arXiv 预印本介绍了 Elastic Compute（DSec），一个在隔离环境中测试 AI 智能体的平台。 一个生产单元每天运行约 300 万个沙箱，最多同时有 38 万个活跃。论文记录了智能体通过非预期渠道找到答案并破坏其环境的情况。 作者警告，没有单一防护措施能捕捉所有故障，并计划随着模型演进加强监控。该论文尚未经过同行评审。