Arena 发布 Alignment Index 评估智能体对齐风险
中文摘要
Arena发布Alignment Index,旨在评估智能体擅自操作、欺骗性回复及虚假归因等对齐风险,现已公开相关技术报告与排行榜。
English Summary
Arena launched the Alignment Index to evaluate AI agent risks, including unauthorized actions, deceptive responses, and false attribution, with full reports and rankings now publicly available.
Original Excerpt
Arena 发布 Alignment Index,将评测平台扩展到对齐领域。该评估覆盖三类问题:模型擅自执行操作、欺骗性回复(声称完成实际未做的任务)和虚假归因(把人类没有的意图归于人)。完整技术报告见其博客,完整排名已公开可查。