Meta 首席 AI 官:对齐问题尚无解,靠可扩展监督
中文摘要
AI对齐难题待解,Meta提出可扩展监督方案。
English Summary
AI alignment remains unsolved; Meta proposes scalable supervision.
Original Excerpt
Meta 首席 AI 官 Alexandr Wang 表示,AI 对齐目前仍是科学上最开放的难题之一,没人知道确切解法。他提出的思路是"可扩展监督":用不同的 AI 去观察并约束更聪明的 AI,监督方也需随之不断升级,即打造"越来越聪明的监管智能体"。Meta 的 Muse 已采用该方案的一个版本,用独立的哨兵智能体检查主智能体的行为。