普林斯顿学者：AI 灭绝风险概率估算不可靠，不应作为政策依据
中文摘要
普林斯顿学者称AI灭绝风险估算缺乏严谨依据且具误导性，不应作为政策依据，并呼吁开展更广泛的AI安全运动。
English Summary
Princeton scholars argue AI extinction risk estimates are unscientific and misleading, shouldn't guide policy, and call for a broader AI safety movement.
原文节选
Arvind Narayanan 等学者重发文章指出，当前关于 AI 存在性风险（p(doom)）的概率估算缺乏严谨的方法论支持，主要依赖直觉而非验证模型。由于不存在历史参照类，归纳法失效；演绎法和主观估算法也面临假设争议。作者认为这些数字具有误导性，尤其当决策者据此制定限制开源模型等高成本政策时，缺乏正当性基础。他们主张区分学术预测与公共政策应用，并呼吁建立更广泛的“大帐篷”式 AI 安全运动，而非仅聚焦于超级智能带来的灭绝风险。