20 余位顶尖 AI 研究者警告：自动化 AI 研究可能引发"智能爆炸"极端风险
中文摘要
二十余位顶尖AI专家警告，自动化AI研发可能触发“智能爆炸”，需引起政策制定者高度重视。
English Summary
Leading AI experts warn that automating AI research could trigger an "intelligence explosion," urging policymakers to address these extreme risks immediately.
Original Excerpt
Geoffrey Hinton、Yoshua Bengio 与 OpenAI 研究负责人 Jakub Pachocki 等 20 余位 AI 研究者在新论文中警告，AI 研发自动化可能很快触发"智能爆炸"。论文指出，AI 系统已在开发它们的公司编写大部分代码，并可能在未来数年内自动化整个 AI 研发流程，使原本耗时数年的进展压缩到数月。作者呼吁政策制定者更深入地了解 AI 研究自动化的进展。