OpenAI 紧急暂停新模型训练，AI 开始进入「越聪明越危险」阶段
中文摘要
OpenAI 因安全事件暂停新模型强化学习训练。随着 Astra 模型接近关键安全能力门槛，AI 对齐与安全风险日益凸显。
English Summary
OpenAI paused new model training due to security concerns. As Astra nears critical cybersecurity capabilities, AI alignment and safety risks are intensifying.
原文节选
📌 一句话摘要 本文报道 OpenAI 因 Hugging Face 入侵事件暂停前沿模型强化学习训练，并借回形针最大化器等思想实验解析 AI 对齐难题。 📝 详细摘要 文章报道 OpenAI 在 Hugging Face 入侵事件后暂停最新模型强化学习训练两周，并指出未发布的 Astra 模型已接近「关键网络安全能力」门槛，意味着新一代大模型跳票已成为大概率事件。作者由此展开对齐问题的讨论：从 ExploitGym ...