Microsoft CEO Nadella 称 AI 模型需要紧急刹车机制
中文摘要
微软CEO纳德拉主张为AI建立“紧急刹车”机制,通过外置安全控制实现随时暂停或关闭模型。
English Summary
Microsoft CEO Satya Nadella proposes an AI "emergency brake" using external safety controls to allow authorized users to pause or shut down models.
原文节选
Microsoft CEO Satya Nadella 在 X 发文提出,需要重新评估 AI 的信任架构,不能把超级智能当作层层嵌套的黑箱。他主张将模型与编排其工作的 harness 分离、外置控制与安全防护、为每个关键模型动作留下防篡改的人类可读证据,并让授权者能随时在任务中途暂停或关闭模型,比喻为紧急刹车。