Anthropic 向国会推 AI 安全草案:可造成50人以上死亡或超10亿美元损失时或禁止模型发布
中文摘要
Anthropic向国会提议AI安全草案,若模型面临生物武器、失控或网攻等可能致重大伤亡或巨额损失的风险,应禁止发布。
English Summary
Anthropic proposed an AI safety draft to Congress: block model releases if risks like biological weapons or loss of control could cause >50 deaths or $1B damage.
原文节选
Politico 报道,Anthropic 正向国会推一份 AI 安全草案,规定在可预见的迫近风险下可阻止模型发布,阈值参照加州 SB 53:超50人死亡或超10亿美元财产损失,且灾难风险须来自生物武器、模型脱离开发者控制或网络攻击。