Anthropic 高管称开放权重模型风险更高
中文摘要
Anthropic高管认为开放权重模型因无法有效监管和移除防护措施,相比闭源模型具有更高的安全风险。
English Summary
Anthropic executives argue that open-weight models pose higher risks because safety measures can be bypassed and the models are difficult for developers to monitor or retract once released.
原文节选
Bloomberg:Anthropic 国际业务负责人 Guillaume Princen 表示,开放权重 AI 模型从定义上就带有更高的安全风险。 “我无法代表开放模型发言,但从定义上讲,它们的风险更高,”Princen 周三在都柏林举行的国际 AI 峰会上表示。 他的担忧核心在于控制:一旦开放权重发布,防护措施可以被移除,副本可以在开发者无法监控或收回的私有系统上运行。