Back to Home
RadarAI··Papers & Tech

Anthropic 谈蒸馏攻击防御

中文摘要

Anthropic谈及模型蒸馏防御,质疑其监管造势动机,并指出其API存在安全漏洞应先行整改而非对外开放。

English Summary

Anthropic discusses distillation defense, questioning their regulatory posturing and highlighting risks of insecure APIs while urging better internal security practices before public release.

Original Excerpt

我觉得很奇怪,Anthropic 在做这件事之前,为了寻求监管帮助造了那么大的声势。希望现在能重新开启对话。 更奇怪的是,他们还强调从自家有漏洞的 API 学习有害行为的安全风险。如果 API 不安全,就别托管它。