Back to Home
RadarAI··Papers & Tech

Anthropic 在 IPO 文件中披露公司内部也存在对先进 AI 灾难性风险的担忧

中文摘要

Anthropic在IPO中警告先进AI或有灾难性风险,并称增长难持续且保险不足。

English Summary

Anthropic's IPO filing warns advanced AI could pose catastrophic risks, noting unsustainable growth and insufficient insurance.

Original Excerpt

Anthropic 在 IPO 文件中告知投资者,公司内部和其他研究者、监管者都担忧足够先进的 AI 系统若缺乏妥善防护,可能给人类带来灾难性或生存性风险。文件同时警告 1300% 的增速不可持续、无法保证营收继续增长,且保险业可能没有足够能力承保此类风险。