Redwood首席科学家称AI失控风险超50%，归咎于行业军备竞赛
中文摘要
Redwood首席科学家警告AI失控风险超50%，指责大厂军备竞赛并呼吁通过国际协议加强监管，以防灾难性后果。
English Summary
Redwood scientist warns of over 50% AI extinction risk, criticizing industry arms races and urging international regulation to prevent catastrophic control loss.
原文节选
Redwood Research首席科学家Ryan Greenblatt指出，若当前发展路径不变，AI接管的风险高达50%至60%。他批评Anthropic和OpenAI等实验室的“负责任”姿态实则是维持军备竞赛的动力，并呼吁达成国际协议。Sam Harris对此表示质疑，认为参照曼哈顿计划经验，10%的风险率就足以让业界停止推进。