返回首页
RadarAI··论文与技术

Nathan Lambert 质疑前沿 AI 节奏控制可行性

中文摘要

Nathan Lambert 质疑控制前沿 AI 节奏的可行性,认为这难以落实且会分散对技术扩散风险及安全准备的关注。

English Summary

Nathan Lambert questions controlling frontier AI development pace, arguing it is impractical and distracts from technology proliferation risks and safety preparedness.

原文节选

我认为从原则上讲,控制前沿发展节奏作为一个理念是好的,但作为一件你实际能做成的事,它一出生就死了。我们要怎么决定——决定我们能在哪些基准上改进?谁来参与? 如果我们停止推进“能力”,我们会做大量关于集群(swarms)+ 效率的研究,而这会带来其他风险。 它分散了注意力,让人忽视了一个事实:AI 风险中有很大一部分其实只是来自把我们已有的东西扩散出去,而我们应该投资于 preparedness、推动实验室更加谨慎等等。 来改变我的想法?