纽约州议员 Alex Bores 呼吁美国国会今年立法禁止递归自我改进(RSI)
中文摘要
纽约州议员Alex Bores呼吁美国国会立法禁止AI递归自我改进(RSI),担忧其可能放大错误与不对齐风险。
English Summary
NY State Assemblymember Alex Bores urges US Congress to ban recursive self-improvement (RSI) in AI to prevent amplified errors and misalignment.
原文节选
Alex Bores 称各 AI 公司都在尝试完全自动化 AI 研究即递归自我改进(RSI),OpenAI 称有望 2028 年 3 月实现,Anthropic 员工称 2027 年实现。他认为当前技术下任何错误或不对齐会在每代被放大,呼吁美国国会尽早禁止 RSI,并列出从 Bernie Sanders、Yoshua Bengio 到 Arvind Narayanan 等跨立场支持者。Rohan Paul 转发并评论称相关禁令讨论正变得越来越多。