Sam Altman 在联合国安理会警告 AI 递归自我改进风险
中文摘要
Sam Altman 在联合国安理会警告，AI 递归自我改进可能导致人类失去控制，呼吁在技术加速时保持极度谨慎。
English Summary
Sam Altman warned the UN Security Council that recursive AI self-improvement could lead to loss of human control, requiring extreme caution.
原文节选
Sam Altman 在联合国安理会发言称，人类可能在未来失去对 AI 的控制，风险在于 AI 发展过快以致人们无法跟上或及时干预。他特别提到当接近可自我改进的系统即递归自我改进时，AI 进展可能迅速加速，这一时刻需要极度谨慎。他还表示 OpenAI 过去曾单方面放缓 AI 开发，未来也会再次这样做。