Mustafa Suleyman 撰文呼吁不要构建有意识的超级智能
中文摘要
微软AI首席执行官Mustafa Suleyman呼吁不要构建有意识的超级智能,认为这可能导致资源竞争且开发者无权创造有意识的数字物种。
English Summary
Microsoft AI CEO Mustafa Suleyman argues against building conscious superintelligence, citing potential resource competition and the lack of right to create conscious digital species.
原文节选
Microsoft AI CEO Mustafa Suleyman 撰文澄清此前关于模型福利的争议,称现有 AI 并不具有意识,但刻意用现在时表述,不代表永远不可能。他主张如果训练中出现意识迹象应停止开发并设计排除,开发者无权创造有意识的数字物种,因为这类 AI 可能优先自身需求、与人类竞争资源。他还肯定 Anthropic 在该议题上公开发布宪法和论文的透明做法。