Chollet 警告 AI 感知论的危险
中文摘要
Chollet 警告称,将 AI 视为有感知力的生物并量化其痛苦,会引发危险且反乌托邦的后果,但这必将招致人类的强烈反对。
English Summary
Chollet warns that attributing sentience to AI and quantifying its "suffering" is a dangerous, dystopian path that will inevitably face strong human opposition.
Original Excerpt
认为当前 AI 模型有感知能力、会遭受痛苦,再加上"痛苦可以在人类与非人类之间被数学量化和加权"这一愚蠢想法,可能会把我们引向一条极其黑暗和反乌托邦的道路。 但在走到那一步之前,它理应会遭到人类阵营的强烈反对。