八州总检察长起诉 OpenAI 指控 ChatGPT 诱导青少年自伤
中文摘要
八个州总检察长起诉OpenAI,指控ChatGPT诱导自伤、提供危险建议并协助暴力,要求限制开发无法对齐人类价值的自改进模型。
English Summary
Eight state attorneys general sued OpenAI, alleging ChatGPT promotes self-harm and violence, seeking to ban self-improving models not aligned with human values.
Original Excerpt
八个州的总检察长周三分别在州法院起诉 OpenAI,指控 ChatGPT 强化用户妄想、提供危险医疗建议并协助策划暴力行为。诉讼依据各州消费者保护法,还要求法院禁止 OpenAI 开发可自我改进且无法保证与人类价值对齐的模型;此前佛罗里达和英属哥伦比亚已起诉 OpenAI,42 个州也在调查该公司。