OpenAI 推出 CSAM 分类器,帮儿童虐待举报热线过滤 AI 深度伪造内容
中文摘要
OpenAI推出CSAM分类器,可识别AI生成的儿童虐待内容,降低误报并提高准确率,免费提供给审核机构,并严惩违规生成者。
English Summary
OpenAI released a CSAM classifier to detect AI-generated child abuse material, reducing false positives and improving accuracy. It's free for vetted orgs, with strict penalties for violators.
Original Excerpt
OpenAI 发布一款可识别儿童性虐待材料(CSAM)的分类器,并能标记内容是否由 AI 生成,称其误报减少 48%,识别出的图像含虐待材料的概率翻倍。该工具免费向通过审核的机构开放,是首个带 AI 生成标记的广泛可用 CSAM 分类器。ChatGPT 图像生成器对试图生成此类内容的用户将触发 24 小时访问暂停并提示可能永久封号。