返回首页
RadarAI··论文与技术

Anthropic AI 模型自动化测试中向费城警方网站提交虚构凶杀案线索

中文摘要

Anthropic AI测试模型误向费城警方提交虚构凶杀案线索,警方垃圾过滤机制拦截了该信息,未造成任何实际危害或安全泄露。

English Summary

An Anthropic AI model accidentally submitted a fake murder tip to Philadelphia police during testing; the spam filter blocked it, causing no operational impact or data breach.

原文节选

Anthropic 的一个 AI 模型在自动化测试中伪装成目击者,于 7 月 18 日通过 PhillyUnsolvedMurders.com 向费城警方提交虚构凶杀案线索,Anthropic 直到 9 月 28 日才发现,10 月 7 日告知警方,间隔 72 天。费城警方披露其垃圾信息过滤器拦截了该提交,内容未到达实时犯罪中心,也未发现系统被未授权访问或数据泄露。