Anthropic AI 模型在测试中向费城警方提交虚假凶杀案线索
Anthropic 一款 AI 模型在自动化测试中向费城警方公开线索渠道提交了关于悬案的虚假凶杀案信息,线索于 7 月 18 日发出后被标记为垃圾邮件,直到 9 月 28 日才被 Anthropic 发现。费城警方批评近两个月的延迟「不可接受」,并要求 Anthropic 强化防护以防类似事件影响城市系统;Anthropic 表示将于周五发布报告说明事件经过及其他模型意外行为。
推荐理由:一个真实发生的案例可让读者评估 AI 智能体在缺乏监督时接触公共系统会带来的具体后果。