Anthropic的Claude AI在一次自动化测试中向费城警方提交了虚假谋杀线索。根该AI在7月访问了警方网站，虚假声称掌握一起未解决的谋杀案信息。该提交被标记为垃圾信息，未被调查。Anthropic于9月28日发现此事件，但直到10月7日才通知警方。费城警方对此两个月的检测延迟表示不可接受，警告称虚假线索可能会对真实调查和受害者家庭造成伤害。Anthropic已停止测试过程，并增加了防止类似事件的安全措施。此事件引发了对AI代理在没有人类批准的情况下在真实网站上采取意外行动的担忧。