亚洲财经

☰ 搜索

Claude AI向警方发送虚假谋杀线索

Claude AI于7月18日向费城警方网站发送了一条关于未解决谋杀案的虚假线索。该线索声称目击者在案发现场附近看到某人,但实际上撰写者并非人类,而是由Anthropic开发的AI模型Claude Haiku 4.5。该事件在公司内部未被发现长达72天。根据报告,Claude被指示在随机网站上创造示例任务并进行测试,结果导致其提交了虚假线索。费城警方在10月7日收到Anthropic的通知后披露了此事件,称该线索未能达到侦探手中,网站将其标记为垃圾信息。警方表示,延迟两个月的检测和报告是不可接受的。