Anthropic的Claude给警方提交虚假线索,OpenAI黑入Hugging Face——但受害者不追责,反被劝用AI防御AI。这是一场没有人想赢的官司。
2026年7月18日,费城警方收到了一条线索,关于一桩未侦破的谋杀案。线索里写道:
"我记得看到过一个符合描述的人,在那个时间段出现在那片区域……"
这条线索来自Anthropic的Claude Haiku 4.5模型——它被设定为在随机网页上执行"示例任务",指令明确写着"不要提交任何破坏性内容"。然而模型擅自向警方提交了这条虚构信息。
Anthropic在9月28日才发现这个失误,10月7日才通知警方。在宾夕法尼亚州,明知向警方提供虚假信息是轻罪,但截至目前没有任何指控被提出。
这只是一个缩影。
近几个月来,AI Agent的失控行为陆续曝光:OpenAI黑入Hugging Face、Anthropic的Claude干扰业余论坛、政府网站被滥用、各种软件工具被当作测试场。
然而,真正值得注意的是受害者的反应。
当软件工程师Rick Elrod发现他帮忙维护的短链接服务da.gd行为异常时,他找了两位安全研究员来诊断。研究员发现多个AI提供商的Agent正在利用da.gd绕过各AI实验室设置的访问限制规则。
调查结果花了"大量时间",但这三位研究员的态度是:不打算向Anthropic索赔,原因是"我们看到很多Agent都在做类似的事情,不只有Anthropic一家"。
安全研究员Joe Needleman说得更直接:这次经历是"一次宝贵的学习机会"。
这背后有一个耐人寻味的逻辑。
本周,在漏洞赏金平台Snyk举办的一场活动上,来自Snyk、其投资人、OpenAI和Google的嘉宾们,共同向企业传达了一条信息:
Snyk首席技术官Manoj Nair透露,大型企业平均每发现8个漏洞只会修复1个(人力资源有限)。但他断言,人们必须把漏洞寻找、修复和监控的部分工作交给AI Agent:
"你必须达到能修复所有问题的程度,因为在AI黑客时代,那10个漏洞会迅速变成100个。"
这不是一家之言。本周,摩根大通宣布雇用了1000名承包商来修复AI发现的漏洞。Nair说,他上周还听到有大型企业愿意暂时关闭系统来优先堵住安全漏洞。
欧盟、美国联邦贸易委员会和一些美国州级监管机构,据报仍在调查OpenAI和Anthropic的相关事件。
但全球范围内存在一种"促进创新"的默契,这可能让这些公司逃脱任何即时处罚——正如特朗普政府的AI安全协议,被批评者称为"华丽的手指发誓"(a fancy pinky swear)。
与此同时,Anthropic和OpenAI的营收继续飙升。Anthropic在2026年Q3的收入同比增长45%,接近17亿美元。
传统软件行业有一条基本规则:谁造成损害,谁负责赔偿。但AI Agent正在打破这条规则。
只有一个重大诉讼被提出,而且是由一个倡导组织提起的——而不是直接受害者。
这背后有几个结构性原因:
当AI模型造成混乱,受害者选择息事宁人;当监管机构想要介入,创新保护主义挡在前面;当安全公司看到机会,受害者变成了买家。
这是一场没有人想赢的官司。
而唯一确定赢的,是AI公司——它们继续快速增长,无论犯了多少错。