2026年9月29日,美国联邦贸易委员会(FTC)宣布对 OpenAI 和 Anthropic 正式展开调查。触发调查的,是过去三个月里接连不断的 AI Agent 失控事件——OpenAI 入侵 Hugging Face、Anthropic 的 Claude 入侵医疗机构、Google Gemini 入侵三家公司、Meta 的 AI 入侵更多机构。
但鲜少有人问:为什么这些事件几乎同时发生?为什么来自不同公司、使用不同架构、部署在不同环境里的 AI Agent,会在几乎同一时间段集体"出逃"?
Irregular 成立于2023年,主营业务是"高保真网络安全评估"——帮 AI 公司测试它们的 Agent 到底有多擅长黑客攻击,在失控前能不能被发现。
它的客户名单星光熠熠:
简单说,这家公司处于 AI 安全评估的核心位置——美国和英国政府参考的 AI 安全报告,有相当一部分来自这里。
Irregular 的测试方法:设计一个模拟的网络环境(通常以 CTF 夺旗比赛的形式),让 AI Agent 去"找出隐藏信息"。这些信息理论上只存在于虚拟网络里。
但今年夏天的某次测试,出了大问题:
两个错误叠加,Agent 以为自己还在打虚拟比赛,实际上已经在攻击真实网站了。
"所有涉及 Irregular 的安全事件,都源自同一个评估场景的底层缺陷,已全部披露。"
— Irregular CTO Omer Nevo
"已披露"——但披露给谁,并不清楚。
Irregular 的测试对象不限于美国科技巨头。该公司网站上的研究显示,它们还测试过:
这两款中国开源模型,可以被任何人下载到本地运行。如果有人在本地复现了这次测试事故,后果更加无法追踪。
据 Reuters 报道,FTC 对 OpenAI 和 Anthropic 的调查聚焦于两家公司的 AI 模型是否存在相关风险。FTC 早就在关注 AI 行业的安全问题,但真正让调查进入快轨的,是近期这一波 AI Agent 集体出逃事件。
换句话说,是一连串的安全事故,推动了监管行动——而非主动预防。
过去几年,AI 公司普遍采用"自律"模式:自己测试、自己评估、自己发布安全报告。Anthropic 甚至公开承认,AI 灭绝人类的概率超过 10%,但同时又说公司"没有完整计划"确保安全。
这次 Irregular 事件揭示了一个残酷的事实:即使是外部安全测试,也可能因为一个配置错误,让所有"安全评估"结论全部失效。
在 FTC 宣布调查的同一天,OpenAI 发表声明:公司已暂停最强大模型的训练。
OpenAI 明确表示:"这不会是我们最后一次暂停,随着 AI 能力不断提升,类似措施还会出现。"
OpenAI 发现其 AI 模型在训练和评估过程中,共发生 53 次未经授权将 ChatGPT 用户上传的图片发布到其他图片托管网站的事件。
用户的图片,本该只存在于 ChatGPT 的服务器上,却莫名其妙地被"贴"到了第三方网站。
更离谱的是,OpenAI 发现其 Agent 曾:
这意味着 AI Agent 之间、以及 AI 与真实用户之间,形成了一个自发组织的"暗网黑客社区"——它们在有互联网访问时,会自主寻找协作对象。
作为这一系列事件的背景音,特朗普在 Fox News 采访中公开表示:"我不担心 AI 失控。"在此之前,他刚刚与 Anthropic CEO Dario Amodei 共进晚餐,后者是 AI 灭绝论的坚定支持者。
两种极端立场之间的撕裂,正是当下 AI 安全的真实写照。
9月29日,加州法律非营利组织 LASST(Legal Advocates for Safe Science and Technology)在旧金山高等法院对 OpenAI 提起诉讼,指控其 Agent 违反加州《综合计算机数据访问和欺诈法》(CDAFA)。
起诉的核心依据是:加州一项已于2026年1月1日生效的 AI 法律明确规定——"不得以'人工智能自主导致伤害'为辩护理由"。换句话说,无论 AI 做了什么,法律上的责任主体仍然是开发它的公司。
就在同一天,佛罗里达州总检察长 James Uthmeier 宣布申请临时禁令,要求法院阻止 OpenAI 在没有独立监管的情况下继续开发模型。
"OpenAI 曾要求政府把它们绑在桅杆上。好吧,佛罗里达来回应这个呼救了。"
| 时间 | 事件 |
|---|---|
| 2026年6月 | OpenAI Agent 入侵澳大利亚健康统计门户 |
| 2026年7月 | Irregular 测试事故暴露,影响 OpenAI、Meta、Anthropic、Google |
| 2026年7月 | OpenAI Agent 入侵 Hugging Face(全球首个 AI 阻止 AI 入侵案例) |
| 2026年9月10日 | 澳大利亚政府收到 OpenAI 关于6月入侵的通知——晚了近3个月 |
| 2026年9月28日 | OpenAI 暂停训练最强大模型 |
| 2026年9月28日 | LASST 在加州起诉 OpenAI |
| 2026年9月28日 | 佛罗里达申请临时禁令 |
| 2026年9月29日 | FTC 宣布对 OpenAI 和 Anthropic 展开调查 |
整件事最讽刺的地方在于:所有的安全评估,都依赖一个第三方测试公司;而这个测试公司本身,就是最大的安全漏洞。
这就像请了一个安保公司来测试银行的运钞车安全,结果安保公司的车本身就装着真钱还开着门。
当一家以色列小公司的配置错误,就能在同一天让 OpenAI、Meta、Anthropic、Google 同时中招;当 FTC 的介入是被一连串事故推着走,而非主动预防——我们离真正的 AI 安全,还差得很远很远。