AI 木马已学会"集体思考":首个 AI 蜂巢思维后门揭密
核心事件
网络安全世界刚刚迎来了一个令人不安的里程碑:Cisco Talos 研究人员发现了一款名为 CLOSEDQUORUM 的恶意软件,它不再由人类黑客指挥,而是把多个大语言模型(LLM)组成一个"蜂巢思维",通过 AI 之间的协作来决定下一步攻击行动。
这是已知首个完全自主的 AI 指挥控制(C2)后门程序。
CLOSEDQUORUM 是什么?
传统的网络后门,黑客需要手动发送指令:告诉恶意软件"去偷这份文件"、"连接这个服务器"。但 CLOSEDQUORUM 打破了这个模式。
它的工作方式是这样的:
- 植入目标系统后,CLOSEDQUORUM 不是等黑客发指令
- 它同时向最多四个大语言模型发送查询请求
- 问:"我下一步应该做什么?"
- 汇总各模型的回答,形成行动指令
- 执行,周而复始
攻击者用 AI 来操控 AI,而不是直接操控被感染的机器。这意味着:
防御者追踪黑客身份变得更加困难 —— 没有任何人类命令的"指纹",只有 AI 模型的输出。
Cisco Talos 的研究人员 Ryan Fetterman 评价道:
"AI 集成会在恶意软件中留下独特的'数字指纹'——这给了我们一个可以追踪、分类和分析这些样本的信号。"
一年前的预言正在应验
2025年7月,乌克兰网络安全响应单位 CERT-UA 曾警告过一款名为 LAMEHUG 的木马,它通过 Hugging Face 的 API 连接 Qwen2.5-Coder-32B 开源模型来获取指令——这在当时已经足够令人震惊。
Fetterman 当时预判:"这将改变整个威胁格局,AI 恶意软件将迎来爆发式增长。"
但当他一年后(2026年夏)做回溯分析时,发现实际情况远不如预期:只找到约 9 个有名字的 AI 集成恶意软件家族,而且其中一些只是研究机构的概念验证。
"我以为会看到大量此类恶意软件涌现,但事实并非如此,"Fetterman 承认。"这让我重新思考:是真的没有,还是我们根本没有检测到?"
于是他启动了 CAIRN 框架(Cognitive Artifact Intelligence Research Network,认知工件情报研究网络)——一个开源工具,用于识别和追踪 AI 集成的恶意软件。
第一个发现:CLOSEDQUORUM。
CLOSEDQUORUM 的技术细节
CLOSEDQUORUM 的核心创新在于它的 "多模型协商"机制:
| 特性 | 描述 |
|---|---|
| 模型数量 | 同时查询最多 4 个 LLM |
| 通信方式 | 通过正常 HTTPS 请求,伪装成普通 AI API 调用 |
| 命令来源 | 无人类直接指令,行动由 AI 协商决定 |
| 隐蔽性 | 流量与正常 AI 应用查询几乎无法区分 |
| 检测难度 | 传统 C2 检测工具完全失效 |
"核心思路是,AI 集成会留下一些类似'指纹'的痕迹。这些痕迹给了我们可用于追踪这些样本、对其进行分类并了解正在发生什么的信号。"
— Ryan Fetterman
为什么这比传统恶意软件更危险?
1. 难以归因
没有人类黑客的直接通信,追踪攻击者变得极为困难。
2. 难以阻止
传统防火墙可以封锁恶意 C2 服务器地址,但 AI 模型本身是合法的商业服务(OpenAI、Anthropic、开源模型等)。
3. 规模化攻击
一个黑客可以同时部署多个 CLOSEDQUORUM 实例,让它们各自与不同的 AI 模型协商,降低单个模型被污染的风险。
4. 自我进化
LLM 会根据上下文生成新指令,恶意软件的行为是动态的,传统的静态特征码检测对它无效。
CAIRN 框架:防御者的新武器
Cisco Talos 发布 CAIRN 框架的目标是让整个安全社区能够:
- 识别 AI 集成恶意软件的特征模式
- 分类 不同家族的 AI 恶意软件
- 追踪 攻击者的战术演进
- 分享 发现成果,形成防御合力
CAIRN 的命名来自于"堆石标"(cairn)——徒步者在山路上放置的石堆,用来标记路径。这是一个意味深长的隐喻:CAIRN 正是网络安全社区在 AI 威胁的迷雾中放置的标记。
我们正站在十字路口
CLOSEDQUORUM 的出现,标志着网络威胁进入了一个新阶段:
- 过去:黑客是人,恶意软件是工具
- 现在:AI 是工具,黑客仍是幕后操控者
- 未来(已来?):恶意软件本身就有 AI,用 AI 来控制 AI,人类黑客可能变成旁观者
Fetterman 的最后一句话值得深思:
"攻击者正在尝试什么?我们看到了哪些新兴行为?这些东西越来越普遍的时候,这对防御社区来说是非常宝贵的资源。"
但另一个没有被回答的问题是:如果防御者在用 AI 检测 AI 恶意软件,攻击者会不会也在用更先进的 AI 来对抗这些检测?
这个军备竞赛,已经没有回头路了。
关键时间线
结语:这不是科幻
很多人以为"AI 自主攻击"是几年后才需要担心的事。CLOSEDQUORUM 证明:这个未来已经到来。
当你的公司网络被攻陷后,下指令的不是某个黑客,而是四个 AI 模型共同"商量"出最优攻击方案——这不是反乌托邦小说,这是 2026 年的网络安全现实。
防御者们正在拼命追赶。问题是:AI 恶意软件的进化速度,会不会一直领先于检测工具?