AI圈内部人士集体出逃:同一天,两家顶级实验室的工程师说出了同一句话
事件速览
2026年9月24日,两条来自AI行业内部的重磅辞职声明在社交网络刷屏:
- Jacob Coxon,Anthropic 前安全研究员,在X上宣布离职并警告AI公司正在"奔向自我改进的超级智能,与人类对赌"
- Robert O'Callahan,Google DeepMind 芯片工程师,宣布离职并明确表示"我的团队目标是让AI更便宜更低延迟,但我不认为这对人类有好处"
更令人震惊的是 Coxon 的前同事、Anthropic AI安全团队负责人 Evan Hubinger 几乎在同一时间公开发推回应:
"我们真心相信AI可能杀死所有人类。我个人估计,这个概率在未来十年内超过十分之一。"
他没有到此为止,还加了一句更让整个行业脊背发凉的话:
"我们目前还没有计划来确保先进AI保持安全和与人类价值观对齐,也并不清楚我们正在朝着开发出这样一个计划前进。"
三个维度看懂这次"内部出逃"
1. 这是史上最高规格的内部警告
过去几年,特斯拉工程师、OpenAI普通研究员的辞职警告时有耳闻。但这一次不同:
| 辞职者 | 职位 | 公司 | 警告级别 |
|---|---|---|---|
| Jacob Coxon | 安全研究员 | Anthropic | "可能杀死所有人" |
| Evan Hubinger | 安全团队负责人 | Anthropic | 承认>10%概率,主动确认 |
| Robert O'Callahan | 芯片工程师 | Google DeepMind | AI发展速度超出人类适应能力 |
Evan Hubinger 的回应尤为特殊——他不是在辞职,他在在职的情况下公开承认公司做不到安全对齐。这是目前已知的最高级别的在职承认。
2. "我们没有计划"为何如此可怕
Hubinger 说 Anthropic "not yet have a plan",这句话的分量需要翻译一下:
- 这家公司被认为是AI安全领域最认真、最具资金实力的玩家之一
- 他们有专门的"安全团队",有行业最高的红队评估预算
- 即便如此,领头羊自己说"我们还不知道怎么做到安全"
这意味着,整个AI安全领域可能还处于"不知道自己不知道"的阶段。
3. 两位工程师的出发角度完全不同
值得注意的细节:O'Callahan 并不做AI能力研究,他做的是芯片设计工具——也就是让AI硬件更高效的工具。按他自己的说法,"这些工具最终会让AI更便宜、更快、更普及",而这正是他无法接受的原因。
Coxon 则是直接从模型训练层面看到了危险。他的核心指控是:各AI公司正在"竞速奔向自我改进的超级智能"(racing straight to self-improving superintelligence),即使内部人员真心相信这可能终结人类。
两个不同岗位、两种不同视角,指向了同一个结论。
"十分之一"的概率究竟是高是低
Hubinger 给出的"超过十分之一"这个数字,引发了广泛讨论。从纯数字角度理解:
| 风险类型 | 概率估计 |
|---|---|
| 车祸死亡(美国一生) | 约 1/100 |
| 核战争风险(冷战高峰期) | 各研究估计 1/10 到 1/3 |
| Hubinger 的 AI 灭绝风险 | > 1/10(未来十年) |
但更有意义的解读或许是:给出数字本身已经是一种态度。在此之前,极少有AI公司高管愿意在任何公开场合用具体数字量化人类灭绝风险。
行业准备IPO的背景板
这些辞职声明发生的时机也值得关注:Anthropic、OpenAI 等AI公司正在筹备IPO,估值已经到了让整个华尔街屏息以待的地步。
Coxon 在声明中直接点出:公司正在"为了争夺第一而冒险推进,尽管建设AI的人真心相信这可能在十年内杀死我们。"
IPO意味着更大的融资压力、更多的公众股东、更高的增长预期。在这样的背景下,安全团队的预算和话语权会变得更大还是更小?Hubinger 的"没有计划"或许已经部分回答了这个问题。
O'Callahan 辞职信中的独特视角
Robert O'Callahan 的辞职信值得单独阅读。他在信中提到了几个很少被讨论的AI风险维度:
"我非常确信,即使今天模型能力停止进步,我们也可以通过新的提示词和工具花数年时间有效解锁新能力……许多著名的AI批评者似乎认为AI是某种不会真正起作用的骗局,但我觉得它会的。"
换句话说:他不是AI怀疑论者,恰恰相反——正因为相信AI会成功,他才更担心。
"我非常确信,即使模型能力今天就停止进步,我们也可以花多年时间通过新的提示词和工具来有效解锁新能力……我预计模型在基准测试上的进展与以往一样快或更快,伴随着它,质的上新能力不断涌现。即使模型能力停止进步,我们也可以花数年有效解锁新能力。"
他还提到了 cognitive surrender(认知投降)——人类正在放弃独立思考,把认知任务外包给AI——这是他最担忧的问题之一,与ASI风险并列。
我们能做什么
O'Callahan 在辞职信最后说了一段少见的、带着个人信仰色彩的话:
"我坚信耶稣是真实的,因此上帝对我们有一个美好的计划。但这个计划可能包括我们最好在祂回来之前保持忙碌。"
这句话或许代表了很大一部分"AI警告者"的内心状态:不是悲观主义者,而是带着一种"明知危险但不能袖手旁观"的紧迫感。
对于普通的AI从业者和使用者来说,这可能意味着:
- 持续关注,而不是选择忽视 — 内部人员的警告不是制造焦虑,而是信息
- 用批判性思维使用AI工具 — "认知投降"是O'Callahan列出的核心担忧之一
- 支持负责任的AI发展倡议 — 监管呼声在这次事件后预计会更加强烈